Dạy AI tài liệu của mình, hay để nó tự đọc?
RAG và fine-tuning · Thực hành · 5 phút · rag, embeddings, context · học sau Context window, Embedding
RAG (tra cứu rồi trả lời) đưa đúng tài liệu vào context window lúc trả lời, như thi mở sách. Fine-tuning (huấn luyện thêm) thay đổi chính model bằng cách học từ ví dụ, như ôn bài. Dữ kiện hay thay đổi thì để trong sách; thói quen, định dạng và văn phong thì đưa vào model.
1 Đoán trước
2 Xem
Two ways to teach it your stuff
1 / 3Open book (RAG)
- 1. Question comes in
- 2. Find the relevant pages
- 3. Put them in the window
- 4. Answer, citing them
Study (fine-tuning)
- 1. Collect examples
- 2. Train the model on them
- 3. Model changes
- 4. Answer from memory
Same question, two lanes. The model is the same at the start of both.
Hai làn, cùng một model lúc xuất phát: một làn thêm trang vào context window, làn kia thay đổi chính model.
RAG thật ra là embedding (vector biểu diễn nghĩa) đang làm việc: biến câu hỏi thành một điểm, tìm những trang có điểm nằm gần nhất, rồi đặt chúng vào context window (vùng văn bản model nhìn thấy). Model trả lời từ chữ nó thật sự thấy, và có thể dẫn nguồn. Fine-tuning thì khác: huấn luyện trên hàng trăm ví dụ cho tới khi một hành vi nằm hẳn trong các con số của model.
4 Bạn là model
Xếp bốn tình huống vào đúng làn, rồi bấm "Check".
Open book (RAG)
- 1. Question comes in
- 2. Find the relevant pages
- 3. Put them in the window
- 4. Answer, citing them
Study (fine-tuning)
- 1. Collect examples
- 2. Train the model on them
- 3. Model changes
- 4. Answer from memory
Answer questions about our 400-page internal policy that changes monthly
Always reply in our brand’s terse, lowercase style
Cite the exact clause from a customer’s contract
Parse our odd internal ticket format reliably
Route each situation to a lane, then Check.5 Kiểm tra
6 Nói lại bằng lời bạn
7 Nhiệm vụ · 5 phút
Viết ba ghi chú ngắn của riêng bạn, tạo embedding cho chúng bằng một key embedding miễn phí, tạo embedding cho một câu hỏi, rồi tìm ghi chú gần nhất bằng cosine similarity. Vậy là bạn vừa tự làm xong nửa "tra cứu" của RAG.
Ba câu nhanh
Rút ngẫu nhiên từ bộ câu hỏi của bài; lần sau sẽ khác.
Xong chưa?
Nguồn
Đăng Oct 20, 2026 · cập nhật Oct 20, 2026