Sao nó quên điều tôi nói từ 20 tin nhắn trước?
Context window · Cơ bản · 3 phút · context, tokens, llm · học sau Token
Context window (cửa sổ ngữ cảnh) là số mảnh chữ cố định mà mô hình đọc được trong một lần. Mọi thứ nó dựa vào để trả lời đều phải nằm gọn bên trong; phần cũ hơn trượt ra ngoài và đơn giản là không được đọc ở lượt này.
1 Đoán trước
2 Xem
The belt and the frame
1 / 31my name is Minh2I live in Hanoi3I like pho4I have a catwindow: the last 6 messages · dim = fallen off the belt
Four messages, a window of six. Everything you said is in front of the model.
Why the same chat fills it faster in some languages: tokens and languages
Khung giữ nguyên kích thước trong khi băng chuyền cứ chạy; tin nhắn 1 không mờ đi, nó nằm ngoài khung.
Mỗi lượt, mô hình đọc N token (mảnh chữ) gần nhất, tức là cửa sổ, và không đọc gì khác. Các ứng dụng che chuyện này bằng cách gửi lại cả cuộc trò chuyện mỗi lần, nên "trí nhớ" thật ra là "vẫn còn trong cửa sổ". Cửa sổ giờ đã lớn, nhưng cửa sổ nào cũng có mép.
4 Bạn là model
Chỉnh kích thước cửa sổ, thêm tin nhắn, rồi đoán mô hình còn thấy "I have a cat" (tôi có nuôi mèo, tin nhắn 4) không. Bấm "Reveal" để kiểm tra.
1my name is Minh2I live in Hanoi3I like pho4I have a cat5she is greywindow: the last 5 messages · dim = fallen off the belt
tinyroomy5 messages so far. Add more, then: can the model still see message 4 ("I have a cat")?5 Kiểm tra
6 Nói lại bằng lời bạn
7 Nhiệm vụ · 5 phút
Với một key Gemini miễn phí, dán vào một tài liệu dài rồi hỏi về đoạn đầu tiên. Sau đó dán cùng tài liệu đó hai lần liền và hỏi lại. Để ý xem từ lúc nào câu trả lời bắt đầu lệch.
Ba câu nhanh
Rút ngẫu nhiên từ bộ câu hỏi của bài; lần sau sẽ khác.
Xong chưa?
Nguồn
- https://docs.anthropic.com/en/docs/build-with-claude/context-windows
- https://ai.google.dev/gemini-api/docs/long-context
Đăng Oct 20, 2026 · cập nhật Oct 20, 2026