Vì sao AI bịa ra nguồn không hề tồn tại?
Hallucination (ảo giác) · Cơ bản · 3 phút · sampling, safety, llm · học sau Dự đoán token tiếp theo
Hallucination (ảo giác) là một câu trả lời trôi chảy, tự tin nhưng sai. Nó xảy ra vì model chọn mảnh tiếp theo nghe hợp lý nhất, mà "nghe hợp lý" và "đúng sự thật" được đo trên hai thang khác nhau, model không phân biệt được.
1 Đoán trước
2 Xem
A question with a true answer
1 / 3The first person to walk on Mars was ___
Armstrong46%Aldrin23%nobody yet ✓17%Musk8%Gagarin5%temperature 1.0
odds illustrative; ✓ marks the true answer
Nobody has walked on Mars. But look at the odds: "Armstrong" sounds right, and sounding right is what the odds measure.
Đáp án đúng có nằm trên vòng quay, với tỉ lệ khiêm tốn; đáp án sai nhưng nghe hợp lý lại thắng, bằng đúng giọng tự tin ấy.
Tỉ lệ đo một mảnh chữ khớp với đoạn văn phía trước tốt đến đâu. "Armstrong" khớp với "first person to walk on" (người đầu tiên đặt chân lên) cực kỳ đẹp. Không có bước nào trong vòng lặp hỏi xem chuyện đó có thật hay không. Giọng tự tin chỉ là sự trôi chảy, không phải bằng chứng.
4 Bạn là model
Bấm "Draw" năm lần và đếm xem bao nhiêu câu trả lời đúng. Sau đó thử tìm một mức temperature (độ ngẫu nhiên) khiến sự thật thắng.
The first person to walk on Mars was ___
Armstrong46%Aldrin23%nobody yet ✓17%Musk8%Gagarin5%coldhotDraw five times and count the true answers. 0/5 drawn.5 Kiểm tra
6 Nói lại bằng lời bạn
7 Nhiệm vụ · 5 phút
Hỏi Ask của aifree về một gói miễn phí cụ thể, rồi đối chiếu câu trả lời với trang offer mà nó dẫn link. Sau đó hỏi một chatbot miễn phí cùng câu đó nhưng không có link, và so sánh.
Ba câu nhanh
Rút ngẫu nhiên từ bộ câu hỏi của bài; lần sau sẽ khác.
Xong chưa?
Đọc thêm
Nguồn
- https://arxiv.org/abs/2311.05232
- https://openai.com/index/why-language-models-hallucinate/
- Odds in the picture are illustrative
Đăng Oct 20, 2026 · cập nhật Oct 20, 2026