Vì sao nó nhân số lớn kém thế?
Tính toán trong LLM: chữ số bị cắt thành token, đáp án được viết từ trái sang phải · Cơ bản · 5 phút · tokens, llm · học sau Token
Một language model làm phép nhân bằng cách đoán đáp án từng token một, từ trái sang phải, không có giấy nháp. Token không theo hàng đơn vị, còn phép nhớ chạy từ phải sang trái, nên đáp án chính xác sụp đổ khi số chữ số tăng.
1 Đoán trước
2 Xem
How it reads, how it writes, how often it is right
1 / 34739×8216=38935624ones- 1234 →1234“123” here means 1,23_
- 12345 →12345“123” here means 12,3__
Tokens measured with o200k_base (GPT-4o), tiktoken 0.14.0, 2026-10-23
Token edges ignore the columns: the ones digit hides inside “24”, and “123” can mean 1,230 or 12,300.
Mảnh đầu tiên của đáp án cần mọi phép nhớ, mà phép nhớ bắt đầu từ đầu bên kia, phần nó chưa viết.
Trên giấy, bạn bắt đầu từ hàng đơn vị và nhớ sang trái, ghi lại mọi tích riêng phần. Mô hình chỉ có một lượt tính cho mỗi token, viết các chữ số lớn nhất trước, và không giữ bước nháp nào trừ khi nó viết ra. Nên nó ước lượng: phần đầu và phần cuối thường trông đúng, phần giữa là đoán.
4 Bạn là model
Bạn là mô hình. Viết 4739 × 8216 từng token một, từ trái sang phải, không có bước nháp nào. Chọn từng mảnh.
4739 × 8216 = …
piece 1 of 3 · Write the first piece of 4739 × 8216. No scratch paper.
Pieces as GPT-4o’s tokenizer cuts the answer (o200k_base (GPT-4o), tiktoken 0.14.0, 2026-10-23)
You are the model. Write the answer one piece at a time, left to right, with no working.5 Kiểm tra
Hai cách sửa. Bảo nó làm từng bước: các tích riêng phần được viết ra thành giấy nháp của nó, và mô hình reasoning (suy luận) tự làm việc này. Tốt hơn nữa, cho nó chạy code hoặc máy tính qua tool calling (gọi hàm): công cụ làm phép nhớ chính xác. Với tiền bạc hay khoa học, hãy kiểm tra mọi con số nó tính nhẩm.
7 Nói lại bằng lời bạn
8 Nhiệm vụ · 5 phút
Trong ChatGPT Free, gửi “Reply with only the number: 48271 × 93516” (Chỉ trả lời bằng con số). Kiểm tra bằng máy tính trên điện thoại. Rồi trong một cuộc chat mới, gửi “Work out 48271 × 93516 step by step, or use code.” (Tính từng bước, hoặc dùng code.) Đáp án nào khớp, và lần đầu những chữ số nào sai?
Ba câu nhanh
Rút ngẫu nhiên từ bộ câu hỏi của bài; lần sau sẽ khác.
Xong chưa?
Nhận email khi có bài mới
Bài mới nằm trong bản tin hằng tuần, chỉ gửi vào tuần có bài. Bạn xác nhận qua email trước; hủy đăng ký chỉ với một lần bấm.
Đọc thêm
Nguồn
- Tokens measured with OpenAI’s tiktoken 0.14.0 on 2026-10-23: o200k_base (GPT-4o) cuts “4739 × 8216 = 38935624” into 473|9 × 821|6 = 389|356|24, “1234” into 123|4 and “12345” into 123|45; gpt2 cuts 4739 into 47|39 and 8216 into 82|16. 4739 × 8216 = 38935624 and 39 × 16 = 624 (exact arithmetic)
- Dziri et al., “Faith and Fate: Limits of Transformers on Compositionality” (arXiv:2305.18654, v1 2023-05-29, v3 2023-10-31, https://arxiv.org/abs/2305.18654, checked 2026-10-23). Figure 16 (App. B.2), GPT-4 few-shot with question-answer examples, exact-answer accuracy on n-digit × n-digit: 1×1 100%, 2×2 98%, 3×3 56%, 4×4 3%, 5×5 0%; 500 test examples per size. §1: zero-shot 3-digit × 3-digit, GPT-4 59%, ChatGPT 55%
- Same paper §3.2.1: the first digit(s) of the output correlate with the first digit(s) of each input and the last digit(s) depend only on the last digit(s) of each input; models learn these surface patterns. App. B.5: few-shot scratchpad prompting raises GPT-4’s accuracy but it still falls toward zero as size grows
- Anand S., “Are LLMs any good at mental math?” (s-anand.net, 2025-04-27, https://www.s-anand.net/blog/are-llms-any-good-at-mental-math/, checked 2026-10-23): informal test of ~50 LLMs on 7 multiplications; no model got 987,654,321 × 123,456,789 right; OpenAI reasoning models (o1-mini, o3, o4-mini…) got 6 of 7
- The wrong options in the you-are-the-model step (385, 536, 54…) are illustrative distractors; 385 comes from the estimate 4,700 × 8,200 ≈ 38.5 million
- aifree.dev catalog, chatgpt-free (verified 2026-10-12): free text chats on chatgpt.com
- The mission’s 48271 × 93516 is an example pair of 5-digit numbers; the exact product is 4,514,110,836 (Python integer arithmetic, 2026-10-26). In the token question “123” stands for 1,230 in 1234 (123|4) and 12,300 in 12345 (123|45), place value of the o200k_base pieces measured above
Đăng Oct 23, 2026 · cập nhật Oct 26, 2026