Vì sao nó ‘suy nghĩ’ trước khi trả lời?
Mô hình suy luận (reasoning, thinking) · Thực hành · 5 phút · llm, tokens · học sau Dự đoán token tiếp theo
Mô hình suy luận viết thêm token, thường bị ẩn, để giải từng bước một bài toán trước khi trả lời. Các bước đó giúp với bài nhiều bước, tốn thêm tiền và thời gian chờ, và không thể bù kiến thức mô hình chưa từng học.
1 Đoán trước
2 Xem
Answer now, or think first?
1 / 4"A bat and a ball cost $1.10. The bat costs $1.00 more than the ball. How much is the ball?"
The answer that jumps out:10¢ ✗the classic first-response trap (Cognitive Reflection Test, Frederick 2005)
The first answer that comes to mind is 10¢. It is wrong: the bat would then cost $1.10.
Viết ra từng bước giúp bắt được câu trả lời bẫy; bạn trả tiền cho các bước đó như token đầu ra; và cùng một mô hình tiến bộ nhiều ở toán và code nhưng gần như không đổi ở kiến thức hay trò chuyện.
Mô hình chỉ sinh ra token kế tiếp, nên cách duy nhất để “nghĩ lâu hơn” là viết nhiều hơn. Việc này gọi là test-time compute: tiêu thêm token lúc trả lời. Nhà cung cấp tính tiền các token suy nghĩ đó như token đầu ra, và chúng bắt bạn chờ. Phần lớn app giấu chúng đi hoặc chỉ hiện một bản tóm tắt ngắn.
4 Bạn là model
Bạn quyết định khi nào việc suy nghĩ đáng số token bỏ ra. Với mỗi loại việc, chọn Think first hoặc Answer now, rồi xem cùng một mô hình đạt bao nhiêu điểm theo cả hai cách.
task 1 of 6 · is thinking worth the tokens here?
Maths contest (AIME’24)
Qwen3-235B-A22B, thinking off vs on · Qwen3 Technical Report, Tables 11–12 (2025)
Spend the tokens (Think first) or save them (Answer now)? Then see what the same model scored both ways.5 Kiểm tra
6 Nói lại bằng lời bạn
7 Nhiệm vụ · 5 phút
Trong Google AI Studio (miễn phí), chọn Gemini 3.8 Flash và hỏi: “If today is Wednesday, what day is it in 100 days?” (hôm nay thứ Tư thì 100 ngày nữa là thứ mấy). Mở phần thoughts của nó. Rồi hỏi “What is the capital of Japan?” (thủ đô Nhật Bản). So xem mỗi câu nó nghĩ bao lâu và viết bao nhiêu.
Ba câu nhanh
Rút ngẫu nhiên từ bộ câu hỏi của bài; lần sau sẽ khác.
Xong chưa?
Đọc thêm
Nguồn
- https://ai.google.dev/gemini-api/docs/thinking (updated 2026-10-14, checked 2026-10-21): thinking tokens billed as output, thought summaries only, low thinking for fact retrieval
- https://ai.google.dev/gemini-api/docs/pricing (updated 2026-10-19, checked 2026-10-21): Gemini 3.8 Flash free of charge on the free tier; output price includes thinking tokens
- https://developers.openai.com/api/docs/guides/reasoning (checked 2026-10-21): reasoning tokens not visible via the API, occupy context, billed as output
- https://developers.openai.com/api/docs/guides/reasoning (checked 2026-10-21): usage example output_tokens 1186 with reasoning_tokens 1024 — the bill in the picture
- https://arxiv.org/abs/2505.09388 (Qwen3 Technical Report, 2025-05-14; checked 2026-10-21): Qwen3-235B-A22B, Table 11 thinking vs Table 12 non-thinking — AIME’24 85.7/40.1, LiveCodeBench v5 70.7/35.3, GPQA-Diamond 71.1/62.9, MMLU-Redux 92.7/89.2, IFEval 83.4/83.2, Arena-Hard 95.6/96.1
- https://doi.org/10.1257/089533005775196732 (Frederick 2005, Cognitive Reflection Test): the bat-and-ball first-response trap
- https://arxiv.org/abs/2201.11903
- The scratchpad in the picture is a worked example written by us, labelled as such, not a model output
Đăng Oct 21, 2026 · cập nhật Oct 21, 2026