Vì sao bản miễn phí có vẻ kém thông minh hơn?
Kích thước mô hình, gói miễn phí và gói trả phí · Cơ bản · 5 phút · llm, training · học sau Training: loss và gradient descent
Gói miễn phí thường chạy một mô hình nhỏ hơn hoặc cũ hơn, với giới hạn chặt hơn. Trong cùng một họ mô hình, bản nhỏ điểm thấp hơn hẳn ở kiến thức và suy luận khó, còn việc đơn giản như làm đúng định dạng thì gần như không đổi.
1 Đoán trước
2 Xem
Same family, seven sizes
1 / 4Knowledge (MMLU-Redux)
0.6B44.61.7B64.44B77.38B79.514B82.032B85.7235B89.2model size in parameters · score out of 100
Qwen3 family, thinking off · Qwen3 Technical Report (2025), Tables 12–20 · 235B = 235B-A22B
Knowledge: the smallest model scores 44.6, the largest 89.2. Size holds the facts.
Trong một họ mô hình, kích thước gần như không ảnh hưởng việc làm đúng định dạng nhưng ảnh hưởng nhiều tới kiến thức và suy luận khó; và các hãng để mô hình lớn nhất ngoài gói miễn phí.
Tham số (parameters, những con số mô hình học được khi huấn luyện) càng nhiều thì chứa được càng nhiều kiến thức và chuỗi suy luận dài hơn, nhưng mỗi token chạy cũng tốn hơn. Vì thế gói miễn phí, vốn có người trả tiền để phục vụ, hay dùng mô hình nhỏ hơn hoặc cũ hơn, và giới hạn lượng bạn gửi được.
4 Bạn là model
Bạn là bộ định tuyến chọn mô hình cho từng việc. Hãy chọn kích thước nhỏ nhất đạt điểm mục tiêu: lớn hơn thì tốn hơn, nhỏ quá thì làm hỏng việc.
job 1 of 4 · pick the smallest model that scores at least 80 on Following instructions (IFEval)
Reformat notes into a fixed template
Qwen3 family, thinking off · Qwen3 Technical Report (2025), Tables 12–20 · 235B = 235B-A22B
You are the router: bigger costs more, too small fails the job.5 Kiểm tra
6 Nói lại bằng lời bạn
7 Nhiệm vụ · 5 phút
Trong Google AI Studio (miễn phí), hỏi Gemini 3.5 Flash-Lite rồi Gemini 3.8 Flash cùng một câu khó, ví dụ: “Tàu chạy lúc 9:40 và đến nơi lúc 13:05, dọc đường dừng hai lần, mỗi lần 12 phút. Tàu thực sự chạy bao lâu?” So hai câu trả lời, rồi thử một việc định dạng lại dễ trên cả hai.
Ba câu nhanh
Rút ngẫu nhiên từ bộ câu hỏi của bài; lần sau sẽ khác.
Xong chưa?
Đọc thêm
Nguồn
- https://arxiv.org/abs/2505.09388 (Qwen3 Technical Report, 2025-05-14; checked 2026-10-21): non-thinking Tables 12, 14, 16, 18, 20 — MMLU-Redux 44.6/64.4/77.3/79.5/82.0/85.7/89.2, AIME’24 3.4/13.4/25.0/29.1/31.7/31.0/40.1, GPQA-Diamond 22.9/28.6/41.7/39.3/54.8/54.6/62.9, IFEval strict 54.5/68.2/81.2/83.0/84.8/83.2/83.2 for 0.6B/1.7B/4B/8B/14B/32B/235B-A22B
- https://ai.google.dev/gemini-api/docs/pricing (updated 2026-10-19, checked 2026-10-21): Gemini 4 Argon and 3.1 Pro Preview “Not available” on the free tier; 3.8 Flash, 3.5 Flash-Lite, 2.5 Pro “Free of charge”; free tier “Used to improve our products”: Yes
- https://chatgpt.com/pricing (checked 2026-10-21 in Chrome): Free “Limited memory and context”; Plus “Expanded memory and context”, “Advanced reasoning models”
- https://arxiv.org/abs/2001.08361
Đăng Oct 21, 2026 · cập nhật Oct 21, 2026