Vì sao nó không đếm nổi âm tiết trong một bài thơ?
Ngữ âm trong LLM chỉ đọc chữ: mô hình nhận các mẩu chữ viết được đánh số (token), không bao giờ nhận âm thanh, trong khi âm tiết và vần là chuyện cách đọc; chữ viết tiếng Anh không khớp với âm (though, through, tough) và token cắt ngang âm tiết, nên số âm tiết và vần bị lệch; tách từng dòng thành âm tiết, dùng từ điển phát âm hoặc công cụ, và tự đọc to để kiểm sẽ giúp · Cơ bản · 5 phút · tokens, llm · học sau Token, Kiểm soát độ dài ở LLM: token không phải là từ, và không có gì đếm trong lúc nó viết
Chatbot đếm âm tiết kém vì nó không bao giờ nghe thấy từ: nó nhận các mẩu chữ viết được đánh số, mà chữ viết tiếng Anh che mất cách đọc. Trong một bài kiểm, GPT-4 đếm đúng số âm tiết của một câu chỉ 23,3% số lần.
1 Đoán trước
2 Xem
Spelling in, sound left out
1 / 7model getsyou hear (dictionary)though#5495DH OW like “go”through#1819TH R UW like “true”tough#15500T AH F like “stuff”bough#287 #1870B AW like “cow”cough#62215K AA F like “off”dough#41613D OW like “go”tokens: o200k_base (GPT-4o’s tokenizer), tiktoken 0.14.0; sounds: CMU Pronouncing Dictionary (cmudict 1.1.3); 2026-10-24
Six words that end in “ough”. The model gets a number for each piece of spelling. You hear six different sounds; the numbers say nothing about any of them.
Mô hình nhận các con số cho từng mẩu chữ viết. Âm tiết và vần nằm ở âm thanh, mà chữ viết tiếng Anh không cho thấy âm thanh.
Bài này nói về thơ tiếng Anh. Chatbot đọc token: các mẩu chữ viết được đánh số. Nó chưa bao giờ nghe “tough” hay “though”, chỉ thấy chúng. Những gì nó biết về âm thanh đều nhặt từ văn bản nói về âm, như từ điển và thơ. Nên nó đoán âm tiết từ chữ viết, và đoán trượt ở những từ như “fire” hay “bough”.
4 Bạn là model
Bạn là chatbot. Ba vòng: chọn từ vần với từ cho sẵn, rồi chọn dòng có đúng 5 âm tiết. Một từ điển phát âm chấm từng lựa chọn.
Round 1 of 3.
Pick the word that rhymes with “home”.
answers checked by code against the CMU Pronouncing Dictionary (cmudict 1.1.3)
You are the chatbot. Pick an answer; the dictionary checks it.5 Kiểm tra
Số liệu cũng nói vậy. Trong PhonologyBench, GPT-4 đếm đúng số âm tiết của 23,3% số câu, người đếm đúng 90,0%. Vần nó đưa ra là vần thật 69,1% số lần với từ thông dụng và 46,1% với từ hiếm. Một nghiên cứu năm 2025 chạy lại thấy gpt-4o đếm đúng 20,8%.
Điều giúp được: tách rồi mới đếm. Bảo nó viết mỗi dòng với dấu gạch nối giữa các âm tiết, đếm từng dòng và sửa dòng bị lệch; trong nghiên cứu năm 2025, một prompt đi từng bước đã nâng Claude 3.5 Haiku từ 21,1% lên 57,4%. Đưa cho nó một từ điển phát âm hoặc công cụ đếm âm tiết. Và tự vỗ tay đếm.
8 Nói lại bằng lời bạn
9 Nhiệm vụ · 5 phút
Trong ChatGPT Free, xin một bài haiku về mưa thu và vỗ tay đếm từng dòng: có đúng 5-7-5 không? Rồi nhắn: “Rewrite it. Write every word split into syllables with hyphens, count each line, and fix any line that is not 5, 7 or 5.” (Viết lại. Viết mọi từ tách thành âm tiết bằng dấu gạch nối, đếm từng dòng, và sửa dòng nào không đúng 5, 7 hoặc 5.) Vỗ tay đếm lại. Bài nào đúng?
Ba câu nhanh
Rút ngẫu nhiên từ bộ câu hỏi của bài; lần sau sẽ khác.
Xong chưa?
Nhận email khi có bài mới
Bài mới nằm trong bản tin hằng tuần, chỉ gửi vào tuần có bài. Bạn xác nhận qua email trước; hủy đăng ký chỉ với một lần bấm.
Đọc thêm
Nguồn
- Suvarna, Khandelwal and Peng, “PhonologyBench: Evaluating Phonological Skills of Large Language Models” (arXiv:2404.02456 v2, 2024-04-05, https://arxiv.org/abs/2404.02456, checked 2026-10-24): zero-shot, 1,000 sentences from Romance Books and Reddit Short Stories, gold counts from a grapheme-to-phoneme library; accuracy = sentences whose count is exactly right. Table 4, syllable counting, Overall: LLaMA-2-13B-Chat 6.9, Mistral-7B-Instruct 6.8, Mixtral-8X7B-Instruct 6.6, GPT-3.5-Turbo 19.6, GPT-4 23.3, Claude-3-Sonnet 55.3, Vowel Baseline 12.1, Human 90.0. Table 5, rhyme word generation success rate (five rhymes per word, gold from WordHippo), Common/Rare: GPT-3.5-Turbo 66.5/42.7, GPT-4 69.1/46.1, Claude-3-Sonnet 62.4/39.6, Human 86.4/60.4. Abstract: “Despite having no access to speech data”
- Jang, Ahn and Shin, “P-CoT: A Pedagogically-motivated Participatory Chain-of-Thought Prompting for Phonological Reasoning in LLMs” (arXiv:2507.16656 v1, 2025-07-22, https://arxiv.org/abs/2507.16656, checked 2026-10-24): PhonologyBench syllable counting, 993 sentences, exact match. Table 5, Baseline then best P-CoT: Claude 3.5 Haiku 21.1, 57.4 (P-CoT3); gpt-3.5-turbo 16.0, 48.8 (P-CoT1); gpt-4o 20.8, 22.2 (P-CoT3); Claude 3.5 Sonnet 20.2, 32.6 (P-CoT5)
- Tokens measured 2026-10-24 with tiktoken 0.14.0, encoding o200k_base (GPT-4o), each word with its leading space: “ though” [5495], “ through” [1819], “ tough” [15500], “ bough” [287, 1870] = “ b” + “ough”, “ cough” [62215], “ dough” [41613], “ beautiful” 1 token, “ strawberry” 1, “ every” 1, “ fire” 1, “ syllable” 2 (“ syll” + “able”), “ haiku” 2 (“ ha” + “iku”). Haiku lines: “The quiet ocean” 3 tokens, “Whispers its beautiful secrets” 5, “To the lighthouse dome” 4
- Pronunciations from the CMU Pronouncing Dictionary via the Python package cmudict 1.1.3, read 2026-10-24 (ARPAbet; vowels carry a stress digit, one per syllable): though DH OW1, through TH R UW1, tough T AH1 F, bough B AW1, cough K AA1 F / K AO1 F, dough D OW1; beautiful 3, strawberry 3, every 3 or 2 (EH1 V ER0 IY0 / EH1 V R IY0), fire 2 or 1 (F AY1 ER0 / F AY1 R), syllable 3, haiku 2; the haiku lines 5, 8, 5. Rhyme = the sounds from the last stressed vowel on, computed by code in the lesson
- The haiku draft, the role’s words and lines, the mission prompt and the habit wording are illustrative, written for this lesson on 2026-10-24; their syllables and rhymes are checked by code against the dictionary entries above
- aifree.dev catalog, chatgpt-free (verified 2026-10-12, live check 2026-10-24): ChatGPT Free Plan
Đăng Oct 24, 2026 · cập nhật Oct 24, 2026