Vì sao văn AI viết nghe đều na ná nhau?
Giọng văn AI: chatbot chọn những từ tiếp theo có khả năng nhất, và RLHF thưởng cho một giọng an toàn, trau chuốt, nên cùng những từ ấy thắng hết câu trả lời này đến câu trả lời khác · Cơ bản · 5 phút · sampling, training, llm · học sau Dự đoán token tiếp theo, RLHF
Văn AI nghe giống nhau vì chatbot chọn từ tiếp theo có khả năng nhất, và RLHF thưởng cho giọng an toàn, trau chuốt, nên những từ như “delves” và “crucial” cứ dồn lại. Temperature gần như không giúp; mẫu văn của bạn, chi tiết thật và tự tay sửa mới giúp.
1 Đoán trước
2 Xem
The words AI writing leans on
1 / 42024 use vs expected from earlier years
delves28×underscores13.8×showcasing10.7×expected1×Over 15 million PubMed abstracts, 2010–2024 (Kobak et al., 2024)
In 2024 PubMed abstracts, “delves” turned up 28 times as often as its earlier trend predicted. Rare words jumped first.
Cùng vài từ ấy tăng vọt ở bất cứ đâu chatbot viết, vì training đã thu hẹp các lựa chọn có khả năng của mô hình về một giọng trau chuốt duy nhất.
Chatbot viết bằng cách chọn một từ tiếp theo có khả năng, hết lần này đến lần khác. Rồi RLHF huấn luyện nó theo những câu trả lời được người chấm cho điểm cao hơn, mà người chấm thường thích văn quen thuộc, trau chuốt. Thế là giọng an toàn thắng: “crucial”, “delve”, gạch ngang dài (em dash), những danh sách ba ý gọn gàng. Các chatbot học từ văn bản giống nhau và cách chấm giống nhau, nên chúng trôi về cùng những từ ấy.
4 Bạn là model
Bạn là mô hình. Đầu tiên một người chấm cho điểm các câu trả lời của bạn, sau đó bạn viết câu mở đầu một email, rồi người dùng đưa bạn một mẫu văn do chính họ viết. Mỗi lần, chọn thứ bạn có khả năng viết nhất.
round 1 of 3 · You are being trained. A rater compares two replies to “Write a short note inviting the team to Friday’s demo.”
Which reply is the rater more likely to score higher?
Branching factor, base vs aligned (Yang et al., 2025); replies illustrative
You are the model. Pick what you would most likely write.5 Kiểm tra
Temperature chỉ giúp được chút ít. Trong một thử nghiệm năm 2024, Llama 2-Chat 70B viết truyện ở bảy mức temperature từ gần 0 đến 2: truyện “nóng” hơn chỉ mới lạ hơn một chút, không bớt rập khuôn, lại khó theo dõi hơn. Temperature chọn trong số những từ mà training đã làm cho có khả năng; nó không cho mô hình một giọng khác.
Muốn nó viết giống bạn, hãy đổi cái gì là có khả năng. Dán một mẫu văn bạn tự viết và bảo nó bắt chước giọng đó. Đưa nó chi tiết thật: tên, con số, việc gì sẽ diễn ra tiếp. Rồi tự tay sửa kết quả và cắt những từ bạn không bao giờ dùng. Mục tiêu là câu chữ nói đúng điều bạn muốn nói.
8 Nói lại bằng lời bạn
9 Nhiệm vụ · 5 phút
Trong ChatGPT, gửi “Write a short note inviting my team to Friday’s demo.” (Viết một lời nhắn ngắn mời nhóm tôi dự buổi demo hôm thứ Sáu.) rồi đánh dấu mọi từ bạn không bao giờ viết. Sau đó, trong một cuộc trò chuyện mới, dán hai ba tin nhắn bạn tự viết rồi gửi “Match the style of these. Invite my team to the demo: Friday at 3, small room, Mia shows the new search.” (Viết theo giọng mấy tin này. Mời nhóm tôi dự demo: thứ Sáu lúc 3 giờ, phòng nhỏ, Mia trình bày tính năng tìm kiếm mới.) Lời nhắn nào nghe giống bạn? Sửa đến khi nó giống.
Ba câu nhanh
Rút ngẫu nhiên từ bộ câu hỏi của bài; lần sau sẽ khác.
Xong chưa?
Nhận email khi có bài mới
Bài mới nằm trong bản tin hằng tuần, chỉ gửi vào tuần có bài. Bạn xác nhận qua email trước; hủy đăng ký chỉ với một lần bấm.
Đọc thêm
Nguồn
- Kobak, González-Márquez, Horvát, Lause, “Delving into LLM-assisted writing in biomedical publications through excess vocabulary” (arXiv:2406.07016, v5 = v3, https://arxiv.org/abs/2406.07016, checked 2026-10-23): over 15 million PubMed abstracts 2010–2024; frequency p = share of a year’s abstracts containing the word, expected q from the earlier trend, ratio r = p/q, gap δ = p − q. “Less common words with strong excess usage included delves (r=28.0), underscores (r=13.8), and showcasing (r=10.7)”; “More common words with strong excess usage included potential (δ=0.052), findings (δ=0.041), and crucial (δ=0.037)”; 379 excess style words in 2024; “at least 13.5% of 2024 abstracts were processed with LLMs”, up to 40% for some subcorpora
- Yang, Li, Holtzman, “LLM Probability Concentration: How Alignment Shrinks the Generative Horizon” (arXiv:2506.17871, v1 2025-06-22, https://arxiv.org/abs/2506.17871, checked 2026-10-23): branching factor = effective number of plausible next steps; alignment tuning reduces it “by a factor of 2--5 overall and up to an order of magnitude (e.g., from 12 to 1.2) at early positions”; alignment steers towards stylistic tokens such as “Sure”
- Kirk et al., “Understanding the Effects of RLHF on LLM Generalisation and Diversity” (arXiv:2310.06452, v3 2024-02-19, https://arxiv.org/abs/2310.06452, checked 2026-10-23): “RLHF significantly reduces output diversity compared to SFT across a variety of measures”
- Zhang et al., “Verbalized Sampling: How to Mitigate Mode Collapse and Unlock LLM Diversity” (arXiv:2510.01171, v1 2025-10-01, https://arxiv.org/abs/2510.01171, checked 2026-10-23): names typicality bias in preference data, annotators favouring familiar text, as a cause of mode collapse
- Peeperkorn, Kouwenhoven, Brown, Jordanous, “Is Temperature the Creativity Parameter of Large Language Models?” (arXiv:2405.00492, 2024-05-01, https://arxiv.org/abs/2405.00492, checked 2026-10-23): Llama 2-Chat 70B, “Write a story.”, temperatures 0.001 to 2.0 in seven steps; temperature “weakly correlated with novelty”, “moderately correlated with incoherence”, “no relationship with either cohesion or typicality”
- The two demo notes, the role’s replies and odds wording, “I hope this email finds you well”, em dashes and lists of three, the cover letter and the friend’s emails are illustrative, not measured outputs
- aifree.dev catalog, chatgpt-free (verified 2026-10-12, read-only API check 2026-10-23): ChatGPT Free Plan with writing tools
Đăng Oct 23, 2026 · cập nhật Oct 23, 2026