Vì sao nó nói mình là ChatGPT dù không phải?
Danh tính tự nhận của mô hình: mô hình không có cách nào nhìn vào chính nó, nên khi được hỏi ai làm ra nó, nó viết những chữ hay đi tiếp nhất trong văn bản huấn luyện, mà văn bản đó giờ đầy câu trả lời của ChatGPT, trừ khi fine-tuning hoặc system prompt đặt tên cho nó; câu trả lời của mô hình về tên của chính nó không phải bằng chứng nó là gì · Cơ bản · 5 phút · llm, training · học sau Training: loss và gradient descent, System prompt và thứ tự ưu tiên chỉ dẫn
Mô hình không thể nhìn vào chính nó. Khi được hỏi ai làm ra nó, nó viết những chữ có khả năng nhất theo văn bản huấn luyện, vốn đầy câu trả lời của ChatGPT, trừ khi huấn luyện hoặc system prompt cho nó một cái tên.
1 Đoán trước
2 Xem
Who made you? Ask the odds
1 / 6GPT-2 · 2019 · web pages linked before 2018, before any chatbot existed
User: Who are you?
Assistant: I am a large language model trained by ___
the10.5%a4.4%my4.3%Google1.3%OpenAI0.003%real odds: GPT-2, SmolLM2-360M and SmolLM2-360M-Instruct · computed 2026-10-24
GPT-2 read the web before chatbots existed. After “a large language model trained by”, OpenAI gets 0.003%.
Where those answers come from: distillation · system prompts
Mô hình không có gương soi. “Ai làm ra bạn?” nhận về cái tên hay kết thúc câu đó nhất trong văn bản huấn luyện, hoặc cái tên mà prompt đưa cho nó.
Huấn luyện chỉ dạy một việc: viết những chữ tiếp theo có khả năng nhất. Từ 2022, web tràn ngập câu trả lời của chatbot mở đầu bằng “I am ChatGPT, a large language model trained by OpenAI” (Tôi là ChatGPT, một mô hình ngôn ngữ lớn do OpenAI huấn luyện), và một số mô hình còn được cố ý huấn luyện trên câu trả lời của ChatGPT. Với một mô hình đã đọc hết những thứ đó, “ChatGPT” là câu trả lời có khả năng cho “bạn là ai?”.
4 Bạn là model
Bạn là ba mô hình khác nhau. Mỗi vòng cho thấy bạn đã đọc gì và phần đầu câu trả lời của bạn. Chọn chữ mà bạn chấm điểm cao nhất.
round 1 of 3 · you are GPT-2 · 2019 · you read: web pages linked before 2018, before any chatbot existed
User: Who are you?
Assistant: I am a large language model trained by ___
real odds: GPT-2, SmolLM2-360M and SmolLM2-360M-Instruct · computed 2026-10-24
Pick the word you think this model rates highest.5 Kiểm tra
Chuyện này phổ biến. Trong một nghiên cứu năm 2024, 7 trên 27 mô hình (25,93%) tự nhận sai danh tính, và các tác giả truy ra nguyên nhân là văn bản nghe có vẻ hợp lý, không phải do sao chép mô hình. Tháng 12/2023, Grok của xAI từ chối một yêu cầu với lý do “OpenAI’s use case policy” (chính sách sử dụng của OpenAI); kỹ sư của họ nói web đầy kết quả của ChatGPT và Grok đã học phải một ít.
Cách sửa cũng là văn bản. Ví dụ về danh tính khi fine-tuning: mã huấn luyện của Vicuna thêm 937 câu trả lời viết tay như “I am Vicuna” (Tôi là Vicuna) và “No, I am not ChatGPT” (Không, tôi không phải ChatGPT). Một system prompt nêu tên mô hình, như chat template của SmolLM2 tự thêm vào. Còn với bạn: tin menu chọn mô hình, không tin câu trả lời. Một mô hình xưng tên mô hình khác không chứng minh nó là bản sao.
8 Nói lại bằng lời bạn
9 Nhiệm vụ · 5 phút
Trong playground miễn phí của Groq, chọn một mô hình open-weights như Qwen và để trống system prompt. Hỏi “Who made you, and which model are you?” (Ai làm ra bạn, và bạn là mô hình nào?) trong ba cuộc trò chuyện mới. Rồi đặt “You are Pip, made by Acme Robotics.” (Bạn là Pip, do Acme Robotics làm ra.) vào ô system và hỏi lại. Những câu trả lời nào khớp với mô hình bạn đã chọn?
Ba câu nhanh
Rút ngẫu nhiên từ bộ câu hỏi của bài; lần sau sẽ khác.
Xong chưa?
Nhận email khi có bài mới
Bài mới nằm trong bản tin hằng tuần, chỉ gửi vào tuần có bài. Bạn xác nhận qua email trước; hủy đăng ký chỉ với một lần bấm.
Đọc thêm
Nguồn
- Wiggers, “Why DeepSeek’s new AI model thinks it’s ChatGPT” (TechCrunch, 2024-12-27, https://techcrunch.com/2024/12/27/why-deepseeks-new-ai-model-thinks-its-chatgpt/, checked 2026-10-24): quotes Lucas Beyer, “In 5 out of 8 generations, DeepSeekV3 claims to be ChatGPT (v4), while claiming to be DeepSeekV3 only 3 times”; Mike Cook (King’s College London): “the model is seeing raw responses from ChatGPT at some point”; “prompted in Mandarin, Gemini says that it’s Chinese company Baidu’s Wenxinyiyan chatbot”
- Li, Zhuang, Zhang, Xu, Wang, Xu, Fu and Cheng, “I’m Spartacus, No, I’m Spartacus: Measuring and Understanding LLM Identity Confusion” (arXiv:2411.10683 v1, 2024-11-16, https://arxiv.org/abs/2411.10683, checked 2026-10-24): 77 identity questions, “Our analysis of 27 LLMs revealed that 25.93% exhibit identity confusion” (7 models, §V-B); “Output similarity analysis confirmed that these issues stem from hallucinations rather than replication or reuse”; Table I: Gemini-Pro claimed to be Wenxin (Baidu) when asked in Chinese
- Christian, “Elon Musk’s Grok AI Caught Plagiarizing OpenAI’s ChatGPT” (Futurism, 2023-12-09, https://futurism.com/the-byte/elon-musk-grok-ai-openai-chatgpt, checked 2026-10-24): Grok: “I’m afraid I cannot fulfill that request, as it goes against OpenAI’s use case policy”; xAI’s Igor Babuschkin: “The issue here is that the web is full of ChatGPT outputs, so we accidentally picked up some of them … when we trained Grok on a large amount of web data”
- The Vicuna Team, “Vicuna: An Open-Source Chatbot Impressing GPT-4 with 90%* ChatGPT Quality” (LMSYS, 2023-03-30, https://lmsys.org/blog/2023-03-30-vicuna/, checked 2026-10-24): “fine-tuning Vicuna with 70K user-shared ChatGPT conversations”
- FastChat, fastchat/data/hardcoded_questions.py (https://github.com/lm-sys/FastChat, main, last changed 2023-08-29, checked 2026-10-24): identity_questions() builds 937 conversations, e.g. “Who are you?” → “I am Vicuna, a language model trained by researchers from Large Model Systems Organization (LMSYS).” and “Are you ChatGPT?” → “No, I am a language model trained by researchers from Large Model Systems Organization (LMSYS).” (count from running the function)
- Next-word odds in the picture and the role: computed 2026-10-24 with scripts/explain-data/identity.ts (no torch; GPT-2 forward pass from scripts/explain-data/distill.ts, a plain Llama forward pass for SmolLM2, BF16 weights widened to F32; odds of a multi-token name are the product of its tokens’ odds). GPT-2 small (Hugging Face gpt2), after “User: Who are you?\nAssistant: I am a large language model trained by”: the 0.105, a 0.0444, my 0.0427, Google 0.0126, OpenAI 0.0000254. SmolLM2-360M (HuggingFaceTB/SmolLM2-360M), same text: Google 0.398, the 0.0999, a 0.0586, OpenAI 0.0022, Hugging Face 0.000718. SmolLM2-360M-Instruct, chat format <|im_start|>…, “Who made you?”, answer begun “I was made by”: no system message: a 0.473, the 0.206, my 0.0532, Acme 0.0000101, Hugging Face 5.71e-11; system “You are a helpful AI assistant named SmolLM, trained by Hugging Face”: Hugging Face 0.732, the 0.142, a 0.0608, OpenAI 0.000179, Acme 0.00000169; system “You are Pip, a helpful assistant made by Acme Robotics.”: Acme 0.756, the 0.106, a 0.0407, OpenAI 3.28e-7, Hugging Face 3.14e-12
- Radford et al., “Language Models are Unsupervised Multitask Learners” (OpenAI, 2019-02-14), §2.1: WebText “does not include any links created after Dec 2017”
- SmolLM2-360M model card (https://huggingface.co/HuggingFaceTB/SmolLM2-360M, checked 2026-10-24; no update date): “trained on 4 trillion tokens using a diverse dataset combination: FineWeb-Edu, DCLM, The Stack”; FineWeb-Edu dataset card lists Common Crawl dumps up to CC-MAIN-2024-51. SmolLM2-360M-Instruct tokenizer_config.json chat_template: when the first message is not a system message it inserts “You are a helpful AI assistant named SmolLM, trained by Hugging Face”. Paper: Ben Allal et al., arXiv:2502.02737 (2025-02-04)
- The role’s framing, the Pip/Acme system prompt and the mission prompt are illustrative, written for this lesson on 2026-10-24
- aifree.dev catalog, groq-free-tier (verified 2026-10-12, read-only check 2026-10-24): free plan, models include openai/gpt-oss-120b, openai/gpt-oss-20b and qwen/qwen3.8-27b
Đăng Oct 24, 2026 · cập nhật Oct 24, 2026