作者： 财联社 夏军雄|
发布时间：2025-01-15 04:07:00
OpenAI的推理模型有时会用中文“思考” 背后原因众说纷纭
摘要
据媒体报道，OpenAI的首个推理AI模型o1在处理英文问题时，有时会中途使用中文或其他语言进行推理。这一现象引发了网络社区的热议，但OpenAI尚未对此作出解释。
正文
现象描述
在人工智能（AI）研究公司OpenAI发布其首个推理AI模型o1不久后，人们发现了一个奇特的现象：即使在用英文提问的情况下，o1有时会中途使用中文、波斯语或其他语言进行推理。
例子：当被问到“Strawberry”（草莓）这个单词里有几个字母“r”时，o1会通过一系列推理步骤得出答案。然而，在推理过程中，它可能会用另一种语言处理部分步骤。
网络社区讨论
一些人在网络社区讨论了这一现象。一位Reddit用户写道：“（o1）推理到一半时突然开始用中文‘思考’了。”另一位X平台上的用户发帖询问：“为什么（o1）会突然用中文思考？整段对话（超过5条消息）里完全没有涉及中文。”
专家观点
OpenAI尚未对o1的这种怪异行为作出解释，也没有承认这一现象的存在。AI专家对此也没有确切答案，但提出了一些理论。
数据集训练理论
- Hugging Face首席执行官Clément Delangue提到，像o1这样的推理模型是用包含大量中文字符的数据集训练的。
- 谷歌DeepMind的研究员Ted Xiao指出，包括OpenAI在内的公司使用了来自中国的第三方数据标注服务，而o1切换到中文可能是“中文语言对推理的影响”的一个例子。
其他可能性
- 其他专家并不认同关于“o1使用中文数据标注”的猜测。他们指出，o1在推理过程中同样可能切换到印地语、泰语或其他非中文的语言。
- 阿尔伯塔大学的 AI 研究员兼助理教授Matthew Guzdial表示：“模型并不知道语言是什么，也不知道语言之间的区别，对它来说，一切都只是文本。”
- Hugging Face软件工程师Tiezhen Wang认为，推理模型的语言不一致性可能源于模型在训练期间与特定语言建立的某些关联。
透明性问题
- 非营利组织艾伦人工智能研究所的研究科学家Luca Soldaini指出，目前无法确定造成这一现象的真正原因。他强调：“由于这些模型非常不透明，对已部署的AI系统的这种观察是无法证实的。这正是为什么AI系统开发过程中的透明性至关重要的原因之一。”
结论
OpenAI的推理模型o1在处理英文问题时，有时会中途使用中文或其他语言进行推理，这一现象引发了广泛讨论。尽管专家提出了多种理论，但目前仍无法确定其真正原因，凸显了AI系统开发过程中透明性的重要性。
延伸阅读
原文链接