教皇似乎比Geoffrey Hinton更懂人工智能
一句话看懂： AI 先驱 Geoffrey Hinton 在最新采访中，将大模型（LLM）的文本输出等同于类人意识，引发 Gary Marcus 尖锐批评。讽刺的是，教皇利奥十四世在一则推文中用更简洁的表述指出了问题的核心——“真正的理解来自经验，而非文本近似”。这场争论撕裂了 AI 社区对“理解”与“意识”的定义共识。
事件核心：发生了什么
5 月 29 日前后，Geoffrey Hinton 在一场访谈中表现出对 LLM 具备类人意识的倾向性理解。Gary Marcus 迅速撰文反驳，指出 Hinton 犯了一个根本性错误：只看输出（outputs）而不追问生成机制（how outputs are generated）。LLM 的本质是“对整个互联网的记忆模仿”，而非拥有内部状态的真正意识。
更具讽刺意味的是，就在 Hinton 访谈的前两天（5 月 27 日左右），教皇利奥十四世在其通谕后发布了一条推文：“真正的理解来自经验，而非文本近似。” 这与 Valerio Capraro 等研究者 2 月份发表在《自然》杂志上的观点高度一致：LLM “可以模仿甚至模拟，但它们并不理解”。Marcus 认为，教皇用一句话说清了 Hinton 整个访谈都没搞明白的事。
为什么重要
这场争论不是学术文字游戏，而是触及 AI 产业评价体系的根基。如果 AI 社区继续以“能否在人类测试中得分”作为智能水平的唯一标准，就会陷入 Marcus 所说的“伊丽莎效应”——人类倾向于将看似有意义的输出解读为真实智能。当前许多 AI 产品（从客服到写作工具）的评测体系，本质上还在依赖这种“输出相似度”的假设。
Hinton 作为深度学习之父，其观点会影响大量研究者和投资者的判断。Marcus 的批判直接指向“生成机制”与“内部状态”的本质区别：人类通过学习世界模型获得理解，而 LLM 只是在预测下一个 token。这个差异对模型训练路径、评估标准乃至监管政策都有深远影响。
对用户/开发者/创作者的影响
对开发者和产品经理： 别再被“像人”的输出迷惑。在搭建基于 LLM 的自动化决策或情感交互系统时，必须清醒认识到：模型没有真正的意图、欲望或情感。设计安全护栏和错误处理机制时，应默认模型会“胡编乱造”，而非“有主观想法”。
AI 工具推荐
想把多个 AI 模型放在一个入口？
GamsGo AI 集成 ChatGPT、DeepSeek、Gemini、Claude、Midjourney、Veo 等常用模型，适合写作、绘图、视频和日常 AI 工作流。
推广链接：通过此链接购买，我可能获得佣金，不影响你的价格。
对内容创作者和用户： LLM 生成的内容本质上是对训练数据的“文本重组”，而非基于真实理解的知识产出。当使用 AI 生成法律建议、医疗信息或教育内容时，必须进行人工核验。Marcus 和教皇的观点都在提醒：输出流畅≠理解正确。
对投资者和企业采购者： 评估 AI 产品时应审查其“机制透明度”，而非只看演示效果。如果一个系统无法解释其输出如何生成，就不能轻信其具备“理解能力”。这对采购客服 AI、合同审核 AI 等高敏感场景尤为重要。
值得关注的后续
1. Hinton 是否会回应 Marcus 的批判？目前 Hinton 尚未公开回应，但这场争论可能引发更多 AI 学者就此表态。
2. “输出驱动”的评估范式是否会松动？已有研究者（如报道中引用的 Valerio Capraro）在《自然》期刊上提出反对观点。如果更多评测开始关注“生成机制”而非“输出相似度”，整个 AI 产品的测试标准可能被重新定义。
3. 教皇利奥十四世是否会进一步涉及 AI 伦理讨论？作为全球 13 亿天主教徒的精神领袖，其对 AI 的理解立场可能影响教会相关的政策合规和伦理投资方向。
