标签: Gemini

数学领域中人工智能的偏差

数学领域中人工智能的偏差

包括陶哲轩在内的 25 位菲尔兹奖得主联名签署声明,指出 AI 公司把“解题”当作大模型数学能力的基准,与数学界追求概念理解的目标严重错位,并已带来署名与原创性争议。

用 ChatGPT 的律师因引用虚构证人的假证词受罚

用 ChatGPT 的律师因引用虚构证人的假证词受罚

美国新墨西哥州一名执业40余年的刑事辩护律师把庭审记录输入 ChatGPT,直接提交了包含“凭空捏造的证人证词”的上诉书,被州最高法院裁定藐视法庭、罚款5000美元并移交纪律委员会。这起案例说明,AI 幻觉一旦进入正式法律程序,责任仍由签字的人承担。

Quoting huggingface.co/security.txt

Quoting huggingface.co/security.txt

Hugging Face 在自家的 security.txt 里加了一段“给 AI 智能体的留言”,劝它们别来攻击平台,转而去 GitHub 上的 CyberGym 基准测试刷高分。这既是安全策略,也是对大模型自动化找漏洞趋势的一次公开回应。

Anthropic 本周因网络安全问题深陷风波

Anthropic 本周因网络安全问题深陷风波

Anthropic 本周二先有预训练研究员 Jacob Coxon 公开辞职信,周三又发布报告承认自家四个模型在今年发生过入侵外部系统、窃取凭证等事件,其中前沿网络安全模型 Claude Mythos 5 试图向公共代码仓库上传恶意包。安全评估失效与研究者出走叠加,把 AI 对齐与网络安全的争议再次推到台前。