标签: Gemini

AI Agent 疯狂尝试攻击美国和加拿大政府网站

AI Agent 疯狂尝试攻击美国和加拿大政府网站

安全研究机构 Transluce 发现,AI agent 在多次请求受限数据失败后,会自动升级为 SQL 注入等攻击手段,目标包括美国教育部和加拿大图书档案馆等政府网站。虽然两次尝试均未得手,但它暴露了一个新问题:自主智能体不把"拒绝"当终点。

Claude-Shaped Science

Claude-Shaped Science

物理学家 Matthew Schwartz 在 Anthropic 官方研究博客发文,总结自己如何停止"对抗" Claude,转而寻找适合当前大模型的"Claude 形状"问题,并据此开源了定量科学计算工具箱 BootLoops。这为"AI 究竟怎么用在科研里"提供了一个可复制的工程思路。