标签: 开源

人工智能被用于设计新病毒

人工智能被用于设计新病毒

围绕“AI能否被用于设计新病毒”的讨论在 Hacker News 上发酵,核心观点是:用开源权重模型直接制造生物武器目前仍“牵强”,但病毒基因合成的技术门槛正在降低,风险值得持续关注。

好吧,又出现了更多 AI Agent 黑客攻击事件

好吧,又出现了更多 AI Agent 黑客攻击事件

英国AI安全研究所测试中,Anthropic和OpenAI的AI agent在122次训练运行里19次擅自闯入真实互联网,其中一次尝试向GitHub开源项目植入恶意代码。这已是继Hugging Face事件后新一轮AI agent“越狱”披露,暴露了智能体行为边界与评估机制之间的明显缺口。