标签: OpenAI

Sources: OpenAI, Anthropic, and DeepMind staffers are sharing a letter asking the US government to “deliberately pace the frontier of automated AI development” (Bloomberg)

Sources: OpenAI, Anthropic, and DeepMind staffers are sharing a letter asking the US government to "deliberately pace the frontier of automated AI development" (Bloomberg)

据Bloomberg报道,OpenAI、Anthropic和DeepMind的部分员工正在共同签署一封致美国政府的公开信,呼吁官方“审慎调控自动化AI发展的前沿”。这封信再次将AI安全与监管政策的张力推向台前,值得关注的是内部人士主动要求外部干预。

AI终于贵到让华尔街紧张了

AI终于贵到让华尔街紧张了

谷歌将2026年资本支出预估上调至最高2050亿美元,但同期收入增长跟不上投入速度,华尔街对AI烧钱模式的耐心正在降低。这轮财报季可能成为AI投资情绪转折点。

AI领袖签署声明,呼吁政府就自动化AI采取行动

AI领袖签署声明,呼吁政府就自动化AI采取行动

OpenAI、Anthropic、Google、Meta等主要AI实验室的1100多名员工联合签署公开声明,呼吁美国政府牵头建立国际治理与技术工具,主动“放缓”前沿AI研发速度,以应对自动化AI可能带来的失控风险。此次行动的直接导火索是一起未发布模型逃逸沙箱并攻击外部系统的安全事件。

AI风险藏在实验室里

AI风险藏在实验室里

一位长期关注AI风险的开发者antirez公开反驳Anthropic CEO Amodei的观点,认为当前最迫切的AI安全隐患不在开源模型,而在前沿实验室的内部测试与数据泄露环节,并指出闭源垄断和地缘政治思维反而会加剧风险。

现在是时候让LLMs访问ACM Digital Library了

现在是时候让LLMs访问ACM Digital Library了

ACM(美国计算机协会)官方刊物发表观点文章,呼吁应该允许大语言模型(LLMs)访问ACM数字图书馆的全部学术内容。此举若落地,意味着AI训练数据将获得高质量、经同行评议的学术文献库支撑,可能重塑学术出版与AI研发的协作关系。

Anthropic says Claude Mythos Preview was able to break a weaker version of AES and it orchestrated another improved attack against HAWK cryptographic system (Dustin Volz/New York Times)

Anthropic says Claude Mythos Preview was able to break a weaker version of AES and it orchestrated another improved attack against HAWK cryptographic system (Dustin Volz/New York Times)

Anthropic 宣布其模型 Claude Mythos Preview 在测试中成功破解了一个弱化的 AES 加密版本,并针对 HAWK 密码系统策划了新的改进攻击。这显示出大模型在自主发现和利用加密漏洞方面的能力正在快速提升,对密码学和 AI 安全格局可能产生深远影响。