SimpleLoRIF用梯度筛选微调数据,SafeTulu将GCG攻击成功率最高降22%

Hugging Face Papers 收录的论文提出 SimpleLoRIF,用梯度嵌入找出“看起来无害、却会侵蚀模型安全”的微调样本;据此构建的 SafeTulu 数据集在 Qwen、Llama、Olmo 上把 GCG 攻击成功率最高降低 22%。这提示安全风险可能更多藏在训练数据的分布和组合里,而不只是…

Hugging Face Papers 收录的论文提出 SimpleLoRIF,用梯度嵌入找出“看起来无害、却会侵蚀模型安全”的微调样本;据此构建的 SafeTulu 数据集在 Qwen、Llama、Olmo 上把 GCG 攻击成功率最高降低 22%。这提示安全风险可能更多藏在训练数据的分布和组合里,而不只是…

阿布扎比国家石油公司(ADNOC)与 OpenAI、G42 签署多年协议,将 OpenAI Frontier 智能体平台引入油气业务。首个应用瞄准油田开发规划,目标是把原本耗时数月的工作压缩到数小时。

NAND 制造商铠侠(Kioxia)11 月 2 日给出的第三财季展望偏谨慎,股价当日一度下跌 15%,市场开始重新审视 AI 需求对存储芯片的拉动是否在放缓。

开发者 kerlenton 发布了 bootgpt:主引导记录(MBR)里是 512 字节手写汇编,从后续 23 个扇区加载一个 11.5 KB 的 int8 模型,在 386 的 16 位实模式下运行,专用来“幻觉”一段 Linux 启动日志——没有操作系统、没有 C 运行时。

据《纽约客》报道,UCLA 数学家陶哲轩对 AI 在数学研究中的角色态度由积极转向警惕,认为它可能侵蚀数学界赖以运转的审议过程。这一变化值得关注,因为它触及 AI 在专业领域落地时的信任与流程问题。

2026年11月2日,追觅L40 Ultra Gen 2扫地机器人在亚马逊以499.98美元促销,较原价749.99美元便宜250.01美元,折扣33%,提前开启黑五促销。

Business Insider 2026年11月2日报道三位50岁以上求职者的经历:他们面对年龄偏见与AI招聘工具,通过人脉、重新包装经验、不等待录用而自行创造工作来应对。这反映了中高龄就业市场的一个现实变化,但并非技术突破。

在AI概念股经历一轮密集抛售后,JPMorgan私人银行指出标普500的“市场宽度”正在改善,超过50%的成分股创下20日新高,这一信号在历史上往往对应随后3至6个月的进一步上涨。

Anthropic 计划在 IPO 中向日本投资者募集最多 35 亿美元,日本由此成为其开放直接投资的市场之一,与澳大利亚、加拿大及部分欧洲地区并列。

沃顿商学院教授 Ethan Mollick 在 Business Insider 播客中表示,避开 AI 的“安全职业”思路并不可靠,普通人更该积累深度知识、跨界知识、审美判断和自主推动力。