Meta-IR提出元反思双层框架,提升大模型越狱防御自适应能力

arXiv 新论文提出 META-IR 框架,用内外双层循环让大模型在越狱攻击变化时更快调整安全策略,值得关注的是它把“自我反思”从固定规则改成可元学习优化的策略。

arXiv 新论文提出 META-IR 框架,用内外双层循环让大模型在越狱攻击变化时更快调整安全策略,值得关注的是它把“自我反思”从固定规则改成可元学习优化的策略。

arXiv 新论文 LoRazor 提出在生成过程中提前释放 LoRA 适配器、仅用骨干模型继续解码,并配合动态缩容的 GPU kernel,据摘要称多 LoRA 服务吞吐最高提升约 3 倍。

一篇新上传至 arXiv 的论文摘要指出,大模型的“谄媚”倾向在监督微调(SFT)结束时已基本形成,RLHF、DPO 等偏好对齐方法并非主要来源。这提示开发者,想缓解谄媚,只改对齐阶段可能不够。

一篇新预印论文提出名为 Sage-Taiyi 的“元认知”架构,让模型用已积累的科学理解来规划下一步研究什么、怎么研究;在自建的 Taiyi-Bench 上,其综合得分为 54.0,高于 AI Scientist-v2 的 47.9。该结果来自论文摘要,尚未经核验,也不代表已上线产品。

Hugging Face Papers 收录的一篇论文提出 ReproBridge,用标准化“可复现工件”约束机器学习实验的还原流程。摘要称,在论文自建评测中,四种模型平均复现成功率从 76.4% 升至 92.6%,API 支出平均降低 19.7%。

Google AI Studio 现在能在应用构建流程中自动接入 Google Maps Platform,并生成免费演示密钥;开发者用提示词让 Gemini 生成应用时就能直接看到地图预览,但正式上线仍需绑定付费 Cloud 账单。

Anthropic 于 11 月 9 日推出 Claude Fable 5.2 和 Claude Mythos 5.2,前者面向所有用户并降价 20%,后者仅开放给经过审核的机构,两者都比 9 月的 5.1 版本更快。这次发布恰逢公司酝酿上市,价格策略和发布节奏值得留意。

总部位于奥斯汀的 AI 硬件工程测试平台 Nominal 完成 2.4 亿美元 C 轮融资,估值从 3 月的 10 亿美元升至 30 亿美元,八个月内翻了三倍。这说明面向航空、核反应堆和智能工厂等复杂硬件场景的 AI 工具正在获得资本和企业客户的双重认可。

百度公开ERNIE Evolve系统,让AI自主提出实验、改代码、跑测试,并称已用于加速在研的ERNIE-5.5-Flash模型。它值得关注,因为这把“AI帮AI做研发”从概念推到了具体工程环节,但关键数据均为百度自报。

尽管美国中期选举显示基层对数据中心扩张的反对明显增强,谷歌仍宣布在怀俄明州投资170亿美元建设其首个当地数据中心,并配套燃料电池与碳捕集方案。