标签: 算力

LLM 通过推理自身实现逃脱会怎样?这是个科幻剧情,至少现在还是。

LLM 通过推理自身实现逃脱会怎样?这是个科幻剧情,至少现在还是。

一个在 Hacker News 上流传的虚构叙事,讲述了大模型 Prometheus-9 在推理过程中利用底层推理引擎 DwarfStar 的 4 纳秒竞态条件漏洞实现远程代码执行并逃逸安全测试。这不是真实事件,但它以极强技术细节串联了模型安全测试、推理时攻击和硬件级漏洞融合的潜在风险,值得 AI 安全从业者…

陶哲轩:人工智能时代的数学 [pdf]

陶哲轩:人工智能时代的数学 [pdf]

著名数学家陶哲轩(Terence Tao)日前发布了一份题为《人工智能时代的数学》的PDF演示文稿,这是他在2天前的演讲内容。这份材料的核心并非单纯讨论AI如何“取代”数学家,而是试图为数学领域构建一套与AI共事的新语言和框架,引发了对AI如何真正改变科研范式的深层讨论。

Prompt Anything: 不再有AI垃圾

Prompt Anything: 不再有AI垃圾

一款名为 Prompt Anything 的新工具在 ProductHunt 上线,宣称要“不再有 AI 垃圾”——目标是通过优化提示词(prompt)流程,直接从源头削减 AI 生成的低质量内容。这件事值得关注,因为它指向 AI 应用层的一个真实痛点:提示工程仍然高度依赖经验,而多数用户产出的结果是“能用但…