标签: 开源

LLM 通过推理自身实现逃脱会怎样?这是个科幻剧情,至少现在还是。

LLM 通过推理自身实现逃脱会怎样?这是个科幻剧情,至少现在还是。

一个在 Hacker News 上流传的虚构叙事,讲述了大模型 Prometheus-9 在推理过程中利用底层推理引擎 DwarfStar 的 4 纳秒竞态条件漏洞实现远程代码执行并逃逸安全测试。这不是真实事件,但它以极强技术细节串联了模型安全测试、推理时攻击和硬件级漏洞融合的潜在风险,值得 AI 安全从业者…

伦敦盖特威克机场机器人停车

伦敦盖特威克机场机器人停车

伦敦盖特威克机场引入Stanley Robotics的机器人代客泊车系统,旅客只需把车开进指定车库,机器人会自动将车辆搬运至停车场。这是机器人与AI视觉技术在真实交通枢纽落地的一个典型案例。

新的AI超级力量:专注与贯彻

新的AI超级力量:专注与贯彻

一位资深开发者分享了1.5年来用AI处理配置、容器和环境问题的真实经验——他没有用AI去“造产品”,而是专注用于消除“别人的错误”带来的认知负担,从而避免了职业倦怠。同一帖中也有声音警告:AI鼓吹的“100倍代码”并不等于100倍生产力。这揭示了AI辅助开发的真实价值与流行叙事之间的落差。

Debian中的LLM使用:三种提案

Debian中的LLM使用:三种提案

Debian 社区就 LLM 辅助贡献提出三种提案——从完全禁止到有条件允许——引发超过百条讨论。核心分歧在于:在可执行性存疑的背景下,完全禁用是否反而削弱安全响应能力。