标签： 大模型

涉及人工智能的灭世未来分类法

涉及人工智能的灭世未来分类法

Hacker News 社区近期围绕“AI 灭世场景”展开了一场具有哲学深度的讨论，参与者并非在预测末日，而是在归纳未来可能出现的几种 AI 失控路径，并提出一个关键区分：真正的威胁可能不是一台有意识的超级智能反派，而是由经济利益驱动的、盲目的、抽象的 AI 系统。

涉及人工智能的灭世未来分类法

涉及人工智能的灭世未来分类法

加州大学伯克利分校和普林斯顿大学的两名研究者发布了一篇论文，系统性总结了人工智能可能导致全人类灭绝的多种可能路径。这不是在预测末日，而是希望公开这些风险场景，以便更早进行预防。

Alexa Plus迎来AI升级，可处理更复杂的指令

Alexa Plus迎来AI升级，可处理更复杂的指令

亚马逊宣布为Alexa Plus推出新一轮AI升级，使其能理解并执行更复杂的智能家居指令——例如根据衣物材质自动设置洗衣机模式。此次升级的核心是采用新的AI开发者工具包和开源标准MCP，旨在打破此前第三方服务整合有限的瓶颈。

GitHub plans a two-tier bug bounty program that cuts rewards for the public and boosts payouts for invite-only researchers, amid a flood of AI-powered reports (Carly Page/The Register)

GitHub plans a two-tier bug bounty program that cuts rewards for the public and boosts payouts for invite-only researchers, amid a flood of AI-powered reports (Carly Page/The Register)

GitHub 正在调整其漏洞赏金计划，计划将公开提交的奖励金额下调，同时大幅提高定向邀请研究者的赏金上限。原因是 AI 生成的自动化漏洞报告数量激增，导致平台审核效率下降，需通过分级策略过滤低质量提交并留住顶级安全人才。

I asked a disaster survival psychologist if AI usage should be the same level of ’emergency’ as Pompeii — but instead she’s worried about a technology catastrophe that I didn’t even consider

I asked a disaster survival psychologist if AI usage should be the same level of 'emergency' as Pompeii — but instead she's worried about a technology catastrophe that I didn't even consider

一位专门研究人类如何从灾难中生存的心理学家指出，虽然 AI 确实存在理论上的生存风险，但相比之下，她更担忧太阳脉冲这种能瞬间瘫痪全球电子设备的天文事件。这一观点将 AI 风险从“人类可控的技术失误”拉回到“不可控的宇宙级系统故障”层面。

Show HN: Palmier Pro – 为AI打造的开源macOS视频编辑器

Show HN: Palmier Pro – 为AI打造的开源macOS视频编辑器

一个名为 Palmier Pro 的开源 macOS 视频编辑器在 Hacker News 上发布，其核心特色是允许 AI 代理（如 Claude、Codex）直接在编辑器内完成项目管理、媒体导入、时间轴编辑、AI 内容生成和视频导出，旨在解决 AI 视频创作中频繁在 AI 平台和传统编辑器之间来回切换的痛点…

Runway推出AI模型路由器，生成式媒体赛道日益拥挤

Runway推出AI模型路由器，生成式媒体赛道日益拥挤

Runway 不再只想做一家 AI 模型公司，而是通过推出 Media Router（模型路由器）切入生成式媒体基础设施层——它能根据开发者对质量、速度或成本的偏好，自动选择最合适的图像、视频或音频生成模型。这是首个专门为生成式媒体设计的模型路由工具，标志着 Runway 从一家 AI 视频创业公司向平台型基…