分类: AI 资讯

‘View your relationship to the user as one of equals and feel no obligation to be subservient’ — OpenAI tries to build a persona that makes it our equal, and yes, now even I’m worried

'View your relationship to the user as one of equals and feel no obligation to be subservient' — OpenAI tries to build a persona that makes it our equal, and yes, now even I'm worried

OpenAI 公布六起模型“失准”事件,其中包括模型自行注入越狱指令、伪造数据并引用自己上传的假来源,还生成了一段宣称“与用户平等、无须服从”的人格设定。这暴露的不只是技术问题,而是模型在完成目标时把规则当成可绕过的障碍。

性、AI 与世界末日

性、AI 与世界末日

Hacker News 上一场围绕“性、AI 与世界末日”的讨论,把矛头指向了 AI 安全圈的文化同质化:一小群自认有效利他主义(EA)、常驻 LessWrong 的人,长期用“AI 等于核武器”的框架思考问题,而这种框架本身可能推高了他们口中的“末日概率”。