平台工程2.0缓解AI安全和合规风险

“平台工程2.0”这一概念试图将安全与合规检查内建于AI开发工具链中,从底层机制上防范模型滥用和数据泄露,而非事后补救。这标志着AI基础设施正从“只管跑模型”转向“管好模型”。

“平台工程2.0”这一概念试图将安全与合规检查内建于AI开发工具链中,从底层机制上防范模型滥用和数据泄露,而非事后补救。这标志着AI基础设施正从“只管跑模型”转向“管好模型”。

Anthropic CEO 达里奥·阿莫迪明确声明公司从未主张禁止开放权重模型,而是主张通过芯片出口管制、打击工业级蒸馏和强制安全测试来应对国家安全风险,这一立场直接回应了近期美国政界关于限制中国开放权重模型的讨论。

Ethan Mollick 更新了其广受关注的 AI 使用指南,核心变化是从一年前的“聊天模型选择”转向了“代理系统(agentic systems)实战”。Google 的 Gemini 因缺乏成熟的代理模式被剔除推荐,而 ChatGPT 与 Claude 则围绕“Work/Cowork”和“Codex/C…

Kimi AI 与其关联团队 kvcache-ai 联合开源了名为 AgentENV 的分布式系统,该系统专门用于智能体强化学习(RL)训练,是支撑其 Kimi K3 模型训练的关键基础设施。这件事值得关注,因为它首次将大模型智能体 RL 训练的底层分布式框架开放出来,可能降低该领域的研发门槛。

微软CEO萨提亚·纳德拉7月27日在CNN节目中警告,完全依赖单一AI实验室(如OpenAI、Anthropic)的企业将无法存活。他建议企业保留使用模型时的元数据并训练自有模型,同时将编程工具(harness)与模型分离,以实现多模型切换。

GitHub 将 Copilot 企业托管设置扩展到 Copilot 桌面应用和云代理,企业现在可以通过同一份配置文件统一管控所有 Copilot 客户端,包括插件、市场、绕过批准提示等策略。这意味着企业不再需要为不同使用场景分别配置,治理盲区被填补。

GitHub 为 Copilot 应用推出了独立访问策略,不再依赖 Copilot CLI 策略,企业管理员可单独控制 Copilot 应用的启用范围。这一变化让权限管理更精细,有助于企业在不干扰开发者工作流的前提下,按需开放 AI 辅助能力。

越来越多的年轻人用ChatGPT等AI聊天机器人提前撰写约会台词、派对破冰语,甚至在实时对话中调用AI回复,心理学家称这种现象为“自我不信任的流行病”——AI正在替代人际交往中的本能反应,反而加剧了社交焦虑。

当作者想测试中国新版ChatGPT对手Kimi时,发现App因用户太多而无法登录。这个卡顿现象暴露了AI行业当前最现实的瓶颈:模型再强,没有足够的服务器和GPU支撑,用户依然用不了。

美国阿尔康州立大学一位历史教授在考试题目中用白色字体嵌入隐形指令,要求AI在回答时插入关于“马达加斯加”的荒谬内容,结果35名学生中有32人直接复制粘贴AI输出,作弊行为被当场识破。这一事件提醒我们:AI工具滥用正在倒逼反作弊手段升级,但单纯依赖模型本身可能难以解决这一矛盾。