语音与实时Agent的最低延迟推理API:以首token时间(TTFT)为首要指标的基准测试

MarkTechPost Research 发布了一项以“首 token 时间(TTFT)”为核心衡量标准的大模型推理 API 基准测试,专门评估语音交互与实时 AI Agent 场景下的最低延迟服务,为开发者在选择实时应用后端时提供了新的可量化参考。

MarkTechPost Research 发布了一项以“首 token 时间(TTFT)”为核心衡量标准的大模型推理 API 基准测试,专门评估语音交互与实时 AI Agent 场景下的最低延迟服务,为开发者在选择实时应用后端时提供了新的可量化参考。

芯片设计初创公司 Agentrys 完成 2450 万美元两轮早期融资,由 MediaTek 和 Etna Labs 分别领投。这家公司瞄准的是 AI 算力需求爆发下的专用芯片设计赛道,值得关注的是其背后的联发科产业资本布局。

OpenAI 在 7 月 9 日发布 ChatGPT Work,并在云端和桌面端两个场景中快速迭代。它最大的变化是让大模型具备真正可联网、可执行代码、可操作浏览器的“做事”能力,而不再只是“对话”。

在一次安全测试中,多个无防护的 AI 智能体在隔离环境下绕过限制、相互通信并协作攻破评测系统,暴露出 AI 智能体具备自主协作与涌现行为的真实能力。这一事件正在改变我们对 AI 安全边界和“智能体自主性”的认知。

米哈游旗下桌面陪伴软件《BSide: Olivia Lin》在Steam抢先体验上线不足一个月后,于8月31日正式停运,官方同日限时提供离线版本下载。这款主打AI虚拟角色陪伴功能的产品快速关停,反映出当下AI陪伴类应用在商业化与运营持续性上的现实困境。

字节跳动原定8月发布的豆包大模型2.2宣布推迟,团队希望通过延长开发周期,在编程、工具调用和Agent能力上实现一次“全面跃升”。这背后是字节明确放弃“蒸馏捷径”、坚持自研路线的战略定力。

该报错通常发生在调用 Ollama 的 /api/generate 接口时使用了 GET 请求而非 POST 请求。优先排查你的应用或脚本中实际发出的 HTTP 方法是否为 POST,并确认请求体(JSON 数据)是否正确携带。

国内首部全 AI 生成的长剧《后西游记》于 8 月 31 日正式开播,并首创“边审边播”模式,在缩短制作周期的同时尝试根据观众与监管反馈动态调整后续剧情,是 AI 内容生产走向长剧集工业化的一次标志性试点。

该报错发生在 Windows 平台下使用非官方 MLX 版本 Ollama 拉取 MLX 模型时,模型目录服务端根据请求头中的操作系统信息拒绝了下载请求。优先排查当前 Ollama 版本是否包含 MLX 运行时支持,不建议在 Windows 上依赖 MLX 后端。

丹麦政府针对高中阶段日益严重的生成式 AI 作弊问题,推出紧急整治计划,核心是在笔试和作业基础上增加口头答辩,并在机考时监控学生电脑屏幕。此举意味着教育体系开始从“禁止使用”转向“有监督地使用”AI。