太初元碁洪源：异构计算能力将成为未来AI算力基础设施的重要方向｜AIGC2026
一句话看懂：太初元碁首席产品官洪源在量子位AIGC2026峰会上指出，随着Agentic AI和行业应用加速落地，Token调用需求暴增，AI算力正从单纯堆性能转向异构协同、生态易用和大规模集群服务能力，未来算力将像“制氧机”一样支撑整个AI产业。
事件核心：发生了什么
在2026年5月20日量子位主办的AIGC2026峰会上，太初元碁首席产品官、高级副总裁洪源发表了主题演讲。他提出，随着Agentic AI、代码助手、智能办公等应用从Demo走向真实任务，Token已成为AI时代最核心的消耗单位。据OpenRouter数据预测，从2025年到2030年，全球Token调用量将增长212倍。洪源认为，国产AI算力正迎来重大发展机遇，但突破点不在单点性能，而在大规模集群服务能力、计算效率和生态易用性。具体而言，在Agent任务执行中，GPU实际计算时间仅占10%左右，大量时间消耗在CPU调度、通信和数据处理环节，因此异构计算（CPU与GPU等多计算单元协同）将成为未来算力基础设施的关键方向。
为什么重要
洪源的判断反映了行业对AI算力底层逻辑的重新审视。以往算力竞争集中在芯片峰值算力，但现实中，大模型训练和推理已走向万卡乃至更大规模集群，系统稳定性、互联效率和软件生态成为瓶颈。此外，Agentic AI兴起后，AI计算从“生成内容”变为“生成任务”，任务拆解、工具调用、多轮交互等环节要求CPU、GPU、数据处理单元之间高效协同。如果异构协同问题不解决，算力浪费将持续制约应用落地。这对整个国产算力产业链——从芯片设计、互联标准到开发框架——都意味着需要系统性升级，而不是单一堆硬件。
对用户/开发者/创作者的影响
对开发者：未来算力厂商将更注重生态易用性。太初元碁已提供自研编程框架、一键迁移工具、自然语言生成算子等功能，开发者迁移模型或部署推理的门槛有望降低，但短期内仍需关注国产算力与主流框架（如PyTorch）的兼容深度。
对企业/行业用户：Token调用量快速增长，意味着AI应用的使用成本（按Token计费）会持续下降，但前提是算力系统能高效支撑更高频、更复杂的任务。企业采购AI算力时，应关注集群的异构协同效率和长时间运行稳定性，而非仅看单卡峰值性能。
对创作者：随着AI应用从Demo走向真实场景，办公、代码、医疗、教育等领域的AI工具将更加可靠和低延迟，创作流程中AI辅助的比例可能大幅提升，但需注意国产算力在特定场景下的适配进度。
AI 工具推荐
想把多个 AI 模型放在一个入口？
GamsGo AI 集成 ChatGPT、DeepSeek、Gemini、Claude、Midjourney、Veo 等常用模型，适合写作、绘图、视频和日常 AI 工作流。
推广链接：通过此链接购买，我可能获得佣金，不影响你的价格。
值得关注的后续
1. 异构计算产品落地：太初元碁从芯片设计层面布局了多计算单元协同架构，已有产品是否进入量产或客户试用阶段，能否在Agentic AI任务中展示效率提升数据，值得跟踪。
2. 软件生态演进：自研编程框架与成熟开发生态（如CUDA）的兼容性、模型一键迁移工具的覆盖范围，以及自然语言自动生成算子的实际可用性，将决定开发者迁移意愿。
3. 行业落地节奏：Token调用量预测增长212倍，但国产算力在金融、医疗、能源等关键行业的规模化部署时间和成本结构，需结合实际项目案例验证。
来源：量子位 · 每日最新
