一句话看懂：一位没有算法背景的工厂从业者，用 AMD 锐龙 AI Max+ 395 平台，在本地跑通了一套面向 CNC 非标加工的 AI 报价智能体系统。这套系统的价值在于展示了“大模型选逻辑、程序做计算”的工业落地路径，以及端侧大内存设备对数据敏感场景的实用意义。
事件核心：发生了什么
曹冬冬在 CNC 非标加工行业从业 15 年，并非算法工程师。他开发了“Union·由你｜CNC 非标智造炼金术师报价系统”，并获得 AMD 锐龙 AI 智能体应用创新大赛专业组冠军。该系统解析 STEP 三维图纸，提取孔、槽、曲面、薄壁等几何特征，由本地大模型判断工艺路线，再调用 Python 公式精确计算材料、工时和表面处理成本。整套系统已迭代至第 12 个版本，增加了 DFM 可制造性分析、多路径工艺探索、白标网站和 Docker 部署等功能。
曹冬冬选择的硬件平台是 AMD 锐龙 AI Max+ 395。该平台集成 16 核 32 线程 Zen 5 CPU、40 个计算单元的 Radeon 8060S GPU 和最高 50 TOPS 算力的 XDNA 2 NPU，最高支持 128GB LPDDR5x 统一内存，内存带宽 256GB/s。他最终选用约 35B 参数的稠密模型作为主要推理模型，而非更大的 70B 或 MoE 模型。
关键设计原则是：大模型不直接计算价格。系统先解析图纸获得结构化数据，模型负责选择加工路线和刀具，最终成本由确定性程序计算，从而控制幻觉。在本地 Linux 环境中，35B 模型的生成速度约为每秒 20～30 个 Token，一个简单零件的完整分析可在约 3 分钟内完成，而人工报价通常需要两三个小时。
为什么重要
这件事提供了一个非典型样本：不是头部云厂商或算法团队，而是一线从业者用小成本硬件和开源工具链，完成了工业场景的 AI 落地。它验证了两条路径的可行性：一是“模型判断 + 程序计算”的混合架构能有效抑制大模型在专业数值任务中的幻觉；二是以大容量统一内存为特征的端侧 AI 设备，可以承接数据不能离场的工业推理需求。
目前公开信息显示，选择锐龙 AI Max+ 395 的核心原因是其 128GB 统一内存。CPU 和 GPU 共享同一内存池，能容纳本地模型、知识库、STEP 解析程序和操作系统，避免了传统分体式架构下模型权重超出显存需要频繁搬运的问题。对数据敏感、网络隔离或多分支生产环境的中小型工厂来说，这种部署方式提供了一个云 API 之外的可选项。
对用户/开发者/创作者的影响
对开发者而言，这条新闻的启示在于：本地推理的软件适配成本依然被低估。曹冬冬在迁移到 Windows 企业版时发现，客户安全软件会拦截组件，容器和驱动依赖不一定符合工厂 IT 政策，STEP 文件编码不规范也可能导致解析器崩溃。从 Demo 到产品，中间隔着操作系统、驱动、文件兼容和现场运维等一系列问题。
AI 工具推荐
想把多个 AI 模型放在一个入口？
GamsGo AI 集成 ChatGPT、DeepSeek、Gemini、Claude、Midjourney、Veo 等常用模型，适合写作、绘图、视频和日常 AI 工作流。
推广链接：通过此链接购买，我可能获得佣金，不影响你的价格。
对制造企业而言，这套系统的核心价值是可追溯性。“白盒化”设计让工程师能看到模型识别了哪些特征、选择了什么工艺、调用了哪些公式，并可在中间环节修改参数。如果报价偏低工厂会亏损，报价偏高则可能丢单，因此过程透明比结果数字更重要。
对硬件选型者而言，这个案例展示了端侧设备的取舍逻辑：统一内存扩大了模型容量，但生成速度仍受限于内存带宽和软件优化程度。它适合“单次任务持续数分钟、包含多个步骤”的工厂现场流程，而不是高并发在线服务。曹冬冬的长期规划是端云混合：图纸解析、历史报价、基础工艺判断留在本地，需要更广泛行业知识的复杂工艺再调用云端模型做校验。
值得关注的后续
一是产品复制能力。曹冬冬表示已根据不同设备和加工能力制作了 10 套初始模板，目标是覆盖一家工厂约 80% 的基础情况。不同工厂的材料偏好、设备型号和利润要求差异很大，模板能否快速适配是商业化关键。
二是 AMD 生态的成熟度。ROCm 能否持续降低开发者从 CUDA 迁移的配置门槛，以及 Windows 环境下对 llama.cpp、PyTorch 等工具的支持是否改善，将直接影响端侧 AI 设备的普及速度。
三是成本边界。如果云端 API 降价或工厂网络条件改善，本地部署的优势就会缩小。只有数据不能离场、系统需要离线运行、任务规模又能被单台设备承载这三个条件同时满足时，统一内存方案才具有直接价值。正如曹冬冬自己所说：“没有云端 API 之后，产品究竟增加了什么？如果只是为了本地而本地，那就没有必要。”
来源：InfoQ CN
