标签: ChatGPT

AI 与基础设施工程

AI 与基础设施工程

一名基础设施工程师记录了日常工作中 AI 对编写 Terraform 模块和 Helm Chart 的显著替代作用,并提出这一过程并非让工程师冗余,而是继 Kubernetes 之后,又一次把工作单元从“机器”上移到“工作负载”与“架构决策”。

AI Chip Architectures

AI Chip Architectures

一篇系统性的技术长文梳理了当前 AI 芯片的主流架构路线,指出 GPU、TPU 和类 TPU 的脉动阵列加速器是目前唯一大规模落地的方案,而英伟达以绝对优势领先,AMD 紧随其后,Cerebras 和 Groq 则分别通过新合作或被收购进入战场。

Sam Altman 称担心 AI 被少数巨头掌控

Sam Altman 称担心 AI 被少数巨头掌控

OpenAI CEO Sam Altman 在播客中公开表达了对 AI 未来权力结构的担忧:技术可能被少数公司或个体垄断,而公众失去话语权。他同时暗示,部分同行以“安全”为由推动严格监管,反而可能加速这种垄断。

用纯 CMake 实现 GPT-2

用纯 CMake 实现 GPT-2

开发者 AlpinDale 发布了一个名为 gpt2.cmake 的开源项目,用纯 CMake 脚本语言配合 Q16.16 定点整数运算,在不需要 Python 环境或 GPU 的情况下跑通了 GPT-2 模型的完整推理。这个项目证明了大模型推理可以被压缩进极简工具链,也为嵌入式设备和边缘计算场景提供了一种新…

用纯 CMake 实现 GPT-2

用纯 CMake 实现 GPT-2

开发者 alpindale 在 GitHub 上发布了一个用纯 CMake 实现的 GPT-2 项目,将构建工具当作解释型语言来运行大模型推理。这项实验性项目本身速度极慢,但展示了 AI 推理在非传统技术栈上的极端可能。

在系统提示词中说四遍

在系统提示词中说四遍

Hacker News 上出现了一篇题为“在系统提示词中说四遍”的讨论帖,帖子内容与提示词工程和系统提示词的设计策略有关,核心指向当前大模型应用中对关键指令重复强调的实践与效果讨论。

用统计数据预测AI模型发布日期

用统计数据预测AI模型发布日期

Hacker News 上出现了一种用统计数据预测 AI 模型发布日期的方法,试图通过历史发布节奏和公开信息估算下一轮大模型的时间窗口。这件事本身不是官方公告,但它反映了社区对 AI 发布节奏的焦虑和追踪方式的进化。