标签: API

TokenTown:直观理解LLM工作原理的可视化方式

TokenTown:直观理解LLM工作原理的可视化方式

开发者 Nikhil 推出了一款名为 TokenTown 的交互式可视化工具,用城市交通系统类比 LLM 的内部运作流程——从 token 输入、嵌入转换、注意力机制到采样输出。它不是又一个 API 文档,而是一个面向学习者的直观教学界面,已在 Hacker News 上引发讨论。

腾讯混元开源 AngelSpec 投机解码框架

腾讯混元开源 AngelSpec 投机解码框架

腾讯混元开源了AngelSpec投机解码框架,提供训练与部署的一站式解决方案。在Hy3-A21B模型上,该框架可将自回归解码端到端速度提升1.98–2.40倍,吞吐量比现有的DFlash方案高出10.5%–11.8%,并同步开放了训练代码与Drafter模型权重。

格罗克能力/狙击它

格罗克能力/狙击它

Snipe-IT 是一个基于 Laravel 12 的开源 IT 资产管理系统,提供硬件跟踪、软件许可管理等功能,并拥有丰富的第三方集成和活跃社区。对于需要精细化资产管理的运维团队和开发者来说,它是一个可靠且可扩展的选择。