标签: API

llm 0.32rc2

llm 0.32rc2

LLM 命令行工具发布 0.32rc2 版本,新增 llm openai endpoint 命令,让开发者可以用一行命令对任意 OpenAI 兼容接口做提示词测试,无需预先安装 LLM 本身。

Inkling-Small

Inkling-Small

Thinking Machines 发布了开源模型 Inkling-Small——一个总参数 276B、激活参数仅 12B 的 MoE(混合专家)模型,体积只有 Inkling 的四分之一,但在推理、智能体工具调用和指令跟随等任务上表现接近甚至反超。对开发者而言,这是用更低算力成本获得接近旗舰模型能力的新选择…

借助NVIDIA nvmath-python大规模运行高性能核心数学

借助NVIDIA nvmath-python大规模运行高性能核心数学

NVIDIA 正式发布 nvmath-python v1.0,这是一个让 Python 开发者无需编写底层 C++ 代码就能直接调用 CUDA-X 高性能数学库的工具。它解决了科学计算社区长期面临的“易用性与高性能难兼得”的问题,对于需要大规模矩阵运算、傅里叶变换(FFT)、稀疏矩阵处理等场景的 AI 开发和…

又挖到8个越老越香的 GitHub 项目,发布几年还在涨星 1. openclaw/openclaw 功能:在你自己的电脑或服务器上运行一个个人助理程序,能执行本地指令、调用工具。 解决:不想把个人数据发给第三方AI助理,又想拥有自动化助手的需求。 https://t.co/3RKAcKUhpt 2. awesome-selfhosted/awesome-selfhosted 功能:这是一个精选列表,收集了各类可以自行部署的开源软件,…

又挖到8个越老越香的 GitHub 项目,发布几年还在涨星 1. openclaw/openclaw 功能:在你自己的电脑或服务器上运行一个个人助理程序,能执行本地指令、调用工具。 解决:不想把个人数据发给第三方AI助理,又想拥有自动化助手的需求。 https://t.co/3RKAcKUhpt 2. awesome-selfhosted/awesome-selfhosted 功能:这是一个精选列表,收集了各类可以自行部署的开源软件,…

推特用户 @camellia_lly 整理出 8 个持续更新多年、仍在涨星的 GitHub 开源项目,覆盖本地大模型运行、个人 AI 助手、可视化工作流、多智能体协作等方向。这批项目说明“自托管 AI”和“数据主权优先”正从一个技术选择变成主流趋势。