Hetzner 正在研发 LLM 推理

德国老牌云服务商 Hetzner 推出了一项名为 Hetzner Inference 的实验性 AI 推理 API,目前仅支持一个开源模型,且不提供任何 SLA 或计费。这标志着以低价裸金属服务器闻名的 Hetzner,正试水大模型推理这一基础设施层,可能改变中小开发者的算力选择格局。
先解决问题,再了解资讯。选择你现在要完成的任务。

德国老牌云服务商 Hetzner 推出了一项名为 Hetzner Inference 的实验性 AI 推理 API,目前仅支持一个开源模型,且不提供任何 SLA 或计费。这标志着以低价裸金属服务器闻名的 Hetzner,正试水大模型推理这一基础设施层,可能改变中小开发者的算力选择格局。

英伟达CEO黄仁勋公开批评同行过度渲染AI“毁灭性”叙事,呼吁业界转向积极讨论。他认为,有关大规模失业、中国威胁论等恐慌性言论不仅吓唬公众,也可能阻碍AI技术的实际落地。

Black Forest Labs 发布了多模态基础模型 FLUX 3,并联合机器人公司 mimic robotics 推出了视频动作模型 FLUX-mimic。该模型基于同一骨干网络同时支持视频生成与机器人动作预测,并且已在奥迪生产线上测试部署。

Anthropic 研究员、前 OpenAI 成员 Andrej Karpathy 公开分享了一个反直觉的 AI 使用技巧:不要精心编写提示词,而是开启语音模式,对大型语言模型“唠叨”10 分钟。他认为,这种混乱的“意识流”输入方式,反而能帮助 AI 更准确地理解用户的真实意图。

在 Open WebUI v0.10.2(Docker 部署)中,使用 OpenAI 兼容后端(如 AWS Bedrock Guardrails、Azure OpenAI 内容过滤),当 RAG 知识库查询生成任务调用被内容过滤器拦截并返回 finish_reason: "content_filte

用户在使用 Open WebUI 内置工具 search_memories 时触发。该工具原本通过向量相似性搜索(vector similarity search)从嵌入数据库中检索语义相关的记忆。但在 commit dbdcfd8c6 (2026年6月29日)之后,该工具不再使用向量数据库,改为从

用户使用 Open WebUI 的 Knowledgebase (知识库)功能,当知识库中包含约 2500 个文档时,调用 LLM 的原生函数调用(Native Function Calling)触发 kb_exec grep 工具进行搜索时,始终返回 "Too many files" 错误。即使通

深夜秀主持人 Seth Meyers 调侃 Elon Musk 计划用 AI 制作一版“史上最准确”的《奥德赛》电影,认为这一行为既荒谬又暴露了 Musk 对 AI 创作的理解偏差。该事件再次引发公众对 AI 生成影视内容质量与合理性的讨论。

OneCLI 是一个开源凭证网关,让 AI 代理在调用外部 API 时无需接触真实密钥,从而避免密钥泄露风险。该项目已在 GitHub 上发布,支持本地快速部署。

网络安全公司Check Point的最新研究显示,ChatGPT首次进入品牌仿冒攻击Top10榜单,占到所有追踪到的品牌仿冒事件的1.1%。这意味着AI工具的热度正被网络攻击者利用,ChatGPT已与微软、谷歌、苹果等老牌科技巨头一同成为高风险仿冒目标。