issue: Connection to a macos 27 machine running the foundation model fm in server mode

用户通过 Docker 运行 Open WebUI (v0.10.2),在管理员面板中配置连接到一台 macOS 机器上运行的 fm serve --host 0.0.0.0 --port 1976 基础模型服务。使用 OpenAI 兼容的 /v1/chat/completions 端点,模型 ID

用户通过 Docker 运行 Open WebUI (v0.10.2),在管理员面板中配置连接到一台 macOS 机器上运行的 fm serve --host 0.0.0.0 --port 1976 基础模型服务。使用 OpenAI 兼容的 /v1/chat/completions 端点,模型 ID

用户在调用 Hugging Face Transformers 模型的 .generate() 方法时,尝试使用 torch CUDA graphs 进行推理加速(例如自行将模型整体包裹在 CUDA graph wrapper 中),但 stream capture 失败。单独使用模型的 forwa

用户使用 Hugging Face Transformers 加载 ibm-granite/granite-4.0-350m-base 模型,调用 model.generate() 进行文本生成时触发该错误。系统环境为 Ubuntu 24.04 with Python 3.12.12、Transfo

用户在 Windows 11 系统上使用 Ollama 0.15.6 运行 Qwen2.5-7B(Q4_K 量化)模型,通过 VS Code Continue 扩展发送流式请求。模型加载成功,29 层全部卸载到 Intel Arc 140V GPU,Flash Attention 已启用。在 Con

苹果起诉OpenAI窃取商业机密,不仅是一场知名科技公司之间的法律纠纷,更可能直接影响OpenAI正在推进的硬件研发计划,并对整个AI行业的合作与竞争规则产生连锁效应。

北京月之暗面(Moonshot AI)发布的新模型Kimi K3,在多项基准测试中击败了Anthropic和OpenAI的最新旗舰模型,且成本低40%,计划开源。这一事件表明中国AI正在快速缩小甚至抹平与美国在顶尖大模型上的差距。

Anthropic CEO 向美国国会报告,其调查发现月之暗面旗下 Kimi K3 模型可能“蒸馏”了一个 Anthropic 尚未开发完成的模型,这引发了未来模型泄露(Future Model Leakage)的行业新议题,即模型在发布前可能已被对手的数据训练过程暗中学习。

《华尔街日报》援引知情人士消息称,SpaceX正在与美国国防部(DOD)讨论一项规模庞大的合作:向军方提供价值数十亿美元的数据中心容量,用于运行AI模型。这不仅是SpaceX从火箭发射向云计算服务延伸的关键一步,也标志着美国军方对AI算力的需求正在催生新的供应商格局。

OpenAI 在推出“新” ChatGPT 桌面应用后遭遇大规模用户反弹,被迫紧急回滚关键功能并承认产品设计失误。这场被媒体比作“新可乐”的失败,揭示了 AI 公司在激进产品迭代中忽视基本用户体验的代价。

OpenAI 因将复杂工具 Codex 强制捆绑并更名为 ChatGPT,引发用户强烈反弹,随后紧急调整产品,恢复了新版 ChatGPT 中聊天功能的中心地位。但批评者认为,这只是表面修复,产品方向混乱的根本问题尚未解决。