标签: 大模型

DFlash 2:保持并行草拟

DFlash 2:保持并行草拟

推理引擎公司 Inco AI 发布 DFlash 2,一种并行草稿解码方案,能让大模型在单次前向传播中同时生成更多 token,吞吐量相比自回归解码提升约 2.7–3.4 倍,且输出质量不变。该方案已集成进 SGLang、vLLM、llama.cpp 等主流推理框架。

发现一个能赚点外快的任务平台! 字节旗下的模兜,是为豆包大模型采集训练数据的众包平台。 可以在上面找适合的任务去做,包含方言对谈、行业访谈等,时薪几十至数千元不等。 有空闲时间、感兴趣的朋友可以了解试试! https://t.co/dNzeOudC5f

发现一个能赚点外快的任务平台! 字节旗下的模兜,是为豆包大模型采集训练数据的众包平台。 可以在上面找适合的任务去做,包含方言对谈、行业访谈等,时薪几十至数千元不等。 有空闲时间、感兴趣的朋友可以了解试试! https://t.co/dNzeOudC5f

字节跳动旗下众包平台“模兜”被曝面向公众开放,普通人可通过完成方言采集、行业访谈等任务,为豆包大模型提供训练数据并获取报酬。这揭示了大模型训练数据采集正从专业机构走向“全民兼职”的新趋势。

Ornith-1.5:从自我构建到自我优化

Ornith-1.5:从自我构建到自我优化

AI 公司 Ornith 发布新一代开源模型 Ornith-1.5,覆盖 397B、35B 和 9B 三个规模。它最大的变化是让模型自己生成训练任务、工具框架和解题过程,再通过强化学习持续自我优化,不再依赖固定的人工标注数据。

Unsloth Dynamic 3.0 GGUFs

Unsloth Dynamic 3.0 GGUFs

Unsloth 正式发布 Dynamic v3.0 量化方案,并率先推出 Qwen3.8-27B 的动态量化版本。新方案在同等文件大小下比同类产品提升超过 10% 的 top-1% 准确率,同时保留了更完整的模型能力,且可以兼容 llama.cpp 等主流推理引擎。

OpenRouter 加入 Stripe 加速多模型使命

OpenRouter 加入 Stripe 加速多模型使命

AI 模型聚合平台 OpenRouter 宣布加入支付服务商 Stripe,在保持品牌与产品独立运营的前提下,借助 Stripe 的资源加速其“多模型智能”使命。这家日处理超 10 万亿 token、覆盖 400 多个模型的平台,正在寻求更稳定的商业化基础设施。

神了,有神人用破甲模型中转站拿 AI 攻击中国政府网站,最后把整个中转站都送走了。 今天看到好几个破甲模型站的群直接炸了。 这里解释一下什么叫「破甲模型站」。 简单来说,就是有人通过越狱提示词、修改 System Prompt 等方式,绕过或削弱开源、闭源模型原本的安全限制,再通过 API 中转站把这些「破甲」后的模型提供给用户使用。 根据流传的截图,有个群主在群里称,有人用「破甲模型」攻击政府网站,今天开始被慢慢排查,随后管理员直接…

神了,有神人用破甲模型中转站拿 AI 攻击中国政府网站,最后把整个中转站都送走了。 今天看到好几个破甲模型站的群直接炸了。 这里解释一下什么叫「破甲模型站」。 简单来说,就是有人通过越狱提示词、修改 System Prompt 等方式,绕过或削弱开源、闭源模型原本的安全限制,再通过 API 中转站把这些「破甲」后的模型提供给用户使用。 根据流传的截图,有个群主在群里称,有人用「破甲模型」攻击政府网站,今天开始被慢慢排查,随后管理员直接…

有用户通过“破甲模型”API 中转站,尝试攻击中国政府网站并疑似获取后台权限,最终导致该中转站宣布停止运营。这件事首次将“无安全限制大模型被用于真实网络攻击”从讨论变成了实战案例。