TWITTER / X
NVIDIA Nemotron Labs 发布开源权重推理模型 Dory1.0-4B:单 checkpoint 内可调推理算力,最高 256K 上下文
ModelScope 宣布上架 NVIDIA Nemotron Labs 的开源权重推理模型 Dory1.0-4B:4B 参数、最高 256K 上下文,开发者可在单一 checkpoint 内通过改变共享循环块的循环次数来调节推理算力,无需重训练或换模型。厂商自测显示两轮循环时在 SWE-bench Verified 上达 59.5 分(高于 Qwen3.5-4B 的 54.7),并提供 BF16、MXFP8、NVFP4、Q5_K_M 等格式,采用 OpenMDW License Agreement v1.1 许可。需注意基准分数为厂商自测口径。
AI 解读
这是一条由 ModelScope 官方账号发布的新模型上架公告,介绍 NVIDIA Nemotron Labs 发布的开源权重推理模型 Dory1.0-4B。原文明确陈述的信息包括:4B 参数、最高 256K 上下文、单一 checkpoint 内通过循环运行共享循环块(recurrent block)来调节推理算力,无需重训练或更换模型;在厂商自测(vendor evaluation)中,两次循环时在 SWE-bench Verified 上得 59.5,高于 Qwen3.5-4B 的 54.7;额外循环带来的是每 token 的潜在计算(latent compute)增加而非生成更多 token;提供可选的最后一轮 KV 缓存以控制缓存开销;发布格式包括 BF16、MXFP8、NVFP4 和 Q5_K_M;采用 OpenMDW License Agreement v1.1 许可,并在 ModelScope 上架(nv-community/NVIDIA-Nemotron-Labs-Dory1.0-4B-BF16)。需要区分声明与事实:SWE-bench 分数为厂商自测口径,未经第三方复现,应视为作者声称;模型实际效果、长上下文稳定性等需独立验证。行业影响(推断部分):单 checkpoint 内可调推理算力的设计与近期 latent reasoning / 循环计算路线一致,可能降低按任务调整精度-延迟权衡的工程成本;量化到 NVFP4 等格式也有利于推理部署成本优化,但生态接受度与许可条款的实际限制有待观察。来源为 ModelScope 账号,保留原文链接与模型名官方写法。
推文原文
NVIDIA Nemotron Labs Dory1.0-4B is an open-weight reasoning model with up to 256K context, letting developers adjust inference compute within a single checkpoint. 🤖 https://modelscope.ai/models/nv-community/NVIDIA-Nemotron-Labs-Dory1.0-4B-BF16 🔁 One checkpoint, adjustable compute: Run the shared recurrent block for different numbers of loops to balance latency and accuracy per task, with no retraining or model swap. 🏆 Stronger coding-agent results at 4B: At two loops, it reaches 59.5 on SWE-bench Verified in the vendor evaluation, ahead of Qwen3.5-4B at 54.7. 🧠 Extra thinking without longer answers: More loops add latent compute per token instead of simply generating more tokens. ⚡ Loop without compounding cache cost: Optional last-loop KV caching keeps one cache per recurrent attention layer, avoiding extra KV-cache overhead as loop count grows. 📚 Built for long-context workloads: 4B parameters, up to 256K context, and releases in BF16, MXFP8, NVFP4, and Q5_K_M formats. 📜 OpenMDW License Agreement v1.1.