TWITTER / X
社区发布 DeepSeek-V4.1-Flash-1017 四个量化版本,宣称"完全无审查"并附对比基准
Elliot Arledge(经 LLMJunky 转推)宣布,新 DeepSeek 检查点 DeepSeek-V4.1-Flash-1017 的四个量化版本已在 Hugging Face 上线,发布者为 Infatoshi:MXFP4、NVFP4,以及 EXL3 的 2.875 bpw 和 3.5 bpw 两种位宽。作者声称这些版本"完全无审查",并称链接内含越狱基准(jailbreak bench)、推理性能与质量对比图表,方便用户按图表挑选版本;作者个人在本地 4 张 RTX Pro 6000 上运行 MXFP4 版本。需注意:"无审查"及基准数据均为作者声称,无法从帖子本身核验;该发布疑为社区第三方量化而非 DeepSeek 官方行为,官方关系无法确认。"uncensored" 版本涉及越狱评测,存在安全与合规争议。
AI 解读
该帖(转推自 Elliot Arledge)发布称,新 DeepSeek 检查点的四个量化版本已在 Hugging Face 上线:MXFP4、NVFP4,以及 EXL3 的 2.875 bpw 和 3.5 bpw 两种位宽。作者声称这些版本"完全无审查(fully uncensored)",并表示链接中附有 jailbreak bench、推理性能与质量测量的对比图表,便于读者选择版本;作者还称其个人在本地 4 张 RTX Pro 6000 显卡上运行 MXFP4 版本。需要强调的限制:1)"新 DeepSeek 检查点"指 DeepSeek-V4.1-Flash-1017,但帖子未说明这是 DeepSeek 官方发布还是社区第三方量化/微调,从 Hugging Face 用户名 "Infatoshi" 看更可能是社区制作者,无法确认其与 DeepSeek 官方的关系;2)"fully uncensored" 及相关基准数据均为作者单方面声称,帖子本身未给出可核验的分数;3)"jailbreak bench" 对比涉及越狱能力评测,此类内容在安全与政策层面存在争议。行业影响(推断):低精度量化格式(MXFP4/NVFP4/EXL3)正成为本地大模型部署的主流路径,此类社区量化版本降低了本地运行大模型的硬件门槛,但也带来未经官方审查的模型分发与安全风险。
推文原文
RT Elliot Arledge mxfp4, nvfp4, exl 2.875 bpw, and exl 3.5 bpw versions of the new deepseek checkpoint are out now, fully uncensored! jailbreak bench, inference perf, quality measurements are all in the links comparing each version to each other. so you should only need to click on one to decide from the charts ive added. im personally using the mxfp4 version on my local 4x rtx pro 6k rig. enjoy :) https://huggingface.co/Infatoshi/DeepSeek-V4.1-Flash-1017-MXFP4-uncensored https://huggingface.co/Infatoshi/DeepSeek-V4.1-Flash-1017-NVFP4-uncensored https://huggingface.co/Infatoshi/DeepSeek-V4.1-Flash-1017-EXL3-2.875bpw-uncensored https://huggingface.co/Infatoshi/DeepSeek-V4.1-Flash-1017-EXL3-3.5bpw-uncensored