TWITTER / X
Hugging Face 工程师分享:20 美元内用 RL 在目标 harness 上微调小型模型,Qwen3.5-0.8B 测试表现从 10% 提至 36%
Hugging Face 团队成员转发 younes 的帖子:作者声称用 RL 加 Hugging Face jobs,花费不足 20 美元即可在目标 harness 上微调小型模型,将 Qwen3.5-0.8B 在自有测试集上的表现从 10% 提升到 36%,同时将工具调用次数减少近一半;流程可在单张 24GB GPU 上运行,无需合成轨迹,并附详细线程。
AI 解读
原帖作者(经 LysandreJik 转发)声称:可以通过强化学习(RL)加 Hugging Face jobs,以不到 20 美元的成本,在目标 harness 上微调小型模型。作者声称将 Qwen3.5-0.8B 在自有测试集上的表现从 10% 提升到 36%,同时将工具调用次数减少约一半;整套流程可在单张 24GB GPU 上完成,且无需生成合成轨迹,并附带了线程展开说明。需要注意:所有数字(成本、性能提升幅度)均为作者自称,原文未提供测试集、评估方法或复现细节,无法独立确认。若内容属实,其价值在于展示了低成本、低硬件门槛的模型适配方法,对小模型落地工具调用类任务有参考意义。
推文原文
RT younes Adapt your small model on your target harness with less than 20$ using RL + HF jobs ! We improved Qwen3.5-0.8B from 10% to 36% on our test set by reducing the number of tool calls by almost 2. Everything fits on a single 24GB GPU and no need to generate synthetic trajectories ! 🧵 👇