TWITTER / X
低成本 RL 微调方案:20 美元以内让 Qwen3.5-0.8B 在工具调用测试集上从 10% 提升到 36%
推主转发 younes 的介绍帖,宣称可通过结合强化学习(RL)与 Hugging Face jobs 的方式,在目标 harness 上以不到 20 美元的成本微调小模型。据作者声称,该方法将 Qwen3.5-0.8B 在其测试集上的表现从 10% 提升至 36%,同时把工具调用次数减少了近一半;整套流程可在单张 24GB GPU 上运行,且无需生成合成轨迹(synthetic trajectories)。帖文附有详细线程(🧵),但冻结文本中仅包含此引导段,具体方法细节未呈现。
AI 解读
本条属于 AI 模型训练/微调方法类内容,具有明确的新闻价值:它针对的是"低成本让小模型适配特定智能体任务 harness"这一实际痛点,方法要素(RL + HF jobs、单张 24GB GPU、无需合成轨迹)均为原文明确陈述。需要区分的边界:10%→36% 的提升幅度、"工具调用减少近一半"等均为作者声称的性能数据,未经独立验证,且测试集为其自有测试集,泛化性无法从文本确认;"Qwen3.5-0.8B"这一模型名称与官方命名是否一致也无法从材料核实。合理的行业推断(明确为推断):如果该方法可复现,可能降低智能体场景下小模型定制的门槛与成本,对边缘部署和低成本 AI 应用有潜在影响,但这取决于线程后续细节(RL 算法、奖励设计、harness 细节),冻结文本未提供。发布时间 2026-10-19,属于较新内容。
推文原文
RT younes Adapt your small model on your target harness with less than 20$ using RL + HF jobs ! We improved Qwen3.5-0.8B from 10% to 36% on our test set by reducing the number of tool calls by almost 2. Everything fits on a single 24GB GPU and no need to generate synthetic trajectories ! 🧵 👇