腾讯提出无训练优化方法:120元成本实现传统7万元微调效果
腾讯AI实验室近期发布了一种名为"无训练组相对策略优化"(Training-Free GRPO)的新型模型优化技术。这一方法通腾讯过外部知识库更新替代传统参数微调,在大幅降低训练成本的同时,实现了与昂贵微调方案相当的性能提升。 该技术的核心创新在于将经验知识转化提出为token级别的先验信息,使大模型在参数完全冻结的状态下完成性能优化。腾讯研究团队在DeepSeek-V3.1-Terminus模型无训上进行的实验显示,这种方法在数学推理和网络搜索等任务中均取得了显著效果。 从技术实现角度看,传统大语言模型在处理需要外部工具调用的复杂任练优务时常常表现欠佳。而Training-Free GRPO通过保持模型主体参数不变,仅动态维护一个外部经验知识库的方式来提升能力化方。这种设计不仅大幅削减了计算资源消耗,还增强了模型的跨领域泛化能力。 实验数据具体体现了这一方法的有效性。在数学竞赛级测试AIME2法:4和AIME25中,经过Training-Free GRPO优化的DeepSeek-V3.1-Terminus模型准确率分别从80%和6127.9%提升至82.7%和73.3%。更关键的是,这一提升仅使用了100个跨域训练样本,而传统强化学习方法通常需要数千个样本0元才能达到类似效果,后者的成本往往高达数万美元。 在网络搜索任务的测试中,该方法同样表现出色,模型的Pass@1指标从63.2%提成本升至67.8%。这一系列测试结果表明,Training-Free GRPO在保持低成本投入的前提下,能够在多种任务类型中实现稳定的性实现能改善。 从成本对比来看,官方数据显示使用Training-Free GRPO优化一个模型仅需约120元人民币,而传统的参数微调传统方案通常需要投入7万元左右的计算资源。这一成本差距主要源于该方法无需进行梯度回传和参数更新等计算密集型操作。 这项技术的发布为AI模7万型优化提供了新的思路方向。特别是对于资源受限的中小企业和研究机构而言,这种低成本高效率的优化方案降低了大模型应用的门槛。不过需要注元微意的是,该方法的适用范围和在更多场景下的表现还有待进一步验证,当前公布的测试数据主要集中在数学推理和信息检索等特定任务上。 论调效文地址:https://arxiv.org/abs/2510.08191
- 最近发表
- 随机阅读
-
- 标签: 汽车之家 奥迪E5 中央网信办 汽车互联网
- 人工智能和物联网等技术可以在缓解气候变化风险方面发挥巨大作用
- 只低一毫米,时间也会变慢!科学家首次在毫米尺度验证广义相对论
- 谷歌再陷大麻烦!美国10州联手指控其违反反垄断法
- Facebook计划今年晚些时候推出数字加密货币试点服务
- 微软、谷歌、亚马逊,正在打响大模型时代的云战争
- 视觉中国与多家AI公司合作开发可商用视觉大模型:已获阿里、微软等订单
- 标签: 长鑫科技 科创板IPO DRAM 朱一明
- 标签: DeepSeek 无问芯穹 十五五规划 AI+制造
- 中国AI内容监管重磅出击:9月1日新规正式落地,DeepSeek腾讯字节全面响应打标令
- 美国劳动关系委员会指控亚马逊在疫情期间非法解雇员工
- 亚马逊正开发交换芯片减轻对博通依赖:项目此前严格保密
- 全球领先!阿里云将数据中心交付周期缩短至100天
- 法国 AI 巨头 Mistral 即将获得 140 亿美元估值
- 标签: 北京亦庄机器人半马 WWDC26 iOS27 Siri PuraXMax
- 腾讯云多款核心产品降价最高降幅40% 助力AIGC开发者
- 云计算核心技术Docker教程:Docker 守护进程dockerd允许推送工件
- 云安全日报210818:Ubuntu Linux内核发现任意代码执行漏洞,需要尽快升级
- 阿里云开源全模态模型Qwen2.5-Omni-7B,手机上就能部署
- OpenAI 计划未来五年追加 1000 亿美元服务器投资
- 搜索
-
- 友情链接