阿里云开源推理模型QwQ-32B,性能比肩满血版DeepSeek-R1,通义APP可用
3月6日消息,阿里云开源推理模型QwQ-32B,性能媲美6710 亿参数的DeepSeek-R1。据介绍,QwQ-32B是基于Qwen2.5-32B+强化学习炼成,开发者和企业可以在消费级硬件阿里上轻松将其部署到本地设备中。 用户可以通过Qwen Chat(https://chat.qwen.ai)在线体验访问。 用户也可通过通义APP免费体验最新的千问QwQ-32B模型。 目前,QwQ云开-32B 已在Hugging Face和ModelScope魔搭社区开源,采用了 Apache 2.0 开源协议。 所有人都可免费下载模型进行本地部署,或者通过阿里云百炼平台直接调用模型API服务。 对于云端部署需源推求,用户可通过阿里云PAI平台完成快速部署,并进行模型微调、评测和应用搭建;或是选择容器服务ACK搭配阿里云GPU算力(如GPU云服务器、容器计算服务ACS等),实现模型容器化部署和高效推理。 QwQ-理模32B团队指出,大规模强化学习(RL)有潜力超越传统的预训练和后训练方法来提升模型性能。近期的研究表明,强化学习可以显著提高模型的推理能力。例如,DeepSeek R1 通过整合冷启动数据和多阶段训练,型Q实现了最先进的性能,使其能够进行深度思考和复杂推理。 最新的推理模型 QwQ-32B,是一款拥有320亿参数的模型,其性能可与具备 6710 亿参数(其中 370 亿被激活)的 DeepSeek-R1 媲美。 QwQ-wQ32B 在一系列基准测试中进行了评估,测试了数学推理、编程能力和通用能力。以下结果展示了 QwQ-32B 与其他领先模型的性能对比,包括 DeepSeek-R1-Distilled-Qwen-32B、Deep-3Seek-R1-Distilled-Llama-70B、o1-mini 以及原始的 DeepSeek-R1。 QwQ-32B 模型表现出色,几乎完全超越了OpenAI-o1-mini,比肩最强开源推理模型D2BeepSeek-R1:在测试数学能力的AIME24评测集上,以及评估代码能力的LiveCodeBench中,千问QwQ-32B表现与DeepSeek-R1相当,远胜于o1-mini及相同尺寸,性的R1蒸馏模型;在由Meta首席科学家杨立昆领衔的“最难LLMs评测榜”LiveBench、谷歌等提出的指令遵循能力IFEval评测集、由加州大学伯克利分校等提出的评估准确调用函数或工具方面的BF能比CL测试中,千问QwQ-32B的得分均超越了DeepSeek-R1。 QwQ-32B团队表示,这一成果突显了将强化学习应用于经过大规模预训练的强大基础模型的有效性。此外,研发团队还在QwQ-32肩满B推理模型中集成了与 Agent 相关的能力,使其能够在使用工具的同时进行批判性思考,并根据环境反馈调整推理过程。 据介绍,在初始阶段,QwQ-32B模型特别针对数学和编程任务进行了 RL 训练。与依赖传统的奖血版励模型(reward model)不同,通过校验生成答案的正确性来为数学问题提供反馈,并通过代码执行服务器评估生成的代码是否成功通过测试用例来提供代码的反馈。随着训练轮次的推进,这两个领域中的性能均De表现出持续的提升。在第一阶段的 RL 过后,增加了另一个针对通用能力的 RL。此阶段使用通用奖励模型和一些基于规则的验证器进行训练。最后发现,通过少量步骤的通用 RL,可以提升其他通用能力,同时在数学和编ep程任务上的性能没有显著下降。(果青)
- 最近发表
- 随机阅读
-
- Pytorch中的NN模块并实现第一个神经网络模型
- 为淘汰Cookie推广“隐私沙箱” 谷歌向英国反垄断部门妥协
- 标签: DeepSeek
- 标签: 长江存储 Kimi 特斯拉 月之暗面
- 2021年数据展望,第一部分:人工智能和云数据仓库的未来
- 云计算核心技术Docker教程:Docker使用覆盖网络
- AI破解 《死海古卷》背后秘密:不止一位抄写员
- 股价屡创新高,亚马逊超两万名员工确诊新冠!亚马逊公司再遭调查
- 机器学习也能套模版:在线选择模型和参数,一键生成demo
- 谷歌内部虚拟桌面效果惊艳媲美微软同款 却无对外开放打算?
- 标签: 小牛电动 电动滑板车 财报 2025年
- 标签: 享界S9 享界汽车 麋鹿测试 中汽中心
- 标签: 雷军 小米 人形机器人 智能网联汽车
- Salesforce公司是如何发现人工智能人才以及如何提升人才技能的
- 澳大利亚要求谷歌和Facebook为新闻付费 但新闻网站可能造假
- 标签: 英伟达 黄仁勋 清华大学经管学院 蒂姆·库克
- 上海发布"AI+制造"实施方案,要求AI模型掌握物理规律和工业流程推理能力
- 数据备份失败引发数据保护挑战
- 云基础架构-云原生DevOps的全面介绍
- 微软调整 Microsoft365Copilot,取消默认 AI 内容免责声明
- 搜索
-
- 友情链接