蚂蚁百灵推出开源高效思考模型,推理成本大幅降低
蚂蚁百灵大模型团队近日宣布,正式开源两款全新的高效思考模型:Ring-flash-l蚂蚁inear-2.0和 Ring-mini-linear-2.0。这些模型专为提高深度推理效百灵率而设计,同时发布的还有两款自主研发的高性能融合算子,分别是 FP8融合算子和线性 Att推出ention 推理融合算子,旨在实现 “大参数、低激活” 的高效推理与超长上下文支持。 根据团队开源介绍,得益于架构的优化与高性能算子的协同工作,这两款新模型在深度推理场景下的成本仅为同高效等规模的密集模型的十分之一,而与之前的 Ring 系列相比,推理成本也降低了超过50%。这意思考味着,用户在进行复杂推理时,可以大幅降低计算资源的消耗,提升工作效率。 新模型的优势不仅在模型于成本的降低,另外一个重要因素是其训练与推理引擎算子的高度对齐。这种对齐允许模型在强,推化学习阶段进行长周期、稳定且高效的优化,使得这些模型在多个高难度推理榜单中持续保持最佳表现理成(SOTA)。这无疑为使用者在需要进行复杂推理任务时提供了更强大的工具。 作为开源项目本大,Ring-flash-linear-2.0和 Ring-mini-linear-2.0幅降已在多个平台上发布,包括 Hugging Face 和 ModelScope。对此,开发者们可以蚂蚁在这些平台上获取更多信息并进行尝试。 随着这次开源,蚂蚁百灵大模型团队不仅展示了其在 AI 领域的百灵技术实力,也为广大开发者提供了更为高效的工具,助力他们在未来的 AI 开发与研究中取得更大的突破。
- 最近发表
-
- 标签: 新世纪医疗
- 6天后正式发布,5nm芯片再添一重量级成员,与苹果抢市场
- 谷歌AI实验室DeepMind向加拿大扩张 成立小型研究团队
- 标签: 高光制药 Biohaven 梁从新 高瓴
- 云计算开发:Python练习实例-字母判断
- 标签: 德州仪器 芯科科技 Silicon Labs 嵌入式无线连接
- 谷歌 DeepMind 推出解耦式 DiLoCo:提升异步训练架构,容忍硬件故障
- 云安全日报220308:Ubuntu Redis数据库发现执行任意代码漏洞,需要尽快升级
- 拥有《007》的亚马逊能否击杀“流媒体之王”Netflix?
- AI版《绿野仙踪》轰动拉斯维加斯!球形巨幕剧院打造史上最震撼观影体验,却引发好莱坞激烈争议
- 随机阅读
-
- 云计算开发:Python练习实例-找到年龄最大的人,并输出
- 实时高保真渲染,基于PlenOctrees的NeRF渲染速度提升3000倍
- Reddit 测试新功能:用户可在应用内阅读文章并查看评论
- Facebook推新功能 用类似Twitter的Threads串連相關帖子
- 如履平地!波士顿动力Atlas学会了跑酷,但幕后花絮比正片更精彩
- 标签: 格力 董明珠 比亚迪 欧盟关税
- 标签: DeepL 雅罗斯瓦夫·库蒂洛夫斯基 AI翻译 德国初创公司
- 谷歌新工具重塑 AI 编程:Chrome DevTools MCP 赋予 AI 浏览器调试能力,实现开发全流程闭环
- IDC:2021年一季度全球智能机出货量3.46亿部 三星重回第一
- Twitter发行12.5亿美元可转债 用于偿还到期债券
- 5个问题,理清做用户画像的成功之道
- 标签: Luminar LiDAR 破产保护 激光传感器
- 标签: 禾芯动力 AWE2026 植保无人机P100S 浙江大学
- 标签: Anthropic Claude Opus 4.6 AI融资 英伟达
- 标签: 海辰储能
- 标签: 汽水音乐 AI 音乐
- 标签: 网信北京 清朗京华 北京市网信办 东北雨姐
- 1Password 推出新功能可以修复 AI 浏览器代理的登录安全性
- 云安全日报210508:思科企业超融合解决方案发现命令注入漏洞,需要尽快升级
- 张勇再发阿里云全员信:「客户第一」不是挂墙上的标语
- 搜索
-
- 友情链接