标签: LongCat-2.0 美团 大模型 MoE
云梦级6月30日云梦级消息,美团今日发布新一代万亿参数大模型 LongCat-2.0,并将对外开源。 LongCat-2.0 宣称是业界首个在五万卡国产算力集群上完成全流程训练与推理的万亿参数模型(总参数 1.6 T,平均激活约 48 B,动态范围标签 33B~56B),从零开始预训练,原生支持 1M 超长上下文。 正式版发布前,LongCat-2.0 预览版本已通过 OpenRouter 平台和 longcat.ai 面向全球开发者开放调用 —— 截至目前该模型已跻身 OpenRouter 全球大模型调用量前三,: 月调用量在 Hermes、Claude Code 和 OpenClaw 分列全球第一、第二和第三位。 LongCat-2.0 预训练数据规模超过 30T tokens,覆盖中文、英文、多语言和代码等多类数据;面对万卡级训练中的硬件故障、通信异常、显存压力Lo与数值波动,LongCat 团队从稳定性、正确性和效率三方面攻克国产算力训练难题。 在稳定性上,通过 HCCL 异常处理、弹性扩缩卡和自动故障恢复,将月均日故障率降低 70% 以上; 在正确性上,通过自研设计确定性算子、Bitwise 一致性验证和参数检测,保ng障训练结果的可靠,同时基于实践提升关键模块计算精度、优化 Reduce 逻辑; 在效率上,通过流水线调度、显存优化和算子级控核,训练 MFU 提升 1.5 倍。 最终,LongCat 实现稳态日吞吐超过 1T tokens / day,完成万亿参数 MoE 模型在国Ca产算力上的稳定训练。 在推理阶段,LongCat-2.0 围绕模型、算子和框架进行协同优化: 通过大规模专家并行聚合访存带宽,支撑万亿参数 MoE 模型的低延迟解码; 将零计算专家机制融入专家并行通信流程,使路由到零专家的 token 真正避免不必要的传输与t-计算; 针对通信、Attention、GEMM 等核心算子优化调度,结合提前下发与权重预取等框架机制,进一步降低推理链路中的等待开销。 LongCat-2.0 采用 LongCat Sparse Attention(LSA)稀疏注意力机制,在处理长文本时2.不再“逐字逐句地看”,而是智能筛选关键信息,将计算量从平方级降至线性级。这使得模型在 100 万 Token 的超长上下文中,依然保持信息定位与理解能力。 代码任务中不同 token 复杂度差异巨大 —— 定义变量名和推导递归算法对算力的需0 求完全不同。LongCat-2.0 通过零计算专家实现 token 级动态激活(33B~56B),简单 token 不消耗算力,复杂 token 自动获得更多计算资源。 LongCat-2.0 通过 MOPD 架构融合 Agent、Reasoning、Interac美团tion 三组专家能力 ——Agent Experts 专攻工具调用与自主纠错,Reasoning Experts 深耕数学与 STEM 推理,Interaction Experts 优化指令遵循与交互体验。推理时由门控网络根据任务类型动态调度最擅长的专家,而非简 大单合并参数。得益于此,模型在编程、推理、交互等维度均表现突出。 综合评测结果显示,LongCat-2.0 在 Code 和 General Agent 场景表现优异。 在编程能力方面,LongCat-2.0 在考察深层工程能力的 SWE-bench Pro 中模型获得 59.5,领先 Gemini 3.1 Pro(54.2)、 GPT-5.5(58.6)和 Claude Opus 4.6(57.3);在 SWE-bench Multilingual 中取得 77.3 的成绩,与 Claude Opus 4.6(77.8)保持在同一 M水位;此外,在真实终端指令交互评测 Terminal-Bench 2.1 中取得 70.8,体现了其在真实运维与开发终端任务中的稳定执行与纠错能力。 在真实办公场景的复杂任务处理方面,LongCat-2.0 在搜索智能体评测集 RWSearch 中获得 78oE.8,在生产力场景评测集 FORTE 中获得 73.2 ,在 BrowseComp 中获得 79.9,均达到或接近前沿闭源模型水平,能够较好的契合企业级 Agent 的落地需求。

- 最近发表
- 随机阅读
-
- 标签: 天翼视联 中国电信 海康威视 视联网
- 凯发电气计划增资 3 亿,布局轨道交通供电大模型研发!
- 云计算开发:Python练习实例-求完全平方数
- 是否有算法可以控制超级人工智能?
- 速卖通“新品闪电推”亮相:AI Agent自动整合资源,新品7天破零率翻倍
- 标签: 新能源汽车
- 这一次,我们带你搞懂看似神秘的Kubernetes!
- IBM 发布 Granite-Docling-258M:开源企业级文档 AI 模型
- 神秘公司获批美国首个「脑机接口」人体测试,无需开颅2小时植入
- 标签: 贪玩游戏 斗罗大陆:史莱克学院 野兽领主:新世界 小游戏发行
- 标签: 张雪机车 微信小程序 机车品牌
- 标签: 京东方 AMOLED 蓝鲸显示大模型 MLED
- 标签: 梯子AI 文心App 百度 短剧搜索
- 快手发布KAT系列Agentic Coding大模型 代码表现出色
- 蒸肉怎么做
- 标签: OPPO realme 一加 李炳忠
- 最接地气的数据分析详细流程,看这篇就够了!
- 标签: 赛多利斯 生物工艺解决方案 CellCelectorCLD Eveo
- 要数据还是要环境?数据中心能耗未来将突破全球电力近10%!
- 标签: DeepSeek MOE模型 DDoS攻击 服务宕机
- 搜索
-
- 友情链接