硅基流动上线线蚂蚁集团Ling-mini-2.0,速度与性能双丰收
近日,硅基流动大模型服务平台正式上线了蚂蚁集团百灵团队最新开源的 Ling-mini-2.0。这个新模型在硅保持先进性能的同时,展现出极高的生成速度,标志着在小体量的同时实现了大能量的突破。 Ling-mini-2.0基流采用了 MoE 架构,总参数达到16B,但在生成过程中每个 Token 仅激活1.4B 的参数,从而大幅提升了生成速动上度。这一设计不仅使得模型在处理任务时依旧保持卓越性能,还能与10B 以下的 Dense 语言模型以及其他更大规模的线线 MoE 模型进行有效比较。其最大上下文长度支持达到128K,极大提升了模型的适用范围。 在基准测试中,Ling-m蚂蚁ini-2.0在多个领域的推理任务中表现优异。无论是编码、数学还是知识密集型推理任务,Ling-mini-2.0都集团取得了令人满意的成绩,展现出其强大的综合推理能力。特别是在高难度的任务中,该模型的性能优于许多同类产品,Li表现出色。 此外,Ling-mini-2.0在生成速度上也颇具优势。在2000Token 以内的问答任务中,其生ng成速度超过300个 Token 每秒,比传统的8B Dense 模型快了2倍以上。随着输出长度的增加,该模型的速度还-m可以提高,最高可达7倍的相对加速。 为了方便开发者使用,硅基流动平台还提供了多种接入方案和 API 文档,支持开in发者在平台上进行模型的对比与组合,帮助他们轻松实现生成式 AI 应用。平台内还有多款大模型 API 供开发者免费使用,i-进一步推动了 AI 技术的普及和应用。 划重点: 🧠 Ling-mini-2.0总参数16B,每个 Token 仅激活1.4B 参2.数,实现高效生成。 模型支持128K 最大上下文长度,展现出强大的推理能力。 0, 硅基流动平台提供多种接入方案,支持开发者轻松使用多款大模型 API。
- 最近发表
- 随机阅读
-
- IDC TechScape中国数据安全发展路线图首发:涵盖三大类别 18项技术
- 谷歌过去3年开除80多名员工:偷看用户数据还暗中监视同事
- 马斯克旗下xAI将投资200多亿美元在密西西比州建设数据中心
- GPT-5通关宝可梦,创下9517步新纪录,效率惊人!
- 标签: 理想汽车 郎咸朋 湛逸飞 人形机器人
- 浜戣�绠楀紑鍙戯細Python鍐呯疆鍑芥暟-iter() 鍑芥暟璇﹁В
- 小米 AI 团队携手北大发表新论文,雷军高薪挖角的 “天才少女” 参与研究
- 云计算核心技术Docker教程:Docker 利用构建缓存
- 车展头条: 700 万辆车的“大脑”换代,Agentic AI开启座舱新元年
- 标签: 抖音 推荐算法 双塔模型 Wide&Deep
- 特斯拉或效仿苹果 将在国内建立数据中心
- 开山鼻祖遭“贱卖” DPU还是好赛道吗?
- 金山云Q2营收21.7亿元创单季新高 同环比持续双增
- 阿里云张勇:AI云服务需求非常旺盛
- 标签: Agent
- 标签: 腾讯控股 Hy3_preview 腾讯云 微信小店
- 千问APP首发灰测HappyHorse 可一键做TVB港风短片
- 标签: 智冉医疗 Neuralink 脑机接口 侵入式
- 标签: Akiitu 萤石
- 标签: 特斯拉 ModelY 座椅防夹 陶琳
- 搜索
-
- 友情链接