寒武纪宣布实现 DeepSeek-V4全系列模型 Day0适配并开源优化代码
寒武纪今日宣布,已基于 vLLM 推理框架完成对深度求索(DeepSeek)最新开源模型 De寒武epSeek-V4 全系列的“Day0”适配。此次改装涵盖285B 参数的 Flash 版本及1.纪宣6T 参数的 Pro 版本,确保模型在发布当日即可在寒武纪硬件平台上稳定运行,相关改装代码已正式布实开源至 GitHub 社区。 针对 DeepSeek-V4 独有的稀疏注意力与压缩结构,寒武纪通过自研向量现 融合算子库 Torch-MLU-Ops 对 Compressor 等核心模块进行了专项加速。利用 BanDegC 高性能编程语言,寒武纪团队编写了稀疏 Attention 及 GroupGemm 等热点算子的极致优化ep内核,并于 vLLM 框架中全面支持 TP/PP/SP/DP/EP 五维混合并行策略、低精度量化及 PD 分Se离部署。这些技术手段在满足延迟约束的前提下,显著提升了端到端推理的词元吞吐能力。 硬件层面ek,寒武纪深度挖掘了 MLU 的访存与排序加速特性,有效应对 DeepSeek-V4 复杂的索引结构。-V凭借高互联带宽与低延迟通信优势,该方案最大化降低了 Prefill 与 Decode 场景下的通信损耗,4全提升了推理利用率。 行业分析指出,DeepSeek-V4凭借百万字(1M)超长上下文及顶尖的逻辑推系列理性能,对底层算力架构提出了严苛要求。寒武纪在模型发布首日的敏捷适配,不仅展示了国产算力平台对模型超大规模、复杂结构模型的承载能力,也预示着国产 AI 产业链在软硬协同层面已进入成熟期,为大模 D型应用普惠提供了高效的算力底座支持。
- 最近发表
-
- 包包五金磨损怎样修复
- Facebook企业通讯软件Workplace付费用户达700万
- 阿里云、腾讯云、京东云联手 扛住了春晚红包流量狂潮
- 云计算核心技术Docker教程:Docker使用AUFS存储驱动程序
- AI澶嶆椿锛佺敤GPT-3澶嶅埢閫濆幓鏈��濡伙紝缇庡浗灏忓摜璁╂寶鐖变互鏁板瓧褰㈡€佹案鐢�
- 多云互联多重攻击黑客的攻击手段为何层出不穷
- 标签: GeminiSpark GoogleI/O2026 Gemini3.5 GoogleAIUltra
- 从1小时到3.5分钟,Meta新算法一部手机搞定3D人脸数据采集
- OpenStack的HugePages内存大页动态分配的探索与实践
- 标签: 豆包 腾讯元宝 百度文心 科大讯飞
- 随机阅读
-
- 标签: VLA 理想 郎咸朋 宇树科技
- Anker推出 AI 语音记录器,尺寸仅如硬币般小巧
- 云安全日报210315:Ubuntu配套Python发现执行任意代码漏洞,需要尽快升级
- ChatGPT使用报告出炉:七成对话与工作无关,7亿用户如何玩转AI?
- 世界首台人工智能地震监测系统问世:1秒内精确估算
- IBM 携手 Groq:用 LPU 技术为企业 AI 提速五倍,全面升级 watsonx 平台
- IBM第四季度营收204亿美元 其中云计算业务营收为75亿美元
- 为快速数字化转型设计路线图
- Getty在英国对Stability AI提起的诉讼遭遇重大挫折
- OpenAI CEO 预告:2028 年实现全自动 AI 研究员
- 数字人黑科技面世,几分钟说话视频即可复刻
- 云安全日报220209:Adobe Photoshop和Illustrator发现任意代码执行漏洞,需要尽快升级
- 标签: 联想 AI超级智能体 摩托罗拉 CES CES2026
- 网传阿里云盘出现灾难级BUG:能看其它用户照片
- 标签: 阿维塔 阿维塔07 NCA_STANDBY 南宁车祸
- 2020年技术趋势:今年发生了什么?
- 标签: 高途集团 陈向东 AI教育 素质素养
- 标签: 国家新闻出版署 国产网络游戏 游戏审批 2026年3月
- 云计算核心技术Docker教程:Docker DNS 设置
- 标签: 贝壳集团 彭永东 社区居住服务平台 居住决策支持
- 搜索
-
- 友情链接