IBM 发布 Granite4.0Nano 系列:为边缘 AI 量身打造的小型开源模型
近日,IBM AI 团队推出了 Granite4.0Nano 系列,这是一个专为本地和边缘推理而设计的小型模型家族,旨在为企业提供更强的控制能力和开源IB许可。该系列包含8个模型,分为350M 和约1B 两种规模,采用混合 SSM 和变换器架构,支持基本和指令两种模式,所有模型均在 Apache2.0许可下发布,且M 能够在 vLLM、llama.cpp 和 MLX 等流行运行时环境中原生运行。 Granite4.0Nano 系列包括四条模型线及其基础版本。其中,Gra发布nite4.0H1B 采用混合 SSM 架构,参数数量约为1.5B;而 Granite4.0H350M 同样采用混合方法,参数数量为350M。为了确保最大的运行时 G兼容性,IBM 还提供了 Granite4.01B 和 Granite4.0350M 的变换器版本。 这些 H 变体模型交替使用 SSM 层和变换器层设计,这种混合结ra构在内存增长方面相较于纯变换器有显著优势,同时保持了变换器模块的通用性。Granite4.0Nano 模型没有采用减少数据管道,而是遵循与大规模 Grnianite4.0模型相同的训练方法,使用超过15万亿个标记进行训练,并经过指令调整,以提高工具使用和指令遵循能力。 IBM 还将 Granite4.0teNano 与其他同类模型进行了比较,包括 Qwen、Gemma 和 LiquidAI LFM,结果显示在通用知识、数学、代码及安全性等领域,Granite4.0N4.ano 的表现显著提升。此外,该系列模型在代理任务上也在 IFEval 和伯克利函数调用排行榜第3版中表现出色。 这些模型经过 ISO42001认证,并0N且以加密签名的形式发布,确保了企业级使用所需的可追溯性和治理能力。用户可以通过 Hugging Face 和 IBM watsonx.ai 访问这些模型,an并在边缘、本地和浏览器级别上进行部署,帮助早期 AI 工程师和软件团队更好地实现项目。 huggingface:https://huggingfaceo .co/collections/ibm-granite/granite-40-nano-language-models 划重点: &nb系列sp; IBM 发布了 Granite4.0Nano 系列,包含8个模型,适用于边缘 AI 推理。 该系列模型基于超过15万亿个标记进行训练,:为确保了性能的继承性。 所有模型均经过 ISO42001认证,并具有企业级治理能力,支持多种运行环境。
-
上一篇
-
下一篇
- 最近发表
- 随机阅读
-
- 标签: XChat Mate80 微信鸿蒙版 华为
- 浜戝畨鍏ㄦ棩鎶�210722锛氭€濈�鏅鸿兘绠$悊骞冲彴鍙戠幇IPv4鍜孖Pv6杞�彂婕忔礊,闇€瑕佸敖蹇�崌绾�
- 无影云电脑启动大规模商用 已服务众多行业客户
- 标签: 东安控股 保时捷中心 郑州中原
- 云计算核心技术Docker教程:Docker Swarm 模式强制重新平衡
- 标签: 大众集团 奥迪 保时捷 Cariad
- 标签: 百度健康 DoctorClaw 医疗AI 医生助手
- 标签: 闲鱼 鱼鲤购 潮玩盲盒 官仓发货
- MiniMax Music 1.5上线 生成音乐时长提升至4分钟
- 标签: 汽车之家 AI助手 天枢平台 知家传媒
- 昏睡红茶是什么梗
- 标签: OpenAI 迪士尼 Sora ChatGPT
- 标签: Spotify 安娜的档案 音乐保存 DRM绕过
- 标签: 小红书 达尔文项目 创业孵化 内部孵化
- 游戏和直播需求强劲增长:腾讯将在日本建第三座数据中心
- 2021年数据展望,第一部分:人工智能和云数据仓库的未来
- 云安全日报211025:Ubuntu Linux内核发现拒绝服务等重要漏洞,需要尽快升级
- 云计算开发:Python练习实例-打印出杨辉三角形
- 瑞士重磅发布自主开源AI大模型Apertus
- 标签: 智谱 GLM-5 唐杰 AGI
- 搜索
-
- 友情链接