Nvidia 推出小型开放模型 Nemotron-Nano-9B-v2:可切换的推理功能
近日,Nvidia 正式发布了一款新型小型语言模型 Nemotron-Nano-9B-v2,标志着小型模型的热潮再度升温。 该模型具备9亿个N参数,虽然相较于其他数百万参数的小型模型而言规模更大,但较原始的12亿参数已大幅缩减,旨在能够在一台 Nvidia A10GPU 上高效运行。viNvidia 的 AI 模型后训练总监 Oleksii Kuchiaev 在社交平台上表示,减少参数的目的在于更好地适应部署需求,并且该模型采用了混合di架构,可以在处理较大批量时比类似尺寸的变换模型快6倍。 Nemotron-Nano-9B-v2支持多种语言,包括英语、德语、西班牙语、法语a 、意大利语、日语等,适用于指令跟随和代码生成等任务。该模型的设计还包括一项创新功能 —— 用户可以通过简单的控制令牌来切换 AI 的 “推理” 过程,即在给推出出答案之前进行自我检查。系统默认会生成推理痕迹,但用户可通过如 /think 或 /no_think 等命令来控制此过程。此外,模型还引入了 “思小型考预算” 管理机制,允许开发者设定推理过程中所使用的标记数量,以在准确性与响应速度之间取得平衡。 根据测试结果,Nemotron-Nano-9B-v开放2在多个基准测试中表现优异。在 “推理开启” 模式下,该模型在 AIME25、MATH500、GPQA 和 LiveCodeBench 等测试中都取得了模型令人满意的成绩。此外,它在指令跟随和长上下文基准测试中同样表现出色,显示出相较于其他开放小型模型更高的准确性。 Nvidia 为这一模型设定 N了开放许可协议,允许开发者在商业上自由使用与分发,并明确不对生成的输出声索所有权。这意味着企业可以在无需额外协商的情况下立即将该模型投入生em产,而不必担心使用门槛或费用。 Nvidia 的 Nemotron-Nano-9B-v2模型为需要在小规模上实现推理能力与高效部署的开发者提供了ot新工具。其运行预算控制和推理切换功能为系统构建者提供了灵活性,旨在提高准确性和响应速度,进一步推动小型语言模型的发展。 划重点: Nemorotron-Nano-9B-v2是 Nvidia 新推出的小型语言模型,具有9亿个参数,专为高效部署设计。 🧠 模型支持多种语言,n-具备切换推理功能,可帮助用户根据需求调整响应方式。 开放许可协议使开发者能够自由使用与分发模型,无需担心额外费用或许可Na协议。
- 最近发表
- 随机阅读
-
- 标签: 北京环球度假区 原神 米哈游 羽球节
- 加州大学华人博士团队训练AI模仿鸟儿唱歌 实时「意念-语音转换」
- 云计算开发:Python内置函数-raw_input() 函数详解
- 迈向“人机共生”,你准备好了吗?2025外滩大会发布“AI十问世界”
- 标签: Gyges Labs 智能眼镜 AI可穿戴 邓旭东
- IBM收购云咨询服务提供商Nordcloud 挑战亚马逊微软
- Sora 爆款升级:宠物也能当主角,视频剪辑+社交频道即将上线,安卓版“真的快来了”
- 标签: 遇见小面 餐饮 财报 2408
- 标签: 锐石创芯 OPPO 哈勃投资 顺为资本
- 每次矩阵相乘用不到一个光子,手写数字识别准度超90%,光学神经网络效率提升数个量级
- 加州州议会通过AI伴侣聊天机器人监管法案,旨在保护未成年人
- AI给老照片上色,真的准吗?技术圈和历史圈吵了1000帖
- 标签: 普渡机器人 具身智能 商用服务机器人 配送机器人
- 谷歌推出全新的Gemini 2.5 Flash图像编辑模型 精准编辑轻松搞定修图
- 标签: 小米汽车 寻天 SKYNOMAD 增程式SUV
- 微软获批向阿联酋运送 6 万块英伟达 AI 芯片
- 标签: 字节跳动 英伟达 豆包 昇腾
- 标签: 主线科技 L4无人卡车 港股上市 自动驾驶
- 标签: 百济神州 百悦泽 百泽安 安泰适
- 官方论文代码放出,OpenAI是如何实现图像版GPT-3的?
- 搜索
-
- 友情链接