开源多模态模型MiniCPM-V 4.5发布,8亿参数实现移动端AI部署
近日,开源AI社区迎来重要进展,面向端侧设备的多模态大语言模型MiniCPM-V4.5正式发布。这款模型以8亿参数规模实现了在智能手机和平板电脑上的高效运行,为移开源动端AI应用开拓了新的可能性。 MiniCPM-V4.5采用轻量化设计思路,专为端侧设备优化。根据开发团队公布的测试数据,该模型在OpenCompass综合多模评估中获得77.2分的成绩,在同类开源模型中表现突出。模型支持单图理解、多图推理和视频分析等多种任务。 在移动设备部署方面,MiniCPM-V4.5在iPhone16P态模ro Max上的首token延迟约为2秒,解码速度超过每秒17个token。模型通过3D-Resampler技术将视频数据压缩率提升至96%,能够以64个token型M处理6帧视频内容,实现最高10FPS的实时视频理解。 光学字符识别是该模型的重点优化方向之一。基于LLaVA-UHD架构,模型支持高达180万像素的高分辨率图像处理,在OinCRBench测试中准确率达到85.7%。此外,模型支持包括英语、中文、德语、法语在内的30多种语言。 MiniCPM-V4.5引入了可控混合思维机制iC,用户可通过参数设置在快速响应模式和深度推理模式间切换。快速模式适用于常规问答任务,深度模式则通过逐步推理处理复杂问题。 模型基于RLAIF-V和VisCPM技术进行训练,PM在减少幻觉现象方面有所改进。开发团队表示,这种训练方法提升了模型响应的准确性和可靠性。 MiniCPM-V4.5采用Apache-2.0许可证发布,-V支持学术研究免费使用,商业应用需要简单注册程序。模型兼容多种推理框架,包括llama.cpp、Ollama、vLLM和SGLang,并提供16种量化格式以适应不同硬件配 4置。 开发团队还发布了适配iOS的应用程序,方便用户在苹果设备上体验。开发者可通过Hugging Face和GitHub获取模型代码和文档,支持通过Gradio搭建本地W.5eb界面,也可在NVIDIA GPU上进行推理加速。 作为专为移动端优化的多模态模型,MiniCPM-V4.5在隐私敏感和离线使用场景中具有应用价值。模型的轻量发布化设计降低了AI能力的部署门槛,为个人用户和开发者提供了新的选择。 需要注意的是,受参数规模限制,该模型在处理极其复杂任务时可能存在性能边界。用户在实际应用中应根据,8具体需求选择合适的模型方案。开发团队提醒,模型生成内容基于训练数据,用户需确保使用合规并承担相应责任。 MiniCPM-V4.5的发布体现了开源AI社区在端亿参侧部署方向的技术探索。随着移动设备计算能力的持续提升,这类轻量化多模态模型可能为AI应用的普及化提供新的技术路径。 该项目的开源特性也为研究人员和开发者提供了学习和改进的基础数实,有望推动端侧AI技术的进一步发展。 项目地址:https://github.com/OpenBMB/MiniCPM-V技术特点与性能表现
创新机制与技术架构
开源生态与部署支持
应用前景与局限性
行业影响
- 最近发表
- 随机阅读
-
- 腾讯云TokenHub:连续多月翻倍 日Token消耗量跃升至5万亿
- 标签: 阿里云 AI 阿里巴巴 吴泳铭
- 标签: 视源股份 希沃 MAXHUB CVTE
- 香水可以托运吗飞机
- 标签: Meta 诈骗广告 Facebook Instagram
- 标签: 谷歌 NanoBanana2Lite 人工智能图像生成 谷歌AIStudio
- 江南农商银行携手京东云 推出全国首个业务办理类数字人
- 标签: Windows 11 微软 任务栏 电池图标
- 处理人工智能任务必须知道的11个Python库
- 标签: 魅族 Flyme PANDAER AI眼镜
- 千里科技品牌升级,发布“AFARI”新标识及“千里计划”
- 网易有道云笔记发布“LLM Wiki”套件,重新定义AI时代知识管理
- 标签: 零跑汽车 朱江明 廉洁合规 反腐举报
- 馇子怎么炒
- 微软投资40亿美元建造全球最强 AI 数据中心,性能提升十倍!
- 标签: 广汽集团 吴坚 中国汽车重庆论坛 长期主义
- 英特尔新CEO点燃三把火:斥200亿美元建厂 委托代工厂制造处理器
- Meta 遭起诉涉嫌非法下载色情内容用于 AI 训练,申请驳回诉讼
- 标签: 移卡 海外支付 国内支付 GPV
- 标签: 全国人口 城镇化率 性别比 年龄构成
- 搜索
-
- 友情链接