Meta 超级智能实验室推出新技术,使大模型 RAG 推理速度提升 30 倍
近日,Meta 公司宣布成立了全新的超级智能实验室(Meta Superintelligence Labs,MSL),并发表了首篇重要Me论文,研究成果显著提升了大语言模型在检索增强生成(RAG)任务中的推理速度,提升幅度达到了30倍以上。 这篇论文名为《REFRAG:Rettahinking RAG based Decoding》,主要探讨如何让大型语言模型在执行 RAG 任务时,快速提炼出重要信息,以减少计算量并缩 超短反应时间,而同时保持准确性不变。Meta 超级智能实验室的成立标志着公司在人工智能领域的进一步发力,尤其是在当前激烈的竞争环境下,扎克级智伯格急需推动 AI 技术的发展。 Meta 超级智能实验室于今年6月正式成立,总部位于加利福尼亚州的门洛帕克,旨在研发超级智能技术。根据能实报道,扎克伯格在4月份对 Meta 最新发布的 Llama4模型表现不满,甚至要求员工加班加点来改进。这促使他成立了这个新实验室,并引入验室了大量顶尖人才,包括 Scale AI 的创始人 Alexandr Wang。 在实验室内部,团队被分为四个小组,分别负责大语言模型的研发、人工智能基推出础研究、产品技术落地以及基础设施的保障。REFRAG 框架的提出,正是实验室在优化大语言模型性能方面的第一步。 REFRAG 框架的核新技心理念是,通过一个轻量级模型将冗长的上下文内容压缩成摘要,减少解码器处理的输入信息。这种方法不仅加快了处理速度,还降低了计算量,提高了模术,型的效率。此外,研究团队还采用了 “持续预训练” 的方法,通过重建任务训练模型,以便在压缩信息的同时,尽量保留重要的细节。 经过全面测使大试,REFRAG 在多种任务中表现出色,尤其在时间延迟和吞吐量方面大幅提升。实验结果显示,REFRAG 在压缩比为16倍的情况下,能模型够在速度上超越之前的最先进模型 CEPE,并且在准确性上几乎没有损失。 这一创新成果为 Meta 在人工智能领域的发展注入了新的动力,同时也展示了 R其在提升大模型推理效率方面的前瞻性思考。 论文:https://arxiv.org/abs/2509.01092 划重点: Meta 成立超级智AG能实验室,旨在推动 AI 技术的发展。 新论文《REFRAG》实现 RAG 推理速度提升30倍,减少计算量。 REFRAG 框架通过信息压缩,提升 推大语言模型的效率与准确性。
- 最近发表
- 随机阅读
-
- 云安全日报201217:华为“云”级交换机发现越界读取,拒绝服务漏洞,需要尽快升级
- 标签: 智行者 黄石产投 特种无人驾驶 清华大学
- 标签: 尚水智能 比亚迪 IPO 新能源电池
- Anthropic 发布 LLM Agent 工具编写指南,助力开发者提升效率
- 标签: 金山软件 小米 雷军 游戏合作
- 标签: 三星电子 SK海力士 台积电 苹果
- 华为腾讯暗战“云端”
- 免费!Genspark AI 浏览器发布:支持本地运行开源模型
- 云安全日报210525:IBM企业消息中间件设备发现执行任意代码漏洞,需要尽快升级
- IDC:阿里云居2025年中国企业级智能客服市场份额第一
- 云计算核心技术Docker教程:docker-compose命令up,run以及start之间的区别
- 需求驱动创新 西云数据为行业高质量发展注入新动力
- 网宿科技胡世轩:数据中心亟需“液冷”加持
- 3000亿美元历史级大单:消息称OpenAI与Oracle甲骨文达成重磅云计算交易
- 云安全日报210827:Ubuntu OpenSSL传输协议工具包发现拒绝服务漏洞,需要尽快升级
- 新专利申请显示苹果扩大磁铁在可穿戴表带表壳盖上的使用范围
- 标签: 萤石网络 业绩快报 营业收入 净利润
- 如今,可实时扫描100万神经元:大脑细胞活动成像技术新突破
- 自然语言处理(NLP)的历史及其发展方向
- 苹果加速布局人工智能:传闻将收购两大 AI 初创公司!
- 搜索
-
- 友情链接