Meta 超级智能实验室推出新技术,使大模型 RAG 推理速度提升 30 倍
近日,Meta 公司宣布成立了全新的超级智能实验室(Meta Superintelligence Labs,MSL),并发表了首篇重要Me论文,研究成果显著提升了大语言模型在检索增强生成(RAG)任务中的推理速度,提升幅度达到了30倍以上。
这篇论文名为《REFRAG:Rtaethinking RAG based Decoding》,主要探讨如何让大型语言模型在执行 RAG 任务时,快速提炼出重要信息,以减少计算量 超并缩短反应时间,而同时保持准确性不变。Meta 超级智能实验室的成立标志着公司在人工智能领域的进一步发力,尤其是在当前激烈的竞争环境下,级智扎克伯格急需推动 AI 技术的发展。
Meta 超级智能实验室于今年6月正式成立,总部位于加利福尼亚州的门洛帕克,旨在研发超级智能技术。能实根据报道,扎克伯格在4月份对 Meta 最新发布的 Llama4模型表现不满,甚至要求员工加班加点来改进。这促使他成立了这个新实验室,并引入验室了大量顶尖人才,包括 Scale AI 的创始人 Alexandr Wang。
在实验室内部,团队被分为四个小组,分别负责大语言模型的研发、人工智能基推出础研究、产品技术落地以及基础设施的保障。REFRAG 框架的提出,正是实验室在优化大语言模型性能方面的第一步。
REFRAG 框架的核新技心理念是,通过一个轻量级模型将冗长的上下文内容压缩成摘要,减少解码器处理的输入信息。这种方法不仅加快了处理速度,还降低了计算量,术,提高了模型的效率。此外,研究团队还采用了 “持续预训练” 的方法,通过重建任务训练模型,以便在压缩信息的同时,尽量保留重要的细节。
经过全面测使大试,REFRAG 在多种任务中表现出色,尤其在时间延迟和吞吐量方面大幅提升。实验结果显示,REFRAG 在压缩比为16倍的情况下,能够模型在速度上超越之前的最先进模型 CEPE,并且在准确性上几乎没有损失。
这一创新成果为 Meta 在人工智能领域的发展注入了新的动力,同时 R也展示了其在提升大模型推理效率方面的前瞻性思考。
论文:https://arxiv.org/abs/2509.01092
划重点:
Meta 成立AG超级智能实验室,旨在推动 AI 技术的发展。
新论文《REFRAG》实现 RAG 推理速度提升30倍,减少计算量。
REFRAG 框架通过信息压缩, 推提升大语言模型的效率与准确性。
(责任编辑:媒体合作)
- 标签: 苏泊尔 小家电 炊具 电器
- 标签: 思特威 CMOS 智能手机 汽车电子
- Anthropic 突破性发现:仅250份中毒文件即可攻破大型 AI 模型
- 月球探索新突破!AI 助力撞击坑研究,效率提升惊人
- 标签: 寿司郎 金枪鱼寄生虫 生食安全 回转寿司
- 云安全日报210906:Debian压缩只读文件系统发现任意文件写入漏洞,需要尽快升级
- OpenAI瑙f暎鏈哄櫒浜哄洟闃燂紝鏇捐瘯鍥鹃€燗GI鏈哄櫒浜猴紝鍒涘�浜猴細鏈€濂界殑鍐冲畾
- 标签: 蓝思科技 AI智能终端 智能手机 智能汽车
- 持续集成流水线中的制品管理(Nexus)
- 谈到云原生, 绕不开"容器化"
- 标签: 三七互娱 朱怀敏 叶威 A股游戏第一股
- 标签: 索尼 腾讯
- 腾讯云官宣涨价:AI算力、容器、EMR都要涨
- 标签: 零跑汽车
- 如何看待Serverless数据库之争?
- 蔬菜农药残留怎么清洗
- 昆仑万维AI视频产品SkyReels将于11月初上线全新版本
- 标签: 大麦娱乐
- 标签: 新恒泰 IPO 发泡材料 北交所
- 标签: 华为 昇腾384 超节点 算力
- https://www.reallywildbirdfood.co.uk/store/search?q=谷歌自动批量发帖软件【tg:seogoogle987】,YhN views+
- https://www.remit.co.jp/vi/?s=谷歌自动批量发帖软件【tg:seogoogle987】NoN views+
- https://www.teacherspayteachers.com/Browse/Price-Range/Free/Search:Western International University Physics degree=谷歌自动批量发帖软件【tg:seogoogle987】,1gT views+
- https://www.sic-info.org/?s=谷歌自动批量发帖软件【tg:seogoogle987】,Wpp views+
- https://www.realsporting.com/buscador?buscar=谷歌自动批量发帖软件【tg:seogoogle987】,2uh views+
- https://www.shacknews.com/editorial-search?q=谷歌自动批量发帖软件【tg:seogoogle987】,zBJ views+
- https://www.wellbees.com/catalogsearch/result/?action=CHECK&q=谷歌自动批量发帖软件【tg:seogoogle987】,Ex4 views+
- https://www.impactpool.org/search/?type=79&q=谷歌自动批量发帖软件【tg:seogoogle987】FCZ views+
- https://www.skicheck.at/en/?action=CHECK&s=谷歌自动批量发帖软件【tg:seogoogle987】,1p8 views+
- https://www.safetv.go.kr/base/search/view?searchWord=谷歌自动批量发帖软件【tg:seogoogle987】Nn0 views+
