谷歌推出新方法:训练数据量减少 1 万倍,提升模型精准度
近日,谷歌在其研究中提出了一种新颖的主动学习筛选流程,旨在大幅降低微调大型语言模型所需的训练数据量。根据实验结果,这种方法能谷歌够将训练数据量降低至原来的1万分之一,同时提高模型与人类专家判断的一致性达65%。在实际应用中,如广告内容分类、金融数据安全推出分析等领域,对高保真训练数据的需求一直很高,但筛选出符合要求的数据不仅难度大,成本也极为昂贵。 图源备注:图片由AI生成,图片授新方权服务商Midjourney 这一新方法从一个零样本或少样本的初始模型开始,用户通过提示定义目标内容,比如询问某广告是否为 “点击诱法:饵”。初始模型会将广告标记为点击诱饵或良性,并生成一个大型标记数据集。然而,初始数据集常常存在严重的类别不平衡,导致模型的准确识别训练能力较弱。 为了解决这一问题,研究者将模型标记为点击诱饵和良性广告的内容进行分组,发现部分组之间存在重叠,说明模型在这些内容上容易判断错数据误。因此,研究者可以从这些重叠组中挑选样本对,交由专家进行判断,以此来控制审核成本,并优先选择能覆盖多种情况的样本对。这样得到的量减样本既有价值,又涵盖了各种可能出错的情形。 在模型微调过程中,专家提供的标注被分为两组,一组用于评估模型一致性,另一组则用于模型的微调少 。这一过程将不断重复,直到模型的表现达到与人类专家相近的水平。 谷歌的实验使用了 Gemini Nano-1和 Nano-2两款模型1 ,并针对两个复杂度不同的任务进行了测试。在测试中,每个任务都使用了约10万条众包标注数据,尽管这些数据严重不平衡。结果表明,万倍专家之间的判断一致性很高,而众包标签与专家判断的一致性则相对一般。通过新方法,32.5亿参数的模型在低难度任务上的对齐度显著,提提升,使用的数据量仅为250-450条,较原来的10万条大幅减少,仍能取得良好的效果。 综上所述,谷歌的新方法证明了只需少量高质量的数升模据,且确保专家标注一致性超过0.8,大型模型也能在训练时获得出色的表现。 划重点: 训练数据量可减少至原来的1型精万分之一,提高模型精准度。 🤝 新方法依赖专家判断与模型迭代,确保样本质量。 实验表明,使准度用少量高质量数据可达到甚至超越传统大量数据的效果。
- 最近发表
- 随机阅读
-
- 速卖通“新品闪电推”亮相:AI Agent自动整合资源,新品7天破零率翻倍
- 苹果公司即将启动员工COVID-19疫苗接种计划
- 蚂蚁百宝箱外滩大会发布新品Tbox,20余位专家智能体协同可1键交付专业软件
- 标签: 闪迪 NAND闪存 创见 数据中心
- 火山引擎推出炉米 Lumi 平台 支持视觉模型 Lora 微调
- 苹果8个代工厂搬迁他国,富士康也要走?几十万中国员工怎么办?
- 谷歌抛出合作橄榄枝 加拿大电商平台Shopify股价涨超3%
- IBM Airtel完成了开放混合云网络部署的第一阶段
- 标签: 昆仑芯 百度 港股上市 AI芯片
- YouTube 开放人脸声纹识别技术,演艺圈迎来“数字替身”保卫战
- 标签: 小红书 达尔文项目 创业孵化 内部孵化
- 标签: Momenta 港股IPO 自动驾驶 智能驾驶
- 标签: Alphabet GoogleCloud Gemini YouTube
- 亚马逊云计算迎来史上最低增速 营收利润未达华尔街预期
- 甲骨文第二财季营收98亿美元 云相关业务贡献82亿美元
- 标签: 豆包 中兴 努比亚 AI原生手机
- 标签: 罗技G 罗技中国 上海百事得 抖音旗舰店
- 通过 Kubernetes CSI 实现 Longhorn 卷快照备份、恢复、克隆与扩容功能
- 云计算开发:Python3-rindex()方法详解
- 马斯克再发怒!第六次起诉 OpenAI,指控窃取商业机密
- 搜索
-
- 友情链接