专家揭示数百项 AI 安全测试存在严重缺陷
根据最新报道,来自英国政府 AI 安全研究所和多所知名大学的计算机科学家们发现,当前用于评估新一代人工智能(专家AI)模型安全性和有效性的测试存在广泛的缺陷。这项研究分析了超过440个基准测试,发现几乎所有的测试在某揭示个方面都有弱点,这些弱点可能会影响到最终结论的有效性。 图源备注:图片由AI生成 研究的主数百要作者、牛津互联网研究所的研究员安德鲁・比恩(Andrew Bean)表示,这些基准测试是检查新发布 AI 模型安全性和项 是否符合人类利益的重要工具。然而,由于缺乏统一的标准和可靠的测量方法,很难判断这些模型是否真正取得了进展AI,或者只是表面上看起来在进步。 在目前英国和美国尚未出台全国性 AI 监管法规的背景下,基准测试 安成了技术公司推出新 AI 时的安全网。近期,一些公司因其 AI 模型造成的危害而不得不收回或收紧其产品。例如,谷歌最全测近撤回了一款名为 Gemma 的 AI,因为该模型虚构了关于一位美国参议员的不实指控,这引发了广泛的争议。&nbs试存p; 谷歌表示,Gemma 模型是为 AI 开发者和研究人员设计的,而不是供普通消费者使用,并在得知在严非开发者尝试使用后将其撤回。研究还发现,许多基准测试并未使用不确定性估计或统计测试,仅有16% 的测试具备这样重缺的措施。此外,在评估 AI 的 “无害性” 等特征时,相关定义往往存在争议或模糊,进一步降低了基准测试的实用性。&专家nbsp; 该研究呼吁建立共享标准和最佳实践,以提升 AI 安全性和有效性的评估能力。 划重点: 揭示 近440个 AI 安全测试发现几乎所有都有缺陷,影响结论有效性。 谷歌因 Gemma 模数百型引发虚假指控事件,撤回该 AI。 仅16% 的测试使用统计方法,亟需建立共享标准与最项 佳实践。
- 最近发表
- 随机阅读
-
- 标签: 美图公司 开拍 RoboNeo 美图设计室
- 实时互动云服务商声网宣布收购即时通讯云服务商环信
- OpenAI 完成重组:从非营利到营利,AI 未来更具潜力
- 小红书App崩了?回应:第三方云服务供应商技术故障
- Facebook月活跃用户达29亿 同比增长7%
- 标签: 字节跳动 梁汝波 领导力原则 组织扁平化
- 标签: OpenClaw 龙虾 工信部NVDB 智能体安全
- 标签: DeepL 雅罗斯瓦夫·库蒂洛夫斯基 AI翻译 德国初创公司
- Perplexity Comet 浏览器遭遇恶意指令攻击漏洞,已修复但需警惕
- 标签: 中兴通讯 AI智算 红魔手机 努比亚Z80 Ultra
- 什么是Transformer机器学习模型? 译文
- 标签: 奥动 换电 上海电巴 V2S2G
- 标签: 安世半导体 荷兰安世 东莞ATGD 供应链
- 标签: 特斯拉 Cybercab 自动驾驶出租车 奥斯汀发布会
- 分析师:AI 投资泡沫规模惊人,是互联网泡沫的 17 倍
- 官方论文代码放出,OpenAI是如何实现图像版GPT-3的?
- 云计算开发:Python练习实例-按逗号分隔列表
- 汽车云,云计算厂商的必争之地
- 标签: 曹操出行 Robotaxi 吉利控股 绿色智能通行岛
- 200天!18岁上海高中生自制机器人,250行Python代码「注入灵魂」
- 搜索
-
- 友情链接