AI 安全性与有效性测试存在严重缺陷,引发专家关注
近日,来自英国政府 AI 安全研究所的计算机科学家及斯坦福大学、加州大学伯克利分校和牛津大学的专家们,A对超过440个用于评估新人工智能模型安全性和有效性的基准进行了深入研究。他们发现几乎所有测试在某一领域存I 在缺陷,这些缺陷可能会 “削弱结果声明的有效性”,并且一些测试的评分结果可能 “无关紧要甚至误导”。 图源备注安全:图片由AI生成 随着各大科技公司不断推出新 AI,公众对 AI 的安全性和有效性日益担忧。当前,美国和英性与国尚未实施全国范围的 AI 监管,而这些基准则成为检验新 AI 是否安全、是否符合人类利益及其在推理、数学和有效编码方面声称能力的重要工具。 研究的首席作者、牛津互联网研究所的 Andrew Bean 表示:“基准测试支撑着几乎性测所有关于 AI 进步的声明,但缺乏统一的定义和可靠的测量,使得我们难以判断模型是否真正改善,还是仅仅看似改试存善。” 他提到,谷歌最近撤回了其新推出的 AI 模型 Gemma,因为该模型传播了有关美国参议员的不实指控,且这些在严指控是完全虚构的。 这并不是个别现象。Character.ai 也在最近宣布禁止青少年与其 AI 聊天机器人进行重缺开放式对话,原因是该公司卷入了几起青少年自杀的争议。研究显示,只有16% 的基准使用不确定性估计或统计测陷,试来展示其准确性。在一些评估 AI 特性的基准中,像 “无害性” 这样的概念定义不清,导致测试效果不佳。 专家引发们呼吁制定共享标准和最佳实践,以改善 AI 的评估过程,从而确保其安全性与有效性。 划重点: 研究发现,44专家0多个 AI 测试基准几乎都有缺陷,影响结果有效性。 谷歌的 Gemma 模型因传播虚假指控而被撤回,凸显 AI 监管的关注紧迫性。 仅16% 的基准使用统计测试,缺乏标准化,亟需改进 AI 评估方法。
- 最近发表
- 随机阅读
-
- 亚马逊云计算业务Q1营收环比略有下滑 终结连续34个季度上涨势头
- 云安全日报210104:Debian InfluxDB数据库发现身份验证绕过漏洞,需要尽快升级
- 标签: 特步 索康尼 160X7.0PRO 两千公里
- 数据可视化,我习惯于用这些工具
- Vidu Q2全面升级:参考生视频提速三倍,支持长达五分钟 AI 故事创作
- 标签: 奇安信 网络安全 688561 2025业绩
- 标签: 微信支付 AI专属卡 WorkBuddy 美团
- 标签: 剪映 字节跳动 张琪智 CapCut
- Figma AI设计革命来袭!选中画布一键评论,即刻变身专业编辑器
- 标签: 字节跳动 Seed 周畅 具身智能
- 高通杀入数据中心!推AI200/AI250芯片剑指英伟达,股价单日暴涨20%
- 识别实体与值对象的特征
- 标签: Mobileye EyeQ6 High 大众汽车 无人驾驶出租车
- 京东云联合京东物流等打造“京东冷链溯源平台” 服务400万件生鲜商品
- 云计算核心技术Docker教程:docker-compose命令up,run以及start之间的区别
- 标签: 赛力斯 问界 M9 M7
- 加州新法案:聊天机器人必须明确告知用户其为 AI
- 95%企业AI项目惨遭滑铁卢!这家初创公司融资2500万美元要做"可问责的AI智能体"
- 标签: 比亚迪 方程豹 王悟空说车
- 标签: 中文传媒 朗知传媒 汽车营销 AIGC内容创作
- 搜索
-
- 友情链接