国内首个AI大模型众测结果出炉!发现281个安全漏洞,未来治理刻不容缓
在第22届中国网络安全年会(暨国家网络安全宣传周网络安全协同防御分论坛)上,国国内内首次针对AI大模型的众测结果揭晓。此次活动由中央网信办网络安全协调局指导,国家首个计算机网络应急技术处理协调中心主办,吸引了559名白帽子安全专家参与,对15款AI大模AI型和应用产品进行了全面的安全漏洞测试。 这项测试涵盖了从基础大模型到智能体和模型开发平台大模等多种产品,旨在从攻击者的角度发掘潜在的安全隐患。结果显示,共发现各类安全漏洞高达28型众1个,其中大模型特有漏洞就有177个,比例超过60%。这说明,AI 大模型在安全性方面面临测结着传统安全领域之外的许多新兴风险。 测试中揭示的典型漏洞风险包括:部分产品存在严重果出的输出不当漏洞,信息泄露类漏洞频发,提示注入类漏洞也是一种普遍风险。此外,尽管一些大模型炉!产品已经具备一定的防护能力,但对抗无限制消耗攻击的措施仍需加强。值得注意的是,传统发现的安全漏洞依然普遍,必须引起足够的重视。 在参与测试的主流大模型产品中,腾讯的混元28大模型、百度的文心一言和阿里巴巴的通义 App 等,发现的漏洞相对较少,显示出较高1个的安全防护水平。这一结果为广大用户和开发者带来了信心。 活动最后,官方提出了四项安全 AI 大模型安全治理工作要求,强调了未来的防护措施和漏洞管理的重要性,包括加强安全防护、制漏洞定漏洞分类标准、鼓励社会白帽力量的参与,以及在 AI 系统全生命周期中融入安全管理。
- 最近发表
- 随机阅读
-
- 标签: 玉柴船电 MTU 发电机组
- 璐濈储鏂�細鏈変簡浜氶┈閫婂憳宸ュ拰瀹㈡埛锛屾垜鎵嶆湁閽变笂澶�
- 使用Prometheus和Grafana监控Kubernetes集群!
- 标签: 霍尼韦尔 航空航天分拆 Solstice 庞巴迪协议
- NotebookLM视频概览新增支持80多种语言,支持中文
- 标签: 小鹏机器人 IRON 施晓鑫 鹏行智能
- 亚马逊将开发127项新能源计划
- OSWorld-MCP:全新评测基准助力计算机代理产品发展
- 标签: 汉马科技 吉利商用车 周建群 远程新能源
- 标签: 影石 影翎无人机 刘靖康 大疆
- 标签: Temu 拼多多 土耳其 跨境电商
- 数据科学领域的顶级语言:Python 居首,SQL 次之
- 标签: 美的集团 钟铮 智能家居标准 AI数字人
- Twitter CEO首条推文作为NFT被转让 拍出290万美元
- 阿里 Qwen-VL-30B-A3B 新模型发布 数学、视频处理性能获称更强
- 外媒:欧盟本周将向苹果发起反垄断诉讼
- 阿里通义万相预告Wan 2.2-S2V模型:解锁AI视频音频同步生成
- 奥赛冠军都做不对的题,却被拿来考ML模型?GPT-3:我不行
- 云计算开发:Python练习实例-输出5个学生的数据记录
- 百度在上海成立云计算公司 注册资本达15亿元
- 搜索
-
- 友情链接