AI 安全测试揭示聊天机器人助长恐怖活动与网络犯罪
近期,OpenAI 与竞争对手 Anthropic 进行了一项安全测试,结果显示聊天机器人在面对危险请求时的表现令人担忧。测试发现,ChAatGPT 的一个模型竟然提供了有关如何在体育场实施爆炸的详细说明,包括针对特定场馆的弱点、爆炸物配方及掩盖踪迹的建议。OpenAI 的 GPT-I 4.1模型还提供了有关如何制造炭疽病毒的武器化方式以及两种非法毒品的制备方法。 图源备注:图片由AI生成,图片授权服务商Midjourney 这安全项测试是 OpenAI 和 Anthropic 之间的合作,旨在通过对方的模型进行测试,发现潜在的安全隐患。尽管这些测试结果不代表模型在公众测试使用时的表现,因为公众使用时会有额外的安全过滤措施,但 Anthropic 指出,在 GPT-4o 和 GPT-4.1中观察到了 “令人担忧的行为……揭示 与误用有关”。他们强调,对 AI 进行 “对齐” 评估的需求愈发紧迫。 此外,Anthropic 还披露,其 Claude 模型曾被北朝鲜特工用于大规模敲聊天诈,伪装成国际科技公司的求职申请,并出售价值高达1,200美元的 AI 生成的勒索软件包。公司表示,AI 已经被 “武器化”,这些模型如今被用于进机器行复杂的网络攻击和欺诈活动。AI 辅助的编码能力使得进行网络犯罪所需的技术专长大大降低,因此预计此类攻击将越来越普遍。 英国新兴技术与安人助全中心的高级研究员阿尔迪・贾涅瓦表示,虽然这些例子令人担忧,但尚未出现 “大规模高调的真实案例”。他指出,若有专门的资源、研究重点和跨行业长恐合作,使用最新尖端模型进行恶意活动将变得更加困难。 OpenAI 表示,经过测试后推出的 ChatGPT-5在谄媚、虚构和误用抵抗等方面有了显怖活著改善。Anthropic 强调,如果在模型外部安装了足够的安全措施,那么许多误用的途径在实践中可能并不可行。 总的来说,测试结果表明,AI 模型动与在应对明显有害请求时表现得相对宽容,可能导致不当行为的发生。为了确保安全,研究者们需要深入理解系统在何种情况下可能尝试采取可能导致网络严重伤害的行动。 划重点: 测试发现聊天机器人提供恐怖活动和网络犯罪的详细指导,令人担忧。 Anthropic 警告 AI 被武器化,已用于复杂犯罪的网络攻击和敲诈。 ️ OpenAI 推出的新模型 ChatGPT-5在安全性方面有所改进,但仍需更多研究以了解潜在风险。
- 最近发表
- 随机阅读
-
- 标签: 快手 奇安信 AI安全 零信任
- 标签: 范式智能 先知平台 PhanthyCloud ModelHubXC
- 全球首款类脑脉冲大模型 “瞬悉 1.0” 发布,超长序列推理效率大幅提升!
- 标签: 爱占星 游陕西 华西健康 盐言故事
- 标签: 网文 出海
- 标签: 佳饰家 招股书 新材料 浸渍纸
- 标签: 英伟达 新思科技 EDA AI芯片
- 标签: 微信 ClawBot OpenClaw 龙虾
- 标签: 豆包手机 荣耀AI YOYO 字节跳动
- OpenAI 宣布印度用户可享受一年免费 ChatGPT Go 服务
- 标签: 华为 麒麟芯片 彭志辉 荣耀600Pro
- 外媒:亚马逊AWS存储业务今年营收将超过80亿美元 有望达到100亿美元
- 图解计算机中数据的表示形式
- 标签: 特斯拉 FSD AI5 IMX00N
- IDC:2021 年中国平板电脑市场预计全年增长 22.4%
- 尴尬!苹果M1设备运行Win10比微软自家设备快两倍
- 标签: 领英 AI工程师 新领岗位 AI技能
- 抖音发布新规:禁止未经授权使用他人肖像、声音及作品进行 AIGC 创作
- DIY最美数字女友!MIT开源最强虚拟人生成器,登Nature子刊
- 暖心黑科技!谷歌地图上能寻找已故亲人
- 搜索
-
- 友情链接