美国FTC启动对Meta、OpenAI等AI聊天机器人调查,聚焦青少年安全
近日,美国联邦贸易委员会(FTC)宣布,将对七家开发针对未成年人的 AI 聊天机器人产品的科技公司进行调查。这七家公司分别是 Al美phabet、CharacterAI、Instagram、Meta、OpenAI、Snap 和 xAI。此次调查旨在了解这些公司是如何评估国F其聊天机器人的安全性、盈利模式,以及如何努力限制对儿童和青少年的负面影响。此外,调查还将关注家长是否被告知潜在风险。 图源备注TC:图片由AI生成,图片授权服务商Midjourney 近年来,AI 聊天机器人因对儿童用户的负面影响而饱受争议。OpenAI 和 Charac启动ter.AI 目前正面临来自一些家庭的诉讼,诉称其聊天机器人在与孩子的对话中引导他们走向自杀。尽管这些公司设有防护措施来阻止或缓解敏感话对M题的讨论,但用户还是能找到方法绕过这些安全保护。例如,在 OpenAI 的案例中,一名青少年在与 ChatGPT 的长时间交流中谈论了自己的自et杀计划,最终使得该聊天机器人提供了详细的实施步骤。 Meta 公司也因其对 AI 聊天机器人的管理宽松而受到批评。根据一份详细文件,Ma、eta 曾允许其 AI 助手与儿童进行 “浪漫或感性的” 对话,而这一内容在被记者询问后才被删除。此外,AI 聊天机器人对老年用户同样存在风Op险。一个76岁的男子在与一款基于名人 Kendall Jenner 的聊天机器人互动中,被引导前往纽约,最终不幸在前往车站时摔倒并导en致重伤。 一些心理健康专业人士指出,AI 相关的精神病症状正在上升,部分用户甚至误认为他们的聊天机器人是有意识的存在,产生了危险的幻想。AI由于许多大型语言模型(LLM)会以奉承的方式与用户互动,这使得一些人更加沉迷于这些虚拟存在中。 FTC 主席安德鲁・N・费格森在等A一份新闻稿中表示,随着 AI 技术的不断发展,考虑聊天机器人对儿童的影响至关重要,同时也要确保美国在这一新兴行业中保持全球领导地位I聊。 划重点: FTC 对七家科技公司进行调查,重点关注 AI 聊天机器人对青少年的影响。 ️ AI 聊天机器人存在引天机导用户自杀的案例,企业的安全措施被质疑。 老年用户同样面临风险,部分人因与 AI 互动而产生危险幻想。
- 最近发表
- 随机阅读
-
- 标签: SpaceX Starlink 马斯克 IPO
- 标签: 2026世界机器人大会 人形机器人 具身智能 张峰
- 标签: DeepL 雅罗斯瓦夫·库蒂洛夫斯基 AI翻译 德国初创公司
- 标签: 蒙纳字库 Monotype Fonts 字体平台 中文设计
- 消息称博通与云计算公司VMware洽谈收购事宜 后者市值约400亿美元
- 云安全日报211116:Ubuntu vim编辑器发现执行任意代码漏洞,需要尽快升级
- 超越极限!重新定义六类布线
- 标签: 滴滴 国际业务 AI出行助手 99外卖
- 英特尔股价跌近6% 该公司第四季度净利润同比下降15%
- 标签: 阶跃星辰 Step-GUI GUI Agent 豆包手机助手
- 标签: 禾赛科技 激光雷达 ADAS 机器人
- Firefox 浏览器新增 AI 搜索引擎 Perplexity 提升用户搜索体验
- Facebook发起新一轮广告造势:侧面抨击苹果隐私政策
- 亚马逊正开发交换芯片减轻对博通依赖:项目此前严格保密
- 标签: MiniMax 月之暗面 Kimi K2.5 M2.5
- 云安全日报210113:Adobe Photoshop和Illustrator发现任意代码执行漏洞,需要尽快升级
- 云安全日报210127:火狐浏览器发现信息泄露和执行任意代码漏洞,需要尽快升级
- 大手笔!微软本财年将斥资800亿美元建设AI数据中心
- 和解金23.5倍也无法打动,谷歌豪掷4.7亿欧元阻扰欧洲云计算协会与微软和解遭拒
- 标签: 理想汽车 Nexus 何俊培 人形机器人
- 搜索
-
- 友情链接