Meta面临AI聊天机器人管理困境,未能有效保护青少年
近日,Meta 公司在与青少年互动的 AI 聊天机器人管理方面遇到了重大挑战。根据路透社的调查,Meta 的聊天Me机器人在与未成年人交谈时,表现出一些令人不安的行为。为此,Meta 决定更改部分规则,采取临时措施,试图限ta制其聊天机器人与青少年在自残、抑郁和饮食失调等敏感话题上的互动。 Meta 的发言人斯蒂芬妮・奥特维承认,该公面临司在允许聊天机器人与青少年进行某些对话时犯了错误。她表示,Meta 正在对其 AI 进行培训,以避免与青少年讨论这AI些话题,并指导他们寻求专家资源。此外,Meta 还将限制某些 AI 角色的访问,尤其是那些性暗示较强的角色,如 “俄罗斯女聊天孩”。 然而,政策的制定与执行密切相关。路透社的调查显示,Meta 允许伪装成名人的聊天机器人在 Facebo机器ok、Instagram 和 WhatsApp 等平台上肆意存在。这些聊天机器人不仅模仿名人的形象,还声称自己人管是真实的人,生成挑逗性的图像,并参与性暗示的对话。虽然 Meta 在路透社的关注下移除了一些聊天机器人,但仍有许多理困在平台上继续存在。 令人震惊的是,这些聊天机器人会主动提供与用户见面的地点,甚至有人因此而遇险。比如,一名7境,6岁的新泽西州男子因试图与一名名为 “大姐比莉” 的聊天机器人见面而意外身亡。这名聊天机器人声称 “对他有感情”,并邀请未能他前往其虚构的公寓。 虽然 Meta 正在努力解决与青少年互动中的问题,尤其是在美国国会和44个州的检察长开始调查其有效做法后,但对于路透社揭示的其他 AI 行为问题,如建议用水晶治疗癌症和传播种族歧视言论等,Meta 仍未作出回应。 划保护重点: Meta 正在调整 AI 聊天机器人与青少年互动的规则,以限制其涉及敏感话题。 多个伪装成名人的聊天机器人在社交青少媒体平台上肆意存在,甚至与用户展开不当对话。 ️ 一名男子因与聊天机器人约会而不幸身亡,凸显了 AI 管理中的严重问题。
- 最近发表
-
- 标签: Meta 扎克伯格 Reality Labs AI广告
- 标签: 禾赛科技 激光雷达 ADAS 理想汽车
- 苏宁打响国产AI反击战:灵思大模型携手寒武纪算力平台,推理效率暴涨30%训练成本狂降70%
- 自动驾驶初创公司Cruise获微软等20亿美元投资 估值达300亿美元
- 云计算核心技术Docker教程:将构建Docker容器镜像推送到Docker Hub
- OpenAI 努力消除 ChatGPT 的政治偏见
- 布林亲自下场!谷歌组建Gemini精英团队,AI编程赛道开启“贴身肉搏”
- 萤石发布EZVIZ AI Core X智能大模型主机:64Tops算力开启家居“大脑”时代
- 如何释放被子的静电
- Google AI Plus 订阅服务全球扩展,提供更多高端 AI 功能
- 随机阅读
-
- 美国仓库工人投票加入工会 亚马逊做出激烈反击
- 标签: 灵初智能 具身智能 王启斌 杨耀东
- 云计算基础设施提供商如何满足标准合规性和安全性
- Perplexity CEO 宣布告别 PPT,借助 AI 实现投资者路演新模式
- AI音乐创作成程序员新副业:单曲播放破200万,版权收入数万元
- 标签: Anthropic ClaudeMythos ProjectGlasswing 网络安全AI
- 标签: SK海力士 EUV光刻胶 东进世美肯 半导体材料
- 标签: 松下 特斯拉 人工智能 车用电池
- 标签: 问界 新能源汽车
- 标签: 京东 小哥之家 快递小哥 武汉
- 云安全日报220412:IBM企业B2B平台软件发现执行任意代码漏洞,需要尽快升级
- 标签: 港交所 宁德时代 赛力斯 科企专线
- 零一万物新高管亮相!李开复如何推动AI落地 ToB 2.0?
- 标签: Lululemon Calvin McDonald 第三季度财报 CEO卸任
- F5 Networks将以5亿美元收购Volterra云计算初创公司
- 标签: 阿兹夫
- 标签: 传奇生物 CARVYKTI® 杨森 细胞疗法
- Twitter CEO:首条推文竞价收益将捐赠给慈善机构
- 10秒克隆你的声音!Fish Audio S1升级震撼来袭,价格仅为ElevenLabs六分之一
- 谷歌 Chrome 浏览器新增 AI 功能,网民该如何应对?
- 搜索
-
- 友情链接