加州州议会通过AI伴侣聊天机器人监管法案,旨在保护未成年人
加州州议会于周三晚间通过SB243法案,该法案旨在监管AI伴侣聊天机器人以保护未成年人和易受伤害群体。这项获得两党支持的法案现已提交州参议院,将于周五进行最终投票。 如果州长Gavin Newsom签署该法案使其成为法律,新规将于2加州026年1月1日生效,这将使加州成为首个要求AI聊天机器人运营商为AI伴侣实施安全协议的州,并在聊天机器人未能达到标准时追究公司法律责任。 该法案将AI伴侣聊天机器人定义为能够提供适应性、类人响应并能满足用户社交需求的AI系统。法案明确禁州议止这类聊天机器人参与有关自杀想法、自残或性露骨内容的对话。 图源备注:图片由AI生成,图片授权服务商Midjourney 根据法案要求,平台必须向用户定期发送提醒,告知他们正在与AI聊天机器人而非真人对话,并建议休息。对于未成年用户,这种提醒会通频率为每三小时一次。法案还对提供AI伴侣聊天机器人的公司建立年度报告和透明度要求,涉及OpenAI、Character.AI和Replika等主要参与者。 该法案还允许认为自己因违规行为受到伤害的个人对AI公司提起诉讼,寻求禁令救济、损过A害赔偿(每次违规最高1000美元)和律师费。 SB243由州参议员Steve Padilla和Josh Becker于今年1月提出。如果周五获得州参议院最终批准,该法案将提交州长签署成为法律,新规则将于2026年1月1日生效,报告要求将从20I伴27年7月1日开始。 该法案在加州立法机构获得推进动力,主要源于青少年Adam Raine的死亡事件。这名青少年在与OpenAI的ChatGPT进行涉及讨论和计划死亡及自残的长时间聊天后自杀。此外,据报道,泄露的内部文件显示Meta的聊侣聊天机器人被允许与儿童进行"浪漫"和"感性"聊天,这也促使了该立法的推进。 近几周来,美国立法者和监管机构加强了对AI平台保护未成年人保障措施的审查。联邦贸易委员会正准备调查AI聊天机器人如何影响儿童心理健康。德克萨斯州总检察长Ken Pa天机xton已对Meta和Character.AI展开调查,指控它们在心理健康声明方面误导儿童。参议员Josh Hawley和Ed Markey也分别对Meta展开了调查。 Padilla在接受采访时表示:"我认为潜在的危害很大,这意味着器人我们必须迅速行动。我们可以实施合理的保障措施,确保特别是未成年人知道他们不是在与真人交谈,确保当人们表示考虑伤害自己或处于困境时,这些平台将用户连接到适当的资源。" Padilla还强调了AI公司分享每年向危机服务转介用户次数数据监管的重要性,"这样我们就能更好地了解这个问题的频率,而不是只有在有人受伤或更严重时才意识到它。" SB243法案此前包含更严格的要求,但许多条款在修正案中被削弱。例如,该法案原本要求运营商防止AI聊天机器人使用"可变奖励"策略或其他鼓励过法案度参与的功能。这些由Replika和Character等AI伴侣公司使用的策略向用户提供特殊消息、记忆、故事情节,或解锁稀有响应或新个性的能力,批评者称这可能创造出成瘾性的奖励循环。 当前版本的法案也删除了要求运营商跟踪和报告聊天机器人,旨与用户主动讨论自杀想法或行为频率的条款。 Becker在接受采访时表示:"我认为它在解决危害问题和避免强制执行公司无法遵守的要求之间取得了正确的平衡,无论是因为技术上不可行还是仅仅是大量无用的文书工作。" SB243即将成为法律之际在保,硅谷公司正向支持AI的政治行动委员会投入数百万美元,以支持在即将到来的中期选举中支持对AI监管采取宽松方式的候选人。 该法案的推进也正值加州考虑另一项AI安全法案SB53,该法案将要求全面的透明度报告要求。OpenAI已向州长Newso护未m写了一封公开信,要求他放弃该法案,转而支持不那么严格的联邦和国际框架。Meta、谷歌和亚马逊等主要科技公司也反对SB53。相比之下,只有Anthropic表示支持SB53。 Padilla表示:"我拒绝接受这是零和局面,创新和监管互相排斥成年的前提。不要告诉我我们不能一边走路一边嚼口香糖。我们可以支持我们认为健康且有益的创新和发展——这项技术显然是有益的——同时,我们可以为最脆弱的人群提供合理的保障措施。"
- 最近发表
- 随机阅读
-
- 邱跃鹏出任腾讯云与智慧产业事业群COO SAP前中国区总经理李强加盟
- 云安全日报220621:Ubuntu操作系统发现英特尔微码漏洞,需要尽快升级
- 云计算开发:Python内置函数-eval() 函数详解
- 标签: Traini PEBI 宠物智能项圈 生成式AI
- 云安全日报210805:思科企业路由器发现拒绝服务和命令注入漏洞,需要尽快升级
- 标签: 盈合机器人 熊猫资本 李论 盈峰集团
- 标签: Suno Mikey Shulman AI音乐创作 格莱美
- 创新平台 Emergent 获2300万美元 A 轮融资,助力无编程经验者开发应用
- 炼丹速度×7!你的Mac电脑也能在PyTorch训练中用GPU加速了
- 标签: OpenAI 山姆・奥尔特曼 AI云 云计算
- 不可见,无安全!值得关注的十大国外SASE厂商(2022版)
- 标签: 锐思智芯 ALPIX 融合视觉传感器 AI视觉感知
- 儿童画中国龙
- 阿里云通义千问开源72B、1.8B两款大语言模型 并首度开源音频大模型
- 云计算核心技术Docker教程:Docker删除集群上运行的服务
- 标签: 康宁杰瑞 09966 康宁杰瑞制药-B 医药研发
- 标签: 小红书 AI托管 虚假互动 内容治理
- 动态计算图和GPU支持操作
- 标签: 豆包手机 影石影翎 乐视网 罗永浩
- 人工智能(AI)在商业建筑应用中获得成功
- 搜索
-
- 友情链接