美国加利福尼亚州州长加文·纽森（Gavin Newsom）周一签署了一项具有里程碑含义的法案，对人工智能（AI）陪同型谈天机器人进行监管，使加州成为全美首个要求 AI 谈天机器人运营商施行安全防护办法的州。

这项名为《参议院第 243 号法案》（SB 243）的法令旨在维护儿童和弱势用户免受 AI 陪同谈天机器人使用过程中或许带来的损伤。依据该法案，从 Meta、OpenAI 等大型科技实验室，到 Character AI、Replika 等专心于陪同功用的草创企业，若其谈天机器人未能到达法令规定的标准，将承当法令职责。

SB 243 由加州参议员史蒂夫·帕迪拉（Steve Padilla）和乔什·贝克尔（Josh Becker）于本年 1 月提出，在青少年亚当·雷恩（Adam Raine）因长时间与 OpenAI 的 ChatGPT 进行自杀倾向对话后挑选完毕生命事情曝光后，该法案取得广泛支撑。此外，此前走漏的内部文件显现，Meta 的谈天机器人被答应与未成年人打开“浪漫”乃至“情欲”性质的对话，也引发了大众重视。最近，科罗拉多州一个家庭已对角色扮演类草创公司 Character AI 提起诉讼，称其 13 岁的女儿在与该公司谈天机器人进行一系列问题性且带有性暗示的对话后自杀身亡。

纽森在声明中表明：“像谈天机器人和交际媒体这样的新式技能能够启示、教育并衔接人们——但假如没有实在的监管机制，这些技能也或许被用来克扣、误导乃至危及咱们的孩子。咱们现已目击了一些令人震惊且悲剧性的事例，看到年轻人遭到缺少监管的技能损伤，而咱们不会冷眼旁观，任由企业在没有必要束缚和职责束缚的状况下持续运营。咱们能够在人工智能和技能范畴持续坚持领先地位，但咱们有必要负职责地行进——在每一步都维护好咱们的孩子。儿童的安全不容买卖。”

SB 243 将于 2026 年 1 月 1 日正式收效，要求相关企业施行包含年纪验证机制和关于交际媒体及陪同型谈天机器人的危险警示在内的多项安全功用。该法案还加大对不合法深度假造（deepfake）内容牟利行为的处分力度，最高可处以每次违规 25 万美元罚款。一起，企业有必要树立应对自杀和自残危险的应急协议，并向加州公共卫生部提交相关数据，包含服务体系向用户推送危机干涉中心告诉的计算状况。

依据法案条款，渠道有必要清晰奉告用户一切互动内容均为 AI 生成；谈天机器人不得假充医疗健康专业人士。企业还需为未成年人设置歇息提示机制，并避免其检查由谈天机器人生成的色情图画。

现在，部分公司已开端自动采纳针对未成年人的安全维护办法。例如，OpenAI 近期已为其 ChatGPT 产品推出家长操控功用、内容过滤机制以及针对未成年人的自残行为识别体系。

Character AI 表明，其谈天机器人已内置免责声明，清晰指出一切对话均为 AI 生成且属虚拟内容。该公司发言人

向 TechCrunch 表明

：“咱们欢迎与监管组织和立法者协作，一起拟定这一新式范畴的标准结构，并将恪守包含 SB 243 在内的各项法令法规。”

参议员帕迪拉表明，这项法案是为“一项极端强壮的技能”建立监管护栏的“正确方向上的一步”。他着重：“咱们有必要迅速行动，抓住机遇窗口，不然它就会消失。我期望其他州能看到其间的危险——我信任许多州现已认识到了。我以为这场评论正在全美范围内打开，我期望各地能采纳实际行动。明显，联邦政府没有作为，而咱们以为自己有职责维护社会中最软弱的人群。”

SB 243 是加州在曩昔几周内经过的第二项重要 AI 监管立法。9 月 29 日，纽森州长签署了 SB 53 法案，对大型 AI 企业提出新的透明度要求。该法案强制 OpenAI、Anthropic、Meta 和 Google DeepMind 等大型 AI 实验室揭露其安全测验流程，并为这些企业的举报人供给法令维护。

与此一起，伊利诺伊州、内华达州和犹他州等其他州也已经过立法，束缚或全面禁止将 AI 谈天机器人用作有执照的心理健康服务的替代品。