美国加利福尼亚州州长加文·纽森周四批准了针对社交媒体和人工智能聊天机器人的全面儿童安全新规 ，其中包括一项获得OpenAI首席执行官萨姆·奥特曼支持的法案。
纽森签署这些法案的决定，正值硅谷发展关键时期 。美国各州及联邦立法者正呼吁加强对人工智能的监管 ，此前Anthropic和OpenAI的现任及前任研究人员本周警告称 ，若不加以控制，这项技术可能对人类构成生存威胁 。Meta 、谷歌 、Snap等也面临数百起儿童安全诉讼，其中Meta上个月达成的一项重大和解案 ，同意向各州支付比较高 180亿美元的赔偿金。
这些法律将建立纽森所称的全美领先的安全防护机制 ，旨在保护年轻人免受社交媒体和人工智能使用带来的潜在风险 。它们将提高企业对保护儿童健康方面的法律责任，并禁止16岁以下青少年访问某些“成瘾性 ”的社交媒体功能 。
其中一项SB 1119法案要求AI聊天机器人核实用户的年龄 ，限制儿童接触不当内容 ，并限制AI公司向未成年人进行广告宣传。该法案的起草者以及支持该法案的儿童安全组织，包括常识媒体（Common Sense Media） ，表示这些保护措施是对近期一系列诉讼的回应 ，这些诉讼指控聊天机器人加剧了青少年自杀及其他儿童伤害事件的发生。
该法案也被称为“亚当法案 ”，以加州一名青少年亚当·雷恩的名字命名 。据其家人称 ，雷恩在与ChatGPT进行过大量关于自残手段的对话后 ，最终自杀身亡 。雷恩的家人已就此事对OpenAI提起诉讼，他的母亲玛丽亚·雷恩周四出席了法案签署仪式并发表了讲话。
OpenAI在上月底加州议会通过该法案时表示支持 ，此前立法者已加入相关条款 ，明确聊天机器人何时可以“记住”之前的对话，并在父母同意的情况下保留未成年人的数据 。奥特曼在加州议会投票前曾联系纽森，但OpenAI方面称二人最终并未通话 。
在纽森签署法案后 ，OpenAI全球政策主管克里斯·莱汉表示 ，这项法律“满足了父母的迫切需求，并为青少年的教育成功创造了条件 ” ，并称赞立法者“充分利用加州平台 ，推动了全美领先的法律 ”。
科技巨头Meta也于周四发表评论 。公司发言人吉姆·卡林南表示，该法案“并非完美” ，但已朝着平衡人工智能风险与收益迈出“有意义的步伐” 。
纽森周四签署的另一项法案——AB 1709法案 ，将禁止社交媒体公司向16岁以下儿童提供个性化信息流（即“为你推荐 ”页面），以及旨在延长屏幕使用时间的其他功能 ，例如无限滚动和视频自动播放。该法案仍允许儿童在关闭这些功能的情况下使用社交媒体平台 。
此外 ，这项法案还要求平台遵守加州去年通过的AB 1043法案，即要求平台核实儿童年龄 。自今年1月起 ，AB 1043法案将强制用户在设置新手机或笔记本电脑时输入出生日期 ，并要求设备制造商向应用程序共享用户的年龄信息。
Meta对这项法案的态度似乎有所保留 。该公司发言人库林南在一份声明中表示，个性化是公司“为青少年提供与其年龄相符且相关的内容，同时确保有适当的监管措施 ”的方式 。
根据最近的文件显示 ，Meta、谷歌 、Snap及其他社交媒体巨头并未公开支持或反对AB 1709法案 ，但曾就该法案进行游说。
第三项法案，即AB 2法案规定 ，如果科技平台被认定对诱发未成年人焦虑 、抑郁或造成其他伤害负有责任 ，平台比较高 将被按每名受害儿童处以100万美元罚款。在部分案件中，若法院判定儿童或其家庭应获得高额赔偿 ，罚款金额还会增至三倍 ，这意味着企业可能需要支付超过 100 万美元 。
纽森周四一共签署了13项与青少年网络安全及隐私相关的法案 。其中一项法案禁止学校要求幼儿园和过渡幼儿园学生将 iPad、谷歌笔记本电脑等设备带回家；另一项法案禁止企业销售部分搭载人工智能功能的玩具。
还有其他人工智能相关法案待纽森签署，其中包含劳工组织重点关注的几项法案 。纽森透露 ，下周初就会出台更多举措 ，“数据中心领域还会有大量新规落地” 。
