智东西8月29日消息，据《纽约时报》报道，周三，美国加州立法者通过了一项备受争议的法案，旨在对人工智能（AI）设立新的限制，确保AI技术既具有创新性，也具备安全性和可靠性。

SB-1047法案全称“前沿AI模型安全创新法案”。其目的是为那些开发成本超过1亿美元或具备一定计算能力的开发者建立安全准则，以保障大规模AI模型的安全性。

据悉，本周还需再进行一次程序投票，最后由美国加州州长加文·纽森（Gavin Newsom）于9月30日之前决定签署还是否决。

尽管欧盟已经制定了AI法案，但美国尚未通过有关限制使用较高风险技术的法律，如限制使用面部识别软件。

一、美国加州要求AI公司进行安全性测试

美国加州议会批准的SB-1047法案要求大型AI公司在向公众发布其系统之前，必须对系统进行安全性测试。

据路透社报道，SB-1047还要求开发人员聘请第三方审计师来评估其安全实践，并为公开反对AI滥用行为的举报人提供额外保护。

此外，加州AI法案允许州检察长向造成重大伤害事故的AI制造商提起诉讼，例如死亡或财产损失。

随着类人机器人和逼真的图像、视频生成器的引入，加州AI法案认为如果AI的发展没有适当地受到人类控制，未来这项技术可能会对公共安全造成新的威胁。

“议会采取了历史性的措施，主动确保这一令人兴奋的新技术在发展过程中保护公众利益，”加州AI法案的共同作者、民主党参议员Scott Wiener在一份声明中写道。

然而，自2月提交以来，加州AI法案一直饱受争议。

美联社Juliana Yamada称，美国加州立法的通过引发了一场关于如何监管这一新技术的激烈辩论，AI因其潜在的利益和危害而广受关注。

本月，Wiener又对法案进行了多项修改，以安抚Anthropic、OpenAI、Meta和谷歌等科技行业的批评者。

他将创建专注AI安全的独立机构的这项提议删除，并降低了公司的责任标准，仅在造成实际伤害时才追究责任。

新闻机构CalMatters关于SB-1047的总结记录显示，加州AI法案目前已修正过十一版。

据《环球时报》报道，Wiener称：“随着国会在AI监管问题上陷入僵局，美国加州必须采取行动，在AI带来可预见的风险之前采取行动，同时促进创新也不能放。”

在他看来，AI安全与创新并不互斥。

二、加州AI法案获支持：确保AI发展与公共安全并行

目前，加州AI法案的最新修订版已经解决了此前一些批评者的担忧。

埃隆·马斯克（Elon Musk）本周在他的社交网站发文称，这是一个“艰难的决定”，但“综合考虑所有因素”，他支持对AI进行监管，支持通过加州AI法案，因为这项技术对公众存在潜在风险。

SB-1047法案的其他支持者也认为，如果没有保护措施，AI可能带来灾难性后果。它可能被用于生物战争，或通过虚假信息运动推翻民主选举和政府。

“政府现在就如何开发和部署这些强大的AI系统所做的选择可能会对当代和未来几代美国加州人乃至世界各地的人产生深远的影响。”蒙特利尔大学计算机科学教授Yoshua Bengio和因AI安全问题辞去谷歌职务的Geoffrey Hinton在写给纽森的信中谈到。

三、弊大于利：行业担忧美国加州AI法案可能抑制技术创新

加州AI法案虽然得到了部分科技界人士的支持，但仍面临来自行业内的强烈反对，呼吁保护创新与发展。

包括前众议院议长南希· 佩洛西（Nancy Pelosi）在内的数名国会议员已致信纽森，警告他该立法可能会威胁到AI的发展。他们认为这项技术仍处于初期阶段，现在就要明确AI系统是否安全还为时过早。

佩洛 西在上周发表的一封公开信中写道：“我们国会中的许多人认为，SB-1047法案的初衷是好的，但缺乏充分了解。”

OpenAI日前也公开反对加州AI法案。

据《环球时报》报道，OpenAI首席战略官Jason Kwon在给Wiener的信中写道，SB-1047法案威胁到“美国加州作为AI全球领导者的独特地位”。他补充说，这可能“减缓创新步伐，并导致世界级工程师和企业家离开该州到其他地方寻找机会”。

Wiener对此也作出回应，他认为SB-1047是一项非常合理的法案，它要求大型AI实验室测试他们的大型模型是否存在灾难性的安全风险，“我们一整年都在努力工作，与开源倡导者、Anthropic和其他组织一起完善和改进SB-1047法案。”

SB-1047法案的反对者担心，这可能会扼杀创新，阻碍初创公司的发展。他们认为，这将使科技巨头不愿意与其他企业和软件开发者分享其AI的底层软件代码，也就是通常所说的“开源”。

目前，纽森尚未对该立法表态。

结语：美国加州通过SB-1047法案，AI监管再迈出一步

随着美国加州立法机关通过SB-1047法案，美国AI监管进入新阶段。这项立法不仅为美国加州设定了新的技术标准，也可能影响全球范围内对AI的监管政策。

通过立法来确保技术的安全性和可靠性，有助于增强公众对AI技术的信任，促进AI在更广泛领域的应用。美国加州通过SB-1047法案，不仅对现有技术的发展提出了挑战，也为行业的长期健康发展奠定了基础。

美国空军退役中将Lieutenant General John (Jack) Shanahan称，SB-1047法案针对公民社会和国家安全面临的近期潜在风险提供了务实的解决方案，同时也为科技行业与各级政府之间的进一步对话奠定了基础。

如果加州AI法案签署成功，其具体效果及各方面的反馈也将成为国际社会关注的热点。AI技术的发展和监管将继续在全球不断的讨论和探索中进化，以寻求平衡创新与伦理、安全等多方面的需求。

本文来自“智东西”，编译：杨蕊伃，编辑：漠影，36氪经授权发布。