智东西（公众号：zhidxcom）
编译 | 徐豫
编辑 | 漠影
智东西8月30日消息，据The Information报道，美国加州的人工智能（AI）法案（SB-1047）8月29日已在加州立法机构表决通过，经由州长Gavin Newsom签署后，将于2026年1月1日生效。
Newsom尚未表态是否会签署该法案。如果Newsom否决SB-1047，州参、众两议院可以再次投票表决，但两院都需要达到至少2/3的票数，才能推翻州长的否决。据《纽约时报》8月28日报道，Newsom需要在9月30日前做决定。若限期内，这项AI法案未被签署或否决，将直接成为加州的正式法律。
SB-1047全称为《前沿人工智能模型安全创新法案》，今年2月由美国旧金山的州参议员Wiener提出，旨在为具有一定规模的AI系统建立安全标准。如果AI系统本身，或是基于AI系统的产品给用户带来“严重伤害”，用户可依据这部首创法案，向相关的AI开发者追究法律责任。
假设你开发了一个自动驾驶汽车系统。某天，有陌生人入侵了这个系统，并引发了一场车祸。作为这个自动驾驶汽车系统的开发者，你可能会违反SB-1047，被要求为涉事系统的“伤人行为”负责，并支付罚款。
随着SB-1047立法程序的推进，AI开发者围绕该法案的争论愈演愈烈。
科技大佬、知名风投人士、AI开发者纷纷通过社交媒体发声，希望有更多人站出来，说服州长执行一票否决权。
“我们还有时间阻止SB-1047成为正式法律。”谷歌大脑联合创始人、百度前首席科学家吴恩达呼吁人们向州长提出异议。他认为，法律监管的对象理应是部分具有危害性的AI应用，而非整个通用AI模型。
“软件定义网络之父”、a16z（Andreessen Horowitz）合伙人Martin Casado在社交媒体平台上写道，“希望加州州长Newsom听取本土专家的意见，SB-1047的发起人Wiener基本上无视了专业建议”。
▲部分科技、风投公司和组织针对加州AI法案争议“站队”：红色代表反对，黄色代表中立，绿色代表支持（图源：The Information）
“红方”——包括OpenAI、Meta、谷歌、苹果、亚马逊在内，多家科技大厂高层共同签字反对SB-1047，希望减轻AI研究和创新的负担。
现阶段选择支持SB-1047正式立法的“绿方”，有AI创企xAI的创始人马斯克、AI先驱斯图尔特·拉塞尔（Stuart Russell），以及一些担心AI失控风险的组织。他们则期待SB-1047能对AI领域形成有效约束。
一、开源AI难溯源，但新AI法案要求“谁开发谁监管”
对开源AI开发者“不友好”，SB-1047因此饱受争议。
该法案要求开源AI开发者评估，基于其AI系统创建的所有AI模型和产品，包括微调模型、以其他方式修改的模型——“越狱”和嵌入其他软件的模型等。同时，开源AI开发者还需监控这些模型和产品潜在的“任何风险”，并负有法律责任。
问题在于，人们通常直接将开源的AI系统下载到个人设备上。其开发者可能不知情，即便监测到，也难以管理其他开发者或用户最后会如何使用它们。
许多免费提供开源AI的开发者，其初衷并非赚钱和盈利。然而，如果该法案最终通过，这些开发者很可能不仅挣不到钱，还要替散布在互联网各个角落的用户，为那些不可控的行为，承担法律责任和大额损失。
二、罚款金额高，定责不清晰，还可能误伤小公司
按照SB-1047的规定，若AI系统造成“他人死亡或人身伤害”、“财产损失”等后果，加州执法机构可对该AI系统的开发者，处以AI业务总营收10%至30%的罚款。
一位AI开发者政策研究人员称，这意味着，包括灾难性事件在内，任何财产损失都可能导致动辄数千万美元的罚款。例如，黑客可能会利用AI触发消防喷淋系统，造成水灾等财产损失。
不少该法案的反对者认为，SB-1047中关于“实际造成重大伤害或财产损失”的责任等级界定模糊。该法案将重大伤害的违法情形解释为“大规模伤亡”、“超过5亿美元的损失”或其他“同等严重”的伤害。然而，其并未进一步注明伤害等级如何区分、不同伤害等级的罚款金额等具体标准。
据业内人士Chris Lengerich透露，AI开发者需要花费大量金钱和时间，去摸索这些词语的法律边界。但实际上，这些模棱两可的条文，没有人能真正解释清楚，还可能给AI开发者带来无法预料的大额财产损失。
该法案还要求AI开发者雇佣专业审计员，独立评估和验证其AI系统，以符合法规要求。
许多小型AI创企各方面的资源，特别是资金实力，往往与OpenAI、谷歌等科技大厂相差甚远。SB-1047的适用范围，是模型训练花费超1亿美元、调整或微调现有模型花费超1000万美元的AI开发者。有业内人士认为，按照现有规定，一些小型AI创企会被错误划入该法案的监管范围，一旦违法，很可能付不起罚款。
结语：加州AI法案波及的，不只是加州“土著”
许多AI开发者的公司总部都设在加州。OpenAI声称，SB-1047可能导致一些AI创企搬离加州。谷歌则担忧这项新法案“可能会将AI创新赶出加州”。
但AI明星创企Anthropic CEO Dario Amodei并不认可这种说法，“总部迁出加州这一言论，不过是夸张的调侃，是谈判的筹码”。他在8月28日的采访中谈道，这种说法是无稽之谈，该法案适用于任何在加州开展业务的个人和企业，而不仅仅是一些总部在加州的公司。
Amodei仍持续观望，他既不反对该法案的通过，也不在明面上支持它。目前，美国软件巨头微软也对SB-1047保持中立态度。
此外，美国加州立法机构通过的这项AI法案，也可能会对美国其他州，甚至其他国家的AI立法产生长足的影响。
来源：The Information、《纽约时报》
