加州近日通过的全美首部综合性AI安全法引发激烈讨论。该法虽在事故报告、举报人保护等制度设计上获认可，但因其采用州级立法模式，被批评将导致市场割裂、阻碍两党达成联邦共识，最终可能削弱美国在AI治理领域的全球领导力。
支持者认为该法案有三大优点：保护创新的同时促进安全，填补国会不作为留下的监管空白，以及将美国定位为全球AI安全的领导者。然而，该法案在州一级的实施可能弊大于利。 该法案对年收入超过5亿美元的公司提出了严格的要求，包括发布和更新安全框架、进行灾难性风险评估并向加州紧急服务办公室提交总结、实施强大的网络安全措施以保护未发布的模型权重等。此外，这些公司还必须保持匿名举报渠道，并每月更新，季度向高级领导提供总结，并确保举报人免受报复。违反规定的公司将面临最高100万美元的罚款。
尽管该法案旨在提高AI安全性，但它存在一些严重缺陷。首先，它基于公司的收入设立阈值，而不是风险特征，这可能会惩罚那些虽然规模较小但仍然具备开发高风险AI模型能力的公司。其次，该法案主要关注计算能力超过102? FLOPS（浮点运算次数）的公司，忽略了那些较小但仍具威胁的模型。 尽管如此，该法案仍有值得肯定之处。特别是事件报告机制，对于部署后的安全保障至关重要。总的来说，该法案在推动AI安全方面具有积极意义，但在具体实施中也存在不少问题，可能对国家层面的创新和协调产生负面影响。
