州议会月前通过立法，要求建立全国首批安全措施规范大型人工智能(AI)模型，但29日遭州长纽森否决，被认为对加州以至全国试图控制近年急速发展的AI产业是一大打击。

纽森本月初出席软件企业Salesforce年度大会Dreamforce时表明，由于联邦对AI的放任，加州必须领导规范AI的工作，但SB 1047法案“对产业会产生寒蝉效应”，且透过建立硬性要求来伤害这个出自加州的产业。

▲州长纽森否决SB 1047法案。美联社资料图片

纽森指出，SB 1047“未考虑AI系统是否部署在高风险环境、涉及重要决策或敏感资料的使用”，反而“对大多数基本功能采取严苛标准”，不认为是保护公众免受AI威胁的最佳方法。

法案由代表旧金山的州参议员威善高(Scott Weiner)提出，引发不少批评，包括来自AI新创公司、科企和普洛西等多名民主党国会众议员，认为法案恐“扼杀加州科技和创新”，妨碍AI开发人员投资大型AI模型或分享开源软件。

▲提出法案的三藩市州参议员威善高。美联社资料图片

包括电动车特斯拉创办人马斯克和AI新创公司Anthropic等支持者认为，法案可为大型AI模型注入一定程度的透明度和问责，因为开发人员与专家表示尚未完全掌握AI模型的行为方式。

法案要求公司测试它们的AI模型和对外公布其安全措施，以免AI模型对公共基建构成威胁或成为生化武器。有专家认为，随着AI产业持续急速发展，这些情况都有可能发生。法案还保护举发AI问题的员工。法案针对建造成本1亿美元以上的AI模型。虽然目前尚无AI模型达到这门槛，但专家认为明年就有可能。

对于法案被否决，威善高形容对每位相信对大企业进行监督的人来说是一种挫折。他认为，即使大型AI实验室在监控和减轻AI相关风险上做出承诺，“事实上这些承诺无法执行，且对公众缺乏良好效果”。

威善高认为，围绕法案的讨论已大幅推进AI安全相关议题，他将继续强调这一点。

纽森同时宣布，加州将与反对SB1047的李飞飞等多名AI专家合作，为强大的AI模型建立防护措施。