美国加州议会正推进一项严厉管制人工智能(AI)技术的法案，强制科技公司必须遵守严格的安全框架，包括向有待成立的新州立机构保证，不会开发具“危害能力”的AI模型；开发者亦须设立一个“紧急停止开关”(kill switch)，可立即关闭强大的AI模型。但该法案引发硅谷大小企业的不满和抗议，担心可能会给AI开发者带来无法承受的责任风险，有人声称它将逼使AI初创企业离开加州。

▲“AI造福人类全球峰会”5月底在日内瓦举行，一名参观者向机械人Captcha挥手。

加州州议会正在考虑对在该州运营的科技公司引入新限制的提案，包括三大AI初创公司OpenAI、Anthropic、Cohere，以及由Meta等科技巨头运营的大型语言模型。该法案已于上月在州议会参议院通过，将于8月在州众议院表决。法案要求加州的AI相关企业，向将于加州科技部内成立的部门“前沿模式部”，披露是否符合AI新规例，并保证他们不会开发具有“危害能力”的AI模型，例如用来制造生化武器、核武器，或协助网络攻击。根据草议的《前沿人工智能（AI）系统安全保障创新法案》，开发者必须报告其安全测试情况，并引入“紧急停止开关”来紧急关闭其模型。如果企业不遵守这些要求，可能会被起诉并面临民事处罚。

忧给开发者无法承受责任

但这项法案已引发硅谷的风险投资者、科企创办人、普通员工反弹，担心法案会给AI开发者带来无法承受的责任，他们无法保证自己的服务不被坏人滥用。有人声称它将逼使AI初创企业离开加州，并阻止Meta等平台操作“开放原始码”（Open Source）模型。该法案可能会逼使一些大型AI公司改变其运营方式。

大型公司或改变运营方式

这项法案由非牟利组织AI安全中心（CAIS）共同发起，得到AI先驱辛顿（Geoffrey Hinton）和本吉奥（Yoshua Bengio）的支持，他们担心AI可能对人类生存造成威胁。提出法案的民主党州参议员维纳说：“我希望AI成功，创新继续，但让我们尝试在任何安全风险之前先行一步。”批评者则指责维纳的法案限制过多，给开发者，尤其是小型AI公司的开发者带来了高昂的合规负担。曾在Google和中国百度公司领导AI项目的著名电脑科学家吴恩达说：“它为科幻风险创造了巨大的责任， 因此，任何敢于创新的人都会感到恐惧。”

其中一项激烈批评，是法案损害“开放原始码”模型的开发者（开发者将原始码提供给公众审查和修改），为他们带来无法承受的负担，难以保证其服务不会被坏人滥用。维纳说，他正计划对法案进行修订，“开放原始码”开发者将不对“经过（他人）大量微调”的模型承担责任。

另一项修正是法案只适用于“训练成本至少为1亿美元”的大型模型，因此不会对大多数小型初创企业产生影响。然而，硅谷的一位资深风险投资人表示，他们已经收到企业创办人询问，是否需要因为潜在的立法而离开加州。

相关新闻：

谷歌连本业都做不好？克鲁格曼开炮：有AI更糟，马斯克也补刀

美众院外交委员会通过法案，让政府更易限AI出口

以上内容归星岛新闻集团所有，未经许可不得擅自转载引用。