科技大亨马斯克（Elon Mush）、苹果公司（Apple）联合创办人沃兹尼克（Steve Wozniak）等多名业界重量级人物联署公开信，形容人工智能（AI）“已经失控”，可能对人类社会构成长远风险，希望同行在未来半年暂停研发，深思熟虑决定下一步方向。

综合美联社及《华尔街日报》报道，公开信由非营利组织“未来生命研究所”（Future of Life Institute）发起，至今已有超过1000人签名，除了马斯克与沃兹尼克外，还包括曾获图灵奖（Turing Award）的AI先驱班吉欧（Yoshua Bengio）、英国计算机科学家罗素（Stuart Russell）、机器学习企业家兼学者马库斯（Gary Marcus）等行业名人。其他联署人则有曾经竞逐总统的企业家杨安泽（Andrew Yang）、《原子科学家公报》（Bulletin of the Atomic Scientists）总裁布朗森（Rachel Bronson）等等。

信件以严肃措辞表示，现在的人工智能已经具备能和人类竞争的能力，可能对社会和人类构成深远风险，最近几个月更陷入“失控”的科技竞赛，不同机构纷纷开发、推出日益强大的数字思维，即使是创造者都无法理解、预测、可靠地控制系统。有见及此，公开信呼吁所有实验室立即暂停训练自己的模型，至少在未来6个月不要推出比GPT-4更强大的系统，并确保暂停工作公开透明、可供外界验证，否则政府应该介入。

有份联署的纽约大学（NYU）名誉教授马库斯（Gary Marcus）另行在博客刊登文章，表示他不同意其他联署人对AI的忧虑，相信这些系统非常聪明，可以自我完善，真正的风险反而是“一般人工智能”，广泛投入应用后，可能被犯罪分子用来诈骗或传播危险信息。

这波AI竞赛的转折点，在于旧金山初创公司OpenAI月前发表最新模型GPT-4，继而推出实际应用ChatGPT、随后微软、谷歌等龙头企业也加入竞争。截至29日，上述3家公司都未回应此信。而信件也引起争议，康奈尔大学的数码和信息法教授格里梅尔曼（James Grimmelmann）表示，暂停研发虽然出发点甚好，但信件内容含糊，没有正视监管问题，又表示电动车特斯拉的人工智能同样存在缺陷，却一直拒绝负责，马斯克参与联署非常虚伪。

相关新闻：

高盛：AI威胁全球3亿人饭碗，律师行政人员属高危群体

升级版GPT-4面世，语言能力媲人类，专家：并非搜索引擎

马斯克传招募AI研究员，拟打造ChatGPT对手