OpenAI执行长首赴国会作证,呼吁为人工智能建立安全标准

2023-05-17 16:20

创建了人工智能聊天机器人ChatGPT的OpenAI公司执行长奥尔特曼(Sam Altman)在国会听证会上表示,政府干预对于减轻越来越强大的人工智能系统的风险至关重要,他并要求议员们为人工智能建立安全标准。

OpenAI执行长首赴国会作证

▲创造ChatGPT的OpenAI公司执行长奥尔特曼在国会听证会上表示,政府干预对于减轻风险至关重要,他要求议员们为人工智能建立安全标准。

根据美联社和《华尔街日报》的报道,奥尔特曼16日首赴国会,出席参院司法委员会隐私、技术和法律小组委员会的听证会,IBM 首席隐私诚信官蒙哥马利(Christina Montgomery)及纽约大学荣誉退休教授马库斯(Gary Marcus)也在听证会上作证。

奥尔特曼称,随着人工智能技术进步,“我们认识到人们对于它可能如何改变我们的生活方式感到焦虑,我们也感到焦虑。”他提议美国或者全球成立一个机构,给最强大的人工智能系统颁发执照,有权力收回执照并确保其符合安全标准。

由奥尔特曼创办的总部位于加州三藩的初创企业OpenAI去年年末推出 ChatGPT后,迅速引起了公众关注。这种免费的聊天机器人以在对话中生成类似人类的文本响应来回答各种问题,最初教育工作者对于学生借助ChatGPT完成家庭作业产生了恐慌,现在这已演变成人们对于最新各种生成式人工智能误导国人、传播谎话、侵犯版权及颠覆某些工作的能力表示了严重的关切。

参院司法委员会隐私、技术和法律小组委员会负责人、康州民主党籍参议员布鲁门萨(Richard Blumenthal)在听证会上指出,应要求人工智能公司测试各种系统,并在系统推出前披露已知风险,他对未来的人工智能系统如何可能扰乱就业市场尤其表达了担忧。虽然奥尔特曼对此大致表示认同,不过他对工作前景更加乐观。在被问他本人对于人工智能最糟糕的担忧是什麽时,除了说该行业可能给世界造成重大危害及“如果技术出错,那麽可能会大错特错”外,奥尔特曼避免谈及细节。

隐私、技术和法律小组委员会共和党首席议员 、密苏里州的霍利(Josh Hawley)对于在技术创新与伦理及道义责任两者间取得平衡表示了疑虑,他称人工智能技术对于选举、工作和国家安全具有重大意义,而此次听证会成为在朝着认识国会面对新的人工智能系统应做什麽方面所迈出的至关重要的第一步。

相关阅读