IT之家 月 8 日消息,谷歌近期删除了其 AI 原则中关于“不开发用于武器的 AI 系统”的承诺,这一决定引发了广泛争议。谷歌大脑(Google Brain)的创始人兼前负责人吴恩达(Andrew Ng)在旧金山的军事老兵创业大会上公开表示支持谷歌的这一决定。
“我很高兴谷歌改变了立场,”周四晚上在大会上接受 TechCrunch 的台上采访时,吴恩达说。
在本周早些时候,谷歌从其 AI 原则网页中删除了这一 7 年前的承诺。与此同时,谷歌发布了一篇由 DeepMind 首席执行官德米斯·哈萨比斯(Demis Hassabis)撰写的博客文章,强调公司和政府应携手打造能够“支持国家安全”的 AI 系统。
谷歌在 2018 年做出“不开发武器 AI”的承诺,是由于当时公司内部数千名员工对“Maven 项目”(与美国军方的合作项目)的抗议。该项目涉及为军事项目提供 AI 技术,用于解析视频图像,可能用于提高无人机打击的准确性。然而,吴恩达对当时的抗议者表示不解。他在大会上表示:“许多老兵们愿意为国家流血牺牲,保护我们,那么美国公司怎么能拒绝帮助那些为我们而战的军人呢?”尽管吴恩达在 Maven 项目抗议期间并未在谷歌任职,但他曾是谷歌 AI 和神经网络领域的重要推动者。如今,他领导着一家专注于 AI 的风险工作室和 AI 基金,并经常就 AI 政策发表观点。
吴恩达还曾表示,他很高兴看到加州 SB 1047 法案被否决以及拜登政府的 AI 行政令被推翻,因为他认为这两项措施会阻碍美国开源 AI 的发展。他认为,美国 AI 安全的关键在于确保美国在技术上能够与中国竞争,他还指出 AI 无人机将“彻底改变战场”。
IT之家注意到,谷歌内部对于 AI 在军事中的应用一直存在分歧。谷歌前 AI 研究员、现 Signal 公司总裁梅雷迪思·惠特克(Meredith Whittaker)曾在 2018 年领导了 Maven 项目的抗议活动。当时谷歌决定不再续签 Maven 项目合同时,她表示支持,认为公司“不应涉足战争”。此外,谷歌前 AI 研究员、诺贝尔奖得主杰弗里·辛顿(Geoffrey Hinton)也曾呼吁全球政府禁止和监管 AI 在武器中的使用。谷歌资深高管、现 DeepMind 首席科学家杰夫·迪恩(Jeff Dean)也曾签署反对将机器学习用于自动化武器的公开信。
近年来,谷歌和亚马逊因与以色列政府的“Nimbus 项目”合同而受到新的审查。该项目涉及为以色列国防军提供云计算服务。去年,两家公司的员工曾组织静坐抗议活动,反对这一合作。
美国国防部首席 AI 官员此前曾表示,全球各国的军方对使用 AI 的兴趣日益浓厚。随着谷歌、亚马逊、微软等科技巨头在 AI 基础设施上投入数千亿美元,许多公司希望通过与军方合作来收回投资。