财联社5月15日讯(编辑 周子意)人工智能(AI)初创公司Stability AI的首席执行官Emad Mostaque表示,未来AI可能会发现我们“有些无趣”,他还指出,在最坏的情况下它“基本上能控制人类”。
Stability AI在生成式人工智能(AIGC)领域名气颇响,最受欢迎的产品是其AI图像生成工具Stable Diffusion,它可以通过用户输入的文本提示生成非常复杂的图像。
在周日(5月14日)播出的采访节目中,Mostaque提出了一个深刻的问题,“如果我们拥有了比我们更有能力、但却无法掌控的代理,它们在互联网上运行…并且实现了一定程度的自动化,这意味着什么?”
Mostaque提出了他的个人的观点:AI到后来会觉得人类有点无趣,就如同斯嘉丽约翰逊和杰昆菲尼克斯主演的科幻电影《她》中的台词那样:“再见”、“你有点无聊”。
最糟糕的情况
Mostaque指出,“最糟糕的情况是,它会扩散,基本上控制人类。”
他补充道,“但我可能错了,我认为这值得在公共领域讨论。”
Mostaque不是唯一一个指出AI风险的人。
今年3月,包括Emad Mostaque、特斯拉首席执行官埃隆马斯克、苹果公司联合创始人史蒂夫沃兹尼亚克在内等超过1100名AI领域的学者、专家、企业家共同签署一封公开信,呼吁暂停开发比GPT-4更先进的人工智能,理由是目前的发展进程“对社会和人类存在潜在风险”。
GPT-4是OpenAI公司开发的最新一代自然语言处理模型,基于升读学习技术,能够生成高质量文本。此外,OpenAI公司还推出了AI聊天机器人ChatGPT和图像生成器DALL-E 2。
此外,在业内有“人工智能教父”之称的计算机科学家 Geoffrey Hinton表示,相较于气候变化,AI可能是对人类“更紧迫”的威胁。
开源那些事儿
此外,此次采访中,Mostaque还谈及了关于AI技术开源的争议。
不同于寻常AI工具的是,Stable Diffusion是开源的,这意味着任何人都可以检查、共享和使用代码。
Stability AI也始终将其技术保持开源,在Mostaque看来,应该让公众对正在发生的事情有一定程度的信心。
Mostaque称,“如果你建立开放的模型,并公开进行操作,那么如果你做错了,你应该受到批评;如果你做对了,你应该受到表扬。”
而对于开源最大的反对声是,这可能导致知识产权侵权、数据泄露等问题。
其中最典型的案例就是,图片提供商Getty Images对Stability AI公司提起诉讼,指责Stability复制了数百万张未经授权的照片,并利用这些照片训练Stable Diffusion根据用户的提示生成更准确的图像。
这也是一起具有里程碑意义的事关版权的案例,目前结果还没有定论。
(财联社 周子意)