展会信息港展会大全

图灵奖得主杨立昆:不喜欢AGI,让AI安全的长远方案是开源
来源:互联网   发布日期:2023-07-06 19:23:31   浏览:4572次  

导读:7月6日,2023 世界人工智能大会开幕式上,2018 年图灵奖得主、Meta AI基础人工智能研究院团队首席人工智能科学家杨立昆(Yann LeCun)直言, 不喜欢AGI(通用人工智能)这个名词。 他解释称,每一个智能都是专项的,人类智能也是非常专业、专项的, 但LLM(...

7月6日,2023 世界人工智能大会开幕式上,2018 年图灵奖得主、Meta AI基础人工智能研究院团队首席人工智能科学家杨立昆(Yann LeCun)直言,不喜欢AGI(通用人工智能)这个名词。

他解释称,每一个智能都是专项的,人类智能也是非常专业、专项的,但LLM(大语言模型)只基于文本训练,不是利用视频训练,因此它们不理解物理世界,没办法规划、推理,就没办法实现目标。

在近期关于AGI的辩论中,杨立昆多次表示,类ChatGPT产品并不能真正理解现实世界,更无从谈起实现人类智慧。

杨立昆认为,现在还没有一个足够智能的系统来处理各种事情,所以人工智能系统需要一个世界模型(World Model),这个模型主要通过观察来训练,并通过少量交互处理不确定性。

世界模型就像人类理解世界的方式一样,通过物理直觉等方式了解世界的一切,对于未来10年的人工智能研究来说,这是个巨大挑战。

对于如何实现AI的治理和规范,杨立昆称,他认为可以通过可控的方法,设置安全护栏等使它们不会出现欺骗和支配人们的行为。

杨立昆最后表示,他完全不同意“因为任何人可用人工智能做任何事,情况可能会非常危险,所以需要严格监管人工智能”的说法。

他认为,严格监管人工智能发展并不能保证AI安全,长远看开源才能让AI保持安全、良善。

未来每个人都能通过人工智能助手和数字世界沟通。如果人工智能只被少数人控制,这是不可以的。

赞助本站

AiLab云推荐
推荐内容
展开

热门栏目HotCates

Copyright © 2010-2024 AiLab Team. 人工智能实验室 版权所有    关于我们 | 联系我们 | 广告服务 | 公司动态 | 免责声明 | 隐私条款 | 工作机会 | 展会港