展会信息港展会大全

谷歌前CEO施密特:若AI开始自我改进,我们应“认真考虑”暂停它
来源:互联网   发布日期:2024-12-23 20:10:19   浏览:144次  

导读:IT之家 12 月 23 日消息,当前 AGI(IT之家注:通用人工智能)的热度一直有增无减。OpenAI CEO 阿尔特曼认为,AGI 将会在现有硬件的支持下比预期更早实现;而前谷歌 CEO 埃里克·施密特则表示,一旦 AI 开始自我改进,我们应考虑暂停其进一步发展。在本月 17 日接受美国电视网 ABC 新闻采访时,施密特表示:“最终你可能会告诉计算机,‘学会一切,做到一切。’当系统能够自我 ......

IT之家 12 月 23 日消息,当前 AGI(IT之家注:通用人工智能)的热度一直有增无减。OpenAI CEO 阿尔特曼认为,AGI 将会在现有硬件的支持下比预期更早实现;而前谷歌 CEO 埃里克·施密特则表示,一旦 AI 开始自我改进,我们应考虑暂停其进一步发展。

在本月 17 日接受美国电视网 ABC 新闻采访时,施密特表示:“最终你可能会告诉计算机,‘学会一切,做到一切。’当系统能够自我改进时,我们必须认真考虑是否要拔掉它的电源。这将是极其艰难的,如何保持平衡将非常具有挑战性。”

谷歌前CEO施密特:若AI开始自我改进,我们应“认真考虑”暂停它

施密特预测,AI 将从特定任务助手逐渐发展为能够独立决策的复杂系统。当 AI 发展到这种程度时,人类就应介入并考虑关闭系统,施密特指出。人类还需要确保 AI 无法反制关闭系统的努力。“从理论上讲,我们最好有个人能‘掌控电源’,就像比喻中所说的那样。”

马斯克在 10 月表示,AI“最有可能是伟大的”,但也有 10% 到 20% 的几率可能走向坏的一面。他强调,AI“变坏”的可能性并非零。

尽管如此,施密特也对 AI 的积极潜力持乐观态度。他表示:“重要的是,这种强大的智能意味着每个人都将拥有一个像博学者一样的助手,随时都在口袋里。除了笔记和写作助手,每个人还会有像爱因斯坦和达芬奇这样的智慧人物为自己提供建议。这将适用于全球每一个人。”

赞助本站

相关内容
AiLab云推荐
展开

热门栏目HotCates

Copyright © 2010-2025 AiLab Team. 人工智能实验室 版权所有    关于我们 | 联系我们 | 广告服务 | 公司动态 | 免责声明 | 隐私条款 | 工作机会 | 展会港