光子盒研究院出品
近日,人工智能牢霸舆论。
OpenAI的ChatGPT以及MidJourney和Stable Diffusion等图片生成的人工智能系统让更多人对高级人工智能感兴趣,并谈论它。这是件好事;不过,如果未来二三十年发生的转型变化让我们大多数人措手不及,那就不妙了。
有一家公司开拓高级人工智能的时间比大多数公司都长IBM。近日,IBM最资深的高管之一Alessandro Curioni,讨论了IBM目前在人工智能、量子计算和相关领域的项目。
Alessandro Curioni已经在IBM工作了25年。他是IBM研究员、IBM研究部主任,以及欧洲和非洲的副总裁。
IBM的巨大挑战
20世纪70年代以来,IBM一直在致力于计算的未来。
它发布了一系列令人印象深刻的产品,比如Deep Blue在1996年的国际象棋比赛中击败了Gary Kasparov,Watson在2011年的电视问答节目《危险》中击败了Ken Jennings。最近,在2018年,该公司开发了一台机器,能够在与世界辩论冠军的辩论中坚持自己的观点。
这些机器中的第一个是基于规则的,后来的机器使用深度学习,创建了在大量数据上训练的模型。另一个范式转变现在正在发生:大型语言模型(LLM)或基础模型的到来,它们使用一种自我监督技术来进行训练。该系统将从网络上获取大量的句子:数以千亿计,从每个句子中随机屏蔽一个词,并尝试猜测这个词是什么。随着时间的推移,系统会建立一个模型,知道哪些词会出现在哪些句子中。训练过程的这种自动化是一个重大的进步,并且,由于今天有大量的数据和计算能力而成为可能。
事实证明,这种方法并不限于文本。它可以用于任何类型的结构化数据,包括图像、视频或计算机代码;或者由工业流程产生的数据流;或者科学的语言:翻译成符号的分子。
建立专业化、大型语言模型
IBM正在建立大型的语言模型,但是为了特定的应用,而不是像ChatGPT那样的通用用途。
例如,它正在建立专门用于有机化学和商业的系统。通用系统的弱点是它们很肤浅。他们可以回答大多数高水平的问题,但如果深入了解,他们就会迷失方向。更加专业化的机器可以更深入,而且不那么脆。专业化往往意味着你可以获得质量更好的数据,而且你可以更容易地消除偏见。
ChatGPT比GPT-3表现更好的原因之一是有人类反馈的强化学习(RLHF)。创建这些系统的OpenAI聘请了大量的人对系统的输出进行评论,并相应地标注有偏见或冒犯性的段落。这确实促使人们调侃说,AI代表的不是人工智能,而是负担得起的印度人;不过,人类是在训练过程中被使用的,而不是在操作中。
IBM希望证明,它可以在某一特定领域开发一个大型模型,然后在该领域内的客户机构的专有数据上进行训练。与旧的方法(为每个应用开发一个新的模型)相比,这将是成本和可持续性方面的重大改进。
提升人工智能效率:更高效的芯片设计
IBM正在寻求提高人工智能和计算的效率和可持续性的另一个领域是芯片设计。
大型语言模型正在接近人脑内部的计算规模,但它们使用的能量与一个小镇相同,而大脑使用的能量与灯泡相同。Curioni说,IBM正在采取三个步骤来减少先进的人工智能系统的电力需求:
第一步是神经形态芯片。如IBM的True North和Loihi,它们比传统的芯片设计更接近人类神经元的模型。它们的计算不那么精确,而且更加模拟。
第二步是忆阻器(Memristor),在同一芯片上进行处理和存储,这减少了在计算之间检索和重新存储数据的能量。
第三步是脉冲神经网络(Spiking Neural Network, SNN),它只在需要其特定功能时传输信息,而在传统芯片中,每个神经元一直在传输信息。
这三个步骤加在一起,可以使能源效率提高两到四个数量级。
量子计算的突破
IBM目前可能没有被视为人工智能的全球领导者,但它被公认为处于前列的一个领域是量子计算,与谷歌和微软并列。它刚刚宣布了在量子密码学方面的突破,这将使今天正在传输的数据保持安全,即使量子计算机被制造出来,可以打破今天的加密。运行Shor算法的量子计算机可以有效地对数字进行因式分解,当它们扩大规模时,它们将能够对非常大的数字进行因式分解,而经典机器无法在合理的时间内完成。
IBM和一些学术伙伴所做的是开发一种称为量子安全加密的新型加密方式。它是基于高维晶格密码学的,据信它不能被量子计算机破解。在过去的十年中,进行了一项大型研究计划,以评估许多潜在的量子安全加密类型,去年7月,出现了四种算法是最强的。这四种算法中的三种是在苏黎世的Curioni实验室开发的,而获胜者刚刚被选中。
下一步是将数据从旧的加密形式迁移到这种新形式。
这项任务正变得紧迫。美国政府已经指示,其所有机构必须在2025年前实现量子安全,其他政府和公司也在这样做;IBM的突破可能来得正是时候。
参考链接:
https://www.forbes.com/sites/calumchace/2023/01/19/ibm-and-the-grand-challenges-of-ai-and-quantum-computing/?sh=701f0e1d75e6