在过去1个多月,Facebook 开发的对话机器人开始采用一些奇怪的语句。
Bob 和 Alice 是 Facebook 开发的对话机器人
这两个对话机器人由 Facebook 内部的人工智能研究实验室(FAIR)开发,研究员用机器学习训练这两个机器人进行对话、谈判,希望它们可以跟人用英文进行交涉,获取相应的目标商品。
训练的材料是5808组人与人之间的谈判对话,总共有2236种不同的剧情。所谓的剧情根据谈判的商品和对应价值有所区分。
例如,其中一个剧情里商品是三本书,每本书对应价值是 2;两顶帽子,单个帽子对应价值 1;一个球,单个球对应价值是 2。谈判双方的评判标准是根据获得的商品的对应价值计算。
进展比较顺利。Facebook 开发的机器人可以用比较顺畅的英文跟普通人对话,对方没怎么意识到他其实在跟机器人谈判。
但事情的发展超出了预料。Facebook 的研究员希望让这些机器人更进一步,于是开发了两个已经预先受过训练的、受监管的模型 Alice 和
Bob,让它们作为谈判双方进行强化学习(Reinforcement
Learning),也就是机器人之间的谈判。于是就出现了开头这种看上去没有意义的对话。
但对于机器人来说,这些看上去语法不通顺的对话还是承担的了一定的功用。该 Facebook 实验室的发言人告诉《大西洋月刊》,Facebook 的数据显示,这些对话仍然能够帮助两者最后达成一致的。Facebook 的研究员认为,这种对话比较接近于语言。来自佐治亚理工学院(Georgia Tech)、FAIR 实验室的访问研究科学家 Dhruv Batra 称,Facebook 已经观察到类似的现场多次。
除了 Facebook 外,还有像特斯拉 CEO Elon Musk、知名孵化器 YC 主席 Sam Altman 创立的非盈利机构 OpenAI 也在机器人语言上有所研究。他们设立了一个虚拟环境,让一堆被标记上不同颜色的机器人完成一些特定的目标,例如将他们移动到一个具体的位置上,其中需要这些机器人自己协作、对话。最终可以达到的结果是,这些机器人可以完成一句类似于“
你最终是否可以达到绿色那边(Did you end up getting to the green can or not)? ”
但宾夕法尼亚大学的语言学教授 Mark Liberman 持有不同的意见,他认为这跟语言的差距还是挺远的。他说:“首先,这完全是基于文本的字符,但人类的语言基本上都是通过口头表达或者是手势完成,文本作为一层虚拟的表面。”
不过,不管这是不是一种机器人语言还是只是字符串,作为 Facebook 实验室的一项研究结果,研究员们最终决定将机器人设定为使用普通英文。
他们给出的理由是:我们的兴趣是有一些机器人可以跟人对话。