展会信息港展会大全

NLP系统是如何被简单的同义词所欺骗的
来源:互联网   发布日期:2020-12-22 09:00:29   浏览:19288次  

导读:这里有一个人工智能仍然严重缺乏人类某些属性的例子:测试表明,自然语言处理(NLP)系统可以通过仅仅将一个单词替换为同义词,从而导致误解文本。 麻省理工学院(MIT)的一个研究团队开发了一款名为TextFooler的软件,该软件寻找对NLP分类器最重要的单词并替换它...

这里有一个人工智能仍然严重缺乏人类某些属性的例子:测试表明,自然语言处理(NLP)系统可以通过仅仅将一个单词替换为同义词,从而导致误解文本。

麻省理工学院(MIT)的一个研究团队开发了一款名为TextFooler的软件,该软件寻找对NLP分类器最重要的单词并替换它们。该团队提供了一个例子:

The characters, cast in impossibly contrived situations, are totallyestranged from reality.(剧中的人物,被安排在不可能情境之中,与现实完全脱节。)

Textfooler模型生成的对应句子是:

The characters, cast in impossibly engineered circumstances, are fullyestranged from reality.

将contrived situation改为了engineered circumstance,totally 改为fully。

结果AI将第一个句子标记为“负面”,第二个句子标记为“正面“。

人类破译不是问题。然而AIs系统的结果却令人吃惊。比如,谷歌的神经网络BERT在识别Yelp上的评论是正面还是负面方面的表现就差了7倍。

Douglas Heaven为《麻省理工技术评论》撰写了一篇研究综述,解释了这项研究的重要性。Heaven写道:“我们已经看到了许多对抗攻击的例子,最常见的是图像识别系统,输入的微小变化可能会让AI不知所措,并导致它对所看到的内容进行错误分类。”Textfooler这种类型的攻击也会破坏NLP,即虚拟助手(如Siri、Alexa和谷歌Home)背后的人工智能,以及其他语言分类器,如垃圾邮件过滤器和仇恨言语探测器。

这篇论文探讨了人工智能技术超越人类努力的各种方法,如检测乳腺癌、玩星际争霸、公开辩论等。在其他领域,无论多么徒劳,抵抗依然存在。据报道,尽管无人机竞赛联盟的首席技术官预测2023年将是人工智能接管的一年,但在无人机竞赛中,人类驾驶员仍总体上击败了AIs。

研究人员希望,诸如textapher这样的软件的最终目标是使NLP系统更加强大。

对于那些来自不列颠群岛、中国和某些英联邦国家以外的人来说,“斯诺克”这个词源于斯诺克运动,就是“让人处于困境”。美国的对应词是“behind The eight ball”,这句话被人们广泛用来描述任何得胜希望渺茫的境况。

赞助本站

人工智能实验室
AiLab云推荐
推荐内容
展开

热门栏目HotCates

Copyright © 2010-2024 AiLab Team. 人工智能实验室 版权所有    关于我们 | 联系我们 | 广告服务 | 公司动态 | 免责声明 | 隐私条款 | 工作机会 | 展会港