来源：John Lund / Photodisc / Getty
人工智能改善我们生活的潜力每天都在变得越来越明显。不幸的是，事实恰恰相反……
当你读到一篇科学论文中的“不过度危言耸听”这个词时，你可能会有点……惊慌失措。这不是科学文献中通常遇到的短语它不仅仅是一个危言耸听的词。然而，有时这种警报似乎是完全合理的。科学家在提醒我们，其他人注意他们研究更令人不安的影响时履行了他们的道德职责。
在过去的几年里，研究药理学家们开发了一种人工智能驱动的工具，以帮助他们发现新药的能力。他们的人工智能能够综合渗透已知的化学结构，将这些新结构与类似的化合物相匹配，并使用这些匹配来估计其作为一种治疗的潜在有效性。这些工具意味着药物研究人员可以更快（而且更便宜地）从概念转移到准备测试的药物。
在错误的剂量下，所有药物都可能成为毒药。但是，如果你从一种令人难以置信的强效毒药开始，并使用人工智能来改善它呢？
在我们展望这个危险的未来之前，让我们回顾一下过去古老的过去。在过去和我们的未来之间，我们真正感受到了涵盖天堂和地狱之间大部分可能性的弧线。
令人惊讶的是，在15世纪发明可移动字体之前，很少有文本以接近完整的形式存在。虽然一军团僧侣和文士花了许多年的时间煞费苦心地复制在西罗马帝国崩溃和动荡的中世纪中幸存下来的少数文本的手稿副本，但其中大部分涉及复制同样少数文本，即教规的核心：圣经、教父、亚里士多德、西塞罗、荷马、维吉尔以及其他一些文本。没有什么比著名的亚历山大图书馆（拥有数以万计的纸纱草手稿）那样幸存下来。当有重大发现时例如在库姆兰的一个洞穴中发现的手稿，后来被称为死海古卷它极大地增加了我们对古代过去的理解。
即使是最好的人类记忆也有局限性；计算机数据库需要通过更广泛的体验来增加内存。
即使是这些奇妙的发现也是可悲的不完整。熵起作用，而昆虫、蠕虫和天气做大部分其余的工作，碎片掉出来。两千年来，消息被扰乱，即使在最好的情况下，也很少见到完整性。
因此，我们古老的过去主要由碎片组成：纸纱草纸碎片、粘土板的一个角落、磨损以完全透明的羊皮纸，或被侵蚀的石头铭文。我们通过玻璃黑暗地看待过去，并尽最大努力理解它。
这种感觉已成为那些研究古代世界的考古学家、人类学家和语言学家的核心（也是最复杂的）任务之一。他们可能会发现一个不完整的、自然的铭文，然后搜索自己的记忆，寻找类似的铭文，因为类似的铭文可以引导他们理解另一个不完整的铭文。但即使是最好的人类记忆也有局限性；需要计算机数据库才能在更广泛的体验中乘以内存。
加利福尼亚州的帕卡德人文研究所创建了古代铭文数据库古希腊语中远超过300万个字符并使其可以搜索。研究人员可以输入他们手头的铭文片段，该服务将以它识别为匹配的任何铭文进行响应。这比最好的记忆更好，也有很大的帮助。但这只是开始。
这次恢复的铭文记录了一项关于雅典卫城的法令，日期为公元前485/4年。来源：维基媒体
有一种人工智能，该人工智能“读取”数百万个代码示例来创建Github的CoPilot这是一个帮助程序员编写代码的工具，在他们需要的时候只提供所需的代码片段。它的工作原理虽不完美，但它加速了计算机程序的编写和准确性。
古代铭文领域也发生了非常相似的事情。总部位于伦敦的谷歌DeepMind AI实验室消化了帕卡德人文研究所数据库中35,000多块古希腊铭文，并建立了一个模型，该模型尽最大努力填补空白缺少的铭文片段。这个被称为伊萨卡的程序根据它拥有的大量样本进行假设，并提供了自己最好地猜测，即纸纱草纸丢失的部分（或粘土或石头等）最初可能拼写了什么。
伊萨卡远非完美。正如《自然》杂志的一篇论文所详述的那样，它只在大约三分之二的时间里做出了正确的猜测。这比研究人员自己工作要好得多，研究人员在大约四分之一的时间里才做对。但事实证明，当两者合作时当伊萨卡和一名研究人员合作时，研究人员使用伊萨卡的建议来指导他们自己填补空白的努力这比单独行动都要好，近四分之三的时间都是正确的。
这种伙伴关系类似于GitHub Copilot推动的“配对编程”告诉我们，人工智能在为人类专家服务时最能达到顶峰。两者一起做得更好。
DeepMind已经发布了伊萨卡背后的所有代码，因此其他研究人员可以以他们的工作为基矗他们甚至共享了一个可公开访问的版本，这样你也可以自己解码自己的古希腊语片段。DeepMind团队承诺，他们很快就会有其他古代语言的版本，包括阿卡德语（古美索不达米亚语）到德谟（古埃及）、希伯来语，甚至玛雅语。运气好的话，我们很快就能理解更多古人写的东西。
现在，一场战争正在进行。战争是科学和技术进步的非凡加速器：第二次世界大战以骑兵冲锋开始，以蘑菇云结束。八十年后，我们的武器发生了变化。各国在网络空间进行隐形战斗，每个人都试图破坏他人的指挥、控制和通信系统或者干脆播下混乱和虚假信息。
我们的电脑越来越擅长填补空白。它们在工作中发挥着重要作用。
在《自然机器智能》的文章中有这样地描述，从一个假设开始如果你从VX神经毒气开始，VX神经毒气可能是已知最毒的物质：人工智能能改善它吗？
答案是：当然可以
“在我们的内部服务器启动后不到六小时内，我们的模型产生了40,000个分子，这些分子得分超出了我们期望的阈值。在此过程中，人工智能不仅设计了VX，还设计了许多其他已知的化学战剂，我们通过与公共化学数据库中的结构进行视觉确认来识别。许多新分子的设计看起来同样合理”。
人工智能不仅重新发明了VX，并“发明”了更潜在的致命神经毒剂其中一些是已知的，还有许多其他尚未发现的神经毒剂。它只用了六个小时就完成了这一切。
拥有药物的化学结构与手头的工作化合物不同，更不用说部署在武器中的东西了。幸运的是，潜力和实现之间存在巨大差距。但是，由于如此迅速和毫不费力地提供了如此多的潜力，通过巧妙地重新定向已经广泛使用的工具，加速了几乎令人难以置信的结果，这座桥已经被跨越了。这种产生无限供应明显可怕的武器的工具已经存在，已经可用。
有一件事已经很清楚了：这一发现将会在许多学科中重复。现在法律的制定需要与时俱进。这也是确保这些非常强大的工具能够安全、负责任地使用的唯一长期解决方案。
拓展阅读：
视频欣赏：
