美国和俄罗斯等国家，在联合国大会上公开唱反调，反对禁用杀手机器人，人类禁止致命性自主武器还有希望吗？根据央视12月24号的新闻报道，为了限制杀手机器人的使用，联合国12月中旬在日内瓦专门召开了会议，特定常规武器公约第六次审议大会。
经过这个公约的125个成员国当中，包括中国在内的大多数国家，支持禁用杀手机器人。但是美国 俄罗斯 英国 印度，和以色列这些国家都明确表示，反对禁用杀手机器人，这些导致会议这种未能达成相关协议。实际上从2013年起 大量的非政府组织，就一直在呼吁要重视，人工智能杀人武器的使用，有200多家科技公司，1000多名人工智能专家签署的，呼吁禁止使用人工智能武器的信函，在全球也得到了3万多人的响应，其中就包包括我们熟悉的史蒂芬霍金，埃隆马斯克这些名人。
但是美国和俄罗斯这些，在联合国大会上公开唱反调的国家，依旧在为机器人战争做准备，杀手机器人也正在一步步地走向战场，被赋予自行决定开火决策权力的。自主武器系统，已经向人类打响了第一枪，联合国按理会2021年的五月份，公布了一份报告就显示，一架军用无人机在没有接到，任何指令的情况下，自主对人类发起袭击，这是人类历史上的第一次。事情是发生在2020年的三月份，当时利比亚政府军与利比亚国民军司令，哈夫塔尔领导的军事力量正在发生冲突，一架土耳其军事科技公司，也就是STM公司生产的卡古-2型无人机，在未接到任何指令的情况下，袭击了正在撤退的国民军的士兵。
近些年来 人工智能技术，融入武器装备的进程一直在加快，而正是出于安全的考虑，这些人工智能的武器通常都会采用，人在回路中的方式来操控。它的一个最大作用，就是始终把武器装备开火的扳机，掌握在人的手里，保证高度自动化武器装备，不至于制作主张地去杀人。土耳其的卡古-2型无人机，尽管就是一款不到七公斤重的，多旋翼无人机，但它和以往的无人机完全不同，这款无人机能通过机器学习的方式，自主完成对目标的定位，跟踪 识别和分类，能通过敌我识别系统，以及面部识别能力寻找特定的人。它还可以借助摄像头，和其他的传感器利用地标来进行导航，而不需要依赖GPS这样的导航系统。
一架无人机同时具有这样的能力，也就具备了在操作人员，未下达指令的情况下，发起自主攻击的基本条件，无人机这样的袭击，不能不说这是对人类的一次警告，而掌握生杀大权，可以自主扣扳机的自主武器系统，被人类的威胁远不在此。大家知道 人工智能的学习，是基于软件的算法来实施的，通过向大数据的学习来积累能力，在这个过程当中，非常容易出现错误的结果，你比如说由于大数据的不够全面，或者是数据不准确，人工智能武器学到了错误的课程，而错误课程的学习就有很大可能，使自主武器装备做出错误的判断，并对错误的目标发起攻击。
另外人工智能决策的过程，它是不透明的，特别是进入自主模式之后，即使它决策失误也无法及时发现。而更危险的是，自主武器装备发起蜂群作战的时候，几十个单元之间会，通过频繁的通讯来协调行动，一个自主武器装备的错误，很可能会被更多“好学”的队友学会。这就会构成更大的风险和威胁，土耳其的卡古-2型无人机，就具有很好地集群能力，可以20架为一组进行协同作战，国际社会要做的，而且一定要做的就是寻求，合理的机制和国际法规，对致命性自主武器装备进行有效管控，把机器人战争的风险扼杀在摇篮之中。我想希望还是有的，因为在特定常规武器公约当中，125个成员国当中，理智的力量还是占绝大多数。
