机器人杀手缺乏责任感,没有感情,因此机器人杀死人类没有道德的约束
据国外媒体报道,机器人杀手可能在本世纪成为现实,来自联合国特别报告员的消息,美英两国试图淡化自动化武器的限制协定。纽约联合国总部近日的会议表示,自动化武器是个危险的事物,可衍生出具有人工智能的武器,目前相关限制协定谈判处于停滞状态。联合国官员认为,如果具有先发制人的自动化武器进入服役,就像瓶子中的幽灵,出来后就很难在收回去。
目前几个军事大国都在不同程度研发自动化武器系统,一些小国也陆续装备了自动化武器系统,比如韩国的SGR-1哨兵机器人,可担任警戒站岗,一旦发现目标,具有将其射杀的能力。因此也引发了外界的关注,机器人是否具有剥脱人类生命的权力,机器人杀手缺乏责任感,没有感情,因此机器人杀死人类没有道德的约束。由于武器系统越加先进,具有智能化的目标甄别能力,如果人类赋予其生杀大权,它们就可以大开杀戒。
加州大学伯克利分校教授斯图尔特-拉塞尔表示,目前自动化武器站、无人机等都处于人类的控制之下,其射杀范围仍然有限,但如果不制定条约限制其开发,那么不可阻挡的杀人机器人就可能出现。目前西方国家装备的先进战斗机具有初级智能目标选择能力,可分析目标的威胁程度,并选择威胁最大的进行攻击,最终开火权仍然在飞行员手中。
随着无人机进入战争环境,无人机可能被赋予自动开火的权力。未来10年内,人工智能会进一步发展,不仅能够选择最具威胁的目标,甚至还可以参与决策,这样的无人机会在不久后服役。在今年4月的联合国会议上,日本和德国强烈反对制造致命的自动化武器,人工智能在其发展道路上需要受到制约。(罗辑/编译)