科幻电影《终结者》中，人类和机器人的战争令人印象深刻。美国国防部的一名官员近日对媒体表示，国防部目前存在一种讨论，可能会最终导致机器自主决定使用武器。联想到AlphaGo大败李世石的“人机大战”，很多人不禁担忧随着人工智能的不断发展，集人工智能之大成的军事机器人是否会对未来战争形式和战场胜负产生重大影响？
“完全自主机器人具有持续作战时间长、反应能力快、生存能力强等优势，将会进一步增加战争的烈度与强度，对人类战士具有巨大的不对称优势，最终会将战争拉入无人战争的领域。”国防科技大学军事专家曾华锋教授告诉科技日报记者，“不过，现阶段还没有能够实现完全自主攻击的作战机器人或者无人装备。在美军‘第三次抵消战略’中，尽管也提出要强化美国在无人作战中的优势，但从最前沿的技术看，距离完全自主攻击的目标还很远。对此，我们没有必要过分担忧。”
毋庸置疑，人工智能正越来越多地走上战场，推动着战争形态从信息化战争向智能化战争加速演进。目前，人类遥控指挥的无人系统已经投入战场，有了人类的控制，无人系统无疑会更加可靠。但是随着科技的发展，人工智能在某些领域超越人类已是不争的事实。从科技的角度来看，完全脱离人类控制而实现自主攻击似乎是人工智能在战争上的终极形式。
国防科技大学石海明博士告诉记者，相比人类，机器人确实具有巨大的优势，然而其劣势也是显而易见的，主要集中在伦理的争议、发展不可控的风险等等。比如，在2006年至2013年美军于巴基斯坦发动的反恐战争中，无人机杀死2514名武装人员的同时也“误杀”了153名平民。由于无人化作战平台自身的不可靠性，相关作战行动造成了一种事实上的武力滥用行为，对相关作战伦理道德规约产生了冲击。
“要实现机器人的自主攻击，就必须减少其负面影响。这需要克服很多技术难题，如自主敌我识别、自主分析判断和决策能力的实现，包括了机器视觉、数据挖掘、探索推理等人工智能研究领域分支。这显然不是短时间内可以实现的。”石海明说。
美军新版无人兵器发展路线图透露，美国将在未来10年内投资100多亿美元用于无人机的研发与采购，而10年后美国国防部每年用于无人机研发的资金将高达40亿美元。
对此，曾华锋指出，美国在人工智能和机器学习技术方面领先全球。从现在的发展趋势来看，这些技术将会极大提高无人系统的自主性，减少对存在隐患的数据链路的依赖。如果扩大无人作战的规模，那么美国将能够利用其实践经验、与自动化相关的技术能力，以及在复杂系统工程与集成方面的牢固优势，构成全球监视与打击网络。这将进一步推进无人化战争的进程。
很多科幻小说预言，高度发展的机器人会给人类带来无尽的灾难，人工智能带给人类的绝不仅仅是福音。
对此，曾华锋表示赞同。他分析认为，“一方面，正如部分科学家担忧的一样，假如人工智能的发展进入了强人工智能阶段，人工智能可以通过不断的自我学习与发展产生出主观情绪与欲望。那么，当有一天人工智能的发展与人类自身利益发生冲突时，其后果将难以预料。另一方面，假定限制发展强人工智能，始终维持在弱人工智能的阶段，其能力的不断增长也将会造成大量人类失业，届时人类的发展将面临很多问题。因此，这种技术如果应用到军事机器人上很有可能对人类造成巨大灾难。这些可能性必须认真考虑，否则后果或许将难以预测。”（张强）
文章来源：科技日报
