人工智能革命将走向何方？

xzcxnihd

新技术发展与应用正在改变未来战争的面貌，而很少有技术能像人工智能向武器系统的融合那样产生重大的影响。近日，美国加密简讯网站刊发了一篇采访评论性文章《A Revolutionin Artificial Intelligence》，其主要内容是美国新安全中心（CNAS）高级研究员兼未来战争计划部主任保罗·斯查瑞尔对人工智能技术的变革及其在未来军事方面应用的认识和评论。

人工智能革命正在开始，但是未来自主武器系统的应用尚存在不确定性。人工智能在各行各业都有很多应用，其在军事领域的应用似乎也是不可避免的。其中很多应用诸如物流及数据处理改进都是毫无争议的，但是当涉及机器人的应用到底能有多自由或多自主时，尤其是自主武器和致命武力的应用，这就会变成一个有争议的问题。当今的自动化武器尤其是防御系统已经很多，目前至少已有30个国家拥有击落入侵火箭和导弹的自动防御系统。但是这种武器的自主性到什么程度才算适当还存在着重大的不确定性。2015年，曾经有3000多名机器人和人工智能（AI）专家共同签发了一封信，呼吁禁止自主武器，很多非政府组织（NGO）也已经呼吁应禁止自主武器。但非常明显的是，人工智能在未来战争中将是非常重要的。只不过未来战争是否必须要迈出应用自主武器的最后一步还是个未知数。

自主武器应用所提出的法律和道德问题。自主武器应用面临着很多法律问题。当前的战争法并没有规定不能利用机器人自主决定目标击杀对象。战争法管控的是战争影响，也就是对实际发生的战争进行管控，而并非管控战争决策的过程。当然也有人认为，战争的决策者必须是人，这是当前的战争法所一直隐含的一种认识。鉴于当今的技术现状，自主武器很难再某些环境中合法使用，例如平民居住的城市环境。当前它们可以在无平民的军事舰船或潜艇环境下合法使用，而随着技术的进步，自主技术通过正确的使用方式可以使得武器系统更人性化和更精准，从而可以避免平民伤亡。在道德伦理方面，人类在战争中可以表现出同情心并保持克制，有时甚至会避免杀戮。而对于自主武器，有人认为它会夺走同理心，有些人则认为被自主武器杀死会侵犯尊严。但战争本身就是残酷的，实际上被机枪打死或被炸弹炸毁也不是很荣耀的事，我们不能用今天的战争心理去蒙蔽未来的战争。

武器系统向全自主性发展的原因。人工智能可以使得武器系统更加精确，数据处理也更快，而武器系统向全自主性发展也正是基于这样的原因，一般有二：第一，即便机器人不一定做出比人类更好的决定，但它们确可以更快地进行决策。以决策速度驱动军队实现自动化的例子是某些防御系统。这些系统符合自主武器的基本标准，即一旦开启，它们会自动搜索它们的目标空间，它们可以安装于防御车辆、舰船或其他军事设施，用于拦截火箭、炮弹等共计目标，而这些目标的攻击速度往往是人类无法及时响应的。第二，无法进行通信的无人机或无人系统应用。一些军事强国正在开发先进无人作战飞机，目的是在敌方可能会进行通信干扰的竞争空域进行作战使用。如果无人机的通信被切断该怎么办？它是返回还是仅拍照或进行监视？它能撞击预定的目标如战斧巡航导弹吗？如果遇到未授权的新威胁目标怎么办？如果有人对其开火，它是避让还是回击？这些都是军事应用在未来10~15年内必须解决的实际问题。此外，对对手发展自主武器的担心也是促使各国发展全自主武器的一种因素。

对自主系统的错误决策判定非常困难。复杂系统可能会出现不可预测的问题，但是对这种问题的判定非常困难，尤其是对于可能会随时进行数据采集的学习系统，错误判定会更加困难。在学习系统反馈数据的“黑盒子”里发生的事情是人类无法用逆向工程弄清楚的，随着系统变得越来越复杂，人类可能不会真正理解它是如何工作或它的边界在哪里。