“在五角大楼的想象中,这些武器不太会像电影《终结者》,而更像漫画超级英雄‘钢铁侠’,”一直在推动自动武器发展的国防部副部长罗伯特·O·沃克表示:“外界存在很多有关机器人杀手和天网(《终结者》中出现的杀人如麻的人工智能网络)的担忧,我们设想的根本不是那样。”他表示,在生死攸关的决策上,“永远会由人来决定”。

但在五角大楼之外,有人怀疑一旦创造具有思考能力的武器的技术臻至完美,这样的限制是否还会存在。去年,数百名科学家和专家曾发公开信警告,研发哪怕最笨的智能武器也有可能引发全球军备竞赛,结果将是出现能够取人性命、完全自主的机器人,它们价格低廉,有多么容易被各个大国获取,就能多么轻易地被暴力极端分子获得。

报道称,日益先进的自动化和武器的结合,还在法律学者和伦理学家中引发了越来越激烈的争论:我们能放心地赋予机器致命的力量吗?如果一个机器人袭击一座医院或一所学校,谁来承担过错?比起由人给予致命一击,被一个机器人杀掉是对人类尊严更大的侵犯吗?

报道称,五角大楼的一项指令要求自动武器必须借用“适度的人类判断”。科学家和人权专家称这个标准太过宽泛,强烈要求将此类武器置于“明确的人类控制”之下。但是,如果美国面对一个与它力量接近或相等、但却使用全自动武器的对手,还有什么标准是立得住的吗?