阿西莫夫三大定律与机器人法则的现实性

阿西莫夫三大定律与机器人法则的现实性

©Shutterstock

目前不少国家开发了智能战场机器人，这些机器人杀手让人们担心《圣经》中描述的审判之日离我们不远，出于对战场机器人的顾虑，不少政府开始更加关注对战场机器人问题，至少距离完全禁止生产机器人杀手迈出了第一步，当然，是在机器人杀手被造出来之前。

今年11月，CCW(《特定常规武器公约》)的成员国同意明年在日内瓦举办会议讨论“致命自主武器”的议题，这个名字是官方的叫法，抗议者们称之为“机器人杀手”。

机器人对军方而言优势太大：无需报酬、不吃不喝不睡觉、自主执行上级命令、不会害怕、愤怒，也不会痛苦。还有，即便机器人在战场上轰成渣，也不会造成国内悲痛。

从第一辆坦克投入战场到以色列研制的大卫的投石索飞弹，技术改变战争的例子不胜枚举。进来备受争议的战争用无人机便是例子，但是即便如此，无人机也需要人远程控制。无论是锁定目标还是发射导弹，做决定的都是人。

无数专家关心的其实是下一代机器人武器：可以自行决定目标并杀死目标的武器。

禁止制造机器人杀手

“明年开始全球国家将对机器人武器进行讨论，这对禁止制造机器人武器是一个巨大的进步，”人权观察的武器负责人Steve Goose说，“各国政府已经意识到全自动化武器带来巨大的立法压力和道德压力，问题已经刻不容缓。”

目前完全自主机器人武器部署到战场可能还需要等上20-30年，由学者和专家组成的国际机器人控制委员会（ICRAC）担心可能发生的机器人武器军备竞赛，认为有必要禁止研发和使用自主武器系统。委员会指出：“机器不能做出谋杀人类的决定。”

目前还没有那个国家制造出自主武器，但是这个提议绝非只是纸上谈兵。今年下半年美国国防部（DOD）发布了如何使用自主武器以及如何在战场部署自主武器的规划书。书中规定了如何操作自主武器，然而却没有只字提到禁止使用。

国防部指导中写到：“自主和半自主武器应该能够听得懂指挥官或操作人员下令开火的合适命令。”规划中要求武器要做到“足够机动灵活，尽量避免执行计划外行动或让未授权使用者操控机器。”

但是指导似乎的的确确放弃人工智能武器，而选用人类精确定位目标：“有人监控自主武器系统可以用于选择目标并向目标开火，但目标不可为人类，以应对拦截美国国内可能发生的袭击行动，这些行动经常是时敏目标或密集目标。”

英国政府的态度则与美国相反，英国并不打算采用全自主武器。今年初英国外交部部长Alistair Burt 向国会做陈述说“英国军队的武器控制权始终掌握在人类手中，以此保证武器由人类监督由人类掌管，并由人类负责使用武器。”但是随后Burt的言辞又让人寻味：“英国单方面做出承诺目前阶段绝不部署致命自助武器系统，但是这不表明英国会签署暂缓研发和使用自主机器人武器的条约。”

ICRAC主席Norl Sharker是英国谢菲尔德大学研究人工智能和机器人的一名教授。这位教授看过了自主武器的军方计划书后大为震惊，因为“军方显然完全过分预估了这项技术，他们对自主机器人的看法更像是科幻小说的描写。”

Noel Sharkey教授

ICRAC提议禁止研发和制造自主机器人武器的目的并不是抵抗自主机器人。“我家里用的吸尘器机器人就是自主机器人，我研究自主机器人的开发已经有30个年头了。”ICRAC真正希望是禁止机器人拥有“杀戮功能”。自主机器人一旦运行，就会自主寻找目标并打击目标，Sharkey说：“打击目标的意思是指杀死目标。把机器人设计成自己选择自己认为合适的目标进行打击，这就是ICRAC要阻止的。”

对Sharkey来说机器人根本不会遵循基本的战争法。机器人无法区分战斗人员和平民，也无法分辨出哪些人是伤兵或者那些建筑是符合战争法中规定的可打击目标。“没有任何人工智能机器人武器可以做到完全分辨目标，根本不可能。”Sharkey博士指着英国制造的可以区分人和汽车的机器人说“这太机器人可以分辨人和汽车，但却分不清对面站着的是一只跳舞的狗熊还是一条两条后腿站立的狗。”

机器人武器也不能判断利弊，他说，机器人无法判断某次攻击行为造成的军事打击和平民伤亡孰重孰轻。“机器人怎么可能知道？军事打击获得的战争优势都可以让博士们发表好几篇论文了，战场上有太多变数，只有身经百战的指挥官身临战场才能做出判断。”

Sharkey指出最大的问题其实还是负责制度。如果某次军事行动出错，机器人无法被问责，这也是与Sharkey交流过的指挥者们真正担心的问题：如果机器人出错了，倒霉的可是指挥官们。

“这对指挥官不公平，机器人随时会崩溃当机，机器人有可能被人类诱骗，可能被黑，可能由于编程中的某次出错让黑客通过计算机控制开枪，机器人的传感器可能出现故障，而这一切又应该由谁来负责呢？是制造者？软件工程师？机器人工程师？还是指挥官？在战场上一旦出错必须清楚谁该负责。“

Sharkey关心的是一旦技术上的限制被突破，战争机器人极有可能逐步推广到全世界的战场。“自主机器人技术并非用于战争，即便自主机器人武器被部署在战场，这项技术本身也不适合用于战争。”

战场上的科技树越攀越高，自主机器人投入使用的可能行也越来越大。如果仅靠拦截通讯就可以阻拦敌方无人机，那么可以轻易自主执行任务的无人机就会被开发出来。同样的道理，遥控无人机驾驶员在遥控装置上发出一个指令到无人机真正执行之间有1.5秒的延时，人工操控无人机的反应速度会不如自主无人机，这也为自主无人机的推广给出了理由。

ICRAC希望管制传统武器联合国大会此次讨论自主武器将为禁止自主机器人武器迈出第一步，对激光致盲武器的禁令就是这么走过来的。

“机器人有权决定是否杀死人类，这是人们必须面对的道德抉择。”

人们对自主机器人武器的误解达到了不可思议的地步，其中的原因是对人工智能抱有太大期望，实际上人工智能的水平还远没有达到人们的预期，或者，用Sharkey教授的话说“因为科幻小说而导致的人们对人工智能的文化曲解。”机器人研究者指出AI目前的应用领域都是一些极为平常的领域，并非用于制造能够思考的机器人。

“20年内可感知机器人会诞生，而在每个年代都有人扬言智能机器人就要诞生了，但是真正的机器人工作者们却从来不这么说，他们继续着他们的研究。人工智能在不断发展，它的身影遍布我们身边只是我们从没意识到——手机和汽车，这都是科学家们研究的内容。”

有人指出在遥远的未来人工智能可能发展成熟，电脑可以遵守战争基本法，即便这样，最基本的道德问题依然没有消失。Sharkey说：“谁改负责的问题依然没有得到解决，人们还是要抉择是否应该让机器人有权杀死人类。”