涉人工智能机器人犯罪的刑法规制路径

·法律研究·
涉人工智能机器人犯罪的刑法规制路径
收稿日期：2019-08-22
作者简介：汪瑶（1996-），女，安徽池州人，安徽大学2017级在读硕士研究生，研究方向：诉讼法学。

汪瑶
（安徽大学法学院，安徽合肥 230601）
摘要：人工智能技术的发展给人类带来便利的同时，也带来了严峻的挑战。

在弱人工智能时代，智能机器人实施了严重危害社会的行为，可以看作是研发人员或使用人员的犯罪工具，不应追究智能机器人的刑事责任。

但随着大数据和人工智能技术的发展，智能机器人也越来越智能化。

在强人工智能时代，智能机器人超出设计的编程之外实施了危害社会的行为，此时可考虑赋予智能机器人刑事主体资格，并通过增设删除数据、更改程序、永久销毁的刑罚处罚来规制人工智能机器人犯罪。

关键词：人工智能；刑事责任；刑法规制
中图分类号：:D925 文献标识码：A 文章编号：YNZ214-(2019)04-0067-03
随着科技的进步，迅速发展的大数据和人工智能技术将为人类迎来全新的人工智能时代。

2017年7月由国务院颁布的《新一代人工智能发展规划》将发展人工智能技术上升为重要国家战略。

从只是机械地重复指令的普通机器人，到具有一定学习能力的智能机器人，机器人的行为仍受人类设计的程序控制，但随着人工智能技术的深入发展，智能机器人终将有一天产生独立的意识、做出独立于程序之外的行为。

当具有独立意识的强智能机器人产生时，随之而来的风险不可估量，甚至产生新型的犯罪。

因此，面对人工智能时代可能带来的风险，刑法应及时介入，积极探索规制路径，努力为社会的健康发展保驾护航。

一、人工智能机器人的犯罪主体地位
人工智能机器人是否具有犯罪主体资格?理论界中有两种截然不同的观点：有学者认为人工智能机器人不具备人类的社会属性，不能成为犯罪的主体；但也有学者承认人工智能机器人的犯罪主体地位，并认为刑法应对人工智能机器人进行规制。

笔者同意第二种观点。

（一）智能机器人具有犯罪主体资格
在我国，智能机器人能否成为刑法上的犯罪
主体在于能否符合刑法的规定，即能够实施严重危害社会的行为并且具备刑事责任能力。

在信息技术领域，程序员精确地将人工智能分为弱人工智能、强人工智能和超人工智能。

但是，笔者认为这样的划分标准并不适用于法学领域的研究。

在法学领域，将人工智能分为弱人工智能和强人工智能更为适宜。

弱人工智能是指按照程序员设计的程序进行操作，没有独立的意识，受控于人类。

但随着大数据的发展和智能机器人有目的的深度学习，人类终将迎来具有独立意识的强人工智能机器人。

[1]弱人工智能机器人由于受控于人类设计的程序，对自己实施的任何行为没有独立的意识。

如果弱人工智能机器人实施犯罪行为，该犯罪行为不应归责于其本身，应追究机器人背后的设计者或使用者的刑事责任。

强智能机器人有能力实施严重危害社会的行为。

弱人工智能机器人随着深度的学习，升级成为具有独立意识的强智能机器人。

强人工智能机器人能够在人类程序设计和编程范围之外，独立实施某种犯罪行为。

就目前情况而言，智能机器人实施的造成社会的危害行为不在少数，而且一旦犯罪行为涉及人工智能科技手段，所带来的危
害后果呈几何倍增长。

由此可知，弱人工智能机器人已经能够实施严重危害社会的行为，只是未意识到实施行为的危害性。

可以预见不久的将来，强人工智能机器人不仅能够实施对社会造成严重危害的行为，也能够意识到行为的危害性。

只有同时具备辨认能力和控制能力，才能为自己的行为承担责任。

如果智能机器人不具备辨认能力和控制能力，即使实施了严重危害社会的行为，也不能成为犯罪主体。

[2]辨认能力是控制能力的前提和基础，智能机器人只有在明辨是非的前提下，才能谈得上控制自己的行为。

对于辨认能力和控制能力的认定，就自然人而言，只要达到刑事责任年龄且精神智力正常就可以认定为具有辨认能力和控制能力。

而对于强智能机器人，我们无法根据刑事责任年龄和精神智力来判断其是否具备辨认能力和控制能力。

辨认能力是行为人认识自己特定行为的性质、结果与意义的能力。

[3]辨认能力不是一蹴而就的，即使是自然人，也得随着时间的推移逐渐形成。

强人工智能机器人可以通过自带的“电子眼”等认识到事物的本身及其行为的性质，但对于行为的结果和意义，是需要自己独立思考并作出判断的。

在未来如果将大量的法律规范、社会实践、司法案例加入强智能机器人的自主学习的程序当中，强智能机器人凭着超人类的学习和总结能力，定能根据海量的数据形成对行为的结果和意义的判断。

强智能机器人深入学习法律规范，深刻感知到自己的何种行为是违法的，何种行为是合法的，面对可能带来的处罚，自然就会控制自己的行为。

强智能机器人能够实施严重危害社会的行为，并同时具备辨认和控制自己行为的能力，也就符合刑法规定的条件，智能机器人就可以成为犯罪主体。

（二）智能机器人能够实施的犯罪类型
刑法分则根据犯罪侵害的客体划为了十个章节，对于这十类犯罪，自然人都能够实施，智能机器人则不完全能够实施。

智能机器人与自然人有很多的共同点，能够实施以自然人为主体的绝大部分犯罪。

[4]智能机器人能够实施经济类犯罪，如盗窃、抢劫、诈骗等。

但是，对于一些基于身份才能实施的犯罪，如贪污罪、受贿罪、挪用公款罪等，智能机器人基于身份的关系则不能实施。

但也并非所有的身份犯，智能机器人都不能实施。

在当下，智能机器人已经运用于医疗领域，目前已经研发出代替医生进行手术的机器人。

智能机器人如果在未来能够广泛运用于医疗领域，定能缓解医疗资源的紧张，赋予做手术、进行医疗诊断的智能机器人以医生身份便指日可待。

对于要求医护身份的医疗事故罪，智能机器人也能够实施。

但对于智能机器人能否成为身份犯的正犯问题还是值得讨论的，因为在身份认定上还存在极大的难度。

不过根据共犯的原理，仍可以对智能机器人的帮助行为进行评价。

二、刑法介入人工智能领域的必要性
人类在享受人工智能技术带来便利的同时，也需要承担随之而来的巨大的刑事风险。

弱人工智能充当人类实施犯罪的工具，从目前的犯罪案例来看，带来的社会危害性是一般犯罪所不能及的。

同时，随着人工智能的发展，强人工智能能够自主实施危害社会的犯罪。

此时，刑法应当及时介入，保障社会的和谐稳定。

人工智能所带来的刑事风险，可按照弱人工智能和强人工智能大致分为两种情况：
其一，不具有独立意识的弱人工智能实施犯罪行为，此时的弱人工智能只能看作人类实施犯罪的工具。

但相对于传统的犯罪而言，弱人工智能所带来的社会危害性极大地增加了。

一些原先需要犯罪分子实施的犯罪行为，特别是带有危险性质的行为，现在可以由智能机器人替代人类来完成。

犯罪分子可以操控携带爆炸物的智能机器人进入到可操控的领域，并引爆爆炸物，损害了公民的生命和财产安全，造成了社会恐慌。

[5]相较于人肉炸弹，犯罪分子可以远距离操控智能机器人，极大地保障了自身的安全，但也给办案人员带来技术上的难度。

以往爆炸案的发生，警察可以根据监控识别犯罪分子，排查犯罪分子的社会关系。

但是人工智能却无法根据面部识别身份，从而确定犯罪嫌疑人。

智能机器人的学习和分析能力远超人类，在分析大量数据的基础上，更能够作出精确的判断，犯罪分子也容易利用智能机器人得出的数据实施危害行为。

智能机器人是建立在大数据基础之上的，海量的数据必然涉及众多的信息、技术、秘密和隐私。

对于信息的泄露，可能会成为未来犯罪的一方面。

犯罪分子也极可能利用人工智能盗取信息，实施危害公民、社会
乃至危害国家的犯罪行为。

随着智能机器人智能化的提高，在更便利生活、工作的同时也为社会埋下了无法预估的安全隐患，因此，刑法应防患于未然，及时规制人工智能犯罪。

其二，人工智能发展到超智能时代，智能机器人能够产生独立的意识并自主实施危害行为，人工智能未来对人类可能造成危害。

针对人工智能的不断发展，刑法作为稳定社会的最后一道防线，在民事和行政手段无法解决时，刑法应当及时制约事态发展，保障公民、社会的安全。

世界闻名的美国科幻家阿西莫夫就曾预言未来会出现具有独立意识和意志的机器人，并对未来机器人对人类带来的危害表示担忧。

人类对智能机器人具有独立意识的构想终将在未来的某一天实现，就像曾经的古人对“奔月”的幻想，早也在现代实现。

随着技术的发展，智能机器人拥有自己的意识终将变成现实。

物理学家斯蒂芬·霍金也多次表示人工智能的发展与大数据密不可分，智能算法也是基于庞大的数据之上。

[6]目前人工智能较为普遍适用于客户的个性推荐上，智能算法根据使用者平时浏览的信息、网页，从而更精确的为使用者推荐优质的信息。

在一定程度上，能够帮助使用者过滤掉一些垃圾资讯，但同时也阻碍了使用者的阅读范围，就会导致对其他领域的知识了解得越来越少，不利于作为个体的全面发展。

[7]大量的信息被存储、分析，人类的生活习惯、阅读习惯、购物习惯也在慢慢被监视着。

《刑法修正案九》新增了出售提供公民个人信息罪，可见国家已经开始重视信息类犯罪，保护公民的信息安全。

如果未来人工智能和大数据在信息保护方面得不到有效的控制和制约，可想而知信息类犯罪肯定会层出不穷，甚至会导致新型犯罪的出现。

三、规制人工智能机器人犯罪的刑法路径
（一）规制弱人工智能机器人的刑法路径
弱人工智能机器人不具备独立的意识，无法独立实施危害社会的行为，只能追究研发人员或使用人员的责任。

研发人员在多数情况下，是以造福人类为目的研发出智能机器人，但也不排除个别研发人员为了不正当利益研发智能机器人。

智能机器人实施行为是依据研发人员设计和编制的程序，研发人员或使用人员有目的地对智能机器人的程序进行控制，从而达到利用智能机器人进行犯罪的目的。

此时的智能机器人只能看作是研发人员或使用人员的犯罪工具，不能追究智能机器人的责任。

[8]当智能机器人作为研发人员或使用人员的犯罪工具时，由于智能机器人不同于一般的犯罪工具，可能会影响到对研发人员或使用人员实施行为的性质的判断和量刑轻重的判断，甚至会影响到研发人员和使用人员之间的责任分配。

（二）规制强人工智能机器人的刑法路径
对超出程序范围之外，具有独立意识的强智能机器人进行刑法规制，是稳定社会的必然要求。

人工智能机器人便利了人类的生活，制造成本也极高，如果通过销毁、报废实施了犯罪的强智能机器人的方式必然会造成社会资源的浪费。

因此，从法律层面规制智能机器人就显得尤为必要。

但是目前的刑罚体系具有局限性，无法对具有独立意识的智能机器人进行归责。

刑法规定的刑罚无法适用于智能机器人。

首先，智能机器人没有生命体，这是与自然人最本质的区别。

自然人的生命随着时间的流逝慢慢走向死亡，终将有消失的一天，其刑事责任能力也随之消灭，并且自然人的生命是不可逆转的。

智能机器人的“生命”来源于程序，程序是可以被更改、删除和修复的，也就是说智能机器人的存在是可以逆转的，其刑事责任能力也是可以逆转的。

由于智能机器人存在的基础不是源于生命，无法通过剥夺生命来实现对智能机器人的惩罚。

其次，刑罚体系中的自由刑也不适用智能机器人，自由刑的核心是人身权。

人身权主要指身份权和人格权，与自然人的人身和生命密不可分，智能机器人没有生命也谈不上拥有人格权和身份权，也就不适用自由刑的刑罚。

最后，财产刑是通过对犯罪人进行罚款或者直接没收犯罪人的财产，智能机器人在目前阶段无财产可言，也无政治权利。

因此，财产刑和权利刑暂时也无法适用。

其实，在未来赋予智能机器人以财产权、政治权利是能够实现的，沙特阿拉伯国家已经赋予智能机器人以公民的身份。

随着，智能机器人更深入的发展，智能机器人的权利也应受到保护。

只是目前人工智能技术的发展还处于初期阶段，还依赖人类的进一步开发。

所以，可根据智能机
器人的特点，增设合适的刑罚。

（下转73页）
证据，一方面能有效减少收集证据的片面性与盲目性，另一方面可以有效避免刑讯逼供、诱供等非法证据的出现，降低侦查难度，节约司法资源，在有限的侦查时间内较为准确地排除无辜，减少冤假错案的发生，以达到司法公正的最终目的。

另外应当有效发挥律师在侦查阶段的作用。

我国法律规定犯罪嫌疑人在被第一次讯问后或者采取强制措施之日起，可以聘请律师为其提供帮助，在侦查阶段，律师的作用几乎难以得到发挥，由于一般的嫌疑人自身对法律知识的了解较少，因此侦查阶段律师介入的限制不利于对案件事实、证据存在合理怀疑的提出和排除。

可以在侦查阶段进一步扩大律师的介入范围，鼓励律师帮助侦查机关对收集证据等侦查行为的证伪，提出反面的疑点，从而推论出正确的侦查结果。

首先，对讯问时律师的在场权给予一定的宽泛，首次讯问后的历次讯问，应保障律师在场权不受限制。

其次，一般的刑事案件，犯罪嫌疑人在拘留逮捕后，应给予聘请律师充分的会见权，以便于保障嫌疑人的合法权利。

律师在自行调查取证活动中，发现存在的合理疑点有权向侦查机关提出意见，尤其是不具备作案能力、物证痕迹不匹配等较为明显关键的疑点。

对于暴力取证、诱供等非法证据的情形律师可以在辩护意见中提及。

参考文献：
[1]张华夏.波普尔的证伪主义和进化认识论[J].自然辩证法研究，2003（3）：10.
[2]陈瑞华.刑事诉讼法学研究范式的反思[J].政法论坛，2005（3）：20.
[3]刘立霞.移送审查起诉的证明标准探析——以证伪思维为视角[J].河北法学，2008（6）：118.
[4]张雪纯、葛琳.证伪方法、经验法则和心理因素[J].当代法学，2005（5）：105.
[5]张大海.试论“排除合理怀疑”的合理性[J].郑州大学学报(哲学社会科学版)，2007（4）：104.
责任编辑：蒋传宓
（上接69页）
智能机器人存在的基础是程序，程序可以进行更改、修复、删除。

因此，可增设删除数据、更改程序和直接从物理上对智能机器人进行永久销毁的刑罚处罚。

删除数据是指删除智能机器人实施犯罪行为所依赖的数据，将该数据永久删除，防止智能机器人再次利用该数据实施犯罪行为。

[9]智能机器人实施犯罪行为依赖一定的数据，删掉这些数据，就相当于删掉了智能机器人犯罪的“工具”。

同时，在程序上阻断智能机器再次获得该数据的可能，并引导机器人学习更多正面的数据，积极培养智能机器人形成正确的价值观。

更改程序是指通过删除数据并不能阻止智能机器人再次犯罪，需要通过更改智能机器人的程序，才能阻止智能机器人犯罪。

此时，智能机器人的学习能力和自身的意识太过强大，只能通过更改程序，降低其自主学习的能力，从而降低“风险”。

永久销毁是针对具有超强意识的智能机器人，通过删除数据、更改程序也无法阻止其再次犯罪，对该类智能机器人进行永久销毁。

不仅将其数据程序进行删除，并从物理上进行永久销毁，让其再无实施犯罪的可能性。

智能机器人的研发、生产耗费社会资源，永久销毁只能作为刑罚的最后一步。

这三种刑罚处罚，处罚力度依次递增，根据智能机器人实施犯罪的社会危害性和行为的危险性适用不同的刑罚，做到罪责刑相适应。

参考文献：
[1]刘宪权.人工智能时代的刑事责任演变：昨天、今天、明天[J].法学, 2019(1):79-93.
[2]刘宪权,房慧颖.涉人工智能犯罪的前瞻性刑法思考[J].安徽大学学报(哲学社会科学版),2019（1）:108-117.
[3]刘宪权,胡荷佳.论人工智能时代智能机器人的刑事责任能力[J].法学,2018(1):40-47.
[4]赵秉志,詹奇玮.现实挑战与未来展望:关于人工智能的刑法学思考[J].暨南学报（哲学社会科学版),2019(1):98-110.
[5]刘宪权,房慧颖.涉人工智能犯罪刑法规制的正当性与适当性[J]. 华南师范大学学报（社会科学版),2018(6):109-115.
[6]邓志宏，孙佳灵.我国人工智能法律规制问题初探[J].齐齐哈尔大学学报(哲学社会科学版),2019:89-92.
[7]刘宪权.涉人工智能犯罪刑法规制的路径[J].现代法学,2019（1）:75-83.
[8]杨仕兵,张闯玉.涉人工智能产品犯罪的刑法规制研究[J].东北农业大学学报,2019(3)：38-42．
[9]汪庆华.人工智能的法律规制路径:一个框架性讨论[J].现代法学,2019(02):54-63．
责任编辑：蒋传宓。