涉人工智能犯罪刑法规制的路径

涉人工智能犯罪刑法规制的路径作者：刘宪权来源：《现代法学》2019年第01期摘要：在弱人工智能时代，智能机器人在设计和编制的程序范围内实施严重危害社会的行为，实际上是研发者或使用者行为的延伸，应当由研发者或使用者承担刑事责任。

与传统犯罪相比，研发者或使用者之间的刑事责任分配会随着智能机器人“智能”的增长而有所不同。

智能机器人“智能”的增长还会影响对行为人量刑的轻重，甚至可能影响对行为人行为的性质判断。

智能机器人在自主意识和意志的支配下超出设计和编制的程序范围实施严重危害社会的行为时，应将其作为刑事责任主体进行刑罚处罚。

此时，智能机器人不能和研发者成立共同犯罪，但有可能和使用者构成共同犯罪。

关键词：人工智能;机器人犯罪;刑事责任;刑法规制;共同犯罪中图分类号：DF611文献标志码：A;DOI：10.3969/j.issn.1001-2397.2019.01.06人工智能技术的发展如火如荼，从不具有深度学习能力的普通机器人，到具有深度学习能力但仍完全受限于人类设计和编制的程序的弱智能机器人，人工智能技术业已取得重大突破，人类终将迎来具有独立意识和意志、能够在人类设计和编制的程序范围外实施行为的强智能机器人。

依笔者之见，从普通机器人到弱智能机器人，再到强智能机器人的“进化”史，其实是一部机器人的辨认能力与控制能力逐步增强、人之意识与意志对其“行为”的作用逐渐减弱的历史。

人与机器人在辨认能力与控制能力上此消彼长的变化，从根本上影响着刑事风险的样态与刑事责任的分配。

不可否认，当人的意识和意志对智能机器人的行为所产生的作用逐渐减弱，就意味着人工智能时代可能会产生前所未有的风险，甚至极有可能会产生相应的刑事犯罪。

涉人工智能犯罪主要包括两个方面：一是研发者和使用者将人工智能技术作为犯罪工具，这会为犯罪插上科技的“翅膀”，从而使其社会危害性呈几何倍数增长，甚至会引发更多的新型犯罪。

二是随着人工智能技术的发展，强智能机器人可能会产生独立的意识和意志，自主决定并实施严重危害社会的行为。

历史的车轮滚滚向前，我们不应该也不可能仅因人工智能时代存在风险，就阻碍新的科技和生产力的发展，甚至阻挡一个崭新时代的到来。

我们理应未雨绸缪、积极布局，努力探索人工智能时代涉人工智能犯罪的刑法规制路径，为防控人工智能时代的技术风险（包括规制智能机器人的行为）、发挥人工智能技术的最大价值、促进社会的稳定健康发展出谋划策。

一、对弱人工智能机器人研发或使用行为的规制路径本部分探讨的所有智能机器人的行为都是在设计和编制的程序范围之内实施的。

应该看到，在大多数情况下，研发者或使用者会以造福社会或方便生活为目的来设计或使用智能机器人，并发展人工智能技术。

但是，也不能排除某些研发者或使用者为了满足某些不正当利益，将研发或使用的智能机器人当作工具，实施严重危害社会行为的可能性。

此时，智能机器人活动的基础是设计和编制的程序，研发者或使用者利用程序对智能机器人进行控制，从而使智能机器人按照自己的意志，实施相应的犯罪行为。

在这种情况下，智能机器人只能作为人类实施犯罪行为的工具。

但是应当看到，正如在网络时代，当互联网作为人类实施犯罪行为的工具时，会影响对行为人行为性质的判断和对行为人量刑的轻重，在人工智能时代，当智能机器人作为人类实施犯罪行为的工具时，不仅可能会影响到对行为人行为性质的判断和对行为人量刑的轻重，甚至研发者或使用者之间的刑事责任分配也可能会随着智能机器人“智能”的增长而有所不同。

其一，当智能机器人作为人类实施犯罪行为的工具时，可能会影响到对行为人行为性质的判断。

例如，当自动驾驶汽车的设计者设计的自动驾驶程序不符合道路交通运输管理法规，从而导致自动驾驶汽车发生安全事故，造成人员伤亡或者使公私财产遭受重大损失的，其可能构成交通肇事罪。

而在人工智能时代来临之前，汽车的设计者只可能因其设计的汽车存在重大安全隐患而构成重大责任事故罪。

其二，当智能机器人作为人类实施犯罪行为的工具时，可能会影响到对行为人量刑的轻重。

例如，2010年5月6日，美国股票交易市场突然暴跌，在短短4分钟之内，道琼斯指数平均下跌了6%，而在此后的20分钟内股价又急剧回升。

此次暴跌被称为“闪电崩盘”，其背后的“元凶”最终被指向程序化交易的“超高速机器人交易员”，其能够在瞬间以远超人类交易员的速度进行抢先交易参见：樱井丰.被人工智能操控的金融[M].林华，沈美华，译.北京：中信出版集团，2018：39.。

笔者认为，行为人凭一己之力与借助智能机器人都可能达到操纵证券市场的目的，只是前者可能是利用资金、持股持仓或者信息的优势实施操纵行为，而后者则是利用技术的优势实施操纵行为。

对这两种行为尽管都应以操纵证券市场罪认定，但是，实际处罚时则可根据犯罪数额或其他情节以“情节严重”或“情节特别严重”来区分法定刑的量刑幅度。

行为人凭一己之力进行操纵证券市场的行为和行为人借助智能机器人进行操纵证券市场的行为相比，显然，后者的效率、影响力甚至获利都会远远超过前者，犯罪情节的严重程度也会远远超过前者，从而需要承担的刑事责任和需要接受的刑罚处罚也相应更重。

其三，当智能机器人作为人类实施犯罪行为的工具时，研发者或使用者之间的刑事责任分配可能会随着智能机器人“智能”的增长而有所不同。

例如，对于普通汽车而言，在汽车本身不存在安全隐患，仅因驾驶员违反交通运输管理法规进行驾驶导致发生重大交通事故而构成交通肇事罪的情况下，普通汽车的设计者无须承担刑事责任，而应由普通汽车的使用者——驾驶员承担全部刑事责任。

对于全自动驾驶汽车而言，汽车的行驶方式、路径全部都由自动驾驶程序控制，并不需要驾驶员对汽车进行操控，车上仅有乘车人而无驾驶员，对于程序本身存在问题而导致发生重大交通事故的情况，可能就需要由全自动驾驶汽车的设计者承担全部刑事责任。

关于研发者和使用者刑事责任的具体分配，笔者将在下文进行详细论述。

由于本部分我们只探讨智能机器人的行为在设计和编制的程序范围之内实施的情况，因此，智能机器人在没有独立的意识和意志情况下的任何行为，都只能看作是研发者和使用者犯罪的工具（即是他们所实施犯罪行为的延伸）。

也正因为如此，研发者或使用者不可能一起或单独和智能机器人构成共同犯罪。

值得探讨的是，在将智能机器人当成犯罪工具，利用智能机器人进行犯罪的情况下，如果研发者与使用者并非同一人，且研发者与使用者之间没有通谋时（在有通谋的情况下，应以研发者与使用者构成共同犯罪认定，笔者对此种情况不作赘述），最终的刑事责任应由使用者一人承担，还是研发者和使用者二者都需承担？笔者认为，对此应具体问题具体分析。

第一，研发者在设计智能机器人时，只赋予了其实施犯罪行为的能力。

例如，研发者设计出“杀人机器人”，其唯一能够实施的行为就是在程序的控制之下将自然人的生命予以剥夺，因此，对于该智能机器人在交付使用后所实施的任何行为，我们都可以认为研发者具有故意，或者说，研发者将自己的主观故意融入智能机器人所实施的行为之中，只不过这种故意内容的实现不是在当场，而是延迟到交付使用后。

笔者认为，在这种情况下，智能机器人实施的行为融合了研发者或使用者二者的犯罪故意，因此，这种情况下智能机器人的行为是研发者或使用者行为的延伸，其是二者实施犯罪行为的工具，研发者和使用者都应承担刑事责任。

第二，研发者在设计智能机器人时，完全是为了让其进行正常且合法的活动，并未赋予智能机器人任何实施犯罪行为的能力，但使用者借助智能机器人从事合法活动的能力而实施了犯罪行为。

例如，研发者研发出一款进行证券交易数据分析的智能机器人，被使用者用以实施操纵证券市场的犯罪。

研发者出于完全合法的目的设计智能机器人，只不过被使用者出于犯罪目的而“巧妙”地利用实施犯罪行为。

笔者认为，在这种情况下，智能机器人只是使用者实施犯罪行为的工具，对于相关危害社会的结果当然只能由使用者（而非研发者）承担刑事责任。

其实这种情况与行为人使用菜刀杀人，我们只能追究杀人者刑事责任，而不可能追究设计或生产菜刀者的刑事责任一样。

第三，研发者在设计智能机器人时，既赋予了其实施犯罪行为的能力，又赋予了其实施正常且合法活动的能力。

例如，研发者设计出一款智能机器人，既可以通过程序控制启动杀人程序，让其实施杀人行为，又可以启动其实施正常活动（如扫地、擦窗）的程序。

当使用者利用智能机器人实施犯罪行为的功能实施相应的犯罪行为时，我们可以认为，研发者和使用者对于该行为所造成的严重危害社会的结果都具有故意。

其中研发者是概括的故意，而使用者是具体的故意。

因此，对于相关危害社会的结果研发者和使用者都应当承担刑事责任。

第四，研发者设计的智能机器人，从表面上看，是从事正常且合法活动的智能机器人，但实际上，研发者可以将智能机器人交付使用之后，通过远程控制，利用智能机器人实施犯罪行为。

而使用者对智能机器人的预期是利用其从事正常且合法的活动，对于智能机器人可能实施的犯罪行为，其完全处于不知情的状态，而智能机器人所实施的危害社会行为则是在研发者的掌控之下的，因此，对于相关危害社会的结果应当由研发者承担刑事责任。

例如，研发者设计出一款自动驾驶（可以远程控制）汽车，在交付使用后，利用使用者的不知情状态并通过过程操控，在公共道路上故意撞人。

在此情况下，使用者只是按规定利用该车的自动驾驶功能出行，而对研发者可以远程控制汽车的情况并不知悉，因此，我们只能对研发者追究刑事责任。

第五，研发者设计出从事正常且合法的活动的智能机器人，但是如果由于使用不当造成程序紊乱，智能机器人就会在失控的状态下实施严重危害社会的行为。

这种情况又可以分为两种不同的状态：一种是研发者已经尽到了提醒使用者注意的义务，而使用者未履行足够的注意义务，因使用不当导致智能机器人实施了严重危害社会的行为。

在这种状态下，研发者尽到提醒义务，而使用者未履行足够的注意义务，研发者当然不可能对相关危害社会的结果承担刑事责任，承担刑事责任的理应是使用者。

另一种是研发者未尽到提醒使用者注意的义务，导致使用者在不知情的情况下使得控制智能机器人实施行为的系统发生故障，并在这种状况下实施了严重危害社会的行为。

对此，使用者毫不知情，当然不可能为此承担刑事责任，而应由研发者承担刑事责任。

此种情况与前四种情况的不同之处在于，前四种情况中，研发者、使用者承担的是故意犯罪的刑事责任，而在此种情况下，研发者或使用者承担的是过失犯罪的刑事责任。

理论上认为，成立过失犯罪需要以违反相应的预见义务为前提。

应当看到，人工智能技术的发展突飞猛进，可能会远远超过人们的想象。

在这种状况下，笔者认为，将研发或者使用智能机器人当时的技术发展水平作为判断智能机器人研发者和使用者是否具有预见义务的基准是具有合理性的。

智能机器人具有较高科技含量，其风险也相对较高，因而智能机器人的研发者或使用者需要尽一切可能将自己研发或使用的智能机器人可能带来的隐患降至最低。