自动驾驶的风险类型与法律规制

· 法学专论 ·
自动驾驶的风险类型与法律规制
刘艳红
摘要：自动驾驶汽车事故的法律责任应依据不同风险对事故主体和责任类型进行区分。

在自动驾驶汽车生产阶段，存在生产、销售不符合安全标准的自动驾驶汽车的制造风险与难以进行特殊道路路段测试的安全风险。

在自动驾驶汽车应用阶段，基于发生事故后的事故责任和保险责任的认定，存在自动驾驶系统与驾驶员的过失风险和故意风险。

根据不同风险类型，在坚持自动驾驶责任主体否定论的前提下，自动驾驶汽车的法律规制路径应从民事侵权责任和刑事责任两方面展开。

在民事责任方面，驾驶员与自动驾驶系统本身均不适合责任承担，由生产者一方承担责任更具正当性，并应同时引入责任保险制度作为社会化救济方式。

在刑事责任方面，生产者因为设计缺陷或者未履行自动驾驶汽车应用安全管理义务并发生严重后果的，应当承担刑事责任。

对于交通肇事过程中驾驶员的刑事责任，则应该根据自动驾驶汽车的自动化分级进行分类探讨。

关键词：自动驾驶汽车　风险类型　交通肇事　过失责任　刑事责任
中图分类号：D915.2　文献标识码：A　文章编号：1004-9428（2024）01-0114-17
人工智能技术的迭代升级意味着自动驾驶汽车成为整个人工智能产业的“领航者”，包括脑机结合、情感计算、避险算法在内的诸多人工智能前沿科技被应用于自动驾驶汽车，寄希望于将人类驾驶汽车时的情感状态投射于自动驾驶过程中，〔1〕从而最大程度上发挥出自动驾驶汽车的行驶潜能。

对于自动驾驶汽车而言，传统的“机械功能汽车”正逐步向“人工智能汽车”进化，其原因在于人工智能汽车对非结构化环境的高适应性，但是这同时也引发了关于自动驾驶的安全监管、道德伦理、风险类型以及责任认定等一系列未知的问题，〔2〕当前自动驾驶汽车的最新算法已经简化至19个控制神经元的单一算法，并尝试学习将高维度的
作者简介：刘艳红，中国政法大学刑事司法学院教授。

*　本文为国家社科基金重大招标课题“数字经济的刑事安全风险防范体系建构研究”（21&ZD209）阶段成果。

〔1〕　参见王禄生：《情感计算的应用困境及其法律规制》，《东方法学》2021年第4期。

〔2〕　参见翁岳暄、［德］多尼米克 ·希伦布兰德：《汽车智能化的道路：智能汽车、自动驾驶汽车安全监管研究》，《科技与法律》2014年第4期；周佑勇：《智能技术驱动下的诉讼服务问题及其应对之策》，《东方法学》2019年第5期。

自动驾驶的风险类型与法律规制
内容输入映射到驾驶指令之中，〔3〕而这种高度且复杂的智能化技术会增加人工智能汽车交通肇事的归责难度，并对当前的法律体系构成了极大的挑战。

对于自动驾驶的法律规制，以往的研究重点集中在责任主体的认定以及归责模式的构建，对责任主体的认定存在争议：肯定说承认自动驾驶汽车作为责任主体，并追究其具体责任，从而更新责任规则。

〔4〕否定说则认为自动驾驶所应用的人工智能缺乏自由意志，并不具备刑事责任能力，〔5〕人工智能技术得出的结论是基于海量数据拟合的概率结果，缺乏内在情绪或情感基础的人工智能机体并不具有人性、尊严以及人格等人之属性，所以提倡赋予其法律主体的观点显然有悖于现代法的要义。

〔6〕折中说则大多将自动驾驶汽车比照为“电子人”，希望借助拟制法律人格来有限地处理现实情境中的问题，〔7〕但是伴随自动驾驶场景的愈发复杂多样，折中说的论点自然难以为继。

实际上，上述不同观点的碰撞都是学界研究视角失衡引发的“泡沫化”争议，只要明确人工智能的法律地位是为了解决权利能力与义务承担问题，并解决权利与义务的分配问题，也就随之解决了法律责任的承担问题。

〔8〕囿于人工智能技术终究是人类智慧在技术领域的具体投射，而非具有真实智慧的责任主体，为了贯彻“使人成为人，并尊敬他人为人”的价值理念，〔9〕本文坚持自动驾驶汽车责任主体否定论，并在此基础上对自动驾驶汽车的法律问题展开更进一步的研究，基于对自动驾驶的风险进行类型化区分，再探讨当处于不同阶段和情境时自动驾驶汽车的法律规制路径构建，通过合理的刑事归责体系，消弭自动驾驶汽车的刑事风险，在维护司法公正的同时保证自动驾驶汽车整体产业的正常发展。

一、自动驾驶汽车事故法律责任认定困境
自动驾驶汽车是指通过搭载先进传感器等装置，通过人工智能等新兴技术实现自动驾驶功能，逐步成为智能交通移动终端的新一代汽车。

我国的自动驾驶汽车产业发展迅速，但法律体系并未完全跟上技术产业的迭代升级，存在一定的法律规制漏洞。

虽然从整体上看，自动驾驶汽车可以显著降低事故发生率，根据替代安全评估模型（SSAM）显示，随着自动驾驶汽车渗透率的提高，道路交通的安全水平也随之提高，〔10〕但这不意味着自动驾驶汽车能够实现道路交通安全的高枕无忧，事实上，在自动驾驶汽车投入的磨合阶段仍然存在一定的交通肇事风险。

2020年10月11日，百度宣布其无人驾驶出租车服务（Robotaxi）在北京开放
〔3〕　See Mathias Lechner et al.，Neural Circuit Policies Enabling Auditable Autonomy，Nature Machine Intelligence，Vol.10：2，p.642-643（2020）.
〔4〕　参见郑志峰：《自动驾驶汽车的交通事故侵权责任》，《法学》2018年第4期。

〔5〕　康兰平、王紫函：《自动驾驶汽车交通犯罪中刑法规制研究》，《东南法学》2021年第1期。

〔6〕　刘艳红：《人工智能法学的“时代三问”》，《东方法学》2021年第5期。

〔7〕　参见袁曾：《基于功能性视角的人工智能法律人格再审视》，《上海大学学报》（社会科学版）2020年第1期。

〔8〕　参见刘艳红：《人工智能法学研究的反智化批判》，《东方法学》2019年第5期。

〔9〕　参见［德］黑格尔：《法哲学原理》，范杨、张企泰译，商务印书馆2019年版，第53页。

〔10〕　See Kareem Othman，Exploring the Implications of Autonomous Vehicle：A Comprehensive Review，Innovative Infrastructure Solutions，Vol.7：1，p.165（2022）.
法 学 专 论
运营，覆盖了海淀、亦庄等15个测试站点。

随后，重庆、武汉两地政府部门也率先发布自动驾驶全无人商业化试点政策，百度也获得全国首批无人化示范运营资格。

〔11〕基于此次获批，百度将被允许使用车内无安全员的自动驾驶车辆在社会道路上开展商业化服务，从而提供自动驾驶的完整解决方案。

值得注意的是，商业化的成功并不能掩盖法律规制体系的缺漏，当前我国的法律规范体系对于自动驾驶技术的迅速发展整体上呈现滞后的态势。

构建合理的自动驾驶汽车法律责任规制体系的前提是结合技术特征对其进行合理分级。

根据2022年3月1日实施的《汽车驾驶自动化分级》（GB/T 40429-2021），我国汽车驾驶自动化等级分为0级驾驶自动化（应急辅助）、1级驾驶自动化（部分驾驶辅助）、2级驾驶自动化（组合驾驶辅助）、3级驾驶自动化（有条件自动驾驶）、4级驾驶自动化（高度自动驾驶）、5级驾驶自动化（完全自动驾驶），〔12〕这一分级标准的提出为构建自动驾驶汽车的类型化规制体系提供了规范基础，而法律规制的重心则集中在3-5级的自动驾驶汽车。

伴随着自动驾驶汽车产业的发展，与自动驾驶汽车相关的法律规范也在不断地创设与完善。

2022年8月1日，《深圳经济特区智能网联汽车管理条例》（下文简称《深圳条例》）开始施行，这是国内首次立法对智能网联汽车的准入登记、上路行驶等事项作出具体规定，并支持L3级自动驾驶汽车上路。

〔13〕2023年8月7日，江苏省十四届人大常委会发布了《江苏省道路交通安全条例》（下文简称《江苏条例》），其中将有条件自动驾驶汽车、高度自动驾驶汽车和完全自动驾驶汽车进行了分类管理，赋予高度自动驾驶汽车驾驶员更高的注意义务。

事实上，早在2021年3月的《道路交通安全法（修订建议稿）》中就明确具有自动驾驶功能的汽车进行道路测试和通行的相关要求，并规定了违法和事故责任分担规定。

但2021年4月修订后的《中华人民共和国道路交通安全法》（下文简称《道路交通安全法》）对于自动驾驶汽车的分级与事故责任承担并未作出相关规定，因此导致自动驾驶汽车事故的法律责任认定仍然存在争议。

目前的争议点在于自动驾驶汽车导致事故后，对具体的自动驾驶风险仅作概括性地描述，并不符合汽车运行的实际情况，而后续的自动驾驶汽车的法律规制体系存在整体性的缺失，将会导致对自动驾驶汽车的监管陷入无序化的尴尬境地。

二、自动驾驶汽车的风险类型认定
自动驾驶技术的发展贯穿自动驾驶汽车的生产阶段和应用阶段，其所引发的风险也不
〔11〕　参见崔吕萍：《自动驾驶拿到路权更要安全》，《人民政协报》2022年8月16日。

〔12〕　其中，0至2级为驾驶辅助，系统辅助人类执行动态驾驶任务，驾驶主体仍为驾驶员；3至5级为自动驾驶，系统在设计运行条件下代替人类执行动态驾驶任务，当功能激活时，驾驶主体是系统。

参见郑敏慧：《汽车驾驶自动化分级有据可依》，《中国交通报》2022年5月5日。

〔13〕　参见陈晓慧：《无人驾驶汽车可持牌上路 〈深圳经济特区智能网联汽车管理条例〉下月起实施》，《深圳商报》2022年7月6日。

自动驾驶的风险类型与法律规制
局限于生产者或使用者本身，而可能扩散至整个社会。

〔14〕换言之，其网联化、高效率、规模化特性通常会产生社会性的影响。

依据《深圳条例》第3条规定，自动驾驶汽车是指由自动驾驶系统替代人的操作在道路上安全行驶的汽车，包括有条件自动驾驶、高度自动驾驶和完全自动驾驶三种类型，对应L3、L4和L5级三种自动化水平等级。

其中L5完全自动驾驶汽车不需要人工操作，系统可以完成驾驶员在所有道路环境下的动态驾驶任务。

而L3和L4级都有驾驶员参与，只是参与的程度不同。

鉴于自动驾驶汽车存在技术水平的差异，所以在生产阶段和应用阶段存在不同的风险类型。

（一）生产阶段的制造风险与测试风险
自动驾驶汽车的初衷之一是人们希望通过自动驾驶减少驾驶员错误几率，进而降低事故发生率。

〔15〕2018年《道路机动车辆生产企业及产品准入管理办法》提出对因采用新技术、新工艺、新材料等原因，不能满足本办法规定的准入条件的，企业可以提出相关准入条件豁免申请，这为智能网联、自动驾驶车辆的准入做好了铺垫，也鼓励、促进了技术创新和新型产业生态形成。

2021年《关于加强智能网联汽车生产企业及产品准入管理的意见》要求加强汽车数据安全、网络安全、软件升级、功能安全和预期功能安全管理，保证产品质量和生产一致性，推动智能网联汽车产业高质量发展。

由此助力汽车智能化、网联化发展，但同时也在生产阶段涌现出数据安全、网络安全、交通安全等一系列安全风险问题。

在自动驾驶汽车生产阶段的风险相对较为集中。

首先是自动驾驶汽车的制造风险，自动驾驶汽车作为生产产品，必须符合产品准入和产品流通的相关规定，如果不能符合规定要求，则是一种新形态的产品安全风险，在人工智能技术的加持下，这一风险的状态不稳定且影响范围较广。

以《刑法》第140-149条的规定为例，对于生产、销售伪劣商品的行为，构成犯罪的应当承担刑事责任。

在生产阶段，不符合产品质量安全标准或产品质量存在问题的汽车，存在潜在的事故风险，自动驾驶汽车的生产者、销售者需要承担相应的法律责任。

但从“制造”的狭义角度而言，鉴于自动驾驶汽车在生产阶段的制造风险不属于测试场景和上路场景下的风险，而仅限于制造层面，需承担产品质量责任较为合理，刑法规制的介入需要慎重。

基于《规定》第19条、第54条，自动驾驶汽车的生产者、销售者应当对其生产、销售的产品质量安全负责，建立完善产品质量安全追溯机制。

自动驾驶汽车与人们的出行安全息息相关，保障系统技术的安全，应是“企业一切技术研发、商业化推广的出发点”〔16〕。

由于制造风险所带来的自动驾驶汽车缺陷及损害，驾驶员可以依法向生产者、销售者请求赔偿。

与此同时，与自动驾驶应用阶段相对应，自动驾驶汽车的主动安全系统的制造风险同样
〔14〕　参见孔祥稳：《面向人工智能风险的行政规制革新——以自动驾驶汽车的行政规制为中心而展开》，《行政法学研究》2020年第4期；周佑勇：《论智能时代的技术逻辑与法律变革》，《东南大学学报》（哲学社会科学版）2019年第5期。

〔15〕　See Bryant Walker Smith，Automated Driving and Product Liability，Michigan State Law Review，No.1，p.15（2017）.
〔16〕　许亚杰：《“主驾无人”车首度获批 自动驾驶发展进入快车道》，《中国青年报》2022年5月12日。

法 学 专 论
存在。

在自动驾驶汽车技术的自动化升级中，自动驾驶系统应当可以意识到其他车辆是否减速、预测到其他车辆是否会闯红灯，并立即采取规避行动，〔17〕这种对于主动安全系统的期待已经逐渐从安全员的监督转向“真正的人工智能处理”，所以作为自动驾驶汽车的重要模块，在生产阶段就应该事先设定好编程程序来应对每一种可能出现的风险，〔18〕而这一模块的生产安全风险也成为自动驾驶汽车能否真正被纳入现有公共交通秩序的“命门”。

在蔚来测试车事件中，一辆蔚来测试自动驾驶车于3楼坠下，导致两名试车员死亡，原因是在发生突发情况时，超声波雷达未能与车辆的紧急刹车系统相关联并做出有效的反应，而无论是对车辆测试可能存在危险的预测和把控，还是对员工生命健康权利的保护，蔚来公司都应当承担确保不发生测试安全事故的注意义务，〔19〕自动驾驶汽车存在制造上的防御性驾驶主动安全系统缺陷，意味着自动驾驶汽车生产者的产品责任的增加。

而从刑法视角来看，生产商也可能需要对间接故意杀人、危害道路交通等罪承担刑事责任。

〔20〕
其次，在自动驾驶汽车出厂上路流通行驶之前，需要在指定道路路段进行自动驾驶功能测试活动，并存在测试风险，但目前我国对测试风险并未有所规定。

《规定》第19条规定在测试阶段发生交通违法或交通事故等情形，按照国家有关主管部门关于道路测试和示范应用的规定处理。

自动驾驶汽车需要通过制定道路路段的功能测试才能逐步完善安全性能并由此实现商业应用，而目前发生的很多自动驾驶汽车肇事案例，均存在于测试风险中。

但由此带来的问题是，我国法规中并未规定自动驾驶汽车在高速公路、城市快速路、高架桥等场景中进行测试，因此企业无法更全面检测汽车的自动驾驶系统功能。

我国《道路交通安全法》在2021年3月的修订建议稿首次涉及“自动驾驶”内容，其中第155条中提出，具有自动驾驶功能的汽车开展道路测试，应当在封闭的道路场地内测试合格，取得临时汽车车牌，并且按照规定在指定的时间和区域内展开测试。

经测试合格的自动驾驶汽车依照有关法律规定准予生产、进口和销售。

如果需要上路行驶的，应当申请机动车车牌号。

第2款则是对测试风险后的责任承担有了较为明确的划分，规定为“发生道路交通安全违法行为或者交通事故的，应当依法确定驾驶员、自动驾驶系统开发单位的责任，并依照有关法律、法规确定损害赔偿责任。

构成犯罪的，依法追究刑事责任。

”但是该修订内容并未通过，这意味着我国自动驾驶汽车上路仍存在难题，其并未受到《道路交通安全法》的规制与保护。

《道路交通安全法》以驾驶者对交通工具的控制过错为中心构建相应的责任体系，与智能驾驶汽车的核心发展路径存在不同，由此带来应用中的空白和抵牾。

〔21〕目前北京、上海、重庆、深圳等自
〔17〕　Smith，Automated Driving，p.63.
〔18〕　参见［德］弗兰克 · 彼得 · 舒斯特：《自动驾驶中的应急算法——一个对刑法学的挑战》，张正昕译，《中国政法大学学报》2021年第5期。

〔19〕　范昕茹：《蔚来“饭圈”危机四伏!》，《IT时报》2022年7月1日。

〔20〕　［德］弗兰克 ·彼得 ·舒斯特：《自动驾驶下生产商的刑事责任》，李倩译，《苏州大学学报》（法学版）2021年第3期。

〔21〕　参见许中缘：《论智能汽车侵权责任立法——以工具性人格为中心》，《法学》2019年第4期。

自动驾驶的风险类型与法律规制
动驾驶汽车公共道路测试也为普通的道路测试，因此在后续应用中存在较大风险。

值得期待的是，这种道路测试上的风险会随着立法进步而有所改善。

比如《规定》第21条尝试性规定道路测试主体可以申请开展高速公路、城市快速路等特殊道路测试的条件，主要包括道路测试达到规定里程以及符合相关技术要求且未发生因车辆原因造成的安全事故，那么未来也可以适当扩大自动驾驶道路测试范围，协同推进自动驾驶新技术创新和落地。

〔22〕（二）应用阶段的过失风险与故意风险
在自动驾驶汽车的应用阶段，主要存在过失风险与故意风险，并因此衍生出对应的事故责任和保险责任的认定问题。

在我国汽车交通事故中，传统的事故责任与保险责任均以人为主体进行责任承担与损失赔偿。

《刑法》第133条交通肇事罪规定“违反交通运输管理法规，因而发生重大事故，致人重伤、死亡或者使公私财产遭受重大损失的……”，人作为责任主体构成该罪并承担刑责，重伤、死亡的对象均为人，而且保险责任也多针对人的伤亡和汽车的损毁程度展开。

但并未讨论自动驾驶汽车系统“死亡”之情形，或者更确切地说是并未涉及自动驾驶汽车或系统损毁消失的情形。

例如醉驾主体驾驶普通汽车撞向自动驾驶汽车致其车毁人亡，是否对自动驾驶系统承担相应责任的问题暂无定论。

自动驾驶系统尤其是高等级的自动化系统的研发所耗成本巨大，保险责任与事故主体责任却难以认定。

《道路交通安全法》规定机动车的驾驶员是人类，并未将中高级的自动驾驶汽车系统认定为驾驶员，也没有办法真正实现无人驾驶的测试和应用，由此对自动驾驶汽车的安全事故责任判定存在障碍。

此外，自动驾驶系统的出现使得机动车保险中的驾驶员内涵产生混乱。

而“人机协同扩大了机动车责任保险的风险对象和风险因素，从而改变了保险人厘定费率的基础。

”〔23〕换句话说，自动驾驶汽车的投保主体、投保方式、投保费率也难以明确。

自动驾驶汽车的生产者具有对汽车的安全管理义务，尤其是对自动驾驶汽车的使用算法安全保持监控、封闭管理和及时维护。

当自动驾驶汽车存在严重危险时，应当启动应急装置，并对事故发生原因进行精确判断，而在具体事故中，系统过失风险与驾驶员或安全员的过失风险存在竞合，对于相关责任的认定也不相同。

在美国亚利桑那州坦佩市优步（Uber）自动驾驶汽车案件中，涉及自动驾驶汽车的致死情形。

2018年3月18日，伊莱恩 ·赫茨伯格（Elaine Herzberg）推着自行车横穿马路时被一辆正在行驶中的优步自动驾驶汽车撞死。

〔24〕拉斐拉·巴斯克斯（Rafaela Vasquez）为Uber公司为这辆无人驾驶汽车所指派的安全员，也是该自动驾驶汽车车内的指定司机，他当时正在车内收看电视节目《美国之声》，因此分散了注意力，未能及时观察到伊莱恩，进而导致了惨剧的发生。

属地检察官指控该自动驾驶车辆的安全员存在过失杀人的嫌疑。

该安全员的职责包括监控重要的车辆等诊断信息，并在
〔22〕　李硕：《完善法律体系，以政策创新助推自动驾驶规模化应用》，《每日经济新闻》2022年3月10日。

〔23〕　王春梅：《人机协同视域下中国自动驾驶汽车责任保险立法构设》，《上海师范大学学报》（哲学社会科学版）2022年第3期。

〔24〕　See Alexandra DeArman，The Wild，Wild West：A Case Study of Self-Driving Vehicle Testing in Arizona，Arizona Law Review，Vol. 61：4，p.984（2019）.
法 学 专 论
系统出现故障时人工操作干预。

一方面，拉斐拉被智能手机分散注意力，没有注意路面情况，并未尽到安全管理义务，在发生行人过马路这一事件时，没有做到及时处理相关信息并实行人工驾驶干预。

另一方面，对自动驾驶系统的识别能力存疑。

在该车辆撞到行人的前几秒中，系统是否能够精确识别人物或者汽车并作出相应反应。

在该案中，为了减少误报可能性，优步公司对自动驾驶系统进行设定，使其不会进行突然的紧急停车。

系统检测到伊莱恩发生车祸的前6秒走到了马路上，系统判断碰撞即将发生时，它为了避免突然停车，选择了进一步识别而非启动刹车。

〔25〕基于该过失风险，存在以下问题需要进一步厘清并进行法律规制。

该案中的优步自动驾驶车辆为测试车辆，在测试车辆中存在有安全员，也即车辆的指定驾驶员，而安全员又受雇于优步公司。

与普通驾驶员不同之处在于安全员具有特定义务，产品生产者在此处可能也存在有雇佣责任。

基于检察官的认定，事故的可能原因是“指定驾驶员未能监控驾驶环境和自动驾驶系统的操作，因为其在整个行驶过程中都被个人手机分散了视觉注意力。

”〔26〕此外，优步对于该自动驾驶系统的“不充分的安全风险评估程序”“对车辆运营商的监管不力”以及“缺乏足够的机制来解决运营商在自动化方面的自满情绪”也导致了这起事故的发生。

〔27〕有专家认为一方面需要不断完善自动驾驶汽车的道路规范与上路标准，另一方面也可以在自动驾驶车辆中配备有遇到紧急状况后能让公安警察随时关停的按键。

〔28〕本文认为，受雇佣关系影响，安全员应当承担过失责任。

因为自动驾驶汽车处于测试状态，系统也属于不断完善更新阶段，因此该事故应由疏忽大意的安全员承担责任。

换言之，人类司机本可能在应有的时间范围内采取刹车行为，但是其被外部因素干扰，放松了对于自动驾驶汽车的安全监管，并未履行安全管理义务。

三、风险类型下自动驾驶汽车的法律规制路径展开
基于自动驾驶汽车在生产阶段和应用阶段存在制造风险、测试风险等一系列风险情形，自动驾驶汽车的归责过程实际上受到社会系统与技术系统相互作用的影响，并因不同部分之间相互影响而产生归责难题，如技术系统内部的复杂博弈导致责任主体的认定出现混淆等。

〔29〕鉴于此，对自动驾驶汽车的法律规制应充分考虑社会系统与技术系统的复合影响，从责任主体确定、过失责任竞合认定、故意犯罪责任承担等方面构建法律规制路径。

（一）前提：自动驾驶系统责任主体之否定
从技术层面而言，自动驾驶汽车是运用人工智能技术将汽车由人工操控的机械产品逐步转变为电子信息系统控制的智能产品。

从产业层面而言，自动驾驶汽车的发展促成了汽车与
〔25〕　Christopher B. Emch，Why the Birth of Autonomous Driving Is the Death of Our "Right" to Drive，Pace Law Review，Vol. 40：2，p. 293（2020）.
〔26〕　Matthew Wansley，The End of Accidents，UC Davis Law Review，Vol. 55：1，p.311（2023）.
〔27〕　Ibid.
〔28〕　董天意：《Robotaxi 被警察截停后逃逸 道路规范与驾驶标准需尽快完善》，《每日经济新闻》2022年4月14日。

〔29〕　参见宋春艳：《社会技术耦合障碍与自动驾驶汽车归责难题破解》，《科技管理研究》2023年第16期。