司法程序中的人工智能技术： 现实风险、功能定位与规制措施

司法程序中的人工智能技术：现实风险、功能定位与规制措施
作者：陈俊宇
来源：《江汉论坛》2021年第11期
摘要：当今人工智能技术在司法程序中被广泛地运用，为司法改革提供了重要的契机，但与此同时也带来了现实的风险，例如司法遭遇技术“绑架”、审判权独占原则备受诘难和诉讼三角结构面临失衡等，这些风险均需从不同层面予以规制。

基于维护法的基本价值、保障诉讼权利和遵守司法裁判原则之立场，应当明确人工智能技术在司法裁判中的辅助地位及适用范围，通过创造司法裁判工作与人工智能产业的衔接带，适当赋予法官签字权以合法化人工智能辅助审判，保障当事人在人工智能技术时代的多元权利，进而实现人工智能技术在司法裁判中的合理、合法运用。

关键词：人工智能技术;司法裁判;现实风险;技术定位
基金项目：国家社会科学基金一般项目“审判程序违法的类型化处理研究”（17BFX053）
中图分类号：D916 文献标识码：A 文章编号：1003-854X（2021）11-0099-06
在人工智能技术运用到各个领域热潮的持续推动下，我国对该项技术的发展与运用已迈向了新时期，尤其是其在司法领域的影响力不容小觑。

①目前，人工智能技术运用于司法裁判为司法正义的高效实现作出了积极贡献。

人工智能正越来越多地被开发和用于预测法官将如何对特定事项作出裁决。

②但是，近年来的相关案例以及研究表明，人工智能技术并非万能的，将其运用于涉及主观价值判断的司法程序时也会带来一定的现实风险。

人工智能技术运用得当，可以推进司法程序的高效进行，快速实现司法公正;若不善用，也会直接影响司法正义的彰显。

因此，探寻人工智能技术运用到司法程序中的现实风险，并寻找化解之策，将其妥善运用到司法程序中，才能发挥其正面效力。

一、人工智能技术在司法程序中运用的现实风险
（一）司法遭遇技术“绑架”
司法裁判对于人工智能技术渴求的原动力在于目前我国司法过程中所面临的“案多人少”问题。

人工智能技术对于司法裁判而言是以效率提升为导向的，“若不能减少当事人在解决纠纷时所花时间，引入人工智能技术来改革司法是毫无裨益的”③。

但是，以提升司法效率为导向的人工智能技术，在某种程度上可能对公正裁判有矫枉过正之嫌，且人工智能技术在运用过程
中的实质危害并非是技术本身，而是在技术的掩护下，极少数创造算法、通过人工智能驱动社会运转的业内人，对更大多数人的算法独裁与技术绑架。

④
从另一方面而言，人工智能技术运用在审判中更多的是考量案件的相同或相似点，很难运用法律人推理过程中的目的解释来诠释案件。

若法官在考量个案时，未能根据案件性质的不同考量不同的价值，裁判的公正性则难以保障。

例如，在Post诉Pierson案中，原告Post追捕一只在公共场所中看见的狐狸，被告Pierson眼见Post即将追捕成功，抢先一步将狐狸杀死并夺走，Post起诉要求损害赔偿。

⑤最终，原告的请求以Post并未实质上占有狐狸为由被驳回，毕竟法律的确定性在本案中不容忽视。

然而，在Keeble诉Hickeringill案中，原告Keeble拥有一个池塘，以捉野鸭为生，但被告Hickeringill在Keeble的池塘外开枪吓跑野鸭，Keeble遂向法院提起诉讼。

法院认为，“当有人使用暴力或恶意的行动针对其他人的职业或是生存方式时，那么此时其他人就拥有对抗使用暴力行动之人的法律权利”⑥，故即使原告没有实质意义上的追捕行动，也未占有鸭子，其仍有求偿之权，此时保障的是基本人权。

显然，两案除在价值选择之外，基本事实几乎一致，而人工智能技术面对如此相似的案例很难作出截然相反的裁判。

因此，若不分别考量两案不同的价值选择，以不同的目的解释诠释案件，较易陷入机械司法的泥沼，影响司法裁判实现公平正义之功能。

而这一切归根究底还是技术引入后，通过对人性的消解，进而实现对司法程序的“绑架”。

正如卢曼此前的警示：“欲通过引入技术来减少裁判的不确定性显然是行不通的，因为它可能是增加了裁判的不确定性”。

此种担忧绝不仅存在于理论层面，事实上在司法实践中已初现端倪，上述两案例即为最佳例证。

因此，倘若不采取手段避免技术风险，司法裁判便容易陷入背离法治精神的泥沼之中，遭遇技术的“绑架”。

（二）审判权独占原则备受诘难
《中华人民共和国宪法》已经明确规定了审判权独占原则，《中华人民共和国民事诉讼法》《中华人民共和国刑事诉讼法》中相关条文也作出了同样规定。

学界对上述相关条文的理解多为“司法独立原则”，但从司法权行使主体视角观之，上述条文所表述的含义也可理解为审判权主体的唯一性。

因此，可将该原则的基本要义理解为审判权的专属性。

若人工智能技术运用至司法裁判当中，审判权必将对该项技术产生依赖。

因为，人工智能技术在很大程度上能够解放法官的双手和大脑⑦，对于某些纷繁复杂的审判工作更是寄希望于人工智能技术将其完成。

申言之，技术的掌控者可能利用技术和发展技术，使法官进入“舒适区”，从而产生技术依赖，进而通过技术设计来影响裁判，以致冲击审判权独占原则。

法律界对人工智能技术的疏离就昭示在法律领域很难将人工智能技术运用得当。

主要表现为法律界不谙数据统计与分析技术、是大数据算法的门外汉，以及缺乏对人工智能技术的客观认识。

⑧法律界和人工智能界由于并非处于同一生活世界中，因此，几乎没有任何一个国家的法院能独立完成人工智能技术助力司法裁判这项跨领域结合的任务，于是科技界、企业的力量被进行整合，甚至将某些审判事项承包给技术供应商就成为不二选择。

以我国为例，技术企业研发的相关产品已经得到运用，如科大讯飞研发的讯飞语音识别系统、人民法院出版社研发
的“法信”类案检索系统。

另外，人民法院与技术企业合作研发的系统也逐步投入使用，如上海市高级人民法院研发“206系统”的过程中，作为人工智能企业的先锋，科大訊飞派出的技术人员就超过300人次。

⑨因此，借助科技企业的力量，甚至将某些司法辅助工作承包给相关企业已经势在必行。

中央层面曾提出通过司法辅助事务外包等方式，降低司法成本，提高办案效率，最高人民法院也强调要探索辅助业务社会化外包等做法⑩。

但是，审判辅助事务的范围尚未明确厘定。

尽管很多地方人民法院自行确定了审判辅助事务清单，列举了可以集中管理的审判辅助事项，但不同法院界定的范围存在较大出入。

{11} 由此可能导致不同法院在划定范围时，在是否处于审判权范畴的边缘事项摇摆不定，稍有不慎就可能将本属于审判权的事项外包，由此导致技术对审判权侵蚀的问题。

（三）诉讼三角结构面临失衡
无论是当事人主义诉讼模式，还是职权主义诉讼模式，都旨在调整法官、当事人双方在三角对话格局中的位置，使诉讼三角构造得以稳定。

理想的诉讼构造应为稳定的三角结构，进言之，为了追求诉讼中的各方主体平等，应为法官居中于当事人间的等边三角形构造，这是因为诉讼事实上是一个法官、原告、被告三方之间“合作地寻求真理的论辩过程”{12}。

若各方力量对比相差悬殊，则平等论辩的基础将不复存在，法官公正地居中裁判之局面也将被打破。

此时，便是“谁强谁有理、谁声音大谁有理”，法院也无法“兼听则明”，导致诉讼无论在实体还是程序上都偏离司法公正的基本要求{13}。

如此观之，在民事诉讼中，人工智能技术引入司法裁判之中，势必会加强审判权的力量，使诉讼等边三角形构造面临挑战：人民法院因人工智能技术的运用可能在诉讼中处于优势地位，当事人的权利可能被漠视。

诉讼中不平等已不仅仅存在于当事人之间，法院的绝对垄断地位而导致的法院与当事人之间的结构失衡将成为一种新问题。

在刑事诉讼中，控诉方是国家检察权行使的代表，面对刑事司法活动在各个环节也出现了主动适应信息时代的变化{14}。

现实情况是，控诉方和审判方的电子化、科技化、智能化发展在现代科技的武装下已经与司法深度融合。

{15} 就此而言，刑事诉讼中，诉讼等边三角的稳定结构可能在控诉方和审判方处于技术优势背景下也被打破。

因此，这可能正如有学者所认为的，如此将可能因此导致诉讼结构失衡而引发“新的不平等”{16}，从而导致审判权或审判权与检察权过于“强势”而对当事人权利的熟视无睹。

从另一角度而言，人工智能技术引入司法程序中，侵蚀诉讼等边三角结构进而造成当事人权利的损害还可表现为法院在对人工智能技术以及各种其他信息化辅助办案系统的接受和运用熟练程度较当事人更高。

一旦法官在技术层面取得优势，加之其在审判中又是决定者之角色，势必更容易忽视当事人的訴讼权利，成为诉讼的独白者。

更有甚者，人工智能技术若给诉讼参与人分类、贴标签，如此将让法官有先入为主的印象和偏见，案件的公正裁判将难以保障。

{17} 人工智能技术之所以能够有效地辅助法官审判，提高审判效率，主要原因是其先已经对当事人社会地位、财务状况、征信情况等信息收集处理，甚至在文书上网制度已日趋完善的背景下，人工智能技术可以对当事人调解、上诉、申诉信访的概率进行分析{18}，法院藉由这些人工智能技术处理的信息可以通过深度挖掘和分析来判断当事人进行诉讼的理想诉求，以循得
应对之良策。

而在传统诉讼中，法官难以在短时间内独立对上述资料进行整合分析，并对当事人有先入为主的印象，最终对案件形成预判。

当人工智能技术引入司法裁判，法官利用其对大数据的深度挖掘和分析处理，可以毫无顾忌地对案件当事人形成初步印象或偏见。

毫无疑问，在“案多人少”的背景下，又迫于案件责任终身追究制度的压力，法官作为趋利避害的理性个体，在裁判时肯定会为裁判结果寻求更加具有科技说服力的技术支持。

由此可见，人工智能技术对大数据的分析，极易导致诉讼歧视，影响法官的判断。

当法官对某一当事人持有偏见，其在诉讼中行使权利自然也就容易受到法官限制。

如此，“人民法院审理民事案件，应当保障和便利当事人行使诉讼权利原则”之权威将被人工智能技术所挑战。

二、人工智能技术在司法程序中的定位及适用范围
（一）人工智能技术在司法程序中的功能定位
首先，人工智能技术不能代替法官行使审判权，只能是司法裁判辅助的技术手段。

笔者认为，《中华人民共和国宪法》第131条、《中华人民共和国民事诉讼法》第6条、《中华人民共和国刑事诉讼法》第5条、《中华人民共和国行政诉讼法》第4条已经明确审判权由人民法院独占，因此，除人民法院外，任何机构、个人、团体等都无法成为审判权的行使主体。

尽管科技界和法律界的一些学者认为，人工智能技术取代人类的思考只是技术突破和时间问题，随着技术的更新迭代，人类思考的过程由算力越来越强大的计算机来模拟和取代并非天方夜谭，而社会的组织机制包括法律的操作和管理由计算机通过大数据和算法来实现也不是痴人说梦。

{19} 这种过于依赖技术的想法可能会走向技术绑架的不归路，法治将转变为“技术治”，技术掌握者可以利用技术掌控司法裁判。

从人工智能技术的技术原理来看，其是通过对大数据的深度学习而形成的一套判断标准，而深度学习基础所依赖的相关关系的探寻无法替代事实因果关系和法律因果关系的重要作用。

{20}
其次，人工智能技术可便利社会公众接近司法使之成为保障司法公正的催化剂。

以司法监督为例，《中共中央关于坚持和完善中国特色社会主义制度、推进国家治理体系和治理能力现代化若干重大问题的决定》明确指出，“加快形成严密的法治监督体系，加强对司法活动的监督，确保司法公正高效权威”。

传统司法公开存在以下问题：一方面，人民群众的生活节奏加快，大多疲于应付工作、家庭、学习等事情，要其在工作时间亲临法院直观感受审判似乎已愈发难以做到。

若罔顾这一现实，司法公开将流于形式。

另一方面，随着自媒体的兴起，社交平台的发展，社会公众通过各种渠道了解消息的能力逐步增强，但避重就轻、避实就虚的报道铺天盖地，而社会公众对此类消息的辨别能力有限，因此盲目跟风、人云亦云的现象时有发生。

当人工智能技术被引入司法程序中，可以突破空间和时间限制，将司法程序的全过程在合法范围内向社会公众公布，以在更大范围内接受广大人民群众对司法过程的直接监督。

{21}
（二）人工智能技术在不同诉讼类型中的适用空间
其一，在刑事诉讼过程中，人工智能技术在带来巨大便利的同时，亦伴随着不容小觑的风险和隐患。

其成熟运用的先决条件是以数据为基础的算法运行，何为算法运行？通常可以理解为利用人工智能技术解决问题时，系统处理问题的思路及方向。

{22}这往往是最初的设计者根据自身能力与认知来进行设定的，认知的天然局限性使得此类算法不可避免地出现偏见或歧视。

虽然我们可能认为算法只是数学，因此是中性的，但研究表明，算法可能会受到人类偏见的影响。

{23} 例如，社会公众或技术掌握着潜意识里会认为有前科的嫌疑人犯罪的可能性比较大，抑或断定城市的治安必定好于乡镇，这种潜移默化的认知在客观上会造成决策的不公。

因此，从整个刑事过程而言，人工智能技术一般应用在以下两个方面：一方面，可以提升侦查手段，扩大侦查范围。

人工智能引导下的人脸识别与大数据搜索，将大大提升侦查的效率与质量，减少案件侦破难度，节约司法成本。

另一方面，可以辅助检察官提出量刑建议，提高量刑的可预测性。

以人工智能技术为基础的量刑辅助系统是智慧检务的关键组成部分，检察官在该系统的帮助下可以更精准地提出量刑建议，在一定程度上也缓解了现实中“同案不同判”的尴尬境地。

（三）诉讼三角结构面临失衡
无论是当事人主义诉讼模式，还是职权主义诉讼模式，都旨在调整法官、当事人双方在三角对话格局中的位置，使诉讼三角构造得以稳定。

理想的诉讼构造应为稳定的三角结构，进言之，为了追求诉讼中的各方主体平等，应为法官居中于当事人间的等边三角形构造，这是因为诉讼事实上是一个法官、原告、被告三方之间“合作地寻求真理的论辩过程”{12}。

若各方力量对比相差悬殊，则平等论辩的基础将不复存在，法官公正地居中裁判之局面也将被打破。

此时，便是“谁强谁有理、谁声音大谁有理”，法院也无法“兼听则明”，导致诉讼无论在实体还是程序上都偏离司法公正的基本要求{13}。

如此观之，在民事诉讼中，人工智能技术引入司法裁判之中，势必会加强审判权的力量，使诉讼等边三角形构造面临挑战：人民法院因人工智能技术的运用可能在诉讼中处于优势地位，当事人的权利可能被漠视。

诉讼中不平等已不仅仅存在于当事人之间，法院的绝对垄断地位而导致的法院与当事人之间的结构失衡将成为一种新问题。

在刑事诉讼中，控诉方是国家检察权行使的代表，面对刑事司法活动在各个环节也出现了主动适应信息时代的变化{14}。

现实情况是，控诉方和审判方的电子化、科技化、智能化发展在现代科技的武装下已经与司法深度融合。

{15} 就此而言，刑事诉讼中，诉讼等边三角的穩定结构可能在控诉方和审判方处于技术优势背景下也被打破。

因此，这可能正如有学者所认为的，如此将可能因此导致诉讼结构失衡而引发“新的不平等”{16}，从而导致审判权或审判权与检察权过于“强势”而对当事人权利的熟视无睹。

从另一角度而言，人工智能技术引入司法程序中，侵蚀诉讼等边三角结构进而造成当事人权利的损害还可表现为法院在对人工智能技术以及各种其他信息化辅助办案系统的接受和运用熟练程度较当事人更高。

一旦法官在技术层面取得优势，加之其在审判中又是决定者之角色，势必更容易忽视当事人的诉讼权利，成为诉讼的独白者。

更有甚者，人工智能技术若给诉讼参与人分类、贴标签，如此将让法官有先入为主的印象和偏见，案件的公正裁判将难以保障。

{17} 人工智能技术之所以能够有效地辅助法官审判，提高审判效率，主要原因是其先已经对当事人社会地位、财务状况、征信情况等信息收集处理，甚至在文书上网制度已日趋完善的背景下，人工智能技术可以对当事人调解、上诉、申诉信访的概率进行分析{18}，法院藉由这些人工智能技术处理的信息可以通过深度挖掘和分析来判断当事人进行诉讼的理想诉求，以循得应对之良策。

而在传统诉讼中，法官难以在短时间内独立对上述资料进行整合分析，并对当事人有先入为主的印象，最终对案件形成预判。

当人工智能技术引入司法裁判，法官利用其对大数据的深度挖掘和分析处理，可以毫无顾忌地对案件当事人形成初步印象或偏见。

毫无疑问，在“案多人少”的背景下，又迫于案件责任终身追究制度的压力，法官作为趋利避害的理性个体，在裁判时肯定会为裁判结果寻求更加具有科技说服力的技术支持。

由此可见，人工智能技术对大数据的分析，极易导致诉讼歧视，影响法官的判断。

当法官对某一当事人持有偏见，其在诉讼中行使权利自然也就容易受到法官限制。

如此，“人民法院审理民事案件，应当保障和便利当事人行使诉讼权利原则”之权威将被人工智能技术所挑战。

二、人工智能技术在司法程序中的定位及适用范围
（一）人工智能技术在司法程序中的功能定位
首先，人工智能技术不能代替法官行使审判权，只能是司法裁判辅助的技术手段。

笔者认为，《中华人民共和国宪法》第131条、《中华人民共和国民事诉讼法》第6条、《中华人民共和国刑事诉讼法》第5条、《中华人民共和国行政诉讼法》第4条已经明确审判权由人民法院独占，因此，除人民法院外，任何机构、个人、团体等都无法成为审判权的行使主体。

尽管科技界和法律界的一些学者认为，人工智能技术取代人类的思考只是技术突破和时间问题，随着技术的更新迭代，人类思考的过程由算力越来越强大的计算机来模拟和取代并非天方夜谭，而社会的组织机制包括法律的操作和管理由计算机通过大数据和算法来实现也不是痴人说梦。

{19} 这种过于依赖技术的想法可能会走向技术绑架的不归路，法治将转变为“技术治”，技术掌握者可以利用技术掌控司法裁判。

从人工智能技术的技术原理来看，其是通过对大数据的深度学习而形成的一套判断标准，而深度学习基础所依赖的相关关系的探寻无法替代事实因果关系和法律因果关系的重要作用。

{20}
其次，人工智能技术可便利社会公众接近司法使之成为保障司法公正的催化剂。

以司法监督为例，《中共中央关于坚持和完善中国特色社会主义制度、推进国家治理体系和治理能力现代化若干重大问题的决定》明确指出，“加快形成严密的法治监督体系，加强对司法活动的监督，确保司法公正高效权威”。

传统司法公开存在以下问题：一方面，人民群众的生活节奏加快，大多疲于应付工作、家庭、学习等事情，要其在工作时间亲临法院直观感受审判似乎已愈发难以做到。

若罔顾这一现实，司法公开将流于形式。

另一方面，随着自媒体的兴起，社交平台的发展，社会公众通过各种渠道了解消息的能力逐步增强，但避重就轻、避实就虚的报道铺天盖地，而社会公众对此类消息的辨别能力有限，因此盲目跟风、人云亦云的现象时有发生。

当人工智能技术被引入司法程序中，可以突破空间和时间限制，将司法程序的全过程在合法范围内向社会公众公布，以在更大范围内接受广大人民群众对司法过程的直接监督。

{21}
（二）人工智能技术在不同诉讼类型中的适用空间
其一，在刑事诉讼过程中，人工智能技术在带来巨大便利的同时，亦伴随着不容小觑的风险和隐患。

其成熟运用的先决条件是以数据为基础的算法运行，何为算法运行？通常可以理解为利用人工智能技术解决问题时，系统处理问题的思路及方向。

{22}这往往是最初的设计者根据自身能力与认知来进行设定的，认知的天然局限性使得此类算法不可避免地出现偏见或歧视。

虽然我们可能认为算法只是数学，因此是中性的，但研究表明，算法可能会受到人类偏见的影响。

{23} 例如，社会公众或技术掌握着潜意识里会认为有前科的嫌疑人犯罪的可能性比较大，抑或断定城市的治安必定好于乡镇，这种潜移默化的认知在客观上会造成决策的不公。

因此，从整个刑事过程而言，人工智能技术一般应用在以下两个方面：一方面，可以提升侦查手段，扩大侦查范围。

人工智能引导下的人脸识别与大数据搜索，将大大提升侦查的效率与质量，减少案件侦破难度，节约司法成本。

另一方面，可以辅助检察官提出量刑建议，提高量刑的可预测性。

以人工智能技术为基础的量刑辅助系统是智慧检务的关键组成部分，检察官在该系统的帮助下可以更精准地提出量刑建议，在一定程度上也缓解了现实中“同案不同判”的尴尬境地。

（三）诉讼三角结构面临失衡
无论是当事人主义诉讼模式，还是职权主义诉讼模式，都旨在调整法官、当事人双方在三角对话格局中的位置，使诉讼三角构造得以稳定。

理想的诉讼构造应为稳定的三角结构，进言之，为了追求诉讼中的各方主体平等，应为法官居中于当事人间的等边三角形构造，这是因为诉讼事实上是一个法官、原告、被告三方之间“合作地寻求真理的论辩过程”{12}。

若各方力量对比相差悬殊，则平等论辩的基础将不复存在，法官公正地居中裁判之局面也将被打破。

此时，便是“谁强谁有理、谁声音大谁有理”，法院也无法“兼听则明”，导致诉讼无论在实体还是程序上都偏离司法公正的基本要求{13}。

如此观之，在民事诉讼中，人工智能技术引入司法裁判之中，势必会加强审判权的力量，使诉讼等边三角形构造面临挑战：人民法院因人工智能技术的运用可能在诉讼中处于优势地位，当事人的权利可能被漠视。

诉讼中不平等已不仅仅存在于当事人之间，法院的绝对垄断地位而导致的法院与当事人之间的结构失衡将成为一种新问题。

在刑事诉讼中，控诉方是国家检察权行使的代表，面对刑事司法活动在各个环节也出现了主动适应信息时代的变化{14}。

现实情况是，控诉方和审判方的电子化、科技化、智能化发展在现代科技的武装下已经与司法深度融合。

{15} 就此而言，刑事诉讼中，诉讼等边三角的稳定结构可能在控诉方和审判方处于技术优势背景下也被打破。

因此，这可能正如有学者所认为的，如此将可能因此导致诉讼结构失衡而引发“新的不平等”{16}，从而导致审判权或审判权与检察权过于“强势”而对当事人权利的熟视无睹。