数字经济时代人工智能伦理风险及治理体系研究

数字经济时代人工智能伦理风险及治理体系研究
王亦菲㊀韩凯峰
(中国信息通信研究院政策与经济研究所,北京100191)
摘要:随着人工智能学习算法的革新㊁海量数据的积累㊁计算能力的提升,全球迎来新一轮人工智能发展浪潮㊂人工智能在为人类生产生活带来诸多便利的同时,也引发了一系列社会伦理风险,为社会治理带来全新挑战㊂梳理分析全球重点国家人工智能治理进展及特点,提出从治理模式㊁治理手段㊁治理评价三方面构建完备的人工智能治理体系,并针对我国人工智能治理体系的构建提出相关发展建议㊂
关键词:数字经济;人工智能;科技伦理;数字治理
中图分类号:F49;TP18㊀㊀㊀㊀㊀㊀文献标识码:A
引用格式:王亦菲,韩凯峰.数字经济时代人工智能伦理风险及治理体系研究[J].信息通信技术与政策,2021,47(2):32-36.
doi:10.12267/j.issn.2096-5931.2021.02.005
0㊀引言
人工智能作为新一轮科技革命和产业变革的重要驱动性技术,正在重塑生产方式㊁优化产业结构㊁提升生产效率㊁赋能千行百业,推动经济社会各领域从数字化㊁网络化向智能化加速跃升㊂但人工智能在为人类生产生活带来诸多便利的同时,也在触发如泄露个人隐私㊁冲击就业格局㊁危害公共安全等风险问题,给社会治理带来全新挑战㊂因此,人工智能治理这一概念应运而生,推动构建全球人工智能治理体系正在成为各方共同诉求㊂
1㊀人工智能带来数字治理新挑战
1.1㊀人工智能引发经济社会多方面挑战
当前,以深度学习㊁跨界融合㊁人机协同㊁群智开放㊁自主操控为特征的新一代人工智能技术持续创新突破,在促进科技创新㊁培育新兴产业㊁改造升级传统产业㊁加快实体经济转型等方面的作用日益凸显[1]㊂但 每个硬币都有正反面 ,人工智能技术在迅速赋能经济社会发展的同时,也引发安全㊁社会㊁法治等不同层面的风险挑战[2]㊂究其根本原因,在于人工智能所产生的技术异化导致治理盲区出现㊁算法歧视产生㊁责任主体模糊等治理困境[3]㊂
一是引发安全风险,技术不可控等导致侵犯隐私㊁数据滥用等事件发生㊂人工智能技术极易被滥用,导致虚假信息频发㊁不良信息泛滥,加大数字内容治理难度㊂例如,某些应用软件利用深度伪造技术能够实现图像㊁音视频的生成或修改(如AI换脸),达到不良信息内容的 以假乱真 ,甚至抹黑政治人物,严重影响网络空间秩序㊂另一方面,利用人工智能技术在数据收集与分析时可能会挖掘出用户个人敏感信息并加以利用,导致用户隐私泄露㊂例如,某些售楼部在未告知消费者的前提下,利用人脸识别技术对消费者进行比对以防止 飞单 ,严重侵害消费者权益㊂
二是引发社会风险,就业替代性等导致贫富差距加大㊁社会不公平性加深㊂有观点认为,人工智能作为先进生产力之一,将替代简单㊁重复㊁流程化的工作岗位,导致结构性失业等问题,甚至有悲观者认为人工智能将会在人类社会中产生一批史无前例的 无用阶层 ㊂据麦肯锡预测,到2030年机器人将取代8亿人的工作岗位㊂同时,由于人工智能将影响不同行业企业㊁不同岗位的分配关系,使社会财富聚集在少数技术
领先的行业企业,导致收入分配不均衡,使技术能力以及受教育程度较低的人群将在新一轮的社会资源分配中处于劣势地位㊂
三是引发法治风险,技术自主性等导致责任主体不明㊁冲击现有法律体系㊂由于当前的人工智能技术具备一定程度的自主学习与决策能力,并且其某些行为存在不可解释性,同时现行法律法规尚未明确界定人工智能的设计㊁制造㊁消费㊁使用等环节的各方主体责任与义务,导致法律责任认定和划分难度大增㊂例如,当自动驾驶汽车出现决策错误导致人员伤亡时㊁当智能医疗助理给出错误的医疗建议导致患者病情加重时,如何界定主体责任等核心问题尚未解决㊂
1.2㊀多重因素增加人工智能治理难度
数据治理[4]㊁内容治理等具有治理主客体明确㊁治理范围清晰等特点,人工智能由于其算法的不透明㊁难解释以及技术的跨界传播性㊁外溢性强,导致其比一般的数字治理范围更广㊁难度更大[5]㊂
从内部因素看,算法黑箱性㊁数据依赖性等导致人工智能决策过程难预测㊁决策结果难控制㊂一方面,人工智能算法的决策依赖于海量的数据输入,但数据本质上是社会价值观的缩影与映射,极易包含一些社会偏见㊂若未能对数据质量进行有效把控,人工智能算法模型便很可能习得数据中的偏见谬误,并将其反映到训练结果中㊂另一方面,当前深度学习㊁强化学习等算法模型就像一个 黑箱 ,输入数据和输出结果之间存在着人们难以洞悉解释的 隐层 ,使用户甚至开发者都难以明晰其因果关系㊂智能算法的不透明㊁自适应㊁自学习等特性,导致其极易偏离人类预设的行为目标㊂
从外部因素看,传统治理结构的不适应㊁治理方法的难起效㊁治理范围的局限性等难以满足人工智能治理需求[6]㊂人工智能的发展创新对技术治理的专业化㊁智能化等水平都提出了全新要求,因此传统的技术治理方式方法将很难适用于人工智能治理㊂由于人工智能具备一定的自主学习及决策能力,其行为结果不能完全归因于背后的程序开发者或者数据提供者,这将导致责任主体的判定模糊㊂此外,人工智能的应用普及将引发结构性失业㊁数字鸿沟加剧㊁社会不公平现象增多等全新社会问题㊂传统治理尚未覆盖以上问题领域,需要构建全新的技术及社会治理体系㊂2㊀全球各国加快推动人工智能治理进程
2.1㊀人工智能国际治理体系正在加速构建
当前全球人工智能治理还处于初期探索阶段,正
从伦理原则㊁倡议共识向可信评估㊁操作指南㊁政策法
规等落地实践逐步深入,加快构建人工智能国际治理
框架体系㊂
美国㊁欧盟㊁英国㊁日本等主要国家及地区已经将
伦理治理等纳入人工智能战略中,强调推动人工智能
安全㊁健康发展㊂美国将人工智能治理作为‘国家人工
智能研究和发展战略计划“八大战略之一;欧盟致力于
引领全球人工智能治理,在其发布的‘可信人工智能伦
理指南“‘欧盟人工智能白皮书“等战略文件中均强调
构建 可信人工智能生态系统 的重要性;英国在其‘产业战略:建设适应未来的英国“中,强调要在数据及人工智能安全方面保持领先;日本内阁于2018年年
底发布‘以人类为中心的人工智能社会原则“,强调将
重视人工智能带来的负面社会影响,积极构建能够使
人工智能有效且安全应用的 AI-Ready社会 ㊂G20㊁ITU㊁OECD㊁ISO㊁IEEE等国际组织机构正积极推动人工智能伦理原则㊁倡议㊁标准制定㊂2019年, G20通过‘G20人工智能的原则“,倡导以人类为中心㊁以负责任的态度开发人工智能;OECD发布‘负责任地管理可信任的人工智能原则“,提出人工智能应遵循的5项伦理原则;联合国教科文组织于2019年发布‘人工智能伦理问题初步研究“报告,针对人工智能可能引发的社会问题提出了若干建议;ISO/IEC㊁IEEE等标准化组织机构正在制定人工智能技术及产品相关标准㊂产业界㊁学术界等积极探索实践人工智能技术治理路径㊂谷歌㊁微软㊁百度㊁旷视㊁腾讯等科技企业纷纷成立人工智能治理专门机构,通过发布伦理原则㊁制定内部规范㊁研发技术工具等举措,形成有效解决相关具体问题的治理体系;英国阿兰图灵研究所于2019年发布‘理解人工智能伦理及安全“报告,提出构建负责任人工智能系统的可行性方案;2020年6月,清华大学成立人工智能国际治理研究院,面向人工智能国际治理重大理论问题及政策需求展开研究,努力构建公正㊁合理的人工智能国际治理体系㊂
2.2㊀全球主要国家人工智能治理重点各异
2.2.1㊀美国高度重视人工智能对民众就业以及国家
安全的影响
2018年,美国发布‘人工智能就业法案“,该法案提出应营造终身学习和技能培训环境,以应对人工智能对就业带来的挑战㊂与此同时,美国高度重视人工智能伦理对国家安全的影响,设立人工智能国家安全委员会,委员会将考察人工智能技术在军事应用中的风险问题,以及在国家安全和国防领域的伦理道德问题,并制定公开训练数据标准和推动公开训练数据共享等㊂
2.2.2㊀欧盟将维护人工智能伦理价值观上升至欧洲
整体战略层面
欧盟高度重视建立人工智能伦理道德和法律框架,以确保人工智能技术朝着有益于个人和社会的方向发展㊂2019年4月,欧盟发布‘人工智能伦理准则“,提出建设以人为本的人工智能,列出了可信赖的人工智能系统应满足的7个关键要求[7]㊂为加强对人工智能发展的监管力度,欧盟委员会于2020年2月19日发布‘欧盟人工智能白皮书“,其中提出将针对可信赖人工智能建立新的监管框架,建立涵盖事前㊁事中㊁事后各个环节的全面监管机制,在确保各种风险和潜在损害最小化的同时,避免过度监管对产业创新发展的阻碍㊂
2.2.3㊀法国通过专家研讨㊁学术辩论等方式深化对
AI伦理问题的认识
法国国家信息技术和自由委员会在2017年举行了涉及3000人的45次AI学术辩论活动,并于2017年12月推出主题为‘人类如何保持优势 算法和人工智能引发的道德问题“的报告,强调了 将人工智能应用于人类服务 的两个基本原则,即 忠诚原则 (意味着算法和AI系统应该忠实于用户)和 持续关注和警惕的原则 (意味着参与算法链的所有利益相关者需要处于对可能无法预料的后果的警惕状态)㊂
2.2.4㊀德国㊁韩国等高度重视自动驾驶政策法规制定2017年8月,德国联邦交通与数字基础设施部推出全球首套‘自动驾驶伦理准则“,规定了自动驾驶汽车的行为方式㊂韩国国土交通部于2020年12月发布‘自动驾驶车辆安全运行准则“,包括伦理准则㊁网络安全准则㊁生产与安全准则三大部分㊂其中,伦理准则以确保生命安全为核心,要求自动驾驶车辆在设计和生产时遵循 生命重于财产 无法避免事故时应尽量减轻人员伤亡 等原则㊂
2.3㊀我国稳步推进人工智能治理进程
我国高度重视人工智能规范有序发展,近年来在各方共同努力下,我国人工智能治理稳步推进,发展环境持续优化㊂一方面,提出明确的人工智能治理目标㊂在国务院发布的‘新一代人工智能发展规划“中,明确提出人工智能治理 三步走 战略目标,为我国系统构建人工智能治理体系提供了方向指引;2019年6月,发布‘新一代人工智能治理原则“,提出八项治理原则以发展负责可信的人工智能㊂另一方面,积极探索人工智能治理实践方案的落地㊂2019年8月,中国人工智能产业发展联盟发布‘人工智能行业自律公约“,旨在引导和规范行业从业者行为;积极推进在ITU㊁ISO/ IEC等框架下的国际标准制定工作以及国内行业标准立项制定;陆续启动数据㊁平台以及车联网㊁智能医疗㊁个人信息保护等人工智能相关规范立法工作,如2020年7月,全国人大常委会第二十次会议审议了‘数据安全法(草案)“并公开征求意见㊂
3㊀构建持续发展的人工智能治理体系
人工智能治理是一项复杂的系统性工程,既需要秉持科技造福人类㊁安全与发展兼顾的治理目标,平衡好创新发展与有效治理的关系,还需要提出切实有效的治理举措,根据实际需求及反馈动态调整㊁持续优化治理路径及策略㊂
3.1㊀打造政府㊁市场㊁公众等多方参与㊁协同共治的治
理模式
㊀㊀人工智能治理的重要特征之一是治理主体的多元化㊁治理手段的多样化,其依赖于包括政府㊁企业等在内的多利益攸关方的参与合作,各司其职㊁各尽其能,以适当的角色㊁最佳的手段协同共治[8]㊂国家政府在治理中发挥着领导性作用,通过设置专门机构㊁发布战略政策㊁制定法律法规等来执行落实治理规则;行业组织是治理的重要推动者,通过制定技术标准㊁颁布行业准则等方式推动人工智能规范发展;高校及研究机构致力于推进人工智能治理及伦理研究,为社会提供基础性㊁公益性服务;科技企业及开发者是践行行业自律自治的中坚力量,通过制定企业伦理原则㊁研发技术工具等,有力推动治理的落地实践;公众(包括独立学者)是治理过程中的重要参与者,拥有对其监督㊁意见
反馈等权利㊂
3.2㊀综合运用伦理引导㊁技术应对㊁规范立法等治理
手段
㊀㊀人工智能治理应建立在对人工智能的价值观思考的基础上,通过制定伦理原则㊁设计技术标准㊁开发技术工具㊁确立法律法规等手段举措,从而有效应对人工智能所带来的风险挑战[9]㊂
一是强化伦理引导㊂相对于立法的反应滞后性,伦理引导与约束可以先行预设,能够较为及时地反映出变化的社会关系,如牛津大学㊁清华大学等高校学者从学术视角讨论AI伦理及治理问题㊂
二是设计标准规范㊂人工智能技术及行业标准体系建设工作对人工智能产业发展具有基础性㊁支撑性㊁引领性作用,是推动产业创新发展的关键抓手,目前欧盟㊁美国㊁日本等国家和地区均高度重视大力推进人工智能标准化进程㊂
三是研发技术工具㊂智能化数字技术本身也作为一项精准㊁高效的技术治理工具,正在被尝试用来解决人工智能所带来的风险问题㊂科技巨头企业正在积极开发运用数据筛选㊁算法设计㊁模型优化等技术工具,着力解决诸如隐私泄露㊁算法偏见㊁非法内容审核等治理问题㊂例如,华为利用 差分隐私 数据过滤 等技术,应用于算法训练等数据使用过程,确保AI应用的安全可控㊂
四是制定法律法规㊂人工智能所带来的责任归属界定㊁隐私泄露等问题不断挑战现行法律法规底线,需要考虑采取包容审慎㊁灵活弹性的应对方式,既要避免草率立法阻碍人工智能创新发展,也要适时制定适应技术发展的法律法规㊂
3.3㊀构建覆盖全面㊁反馈及时的治理效果评价机制
针对人工智能技术更迭快㊁创新发展迅速的特点,治理手段及治理体系机制等也需要对新趋势㊁新问题进行及时响应㊁动态优化㊁持续完善,实现更为敏捷的治理㊂为此,可适当引入治理效果评价及反馈等机制,以准确掌握最新治理情况㊁及时发现问题,以制定更有效的应对策略㊂例如,对于伦理原则,可评估其可操作性㊁社会接受度等;对于技术工具,可对其安全性㊁成熟度㊁稳健性㊁有效性等进行评价;对于技术标准规范,可评价其全面性㊁合理性等;对于法律法规,可评价其社会满意度㊁是否监督问责等㊂4㊀持续完善我国人工智能治理体系
面向未来,我国应准确把握新一代人工智能发展特点规律,加强伦理及治理体系理论研究,探索构建符合中国国情的人工智能治理框架,营造健康可持续的产业发展环境[10]㊂
4.1㊀加大政策支撑力度,持续优化治理环境
一方面,推动自动驾驶㊁智能医疗㊁生物信息识别㊁智能制造等人工智能重点领域规则制定,加快完善数据相关立法工作[11],加强对智能算法以及新型智能产品服务的风险监测[12],构建结构合理的人工智能责任划分体系,探索有效可行的人工智能监管路径;另一方面,建立和畅通人工智能产品的投诉举报等监督机制,鼓励第三方机构依托标准开展评测,形成标准制定㊁产业宣贯㊁测试评估的联动推进策略,开展面向公众的人工智能公共伦理教育㊂
4.2㊀深化治理规则研究,提升治理能力
一是加大对通用人工智能阶段人机共生社会关系等前瞻性伦理问题研究的投入,加强人工智能基础理论㊁可解释算法㊁可信人工智能评估测试等技术研究,打造具备一定国际影响力的治理专业组织机构;二是依托企业㊁高校㊁产业联盟等机构,推动人工智能伦理及行业自律原则的实施落地;三是持续完善人工智能标准体系,进一步提升算法治理㊁数据治理㊁平台治理等数字治理能力,持续完善适宜人工智能发展的法律法规环境㊂
4.3㊀深化国际交流合作,参与全球治理议题
一是积极参与全球人工智能治理交流对话,推动国际标准化组织讨论和制定全球人工智能伦理规则及标准,鼓励国内外企业及相关机构加强AI国际标准化合作,持续提升算法规则㊁数据使用㊁安全保障等方面的治理能力;二是在人工智能领域建设包容性强的国际治理交流平台,与全球各国共同研究㊁讨论㊁采纳各方面好的意见建议,形成国际治理规范共识;三是在G20㊁ITU等多边合作机制下,分享治理经验与实践,共同探索合乎人类发展需要的人工智能治理模式
5㊀结束语
未来,人工智能将会渗透到人类社会的方方面面,并带来巨大的社会效益,但随之衍生的伦理风险也不
可忽视㊂因此,妥善应对人工智能带来的安全威胁㊁隐私泄露㊁算法歧视等问题,推动构建系统完善㊁适宜我国国情的人工智能治理体系,消除人们对人工智能未来发展的担忧,为人工智能营造规范㊁有序㊁可持续的发展环境㊂
参考文献
[1]詹远志,高宁广.释放人工智能潜力㊀加快经济社会智
能化转型[N].人民邮电,2020-11-13(007). [2]伦一.人工智能治理相关问题初探[J].信息通信技术
与政策,2018(6):5-9.
[3]陈思.算法治理:智能社会技术异化的风险及应对[J].
湖北大学学报(哲学社会科学版),2020,47(1): 158-165.
[4]李雨霏.人工智能在数据治理中的应用[J].信息通信
技术与政策,2019(5):23-27.
[5]蒋洁.风险视域下人工智能伦理的主旨和原则[J].信
息通信技术与政策,2019(6):13-16.
[6]杨婕.推动完善我国新一代人工智能伦理治理体系[J].信息安全与通信保密,2020(1):93-101. [7]陈小平.人工智能伦理体系:基础架构与关键问题[J].
智能系统学报,2019,14(4):605-610.[8]谭九生,杨建武.人工智能技术的伦理风险及其协同治
理[J].中国行政管理,2019(10):44-50.
[9]石霖,曹峰.人工智能发展带来的安全问题与策略研究[J].电信网技术,2018(4):15-17.
[10]韩凯峰,詹远志.推动构建人工智能治理体系㊀持续
优化人工智能政策环境[N].人民邮电,2020-08-21 (007).
[11]蒋洁.培育发展数据要素市场的疑难问题与法律应对
[J].图书与情报,2020(3):22-24.
[12]张吉豫.智能社会法律的算法实施及其规制的法理基
础 以著作权领域在线内容分享平台的自动侵权检测为例[J].法制与社会发展,2019,25(6):81-98.
作者简介:
王亦菲㊀中国信息通信研究院政策与经济研究所战略研究部助理工程师,主要从事人工智能国际
战略㊁政策法规等研究工作
韩凯峰㊀中国信息通信研究院政策与经济研究所战略研究部工程师,博士,通信作者,主要研究方
向为无线通信(5G/6G)㊁边缘计算㊁车联网㊁
人工智能等前沿技术及战略
Research on the ethical risk and governance system of
Artificial Intelligence in the digital economy era
WANG Yifei,HAN Kaifeng
(Policy and Economics Research Institute,China Academy of Information and Communication Technology,
Beijing100191,China)
Abstract:With the innovation of machine learning algorithms,the accumulation of massive data,and the improvement of calculate ability,the new round of Artificial Intelligence(AI)development is coming.While AI technology improves people s lives,it also triggers a series of social ethical risks and brings new social governance challenges.The paper combs and analyzes the progress and characteristics of AI governance in important countries around the world. The paper also suggests building a complete AI governance system from three aspects of governance models, governance methods,and governance evaluation.At last,the paper makes several relevant policy recommendations on how to construct AI governance system.
Keywords:digital economy;Artificial Intelligence;scientific and technological ethicl;digital governance
(收稿日期:2020-12-20)。