人工智能各国战略解读：联合国人工智能政策报告

员会的报告（2015 年）探讨了一个复杂的问题，即在制
化、智能化的电子实体。同样的，自动化、智能化机器
造一个机器人需要不同的专家和部门合作的情况下，
人不仅能够胜任复杂的决策过程，还能通过复杂的算
谁该为机器人的某次操作失灵负有责任。在科学技术
法进行实实在在的执行活动。这些进化出的新能力，
不断进步和市场需求不断增长，机器人的自由和自主
点
联合国教科文组织（The United Nations Education，
《电信网技术》2017 年 2 月第 2 期
麻烦，因为他们同样没有既定的伦理准则去遵守和执
Scientific and Cultural Organization）与世界科学知识与
行。联合国在报告中记录了各个国家在寻找机器人伦
●智能机器人的退出机制。
就业带来的巨大影响而建立全新的保险制度。
（2）机器人技术与机械伦理学
关于机器人制造和部署的伦理道德问题，被视为
“机械伦理学（Roboethics）”，用来处理人们发明和分配
性。因此，报告并没有对机器人使用者应该承担的责
为了寻找可能的法律解决途径，联合国的报告援
技术造成的伤害，很大一部分由民法中产生责任的相
的大规模应用与机器人技术发展的日新月异，将在未来带给人类社会前所未有的巨大冲击。联合国作为
全球最重要的国际组织，在 2016 年最新发布的人工智能报告中，表达了其对于人工智能的关注；同时，为
应对人工智能及机器人技术的发展带来的各种问题，提出了全新的思考方式与解决路径，这对世界各国
的人工智能监管具有重要的参考意义。
技 术 伦 理 委 员 会（World Commission on the Ethics of
理道德准则的实践中所采用的不同做法，例如韩国政
Scientific Knowledge and Technology）最新联合发布的
府强制实施的机器人特许状制度；日本对于机器人应
报告（2016 年）主要讨论了机器人的制造和使用促进了
技产品。从这个角度看，机器人造成的伤害很大一部
分被归责于机器人制造者和零售商的“过失”、
“产品警
告的缺失”、
“没有尽到合理的义务”。在阿萨罗看来，
这种归责制度会随着机器人越来越自动化及智能化而
反过来，导致出现了新的伦理和法律问题。具体来说，
性不断增强的情况下，这个问题显得尤为重要。报告
主要包括以下 4 个方面：
认为，关于机器人伦理的考虑，不应该局限于某次事故
（1）自动化机器人的使用带来的挑战
或者失灵造成的人身损害，更应该包括智能机器人带
2016 年，欧洲议会发布的关于人工智能和机器人
来的心理伤害，如机器人侵犯人的隐私、人因为机器人
在取代工厂中的体力劳动者，同时带来了劳动力市场
的革命；人形机器人不但被引进到学校，还用来在日
托机构中照顾老年人；辅助机器人技术还广泛应用在
医疗方案中，不管是在对自闭症患者的心理治疗还是
在复杂的重要的外科手术中，都能发现智能机器人的
身影。机器人在家庭、工作、社会公共层面的广泛存
类的行为方式。
在联合国内，虽然大部分关于自动化系统与人工
用部署问题制定的管理方针，包括建立中心数据基地
人工智能的进步，以及这些进步所带来的社会与伦理
来储存机器人对于人类造成伤害的事故报告。
道德问题。尽管人工智能机器人通常被认为是人工智
（3）迈向新的责任分担机制
能系统的载体，事实上，人工智能机器人具有的身体移
联合国教科文组织与世界科学知识与技术伦理委
动功能和应用以及机器学习能力使得它们成为了自动
的报告，表达了其对于机器人将给人类带来的风险的
的类人行为而对其过分依赖等。报告提出了一个可行
关注，包括安全、隐私、诚信、尊严、自主。为了应对这
的解决办法，即采取责任分担的解决途径，让所有参与
些风险，欧洲议会讨论了未来可能面对的道德挑战以
到机器人的发明、授权和分配过程中的人来分担责任；
及应对的监管措施。联合国教科文组织与世界科学知
关键词：人工智能；机器人技术；联合国
1
引言
在，不仅带给人类新的机会与挑战，同时还改变着人
近年来，自动化和智能化的机器人在现代社会的
应用越来越广泛。先进机器人的全球研发、部署、安
装与使用，在引发公众讨论的同时，也鼓励着政府监
管的创新。例如，无人机不仅成为大众消遣的工具，
同时也在反恐战争中发挥着重要作用；自动化机器正
2
世界科学知识与技术伦理委员会关于机
器人伦理的初步草案报告

·26·
Copyright©博看网 . All Rights Reserved.
专
家
视
智能的讨论主要围绕在自动化武器系统，但是可以看
到联合国正在对大众化的人工智能系统应用产生浓厚
的兴趣。联合国关于人工智能的若干附属报告呼吁世
界各国采用全新的视角看待人工智能系统的未来监管
以及它们在机器人和机器人技术上的应用。联合国提
供了一种考察基于机器人物理形态下的人工智能系统
全新路径，
作为世界各国
“国家中心”视角的有效补充。
也忽略了科技被居心叵测的使用者用做他途的可能
●预警机制的建立。
任给予充分的考虑。
●在涉及人类的机器人研究中的知情同意权。
引了阿萨罗（Asaro）提出的结论，即机器人以及机器人
●为应对自动机器人的广泛应用将给人类教育和
关法律调整，因为机器人一般被视为通常意义上的科
担机制。
●对机器人在实际生活场景中的测试。
另一个解决办法就是让智能机器人承担责任，因为智
识与技术伦理委员会的报告（2015 年）列举了以下可行
能机器人确实拥有前所未有的自主性，并且拥有能够
的应对措施：
独立做出决策的能力。这两种责任分担方式展现了两
●数据和隐私保护。
种极端，既无视了人类在科技发展过程中的固有偏见，
●创新关于机器人与机器人制造者之间的责任分
□TELECOMMUNICATIONS NETWORK TECHNOLOGY No.2
七七七七七七七七七七
七七七七人工智能各国战略解读：
七七七七七七七七七
联合国人工智能
专家视点
政策报告*
腾讯研究院
摘要：人工智能是人类进入信息产业革命时代，达到的认识和改造客观世界能力的高峰。人工智能