关于约束人工智能情感的思考

关于约束人工智能情感的思考

摘要：人工智能是近来研究热点。分别在人工智能界别、角色、赋予人以及制度等方面重点探讨其可能的情感约束作用，以期达到人工智能技术在很好的发展的同时，不至于因为“情感泛滥”而引发一些严重地后果的目的。

关键词：人工智能情感约束

中图分类号：tp18 文献标识码：a 文章编号：1007-3973（2013）001-085-03

1引言

人工智能（artificial intelligence，ai）自从20世纪50年代产生，经过长期发展，已经有了长足的进步，并且已经深入到社会生活的诸多领域，如语言处理、智能数据检索系统、视觉系统、自动定理证明、智能计算、问题求解、人工智能程序语言以及自动程序设计等。随着科学技术的不断发展，现在的人工智能已经不再是仅仅具有简单的模仿与逻辑思维能力，人们也越来越期待人工智能能够帮助或者替代人类从事各种复杂的工作，加强人的思维功能、行为功能或是感知功能。这就要求人工智能具有更强的情感识别、情感表达以及情感理解能力。通俗的说，为了使得人工智能对外界的变化适应性更强，需要给它们赋予相应的情感从而能够应对这个难以预测的世界。

在赋予人工智能“情感”的过程中，面临着许多的问题，有科

技层面上的，也有社会学层面的。本文在这里只讨论其中一个比较基本的社会学问题：“人工智能情感约束问题”，即关注于如何约束赋予给人工智能的情感，不至于使其“情感泛滥”。情感指的是一种特殊的思维方式，人工智能具有了情感后的问题是：人工智能的情感是人类赋予的，人工智能自身并不会创造或者控制自己的情感。如果赋予人工智能的情感种类不合理，或者是赋予的情感程度不恰当，都有可能造成“情感泛滥”并导致一些灾难性的后果。例如，当人工智能具有了情感之后，如果人类自身管理不恰当，有可能导致人工智能反过来伤害人类。尽管目前我们只能在一些科幻作品中看到这种情况发生，但谁也不能保证未来有一天会不会真的出现这种悲剧。

本文第二章对人工智能情感研究进行了概要性回顾，第三章对如何约束人工智能情感进行了尝试性探讨，最后一章对全文进行了总结。

2人工情感发展情况概述

随着科学家对人类大脑及精神系统深入的研究，已经愈来愈肯定情感是智能的一部分。人工情感是以人类自然情感理论为基础，结合人工智能、机器人学等学科，对人类情感过程进行建模，以期获得用单纯理性思维难以达到的智能水平和自主性的一种研究方向。目前，研究者的研究方向主要是人工情感建模、自然情感机器识别与表达、人工情感机理等四个方面的内容。其中，尤以人工情

感机理的研究困难最大，研究者也最少。

目前人工情感在很多领域得到了应用和发展，比较典型的是在教育教学、保健护理、家庭助理、服务等行业领域。在教育教学方面比较典型的例子是德国人工智能研究中心发展的三个方案：在虚拟剧场、虚拟市场和对话agent中引入情感模型和个性特征来帮助开发儿童的想象力及创造力。在保健护理方面比较典型的是家庭保健与护理方向，如lisetti等人研制的一个用于远程家庭保健的智能情感界面，用多模态情感识别手段来识别病人的情感状态，并输入不同媒体和编码模型进行处理，从而为医生提供关于病人简明而有价值的情感信息以便于进行有效的护理。服务型机器人的典型例子是卡内基梅隆大学发明的一个机器人接待员valerie。valerie 的面孔形象的出现在一个能够转动方向的移动屏幕上时可以向访问者提供一些天气和方位方面的信息，还可以接电话、解答一些问题；并且valerie有自己的性格和爱好，情感表达较为丰富。当然这些只是人工情感应用领域中的几个典型的例子，人工智能情感的潜力仍然是巨大的。

尽管关于人工情感的研究已经取得了一定的成果，给我们带来了很多惊喜和利益，但由于情绪表现出的无限纷繁以及它与行为之间的复杂联系，人们对它的运行机理了解的还不成熟，以致使得目前人工情感的研究仍面临着诸如评价标准、情感道德约束等多方面问题。所以必须清楚的认识到我们目前对于人工情感的计算乃至控

制机制并没有一个成熟的体系。

3对人工智能的情感约束

正如上文所述，如果放任人工智能“情感泛滥”，很有可能会造成严重的后果。为了使人工智能技术更好的发展，使智能与情感恰到好处的结合起来，我们有必要思考如何对赋予人工智能情感进行引导或者约束。

3.1根据级别赋予情感

可以根据人工智能级别来赋予其情感，如低级别人工智能不赋予情感、高级别人工智能赋予其适当的情感。众所周知，人工智能是一门交叉科学科，要正确认识和掌握人工智能的相关技术的人至少必须同时懂得计算机学、心理学和哲学。首先需要树立这样的一个观点：人工智能的起点不是计算机学而是人的智能本身，也就是说技术不是最重要的，在这之前必须得先解决思想问题。而人工智能由于这方面没有一个严格的或是量度上的控制而容易出现问题。从哲学的角度来说，量变最终会导致质变。现在是科学技术飞速发展的时代，不能排除这个量变导致质变时代的人工智能机器人的到来，而到那个时候后果则不堪设想。因此，在现阶段我们就应该对人工智能的情感赋予程度进行一个约束。

根据维纳的反馈理论，人工智能可以被分成高低两个层次。低层次的是智能型的人工智能，主要具备适应环境和自我优化的能力。高层次的是情感型的人工智能，它的输入过程主要是模仿人的

感觉方式，输出过程则是模仿人的反应情绪。据此我们可分别将机器人分为一般用途机器人和高级用途机器人两种。一般用途机器人是指不具有情感，只具有一般编程能力和操作功能的机器人。那么对于一般用途的机器人我们完全可以严格的用程序去控制它的行为而没必要去给他赋予情感。而对于高级层面的情感机器人来说，我们就适当的赋予一些情感。但即使是这样一部分高层次的情感机器人，在赋予人工情感仍然需要考虑到可能会带来的某些潜在的危害，要慎之又慎。

3.2根据角色赋予情感

同样也可以根据人工智能机器人角色的不同选择性的赋予其不同类型的情感。人类与机器合作起来比任何一方单独工作都更为强大。正因为如此，人类就要善于与人工智能机器合作，充分发挥人机合作的最大优势。由于计算机硬件、无线网络与蜂窝数据网络的高速发展，目前的这个时代是人工智能发展的极佳时期，使人工智能机器人处理许多以前无法完成的任务，并使一些全新的应用不再禁锢于研究实验室，可以在公共渠道上为所有人服务，人机合作也将成为一种大的趋势，而他们会以不同的角色与我们进行合作。或作为工具、顾问、工人、宠物、伴侣亦或是其他角色。总之，我们应该和这些机器建立一种合作互助的关系，然后共同完任务。这当然是一种很理想的状态，要做到这样，首先需要我们人类转变自身现有的思维模式：这些机器不再是一种工具，而是平等的服务提供