人工智能究竟是天使还是魔鬼？

人工智能究竟是天使还是魔鬼？

今年3月上旬，谷歌AlphaGo挑战世界冠军李世石，可谓万众瞩目。AlphaGo在五局“人机对战”中以4：1战胜李世石，不仅标志着计算机的能力攀上的一个新高度，而且，它的胜利更是在提醒世人，人类世界正在快速攻克人工智能及其实际部署所面临的障碍。从历史上看，在人工智能发展快速的时期往往会出现大量乐观观点，但最近这一次人工智能热潮中，人工智能威胁论依旧备受关注。

关于人工智能的定义，目前尚无确切的定义。美国斯坦福大学人工智能研究中心尼尔逊教授提出“人工智能是关于知识的学科——怎样表示知识以及怎样获得知识并使用知识的科学。”，美国麻省理工学院的温斯顿教授则认为：“人工智能就是研究如何使计算机去做过去只有人才能做的智能工作。”一些业界人士则根据人工智能的发展程度将其分为三类：（1）弱人工智能Artificial Narrow Intelligence （ANI）：弱人工智能是擅长于单个方面的人工智能。比如有能战胜象棋世界冠军的人工智能，但是它只会下象棋。（2）强人工智能Artificial General Intelligence（AGI）：人类级别的人工智能。强人工智能是指在各方面都能和人类比肩

的人工智能，人类能干的脑力活它都能干。（3）超人工智能Artificial Super Intelligence（ASI）：牛津哲学家，知名人工智能思想家NickBostrom把超级智能定义为“在几乎所有领域都比最聪明的人类大脑都聪明很多，包括科学创新、通识和社交技能。”超人工智能正是人工智能话题这么火热的缘故，同样也是永生和灭绝这两个词会在本文中多次出现的原因。

现在，人类已经掌握了弱人工智能。人工智能革命是从弱人工智能到强人工智能，最终到达超人工智能的旅途。在人工智能的这段旅途中，人类的命运终将如何，不同人士的观点截然不同。

人工智能威胁论的支持者认为，人工智能可能发展出自己的思想，进而引发人类的“身份危机”。近来两位顶尖科学家发出类似警告。一位是理论物理学家斯蒂芬·霍金，他认为当人工智能发展完全，就是人类的末日；另一位是特斯拉的CEO 马斯克，他曾公开表示：“我们要十分小心人工智能，它可能比核武器更危险。”在马斯克看来，人工智能对人类社会的威胁有短期和长期二种：“短期而言，人工智能可能导致数以百万计的人失业；长期而言，可能出现一些科幻电影中的情况，人工智能的智力水平超过人类，开始‘政变’。按人工智能的发展进度，在不久的将来，机器可能以不断加快的速度重新设

计自己，超越受制于生物进化速度的人类，最终摆脱人类的控制。”

但也有不少科学家认为，霍金和马斯克对于人工智能的未来过于悲观。在他们看来，至少在相当长的时间里，人类还难以完全掌控这类技术的发展，而要让人工智能技术得到“充分发展”，还有很长的路要走。百度首席科学家，斯坦福大学人工智能专家吴恩达表示：“担心人工智能过于强大就好像担心人类会在火星过度殖民导致火星人口爆炸一样。我很希望数百年后我们能在火星生活，但目前甚至都还没有人类登上过火星，我们为何要担心在火星过度殖民的问题呢？”

应该说在认同和反对人工智能威胁论的两个阵营里都有重量级的人物。但有趣的是，认同人工智能威胁论的大部分是企业家或者是非人工智能领域科学家，反对人工智能威胁论的多是人工智能和计算机领域的科学家，为什么出现这种情况，值得我们关注和思考。以下文章，对这两大阵营代表人物的观点进行了梳理，虽然人们不一定非要相信未来将遭受人工智能的威胁，然而政府和整个社会还是理应认真对待这些发展的潜在影响，人类对这些发展理当给予应有的谦卑和审慎。

“硅谷老炮”约翰·马尔科夫：科技会创造出新的工作

我在《与机器人共舞》一书中之所以分别提到人工智能（AI，ArtificialIntelligence）和智能增强（IA，

Intelligence Augmentation）两种不同的技术社群，是因为它们的研究者和设计者所聚焦的方向不同。AI社群长期以来都致力于建造能够模仿人类能力的技术，从机器人到拥有认知和推理功能的智能技术（我把机器人看做人工智能的子集），这些都是人类可以做的事。而IA则聚焦于用计算机来扩增人类的智力。

AI和IA的区别并不是非黑即白的。AI和IA社群的研究者有着各自的哲学取向。AI研究者有自己的观点。而IA，也就是HCI（人机交互，Human Computer Interaction）社群则一直想用计算工具来提升人机协作。除了我，还有很多计算机科学家都曾对这种二分法写过文章。但这里存在一些悖论，因为当你增强了人类的能力，你就不再需要那么多人，因为人的能力比以前更强。这就是我在《与机器人共舞》一书中试图解答和理解的谜题。

Siri就是一个IA的好模型，它的目的是用AI技术来提升人类的能力，并成为人类的好伙伴。因此AI和IA并不是非黑即白的。再比如无人驾驶汽车，如果人类真的造出了能完全自动驾驶的汽车，那我们就不再需要这么多车，也不需要那么多停车场，我们甚至可以重新规划城市的布局。与此同时，成千上万的工作会消失。

那么，是否意味着我们的工作机会遭受人工智能的威胁？在美国的白领工作中，许多技术类工作已经有很多任务自动化的案例，例如医生、律师、程序员、记者等等，最近还出现了会写故事的机器人。可是，机器能做采访吗？或许有一天能，但目前还不能，在短期内也不可能实现。所以，我再次强调，它只是将任务的一部分自动化了，而不是整个完整的任务。

所以，记者和律师这样的工作在短期内还不会被机器人和AI所取代。AI技术会改变劳动力市场的面貌，同时它也会创造出新的工作。举一个经典的例子，谁会想到现在会出现一种叫做“搜索引擎优化”的工作呢？这种工作是随着搜索引擎的出现才出现的。这些人的工作内容就是负责让自己的网站在搜索引擎中的排名更加靠前，这样人们才更容易找到它们。这个工作非常重要。有成千上万的人都在干这个工作。这就是与IA有关的一个新的工种——Google正是一种IA工具。因此，科技会创造出新的工作。[约翰·马尔科夫系《纽约时报》高级科技记者，普利策奖得主，他对互联网发展有着惊人的洞察力与敏锐度。本文选自机器之心对约翰·马尔科夫的采访。] “互联网预言帝”凯文·凯利：人工智能的潜力无限

现在大家经常谈到的热门词是深度学习，也就是说把人工智能和神经节点这个理论结合在一起，也就是说计算芯片的能力会得到成倍的提升。比如说IBM就利用人工智能打败了一个