人工智能时代即将来临：机遇与挑战并存26

到的智能潜力。”塔里安回忆道。
在1975年的阿希洛马会议（Asilomar Conference）上， 分子生物学家们就重组DNA的道德底线问题进行了讨 论，最终在安全标准上取得了共识，签名保证不让 人
工基因改造的生物对公众造成威胁。相比波多黎各 的这次人工智能会议，阿希洛马会议的结果显然更 加具体。
在波多黎各的这次会议上，参会者的公开信概述了 人工智能的研究重点，如人工智能的经济和法律效 应，以及人工
智能系统的安全性。近日，埃隆·马斯克斥资一千万 美元用于支持这项研究。这些都是防止机器人破坏 世界经济，或防止它们向人类大开杀戒的重要一步。 一些公司已经走得更远。去年，加拿大机器人公司 Clearpath
鉴于如此快速的发展，埃隆·马斯克和其他许多人开 始向人工智
能产品的开发者发出呼吁：要考虑开发过程中的伦
理问题。在这次波多黎各的会议上，代表们签署了
一封公开信，承诺进行目的健康、积极的人工智能 研究，避免误入歧途。埃隆·马斯克也在公开信上签 了名，“所有这些最优秀
的前沿研究者都认为人工智能的安全问题非常重 要，”他说，“我同意他们的意见。”
同社区出售商品的价格不同，这是否符合伦理？有 没有什么安全措施，来保障大宗商品市场不被某个 交易算法破坏？在自动驾驶交通工具的时代，从事 大巴司机这样职业的人将何去何从？ Binatix是一家从事股票市场
交易的深度学习公司，其创始人伊塔马尔·阿雷尔 （Itamar Arel）并没有参加波多黎各的会议，但他在 读完公开信后马上签了名。对他来说，智能算法领
中，人工智能——特别是被称为“深层神经网络”的 人工智能算法分支——的快速发展使人工智能主导的
产品在我们的生活中越来越占据着中心和前沿的地 位。谷歌、Facebook、微软和百度等公司，都在以 前所未有的速
度寻找人工智能研究者，投入数以亿计的美元，试 Байду номын сангаас开发出更好的算法和更聪明的计算机。
几年之前人们认为似乎无法解决的人工智能难题如 今逐渐被攻克，推动了安卓系统的语音识别，使 Skype能像星际迷航里那样进
带来灭顶之灾。这是一次有关人工智能伦理的会议， 长期以来，这一领域
的专家、学者都不怎么引人注目。
会议的主题是“人工智能的未来：机遇与挑战”， 显得十分乐观。牛津大学人工智能伦理学家尼可·博 斯特伦（Nick Bostrom）与商业巨头，如Skype的创始 人扬·塔
里安（Jaan Tallinn）、谷歌公司人工智能专家谢 恩·列格（Shane Legg）都参与了这次会议。 埃隆·马斯克和霍金担忧“人工智能天启”的到来， 但目前还存在着更加迫在眉睫的威胁。在过去五年
。 不过，这些研究却让扬·塔里安有点担心。他在此次 波多黎各的会议上做了个演讲，回忆起哈萨比斯在 一个午餐会上向他展示自己所开发的机器学习系统， 该机器能玩20世纪80年代流行的街机游戏Breakout。
事实上，它不仅会玩，而且非常精通，高效而无情， 令塔里安感到震惊。“尽管作为技术人员的我对这 一成就感到惊奇，但另一方面的我想到，我正在见 证一个开启人工智能灾难的玩具模型。一次突然的 展示，让我看到了意想不
北京时间3日消息，据国外媒体报道，2015年第一个 星期天的下午，埃隆·Elon Musk）在波多黎各的一个 度假胜地参加了一场有关“智力爆炸”（intelligence explosion）的闭
门会议。这个略显吓人的理论词汇描述的是人工智 能在认知能力上不受控制的飞跃，埃隆·马斯克和物 理学家斯蒂芬·霍金担忧，有朝一日这将给整个人类
Robotics承诺不研制用于军事的自主机器人。该公司 首席技术官瑞恩·加里皮（Ryan Gariepy）在公司网页 上写道：“致反对杀人机器人的人们：我们支持 你。”
承诺不开发“终结者”仅仅是开始。像
谷歌这样的人工智能公司必须考虑他们的产品，如 自动驾驶汽车的安全性和法律责任问题。无论机器 人是否会使人类失去工作，人工智能算法所导致的 意想不到的后果，对人类来说都显得不是很公平。 举例来说，亚马逊公司在不
塔里安在创立Skype之后，逐渐成了一个人工智能安 全问题的“布道者”，正在寻找一位志同道合的人。
两个人开始谈论起人工智能，塔里安很快就投资了 DeepMind。去年，谷歌公司花了4亿美元收购了这家 仅有5
0人的公司，一举拥有了世界上最大的深度学习领域 人才和专利库。不过，谷歌还是显得十分低调，甚 至不让哈萨比斯接受采访。DeepMind正在进行的研 究包括对周围环境具有更好感知能力的智能机器人 和自动驾驶汽车
行即时的翻译；谷歌公司正在研制自动驾驶汽车， 以及可以自动学习如何分辨猫类视频的计算机系统； 机器大狗如今的行走能力也越来越接近现实中的狗 了。
“计算机视觉已经开始应用；语音识别也开始了应 用，人工智能系
统有相当快的发展速度，”参与会议的人工智能伦 理学家、康奈尔大学教授巴特·塞尔曼（Bart Selman） 说，“这使得这一议题变得更加紧迫。”
域的革命，以及价格低廉的智能机器人需要被人们 更好地理解
。“是时候要花更多精力去理解人工智能系统取代 蓝领工作所带来的社会影响了，”他说，“这是肯 定的，社会无法跟上人工智能系统发展的速率。这 绝对是个问题。” 伦敦帝国学院的认知机器人教授穆雷·沙纳汉（Mur
ray Shanahan）称，对破坏性人工智能超级大脑的预 测或许会登上头版头条，但在近几年，这些更加枯 燥、平淡的担忧意见才是更应该见诸媒体的。他说： “很难预测到底会发生什么，但我们能肯定，它们 一定会对
谷歌公司的雄心
九位来自DeepMind公司的研究者也在公开信上签了 字。DeepMind是一家人工智能公司，去年被谷歌
收购。这个故事要从2011年开始讲起。当时，德米 斯·哈萨比斯（Demis Hassabis）在一次人工智能会议 上做了演讲，之后认识了主动前来自我介绍的扬·塔 里安。哈萨比斯刚刚创立了DeepMind，而
社会造成影响。” 人工智能时代即将来临：机遇与挑战并存
eroaza 山东移动网上营业厅缴费