移动互联网·大数据·智能化人工智能时代权力的规训路径

社科前沿
移动互联网•大数据•智能化:
人工智能时代权力的规训路径
文/叶娟丽徐琴
移动互联网、大数据和人工智能等不断推陈出新，极 大地方便了我们的生活和工作，但间时，我们也越来越紧 密地被捆绑到不断加速的社会化大生产当中，无法自拔，以至于人们与过往的空间、时间、自我和社会不断地疏离 与异化。

很显然，人工智能时代的权力结构与权力形式都 发生了根本的改变，网络权力、数据权力、算法权力，正是人工智能时代权力规训的三种新路径。

无处不在的移动互联网以及网络权利/权力
正如互联网的发展迅速遍及人类生活的方方面面一 样，网络权力也早已超越军事的界限.成为依赖于互联网 环境生存的各要素得以存续下去的一种普遍力量。

就个体 而言，互联网成为了人们表达、社交和获取物质产品的主 要方式。

就整个社会而言，互联网成为了新的社会公共空 间，使得原先被信息隔绝的不同群体和阶层得以平等无缝 地高效交流。

(一）作为个人自主权利的网络权力
在网络空间中，网民有权利决定自己做什么和不做 什么，以及选择以什么方式去做。

从这个意义上来说，网络空间是属于个体的私人领域，每个网民都享有在网络上 的话语权以及与其他交往主体之间的平等关系。

在网络空 间里，网民不仅可以自由地选择互动的对象，也拥有分 享、发布原创内容的权利。

网络空间的匿名特性鼓励着那 些在现实生活中较少话语权的网民，去充分自由地表达自 己的真实想法，他们隐匿在网络空间当中，自主自愿地、不受任何人的强制和支配地进行着自主选择的交往与创作 行为，在虚拟的网络空间里完成现实生活中难以完成的维 权、反腐等任务，极端的甚至可以通过在网络空间里的自 由权利推翻一个政府或者摧毁一个国家。

从这个意义上，我们说，网络权力首先是一种不受限制或者少受限制的个 人自由权利，这种权利在特定条件下可以非常强大，强大 到当今世界每一个政府都不敢小瞧网络权力。

(二）作为强制力和内在影响力的网络权力
网络空间是一个虚拟空间，但也是一个现实空间，现 实政治社会生活中资源占有不平衡导致的人与人之间的权 利/权力不平等，同样反映在网络空间中。

也许在某些偶 然情况下，我们可以罔顾现实而在网络世界达成某种人人 平等，但更残酷的现实是，那些在现实社会中处于优势地 位的个体，在网络空间也更具有资源优势；反之，现实社 会中的弱势群体在网络空间里，仍然处于不利地位。

在理想状态，每个网民在隐匿的网络上都是自由平等 的，但事实上，那些掌握着互联网核心技术和专业知识及 拥有大量资本的互联网主体才是真正位于网络金字塔的高 层，是他们在引导，规范甚至操控着普通网民的言论和行 动，而普通网民则始终处于一种不自觉地被裹挟进网络的 状态。

网络大V凭借自身所拥有的流量效应驾驭网络舆论 导向.普通网民往往难辨真假，在疯狂地点赞、评论和转 发中，网络舆论生态也渐渐被这些所谓的“意见领袖”所 裹挟，而大多数普通网民只能在舆论大潮里随波逐流。

随 着移动互联网的不断发展，人们越来越依赖网络，习惯了 浏览互联网平台的各种推送消息，习惯了依靠搜索引擎做 出选择，并且乐此不疲。

但是大多数人可能很少意识到，正是人们的一次次“习惯”使其在不知不觉中成为了网络 的俘虏，心甘情愿地按照网络上的某种暗示去行动，被网 络权力所操控却对此浑然不觉。

因此，看似自由平等的网 络权力，本质上只是一种被网络强势群体影响、规范和强 制的权力。

_
(三）网络权力的形成：空间-权力机制与知识-权 力机制
福柯认为，权力的运行机制包括空间与知识两个维 度。

空间是权力运行的场景，而知识能够产生权力并批准 着权力的行使甚至说服民众遵照权力的指示行动。

在人工 智能时代，网络权力对人们的规训，首先就是通过移动互 联网借由空间与知识机制所完成的。

空间是权力运作的基础.网络空间则是网络权力得以 生发运作的具体场域，网络权力的形成遵循的是空间-权 力机制。

网络空间与现实生活中的具体场景不同，集虚拟
23
社科前沿
性、跨时空性、私人性、隐蔽性、公共性等特点于一体，其生态环境远比现实屮的某一具体空间复杂得多，从而决 定了人丨的行为模式呈现出多样化的特点。

一方面，网络 空间是一个自主的私人领域，人们在各种社交平台上分享 自d的生活状态，间时也希望通过“晒”活动和互动行为 维持与其他主体之间的联系，强化自身在网络社区屮的归 «感和认同感，以此建构自己的意义世界。

在这样一个空 间中.人们更多地感受到的是网络的虚拟性，这种虚拟与 匿名机制突破了现实生活中各主体之间的身份等级限制，淡化了各自的身份角色意识，催生出一种“多数观看多 数”的社会监控新模式但网络空间作为一种空间环境，它也必然具有空间特有的本质，就像“楚n的世界”一 样，不管视野所及的空间多么广大，也不管自我感知在这 个空间中的一切多么自由自在，这个空间终究是由某种更 隐蔽的力量在监视着、强制着、规定着。

知识是权力强化的条件，某些个体或者群体w为掌握 的特定知识而获得巨大权力，而在人工智能时代，垄断着 互联网专门知识的那些主体就很自然地成为了网络权力的 主体。

在人工智能时代，谁掌握了关于算法的知识就意味 着谁拥有了足够的权力。

商家之所以能够从用户个人数据 中预测出个体的消费偏好从而实现精准营销，关键在干其 掌握着大数据分析的特殊技术，而对于那些缺乏该技术能 力的个人和公司而言，即使拥有了海量数据，也无法将数 据变现，从而实现数据的价值间样，人脸识别系统也不 仅仅是安装一个摄像头那么简单，这其中涉及计算机阁像 处理技术和生物统汁学原理，技术人员凭借自身所具有的 专业性知识设计了各种先进的人脸识别监控设备及系统，并被国家机构应用于各种公共场合以实现维护社会稳定的 政治目的。

权力与知识在此实现了完美结合，知i只拓展了 权力的作用范围，而权力对知i只的重视则进一步强化了知 识的权威…也就是说，权力与知识的共生共谋特性决定了 在人工智能时代，垄断话语权的往往是那些掌握着大数据 及人工智能核心知识的网络强势主体。

无所不包的大数据以及数据权力
网络技术的进一步发展，促成了大数据技术的迅速成 熟和发展。

大数据的本质是人类对世界的数据化.福柯曾 以战争模式为例，探讨了权力关系各方面的相关性，他定 义了两种形式的权力：规训权力，即通过监视技术和惩罚 制度对身体进行规训；以及生命权力，作用于人口、生物 和活人。

而数据权力就充分体现了生命权力在规刖权力面 前的无能为力或者说规训权力的无所不能
(一）数据权力：一种无不入的监控权力
当今世界已逐渐走向数字政治时代。

数字技术正从单 纯的监控向主动的操控过渡，人们凭感觉做出的所谓“自由决定”将很快被操控。

尤其是在推进人工智能技术的过 程中，现实中活生生的人被数字化、符号化，个人的生活 史被数据清晰地记录、储存，在需要的时候甚至被随意调 动使用。

马克•波斯特认为，随着电脑数据库的出现，社 会场成为了一个超级全景监狱，主体在符号和数字中被重 新建构.这种数据库式的超级全景敞视监视比福柯笔下的 全景监狱更加易于书写、记录和监控，几乎包括个体的所 有信息，并且渗透到社会的每一个角落。

人工智能时代，我们每一个人都被数据监控所包围着.明明置身其中却极 可能并未意识到自己正在被监控。

在数据即权力的人工智能时代，人的一切思想和行 为部能够被感知，变成可以存储、处理和使用的数据.并 通过互联网存储于网络、云端之屮，我们的一切思想、行 为都被暴露在大众之中，我们变成了透明人，世界变成了 透明世界。

所谓“透明人”，是指通过大数据的比对和信 息还原，每一个个体在一系列时间段的所有行为都可以在 事后被展现和还原出来，由此每个人的生活状态都将在很 大程度上成为透明的。

而透明世界与透明人的出现.使我 们随时部被无处不在的泛在网所监控，网民们在网络空间 里不断地生产数据.也不断地被数据定义，成为“数字劳 工”的间时也无法摆脱来自数字权力的约束.从而处于数 据权力的天罗地网之中。

(二）数据权力：一种无所不包的规训权力
一是注意力的规训。

互联M的核心概念是流量，而 流量就是注意力的加总，因此，注意力成为一种极富价值 的资源，而在海量信息时代，谁能够抢先抓住人们有限的 注意力.谁就靠近了成功.而广告的任务就在于抓取注意 力。

人工智能时代，结合大数据分析技术，广告商们对个 体注意力的抓取也越來越精准.通过对消费者所浏览的M 页、在商品页面浏览时间长短的分析，广告商们可以对个 体的消费需求给出针对性的建议和推荐，从而达到精准投 放广告的目的.这种对人们注意力的精准操控程度在大数 据技术出现以前是人们所不曾想象过的。

注意力作为一种 资源.只要有需求，便会被不断地开发、生产和研究，因此，对注意力的运用也不仅仅体现在商业领域.剑桥分析 引发的“脸书”事件则向我们展示了对注意力进行规丨川的 另一种方式。

换言之，人工智能时代，注意力作为一种稀 缺性资源，不仅被市场化，也被叫鸶化、标签化，并以数 据的形式被算法吸纳，网络强势主体经过技术分析不断地 生产出新的注意力以满足自己的利益需求。

在一轮轮的转 化、分析、生产中，个体似乎失去了对于自身注意力的选 择权，在不知不觉中作出了数据和算法所希望的选择。

24
社科前沿
二是思维方式的规i川。

互联网的普及为人们提供了海 量的信息，真正实现了足不出户便知天下事；而搜索引擎 则为人们筛选自d所需要的信息提供了媒介，越来越多的 人依靠搜索引擎作出判断和决定，在一次次的搜索中人们 渐渐被“数据思维”所驯服，在对数据的崇拜和迷信中丧 失了思考的能力，只在乎“是什么”，却忽略了对“为什 么”的探寻。

在数字世界里，人们沉迷于对速度和结果的 盲目崇拜，却不再内省和反思；算法将一切转化为可以量 化的维度并将其再次输出试图引导甚至规训人们的思、想和 行为，而个体却乐在其中。

“数据思维”泛滥的结果可能 是人们自主意识的进一步丧失，数据比人们更了解自己，轻而易举地控制个体的思想，形塑着个体对数据权威的认 同。

正是基于此.在数字化生存时代，有学者提倡，我们 应树立数据权利意识，并积极增进数据参与。

这种权利意 识不仅仅是对大数据的聱揭，对自身数据泄露的防范，更是对大数据潜在规i川的自觉反抗。

无所不能的人工智能以及算法权力
人工智能的发展，造就了一种无所不能的算法权力.这种算法权力将从两个方面彻底改变社会的形态：一是掌 握算法的资本寡头与技术精英共谋.通过用人工智能逐步 替代人的大部分脑力劳动，使得人类社会中可能出现一个 庞大的无用阶级；二是具体运行算法的机器本身有可能成 为挑战人类的巨大力量，无所不能的智能机器人继续向前 发展，人类可能就不再是世界上惟一的智慧载体，人类 的主体性和自由本身有可能要让渡于新的人类与机器的 混合物。

(一）算法权力：资本寡头与技术精英的共谋
算法、计算力和数据是人工智能的三大基本要素。

人 工智能引领我们走向一个没有边界的新算法战场.算法歧 视正在加剧人与人之间的不平等，并且造就了一个所谓的 “后劳工”社会，也就是数字技术上有优势的寡头及其技 术精英团队和当权者同谋共贏的社会。

鉴于人工智能的迅 猛发展势头，它已经成为全球权力游戏的中心。

我们知道，迄今为止的人类社会.其统治阶级与被 统治阶级都处于一种矛盾的共生关系之中，二者既是矛盾 的对立双方，又是对方得以存续的前提与基础。

而大量人 工智能在工业与服务领域的运用，正在打破这样一种共生 关系，统治阶级有可能凭借其资本与技术优势而实现人工 智能对传统的被剥削阶级或者被统治阶级的取代，被统治 阶级H益被逐出生产领域.从而使传统阶级关系的平衡被 打破，进一步加深劳动的异化。

新技术可以消除基于旧技 术的不平等.但也可能产生新的更大的不平等。

原来的有产阶级与无产阶级，可能演变成掌握大数据的数据资 产阶级和被动地数据化的数据无产阶级，由此造成新时 代人的发展的异化。

有些学者甚至造出了 “数字资本主 义”这样的概念。

用赫拉利的话说，在数字资本主义社 会中，有钱人，或者说掌握物质财富的资本寡头和掌握 算法规则的技术精英将成为超人，而原来的无产阶级将 成为无用阶级,
W此.有研究者担忧，人工智能将有可能形成三种专 制形态：人工智能辅助下的人类专制、人工智能依赖下的 人类蜕化和人工智能自身对人类的专制，作为机器属性的 人工智能是一种绝佳的专制工具，在一定程度上将延续传 统上的人类专制形态，掌握人工智能的群体将利用人工智 能形成对其他群体的奴役，而其背后的基础就是资本寡头 与技术精英共谋而形成的算法权力。

(二）算法权力：机器对人类的专制
美国学者约翰•塞尔将人工智能技术区分为三个等 级：弱人工智能、强人工智能和超人工智能，这也可以说 是人工智能发展的三个阶段。

即使人类社会没有出现滥用 人工智能强化其专制的独裁者.也会随着人工智能在社会 中的广泛应用而形成一种类似于资本专制的专制形态，即人类由于高度依赖人工智能而形成的整体h的物种的退 化。

而万一人工智能压倒性地超过人类智慧，并具备了 自身的主体意识，开始摆脱客体的属性，则它会反过来 奴役人类。

因此，有悲观的研究者提出，人工智能是我 们人类最后的发明，此后的世界可能彻底被人工智能所 接管。

典型的如很多国家正在研制中的人工智能武器。

它们 作为会思考的武器系统，能够在没有任何人为参与和干预 的情况下执行任何预计的战争任务，仅使用其嵌入式传感 器、计算机编程和人类环境和生态系统中算法的交互，就 具有辨别自然语言的能力，可以有意LR lfe寻找、辨别需要 打击的目标。

伴随技术进步，我们的科学家可能会创造出 “超人类智能”“超人类体能”“生化人”“电子人”等，从而使得“人”与“机器”之间的界限更加模糊。

如果机器完全自主或者接近完全自主，如果算法权力大到足 够摆脱人类的控制，那么人类面临的就不只是人类自身之 间的战争风险，还面临人类这个物种以及人类创造物—
—
机器之间的战争了。

按目前世界各国人工智能发展的趋 势，潘多拉的盒子已经打开，妖怪巳经从封印中出来了，但人类对人工智能尤其是人工智能武器带来的伦理风险、法律风险等并未达成共识。

s
【叶M丽系武汉大学政治与公共管理学院教授，徐琴系武汉大学政治与 公共管理学院博士生；描自《兰州大学学报>(社会科学版12020年第 1期】
25。