人工智能在安全领域的应用

张 滨　中国移动通信

集团公司信息安全管理与运行中心总经理，中国网络空间安全协会网

络治理与国际合作工作委员会副主任委员，全

国信息安全标准化技术委员会（TC260）委员，工业和信息化部通信科学技术委员会委员，享受国务院特殊津贴专家。长期从事信息通信网络规划建设、信息化推进、网络信息安全管理工作。参与中央企业信息化政策措施研究，组织中国移动ERP 项目的实施，在通信、互联网、网络安全和信息化领域有较深入的研究。

人工智能在安全领域的应用

张滨

（中国移动通信集团公司信息安全管理与运行中心，北京 100053）

摘　要　人工智能的发展和应用给信息安全领域带来了希望和挑战。一方面人工智能在信息安全领域的应用能够显著

提升安全防护能力，另一方面人工智能自身也存在着数据安全、对抗欺骗、隐私保护、动态环境适应等安全问题。本文分析了信息安全领域对人工智能的需求以及相关应用场景，分析了人工智能面临的安全挑战，提出了人工智能安全应用及安全防护建议，旨在推动信息通信及网络信息安全行业对人工智能带来的安全挑战达成充分认识，促进人工智能在行业的安全、可靠、可控发展。

关键词　人工智能；信息安全；安全风险；安全应用

中图分类号 TN918 文献标识码 A 文章编号 1008-5599（2018）12-0001-06

收稿日期：2018-11-12

当前，全球科技革命和产业革命方兴未艾，新技术

行业融合创新不断，在移动互联网、大数据、云计算、物联网等新理论新技术以及社会发展相关的强烈需求的共同驱动下，人工智能(Artificial Intelligence，AI）加速发展，逐渐成为了产业革命和行业融合的关键技术。人工智能可以通过对数据的采集、分析和挖掘，形成有价值的信息和知识模型，实现对人类智能行为的模拟，具备一定环境下的自适应特性和学习能力。人工智能的要素一般包括数据、模型、运算力、应用场景几个方面。基于以上几种要素的不断发展进步，逐渐演化并形成了若干人工智能关键技术，包括机器学习、知识图谱、自然语言处理、计算机视觉、生物特征识别等。

随着人工智能相关学科的发展，理论建模、技术创新、软硬件发展等整体推进，各类人工智能应用能够大幅度提升智能制造水平、社会智能水平，推动我国制造强国和网络强国建设，推动社会各领域从数字化、网络

化向智能化加速跃升，从而深刻改变甚至颠覆现有人类社会的生产生活方式。

然而，人工智能的发展和应用给信息安全领域带来了希望和挑战。一方面人工智能在信息安全领域的应用能够显著提升安全防护能力，另一方面人工智能自身也存在着数据安全、对抗欺骗、隐私保护、数据爆炸、动态环境适应和数据的可靠性等方面的安全问题。与此同时，人工智能技术、平台等也存在安全风险，会严重影响人工智能在各个应用领域的健康发展。本文分析了当前信息安全领域对人工智能的需求以及相关应用场景，分析了人工智能面临的安全挑战，提出了人工智能安全应用及安全防护建议，旨在推动信息通信及网络信息安全行业对人工智能带来的安全挑战达成充分认识，促进人工智能在行业的安全、可靠、可控发展。

1 安全领域的应用需求

1.1 网络安全方面

应用人工智能可以从海量网络数据、多样的安全攻击手段中快速检测出网络攻击并能依据网络环境变化进行自适应安全防御，人工智能在网络安全领域的优势主要包括大幅提升安全监测的精准度。网络流量规模巨大，安全设备及系统产生大量日志等重要安全信息，应用人工智能技术可以解决大规模数据处理分析、精准识别网络攻击、减少安全误报等安全挑战。及时发现复杂的攻击行为。复杂的网络攻击中，攻击者往往会采用各种逃避手段，将常见的攻击报文伪装成正常报文，避免被安全设备发现。基于人工智能技术，结合应用场景能够识别异常的网络通信，发现复杂的网络攻击行为。人工智能在网络安全方面有如下应用。

（1）网络入侵检测。收集网络流量样本、安全日志、系统日志等重要数据，可以利用贝叶斯方法、神经网络、决策树等人工智能技术，实时检测溢出攻击、Web攻击、木马、蠕虫等多种网络攻击行为，解决常见基于规则匹配的入侵检测方法存在的误报多、准确率低的问题，大幅提升网络入侵检测准确率与可用性。

（2）网络安全态势感知。收集安全领域不同设备产生的结构不一，而又相互关联的安全数据，利用人工智能常见算法进行关联、分析，能够评估网络设备运行状况、网络行为以及用户行为等因素所构成的整个网络的当前状态和变化趋势，实时地感知和预判网络基础设施面临的威胁，达到动态监测以及指导决策的目标。

（3）恶意代码检测。传统恶意代码检测通常采用各种代码匹配的方式进行，而恶意代码传播过程中会通过各种变形来躲避查杀，导致检测中的误报和漏报问题。另外，恶意代码监测要获得恶意代码样本后进行人工分析、提取特征，然后才能进行检测、查杀，整个过程对人员安全技术水平要求极高且具有明显的滞后性。使用AI技术进行恶意代码检测，特别是将二进制文件以灰度图像的形式表示，可利用图像中的纹理特征对恶意代码进行聚类。通过分析恶意代码图像、恶意文件头个数等信息，使用决策树、随机森林等AI算法能够准确发现恶意代码。

1.2 业务安全方面

当前，针对业务的攻击方式已日趋智能化，并不断衍生出各种各样的灰色攻击方式，常见的包括恶意秒杀、恶意刷信用、薅羊毛攻击等，采用人工智能技术能够有效降低业务安全风险：及时发现业务滥用。应用人工智能技术对用户正常行为模式建立业务模型，识别常见的业务攻击类型，形成业务防护手段。开展用户画像。基于用户在行为、习惯、喜好、社交等多方面特征，能够对用户进行画像，并对用户进行分类，有助于识别正常用户、受控恶意用户等，从而实现基于用户分类进行业务管控。人工智能在业务安全方面有如下应用。

（1）灰黑产行为识别。基于账户、设备、网络环境、操作、行为、用户计费信息等数据，使用常见监督式等人工智能技术开展用户业务使用行为分析，可以发现常见的灰黑产的业务攻击情况，如通过批量注册用户实施各类薅羊毛行为。

（2）业务风控。随着业务日益复杂化、多样化，面对大规模的业务数据，服务提供商针对每一项业务进行