8-1 信息内容安全——案例及分析

14
案例2：网络欺凌
❖ 具体表现为：向受害者发送带有嘲笑性的或是威胁 性的短信；发送恶意邮件；利用博客等信息传播媒 介擅自发布他人敏感的或是私密的信息，包括他人 的个人资料、照片或视频等；在他人的网页上发表 恶意攻击的或过分暧昧的信息；将他人的隐私信息 资料上传到网上；冒充他人散播谣言，故意损毁他 人形象；将某人排除在某一聊天室或虚拟社区之外 ，使之孤立，如拉黑等。
信息内容安全 ——案例及分析
陈波
南京师范大学计算机科学与技术学院
本讲要点：
❖1. 信息内容安全问题 ❖2. 信息内容安全概念 ❖3. 信息内容安全防护
1. 信息内容安全问题
❖ 在前面几讲的学习中，我们更多关注的是信息载 体的安全，以及信息存储、传输和处理的安全问 题，本讲我们要关注的是信息本身的安全问题。
2. 信息内容安全概念
❖ （1）信息内容安全定义
❖ 中国工程院方滨兴院士对内容安全的定义是：
❖ 内容安全是指对信息在网络内流动中的选择性阻 断，以保证信息流动的可控能力。
❖ 在此，被阻断的对象是：通过内容可以判断出来 的可对系统造成威胁的脚本病毒；因无限制扩散 而导致消耗用户资源的垃圾类邮件；危害儿童成 长的色情信息；导致社会不稳定的有害信息等等 。
2. 信息内容安全概念
❖ 破坏国家宗教政策，宣扬邪教和封建迷信。 ❖ 散布谣言，扰乱社会秩序，破坏社会稳定。 ❖ 散布淫秽、色情、赌博、暴力、凶杀、恐怖或者
教唆犯罪。 ❖ 侮辱或者诽谤他人，侵害他人合法权益。 ❖ 含有法律、行政法规禁止的其他内容。
2. 信息内容安全概念
❖ （3）信息内容安全的重要性 ❖ 2）信息内容安全事关公共安全。 ❖ 对公共安全构成影响的互联网信息主要有两种类
8
案例1：伦敦骚乱事件与社交媒体
❖ 事实上，社交媒体在此次事件中同样发挥了正面 的作用。
❖ 有热心人利用Twitter提供的一些功能制作了事件 地图，这个地图让人们可以更好的了解事件的发 展趋势，对计划外出的人以及警方都提供了极大 的帮助。
9
案例1：伦敦骚乱事件与社交媒体
❖ 还有人发起了一个名为“骚乱清理”的行动，成 功组织了数百名志愿者清理骚乱后的狼藉场面。
❖ 中国作为—个主权国家，必然要将国家安全置于 首位。对于互联网不良信息和有害信息内容必须 进行控制。我国颁布的互联网法规中明确规定， 互联网信息服务提供者不得制作、复制、发布、 传播含有下列内容的信息：
❖ 反对宪法所确定的基本原则。 ❖ 危害国家安全，泄露国家秘密，颠覆国家政权，
破坏国家统一。 ❖ 损害国家荣誉和利益。 ❖ 煽动民族仇恨、民族歧视，破坏民族团结。
13
案例2：网络欺凌
❖ 网络欺凌攻击的直接对象不再是计算机设备，不再 是存储或传输的数据等信息，而直接是人。发起攻 击的不再仅仅是黑客，任何一个普通的人都可能成 为攻击者。
❖ 网络欺凌不像传统欺凌那样公然明显，它是一种冷 暴力（可以分为以下七类：情绪失控、网络骚扰、 网络盯梢、网络诋毁、网络伪装、披露隐私和在线 孤立。
2. 信息内容安全概念
❖ （2）信息内容安全的目的 ❖ 信息内容安全主要在于确保信息的： ❖ 可控性。防止来自国内外反动势力的政治攻击，
消除各类谣言，剔除色情和暴力等有害信息；防 止个人隐私被盗取、倒卖、滥用和扩散。 ❖ 可追溯性和保密性。防止知识产权被剽窃、盗用 等；防止组织和个人敏感信息被窃取、泄露和流 失。 ❖ 可用性。防止垃圾邮件、恶意代码、即时通讯以 及P2P文件共享等恶意信息耗费网络资源。
❖ 在国家和社会层面上的威胁主要为：反动信息、 危害国家和社会安全的网络动员信息、谣言信息 、恐怖信息、低俗信息等；
❖ 在组织和个人层面上的威胁主要为：虚假信息、 欺骗信息、垃圾信息、侵害隐私的信息、网络欺 凌信息、侵犯知识产权的信息等。
❖ 下面简要介绍
1. 信息内容安全问题
❖ 1）网络反动信息、谣言信息、恐怖信息，危害国 家和社会安全的网络动员信息
10
案例1：伦敦骚乱事件与社交媒体
❖ 在骚乱事件结束后，伦敦警方充分利用社交媒体 来搜罗证据，抓捕犯罪嫌疑人。Twitter账户上警 方不断发布最新的犯罪嫌疑人信息。
11
案例1：伦敦骚乱事件与社交媒体
❖ 由此可见，是社交媒体中传递的内容影响着人们 的思想，影响着事件的走势，进而能够影响国家 的内外政策甚至国家的稳定。
2. 信息内容安全概念
❖ （3）信息内容安全的重要性 ❖ 1）信息内容安全事关国家安全。 ❖ 本讲案例1伦敦骚乱就是互联网信息内容安全影
响国家安全的典型。当今，任何国家都不存在绝 对的信息传播自由。即使是美国，对互联网信息 传播同样给予了严格监管，尤其是“9•11事件” 后，更是达到空前的程度。
2. 信息内容安全概念
❖ 因此，本课程在数据安全讨论数据形式层面的安 全，本讲主要讨论语义和语用层面的安全，也就 是信息内容安全。
❖ 我们来看两个实例，了解一下信息内容安全问题 。
4
案例1：伦敦骚乱事件与社交媒体
❖ 2011年初，包括脸谱（Facebook）、推特（ Twitter）等社交网络在内的社交媒体推动了西亚 、北非等国家的政治乱局。社交网络成为这些国 家青年宣泄不满情绪，进行政治动员的重要平台 。
1. 信息内容安全问题
❖ 6）侵害知识产权的信息 ❖ 随着网络的广泛开放，网络信息资源的知识产权
保护问题日益突出。盗版、复制和非法下载等侵 害知识产权的行为屡禁不止。
本讲要点：
❖1. 信息内容安全问题 ❖2. 信息内容安全概念 ❖3. 信息内容安全防护
2. 信息内容安全概念
❖ （1）信息内容安全定义
❖例如，“蒙牛陷害门”、“3Q 大战”、“王的盛 宴”等事件背后，都隐藏着大量网络水军。网络 水军形成巨大的虚假舆论场，影响网络民意、扰 乱网络秩序、妨害经济利益，急需识别和治理。
1. 信息内容安全问题
❖ 3）网络虚假信息、诈骗信息、垃圾信息
❖ 垃圾邮件中就包含很多虚假和诈骗信息。大量的 垃圾邮件不仅占用了存储资源和带宽，也导致了 网络恶意代码的传播，进而带来个人或组织经济 财产的损失。
2. 信息内容安全概念
❖ （1）信息内容安全定义
❖ 可以用一个形象点的比喻来说明内容安全与传统 信息安全的关系：
❖ 传统信息安全中，密码学所解决的信息安全问题 是要为信息制作安全的信封，使没有得到授权的 人不能打开这个信封；
❖ 内容安全则是要“直接理解”信息的内容，需要 读懂信中的内容后再判断哪些是“敏感”信息， 哪些是正常信息，这也是它的重要性与困难性所 在。
15
案例思考：
❖ 上述两个案例表现反映了信息内容能够影响或是 改变个人的思维和行动，进而能够影响国家的内 外政策甚至国家的稳定。
❖ 这实质上反映了网络环境下信息衍生出来的问题 ，尤其是语义层面的安全问题，称之为信息内容 安全问题。
1. 信息内容安全问题
❖ 这里我们将信息内容安全威胁分为两个层面：国 家和社会层面、组织和个人层面。
12
案例2：网络欺凌
❖再来看一段视频：不堪网络欺凌 14岁少女自杀
❖ 传统的欺凌是指任何故意用肢体和语言去伤害、威 胁和孤立他人的行为。校园中常见的欺凌行为包括 起绰号、谩骂、羞辱、排斥、动粗、以威逼和恐吓 进行强迫、胁迫等。但是随着互联网的发展和普及 ，网络欺凌逐渐成为一种新的攻击方式。
❖ 所谓网络欺凌是指个人或群体利用网络的便捷性， 通过计算机或手机等电子媒介，以电子邮件、文字 、图片、视频等方式对他人所进行的谩骂、嘲讽、 侮辱、威胁、骚扰等人身攻击，从而造成受害者精 神和心理创伤。
❖ 我们将在下一讲中详细介绍隐私安全问题与防护 技术。
1. 信息内容安全问题
❖ 5）网络欺凌信息
❖ 网络欺凌是指个人或群体利用网络的便捷性，通 过计算机或手机等电子媒介，以电子邮件、文字 、图片、视频等方式对他人所进行的谩骂、嘲讽 、侮辱、威胁、骚扰等人身攻击，从而造成受害 者精神和心理创伤。
❖ 网络欺凌会给受害者造成巨大的心理伤害，对于 青少年，会严重影响他们的健康成长，国内外曾 发生多宗儿童因在网上受到羞辱而患上抑郁症， 甚至自毁生命的事情。
1. 信息内容安全问题
❖ 4）侵害隐私的信息
❖ 随着网络深入到人们工作、学习和生活的方方面 面，用户越来越多的信息暴露于网络，如个人姓 名、工作单位、住宅地址、手机号码、社交网络 空间的图片等等。由于获取这些公开信息的途径 简单、成本很低，在某些情况下会被整合并可能 滥用。例如某些公司或个人将这些信息出售牟利 ，还有些利用这些信息进行诈骗。
❖ 2）网络低俗信息 ❖ 网络上的低俗信息主要是指宣扬色情、暴力的信
息，也包括违背社会公俗良序和公平正义的信息 。 ❖ 如色情网站提供的视频、裸聊； ❖ 护士在网上抱怨病人 ❖ 交警在网上晒超速照 ❖ 网络炫富 ❖ 恶俗的毕业照等等
1. 信息内容安全问题
❖ 3）网络虚假信息、诈骗信息、垃圾信息
❖ 社会生活的高度信息化，使网络承载了蕴含价值 的大数据，如新浪微博、大众点评网、豆瓣等拥 有海量用户的社会化网络媒体，已经被组织和个 人广泛地用来辅助决策。巨大的用户群与潜在的 商机，使虚假意见和垃圾信息被广泛地制造和传 播，该类危害的源头即俗称的网络水军。
❖ 内容安全是随着互联网出现和广泛应用才出现的 一个安全术语。在学者中，对内容安全的定义， 主要有几种观点：
❖ 北京邮电大学钟义信教授认为，内容安全直接发 生在信息的内核——“内容”层次上，这是它与 “基于密码学的信息安全问题”的最大区别，后 者只对信号的“形式”进行处理，不需要理解信 息的“内容”。
❖ 互联网为网民提供了隐藏真实身份的机会，使一 些人丧失社会责任感而不顾忌任何法律，使得各 类谣言、煽动性言论容易产生和蔓延，往往极易 引起公众的非理性判断和行为混乱，从而影响公 共安全，影响社会稳定。
❖ 例如2012年日本地震后出现的谣言，使得人心惶 惶，全国出现食盐的抢购风潮。
1. 信息内容安全问题
型：一是网络谣言、虚假信息，以及网络动员信 息；二是网络中传播的大量个人或组织的隐私信 息。
2. 信息内容安全概念
❖ （3）信息内容安全的重要性
❖ 互联网作为一个开发和使用信息资源的全球性网 络，已经和正在对世界各国的经济、政治、文化 、科技、军事等各个领域产生重大影响，已经和 正在使人们的工作、生活、学习的方式发生深刻 变化。但是，由于其开放性，使得互联网中信息 内容的产生、传播不易受控制，虚假信息、有害 信息、个人隐私信息、组织敏感信息等内容给社 会带来了不可低估的破坏作用和负面影响，更是 影响到现实社会和国家的正常秩序和运转。
❖ 社交媒体只是一种工具，与短信、电子邮件等其 他通信方式类似。当伦敦骚乱等热点话题出现时 ，人们通过网帖、电子邮件、社交网络等手段建 立联系并加速传播信息，步伐之快前所未闻，这 很大程度上是由社交媒体的开放性、通信成本低 廉等特性所决定的。
7
案例1：伦敦骚乱事件与社交媒体
❖ 在伦敦街头骚乱愈演愈烈之时，英国首相卡梅伦 在8月11日说：“当有人把社交媒体用于暴力的时 候，我们需要阻止他们。因此我们正在与警方、 情报部门和产业界合作，以探讨是否应该阻止某 些正在策划犯罪的人使用社交网站和服务进行通 信。”
❖ 与此类似的是，2011年8月6日开始，英国多个城 市发生了持续数天的骚乱。这些照片记录了骚乱 期间伦敦街道火光冲天，到处是被焚毁的车辆、 被打砸的店铺，军警严阵以待的场景。
5
案例1：伦敦骚乱事件与社交媒体
6
案例1：伦敦骚乱事件与社交媒体
❖ 脸谱、推特等社交网络上的大量情绪性、煽动性 言论甚至是谣言，对事件的发展起着推波助澜的 作用。
❖ 在计算机应用领域，数据的原意是以数字形式表 达的信息。人们通常把文本信息、语音信息、图 形信息、图像信息等也分别叫做文本数据、语音 数据、图形数据、图像数据等，实际上这是更加 注重这些信息在计算机中的数字表达。
3
1. 信息内容安全问题
❖ 例如，我们收到的一个数据文件，在计算机中的 表达只是一段0或1的组合，我们可以以此作为特 征码来鉴别文件是否含有恶意代码，但是作为信 息，我们还需要甄别其语义（含义）和语用（价 值），因为其表达的信息内容可能是有害的或违 法的。