信息论方法(一)资料
信息论复习资料
8、 解释最小错误概率译码准则，最大似然译码准则和最小距离译码准则，说明三者的关系。 答：最小错误概率译码准则下，将接收序列译为后验概率最大时所对应的码字。 最大似然译码准则下，将接收 序列译为信道传递概率最大时所对应的码字。 最小距离译码准则下，将接收序列译为与其距离最小的码字。 三者关系为：输入为等概率分布时，最大似然译码准则等效于最小错误概率译码准则。在二元对称无记忆信道 中，最小距离译码准则等效于最大似然译码准则。 9、 保真度准则为：平均失真度不大于允许的失真度。 10、限失真信源编码：有失真信源编码的中心任务，在允许的失真范围内把编码的信息率压缩到最小。
4、线性分组码不具有的性质是（C）
1 / 2 1 / 4 [P XY ] 1 / 12 1 / 6
； [ PY ] [7 / 12 5 / 12] ；
； H (Y ) 7 / 12 log 2 (12 / 7) 5 / 12 log 2 (12 / 5)
I ( X ; Y ) H (Y ) H (Y | X )
对应的剩余度为
1 1
H1 0.811 1 0.189 H0 1 1 1 1 log log 2 2 2 2 H2 0.681 1 0.319 H0 1 1 1 1 log log 2 2 2 2
H ( p1 , p2 , , pL 1 , pL ) pL H (
并说明等式的物理意义
q q1 q2 , , , m ) pL p L pL
14、一阶齐次马尔可夫信源消息集
X∈｛ａ１,ａ２,ａ３｝ ，状态集Ｓ∈｛Ｓ１，Ｓ２，Ｓ３｝且令 Si=ai，
1 4 1 4 1 2 P(aj / S i ) 1 3 1 3 1 3 2 3 1 3 0
信息论复习资料
判断30名词解释4*5计算3道20分第一章1、自信息和互信息P6 公式2、信道P9 概念第二章1、离散平稳信源P18概念2、离散无记忆信源P19概念3、时齐马尔可夫信源P20概念4、自信息P22概念5、信息熵P25概念6、信息熵的基本性质P281)对称性2)确定性3)非负性4)扩展性5)可加性6)强可加性7)递增性8)极值性9)上凸性7、联合熵条件熵P42公式P43例题8、马尔克夫信源P54公式P55例题9、信源剩余度P5810、熵的相对率信源剩余度P5811、课后作业：2、4、13、21、22第三章1、有记忆信道P73概念2、二元对称信道BSC P743、前向概率、后向概率、先验概率、后验概率P764、条件熵信道疑义度、平均互信息P775、平均互信息、联合熵、信道疑义度、噪声熵计算公式P786、损失熵噪声熵 P797、平均互信息的特性P821)非负性2)极值性3)交互性4)凸状性8、信息传输率R P869、无噪无损信道P87概念10、有噪无损信道P88概念11、对称离散信道 P89概念12、对称离散信道的信道容量P90公式张亚威2012/06/20张亚威2012/06/2116、 数据处理定理 P113定理 17、 信道剩余度 P118公式 18、 课后作业：1、 3、 9第五章1、 编码：实质上是对信源的原始符号按一定的数学规则进行的一种变换。
2、 等长码 P172概念3、 等长信源编码定理 P1784、 编码效率 P1805、 克拉夫特不等式 P1846、 香农第一定理 P1917、 码的剩余度 P194第六章1、 最大后验概率准则 最小错误概率准则 P2002、 最大似然译码准则 P2013、 费诺不等式 P2024、 信息传输率（码率） P2055、 香农第二定理 P2156、 课后习题 3、第八章1、 霍夫曼码 最佳码 P2732、 费诺码 P2793、 课后习题 11、第八章1、 编码原则 译码原则 P3072、 定理9.1 P3133、 分组码的码率 P314公式4、 课后习题 3、一、 填空题1、 在现代通信系统中，信源编码主要用于解决信息传输中的 有效性 ，信道编码主要用于解决信息传输中的 可靠性 ，加密编码主要用于解决信息传输中的 安全性 。
专题四课题研究之研究方法
专题四、课题研究之“研究方法”1科学研究2科学研究方法3现代自然科学研究方法1、科学研究1.1什么是科学研究？1.2科学研究的特点1.3科学研究的类型1.1什么是科学研究？科学研究起源于问题。
问题又有两类：一类是经验问题，关注的是经验事实与理论的相容性，即经验事实对理论的支持或否证，以及理论对观察的渗透，理论预测新的实验事实的能力等问题；另一类是概念问题，关注的是理论本身的自洽性，洞察力，精确度，统一性，以及与其他理论的相容程度和理论竞争等问题。
科学研究提供的对自然界做出统一理解的实在图景，解释性范式或模型就是“自然秩序理想”，它使分散的经验事实互相联系起来，构成理论体系的基本公理和原则，是整个科学理论的基础和核心。
1.2科学研究的特点科学研究是一种活动，具有继承性和创新性。
是从自然现象的发现到技术发明的过程，也是从原理理论到应用和产品的过程，是从基础理论研究到应用研究、开发研究的过程。
科学研究是一种创造、修改、综合知识的一种探索行为，包含着：●创造新的知识，或者有发现发明；●整理知识，让知识系统化，可运用化，对原来的一些知识进行一种清理、修改和提炼；●综合原有知识应用于实践；●创造新的知识和方法来认识未知世界，解决未知问题等过程。
从科学研究的含义可知，科学方法十分关键，对研究有重要影响。
●只有科学系统的方法才能找到问题的关键，才能很好地解决问题。
●科学方法是提高研究结果品质的关键，只有良好的方法才能得到良好的结果，才能得到令人信服的结果。
●科学系统的方法能最大程度地减低成本，以最小的付出取得最多和最好的结果。
●科学研究的方法由于其所得结果准确，不容易发生错误，可大大减少错误发生率，因此也更容易得到人们的承认。
科学研究作为一种活动，动机是科学研究能否进行、以及是否有效进行的关键。
开展科学研究的动机主要有：（1）获取学位：这是大多数青年人为了谋求一个好工作或一个好前途的需要。
要获得学位，就要完成学位论文；论文的产生就需要进行科学研究，以获得数据资料、分析总结成论文。
(完整word版)信息论期末复习资料
书中：1.信息科学，材料科学，能源科学仪器被称为当代的“三大支柱”。
2.带宽与数据传输速率信道带宽与数据传输速率的关系可以奈奎斯特(Nyquist)准则与香农(Shanon)定律描述。
奈奎斯特准则指出：如果间隔为π/ω(ω=2πf),通过理想通信信道传输窄脉冲信号，则前后码元之间不产生相互窜扰。
因此，对于二进制数据信号的最大数据传输速率Rmax 与通信信道带宽B （B=f,单位Hz)的关系可以写为：Rmax ＝2.f(bps)；对于二进制数据若信道带宽B=f=3000Hz ，则最大数据传输速率为6000bps 。
香农定理则描述了有限带宽、有随机热噪声信道的最大传输速率与信道带宽、信噪比之间的关系。
香农定理指出：在有随机热噪声的信道上传输数据信号时，数据传输速率Rmax 与信道带宽B 、信噪比S/N 的关系为： Rmax ＝B.log2(1+S/N)3.自信息量的性质：非负性、必然事件信息量为0、不可能事件信息量为无穷、信息量是概率的单调递减函数。
4.当X 和Y 相互独立时，互信息为0.5.信源熵表征信源的平均不确定度，平均自信息量是消除信源不确定度所需要的信息的量度。
6信源熵H(X)与信息率R 和信道容量C 的关系：不论何种信道，只要信息率R 小鱼信道容量C ，总能找到一种编码，能在信道上以任意小的错误概率和任意接近于C 的传输率来传送信息。
反之，若R>C,则传输总要产生失真。
又由无失真信源编码定理可知，要做到几乎无失真信源编码，信息率R 必须大于信源熵H （X ）。
故三者的关系为：H(x)<=R<=C7.保真度准则下的信源编码定理：即译码平均失真度大于允许失真度。
8.香农三个基本编码定理：无失真信源编码定理、信道编码定理和限失真信源编码定理。
三个基本概念：信源熵、信道容量和信息率失真函数。
9.信源编码、信道编码和安全编码信源编码是以提高通信有效性为目的的编码。
通常通过压缩信源的沉余度来实现。
教育技术研究方法复习
21.结构化观察：人们为了认识事物的本质和规律，通过感觉器官或借助一定的仪器，有目的、有计划地对自然条件下所出现的现象进行考察的一种方法。
22.量表：量表是根据特定的法则，把数值分派到被测试者，事物或行为上，以测量其特征标志程度的量化工具。量表的种类很多，其中里克特量表为普遍采用的形式。
二，理论方法，主要包括数学方法和思维方法两个方面。三，系统科学法，包括系统论方法、信息论方法、控制论方法。专门研究法包括评价研究法、信息内容分析法、响应信息分析法。
4教育技术学的研究任务是什么
答：（1）揭示和发现科学事实。科学事实是指客观存在的、真实的、精确的现象与关系。
（2）探求科学规律。规律就是客观事物内部固有的本质联系。
（2）常用的抽样方法：简单随机抽样，系统抽样（等距抽样），分层抽样（类型抽样）和整群抽样等方法。
1 问卷有哪几部分组成
答：（1）前言部分 （2）个人特征资料部分 （3）事实性问题部分 （4）态度性问题部分
2 什么是结构化观察结构化观察包括哪些内容如何实施结构化观察
答：结构化观察是人们为了认识事物的本质和规律，通过感觉器官或借助一定的仪器，有目的、有计划地对自然条件下所出现的现象进行考察的一种方法。其内容包括：语言行为为 ，特殊语言行为 ，非语言行为，关系分布行为。实施步骤：1选择观察对象 2 确定调查范围
2.评价研究有哪些类型
答:评价研究大致可分为诊断性评价、形成性评价和总结性评价。
1.诊断性评价是在事物发展过程的某一阶段开始之前所作的评价，它的目的是为了摸清条件、基础，发现问题，诊断原因，根据评价的结果，修订阶段发展目标，提出知道发展的计划。
信息管理学复习资料【重点】
管理信息学复习要点第一章科学的信息定义：信息是对客观世界中各种事物的运动状态和变化的反映，是客观事物之间相互联系和相互作用的表征，表现的是客观事物运动状态和变化的实质内容。
信息的特征客观性普遍性不完全性依附性价值性时效性可传递性可存储性可扩散性共享性可加工性有用性数据、信息和知识数据是客观记录、分类和存储，它不被用来传递任何特定意义。
可以是数值、字符(串)、图、声音、图像/图片等。
－－－语法信息信息是被组织起来、对接受者有特定意义的数据。
它可能是一些接受者知道的，也可能不知道但接受者自己能解释。
－－－语义信息知识通过对数据的加工、提取形成的有重要应用前景、能反映过去经验、具有价值性的数据。
－－－语用信息信息资源的三要素：信息生产者：是为某种目的生产信息的劳动者，包括原始信息生产者、信息加工者或信息再生产者。
信息：既是信息生产的原料，也是信息生产的产品，是信息生产者的劳动成果，对社会各种活动直接产生效用，是信息资源的目标要素。
信息技术：是能够延长或扩展人的信息能力的各种技术的总称，是对声音、图像、文字等数据和各种传感信号的信息进行收集、加工、存储、传递和利用的技术。
信息技术作为生产工具，对信息收集、加工、存储与传递提供支持与保障。
在信息资源中，信息生产者是最关键的因素，因为信息和信息技术都离不开人的作用，信息是由人生产和消费的，信息技术也是由人创造和使用的。
信息资源的特征信息资源作为经济资源的一种，它具有经济资源的共同特征即需求性、稀缺性和对象的选择性。
信息资源作为一种独立存在的资源，它也有其自身特有的特征，如可共享性、无穷无尽性和驾驭性等。
信息科学信息科学是研究信息运动规律和应用方法的科学，是由信息论、控制论、计算机、人工智能和系统论相互渗透相互结合而成的一门新兴综合性学科。
其支柱为系统论、控制论和信息论。
信息论是信息科学的前导，是一门用数理统计方法研究信息的度量、传递和交换规律的科学。
信息论的主要研究内容。
信息科学原理复习资料
第一章1.科学技术发展四大规律：辅人律、拟人律、共生律、互动律2.信息科学是以信息作为主要研究对象、以信息过程的运动规律作为主要研究内容、以信息科学方法论作为主要研究方法、以扩展人的信息功能作为主要研究目标的一门科学。
3.信息科学的研究对象：以信息作为主要研究对象，这是信息科学区别于其它科学的最根本支之处。
4.信息科学的研究内容：①探讨信息的定性本质；②研究信息的定量测度；③研究信息过程的基本规律，包括信息获取、传递、认识、再生和实效基本规律；④揭示利用信息优化系统的原理和方法；⑤构建信息科学的方法论。
5.信息科学的研究方法：①信息系统分析方法；②信息信息系统综合法；③信息系统进化方法。
两个准则：①功能准则；②整体准则。
6.信息科学的研究目标：扩展人类的信息功能，即——扩展人类的智力能力。
第二章1.全信息：同时考虑语法信息、语义信息和语用信息。
显然，认识论层次的信息是一种全信息。
语法信息——只考虑运动状态及其变化方式的外在形式因素的信息部分；语义信息——只考虑运动状态及其变化方式的含义因素的信息部分；语用信息——只考虑运动状态及其变化方式的效用因素的信息部分；2.Shannon信息的特征：服务于通信系统，是一种具有统计特性的语法信息。
全信息的特征：从信息全过程考察信息的作用。
全信息与Shannon信息的联系：作为统计型语法信息理论的Shannon信息论是“全信息理论”的一个特殊情形。
3.统计型语法信息——是指“事物运动状态及其变化方式”可以用统计规律来描述。
显然，还有一些“事物运动状态及其变化方式”不是统计型的，是“非统计型”的。
这就是模糊型语法信息和偶发型语法信息。
4.模糊型语法信息——事物运动的状态之间的界限不是清晰的，是模糊的；状态变化方式可以是确定的、随机的或半随机的。
5.偶发型语法信息——事物运动的状态是明晰的，变化方式是“半随机型的”；即不符合统计规律，无法稳定重复或不能重复。
6.信息的特征（从信息科学的角度归纳）：①信息来源于物质（或精神），但不是物质（或精神），可以脱离物质（或精神）而独立存在；②信息与能量密切相关，处理信息需要能量，驾御能量则需要信息；③信息本身不等于知识，但可以转化为知识；④信息是具体的，可以被感知、处理和利用；⑤信息可以被复制、共享，“交换”信息=共享信息；⑥语法信息在传递处理过程中不会增值；⑦在封闭系统中，语法信息的最大可能值不变。
《信息论、编码与密码学》课后习题答案资料
《信息论、编码与密码学》课后习题答案第1章 信源编码1.1考虑一个信源概率为{0.30，0.25，0.20，0.15，0.10}的DMS 。
求信源熵H （X ）。
解： 信源熵 ∑=-=512)(log )(k k k p p X HH(X)=-[0.30*(-1.737)+0.25*(-2)+0.2*(-2.322)+0.15*(-2.737)+0.1*(-3.322)]=[0.521+0.5+0.464+0.411+0.332] =2.228(bit)故得其信源熵H(X)为2.228bit1.2 证明一个离散信源在它的输出符号等概率的情况下其熵达到最大值。
解： 若二元离散信源的统计特性为P+Q=1 H(X)=-[P*log(P)+(1-P)*log(1-P)] 对H(X)求导求极值，由dH(X)/d(P)=0可得211101log ==-=-p ppp p可知当概率P=Q=1/2时，有信源熵)(1)(max bit X H =对于三元离散信源，当概率3/1321===P P P 时，信源熵)(585.1)(m ax bit X H =，此结论可以推广到N 元的离散信源。
1.3 证明不等式ln 1x x ≤-。
画出曲线1ln y x =和21y x =-的平面图以表明上述不等式的正确性。
证明：max ()ln 1(0)1()()01001()0()0ln 11ln 1ln 1f x x x x f x xf x x x x f x f x f x x x x x x x =-+>'=''==>∴<≤>≤=≤-≥≤-≤-令，又有时此时也即当时同理可得此时综上可得证毕绘制图形说明如下 可以很明确说明上述 不等式的正确性。
1.4 证明(;)0I X Y ≥。
在什么条件下等号成立？1111(,)(,)(,)(,)log()()n mi j i j i j n mi j i j i j i j I P x y I x y P x y P x y P x P y =====∑∑∑∑（X ；Y ）=当和相互独立时等号成立。
信息论与编码(第二版)习题答案,陈运,主编
信息论与编码(第二版)习题答案,陈运,主编篇一：信息论与编码复习资料重点陈运第二版 2.3 居住某地区的女孩子有25%是大学生，在女大学生中有75%是身高160厘米以上的，而女孩子中身高160厘米以上的占总数的一半。
假如我们得知“身高160厘米以上的某女孩是大学生”的消息，问获得多少信息量？解：设随机变量X代表女孩子学历 X P(X) x1（是大学生） 0.25 x2（不是大学生） 0.75 设随机变量Y代表女孩子身高 Y P(Y) y1（身高 160cm） 0.5 y2（身高 160cm） 0.5 已知：在女大学生中有75%是身高160厘米以上的即：p(y1/x1)?0.75 bit 求：身高160厘米以上的某女孩是大学生的信息量即：I(x1/y1)??logp(x1/y1)??log p(x1)p(y1/x1) p(y1) ??log 0.25?0.75 0.5 ?1.415 bit 2.4 设离散无记忆信源? ??x1?0??? ?P(X)??3/8? X x2?1x3?21/4 1/4 x4?3? ?，其发出的信息1/8? 为(202120130213001203210110321010021032011223210)，求 (1) 此消息的自信息量是多少？ (2) 此消息中平均每符号携带的信息量是多少？解： (1) 此消息总共有14个0、13个1、12个2、6个3，因此此消息发出的概率是： ?3?p??? ?8?14 ?1?????4? 25 ?1???? ?8? 6 此消息的信息量是：I??logp?87.811 bit (2) 此消息中平均每符号携带的信息量是：I/n?87.811/45?1.951 bit 2.5 从大量统计资料知道，男性中红绿色盲的发病率为7%，女性发病率为0.5%，如果你问一位男士：“你是否是色盲？”他的回答可能是“是”，可能是“否”，问这两个回答中各含多少信息量，平均每个回答中含有多少信息量？如果问一位女士，则中含有的平均自信息量是多少？解：男士：p(xY)?7% I(xY)??logp(xY)??log0.07?3.837 bitp(xN)?93% I(xN)??logp(xN)??log0.93?0.105 bit 2 H(X)???p(xi)logp(xi)??(0.07log0.07?0.93log0.93)?0.366 bit/symbol i 女士： 2 H(X)???p(xi)logp(xi)??(0.005log0.005?0.995log0.995)?0.045 bit/symbol i 2.7 同时掷出两个正常的骰子，也就是各面呈现的概率都为1/6，求：(1) “3和5同时出现”这事件的自信息；(2) “两个1同时出现”这事件的自信息； (3) 两个点数的各种组合（无序）对的熵和平均信息量； (4) 两个点数之和（即2, 3, ? , 12构成的子集）的熵； (5) 两个点数中至少有一个是1的自信息量。
信息论-复习资料(傅祖芸版本)
即：传递信息，消除不确定性。
31
2.2.2 信息熵
对一个信源发出不同消息所含有的信息量也不同。所以 自信息I(ai)是一个随机变量，不能用它来作为整个信源 的信息测度。
信息熵：自信息的数学期望，平均自信息量Hr(X)：
Hr (X ) Elogr
1 p(ai
)
q i 1
p(ai
26
2.2 离散信源的信息熵
基本的离散信源： 输出单符号消息，且这些消息间两两互不相容。用一
维随机变量X来描述信源的输出，其数学模型可抽象为:
X P(x)
a1 P(a1
)
a2 P(a2 )
a3 P(a3 )
... ... ... ...
aq
P(aq )
q
P(ai ) 1
i 1
问题：这样的信源能输出多少信息? 每个消息的出现携带多少信息量?
... ... ... ...
aq P(aq )
▪概率空间能表征离散信源的统计特性，因此也称概率空
间为信源空间。
21
2、随机矢量描述的信源
1）平稳信源
特点:
信源输出的消息由一符号序列所组成。 可用N维随机矢量 X＝(X1,X2,…,XN)描述，且随机矢量 X的各维概率分布都与时间起点无关 。
离散平稳信源：每个随机变量Xi (i＝1,2,…,N)是取值离 散的随机变量。
（下标1-N为时间标志）
N
P(X) P( X1X 2 X N ) P( Xi )
i 1
若各随机变量Xi取值同样符号集A:{a1,a2,…,aq}，则
N
P(x i ) P(ai1ai2 ,..., aiN ) P(aik ), ik (1,2,..., q) k 1
第四章 思想信息的获取方法
（二）思想信息 1、定义：在思想工作系统中得到利用、
并进行传递和交换的信息。 2、特点：模糊性。（“知人知面难知
心”）
2020/4/8
二、获取思想信息的途径和时机 （一）获取思想信息的途径 1、从人们生活和工作的客观条件入手 2、从人们所从事的本质工作入手 3、从人们之间的相互关系入手 4、从分析社会环境入手
（3）信道。用来传播消息的载体，如广 播电台、电视台、书刊等。
2020/4/8
（4）噪音。信号中携带的杂质。噪音是 相对于某一传播消息而言的，因此，可以 把它理解为次要消息或反向消息。
（5）译码。解读符号并使其恢复原意的 过程。
（6）信宿。信息的接受体，信息最终到 达的归宿。
2020/4/8
信息传播过程图
信源 消息 编码 信号 信道 信号和噪音 译码 消息 信宿
→
→
→
→
2020/4/8
七个基本要素：信源、消息、编码、信道、 噪音、译码、信宿
（1）信源。发出信息的来源，可以是人 或自然界的各种物质。
（2）编码。把要传播的消息符号化的过 程，编码的方法已发展到图、文、音等多 种形式。
无法使调查深入细致；二是需要花费大量 的人力、物力和财力。
2020/4/8
（四）抽样调查法 1、定义：是从研究对象的总体中按照一定的方法
选择部分对象进行调查，并将其结果推论到原来 的总体。 2、分类 （1）随机抽样，即从总体中随机选择调查对象， 常用于情况复杂，人数众多，差异较大的群体。 （2）非随机抽样，即根据调查者的需要，选取 某些特点的对象进行调查，主要适用于目的性较 强的调查。
2020/4/8
2、文献调查法的要求 (1)内容有针对性； (2)数量上要充足； (3)形式上要多样； (4)时序上要连续； (5)重视原始资料； (6)摘取情报要求新； (7)对文献进行必要的鉴别。
中国院校研究需要实证研究范式
中国院校研究需要实证研究范式Ξ徐海涛(华中科技大学 教科院,湖北 武汉 430074)【关键词】院校研究;范式;实证研究范式【摘 要】中国的院校研究正处于起步阶段,怎样与国际接轨、同时立足于中国的国情逐渐形成中国的院校研究学派,是摆在中国院校研究者面前的一个重要问题。
要形成有中国自己特色的院校研究,必须要重视符合中国国情的科学的院校研究范式。
中国的院校研究需要科学的实证研究范式。
本文主要从哲学方法论、研究方式、研究技术三个层面,重点介绍院校研究中的实证研究范式,为完善中国的院校研究方法提出一条思考的路径。
【中图分类号】G 640 【文献标识码】A 【文章编号】C N53-1011/G 4(2003)36-0005-04 院校研究(Institutional Research )是把现代管理科学和高等教育科学研究成果应用于高等学校管理,旨在提高高等学校管理水平的一门学科和一个实践领域。
[1]院校研究协会1999年给院校研究下的定义是,“院校研究是促进对高等院校计划管理与运行的理解,并促使其得以改进的研究。
”院校研究产生于20世纪60年代的美国,是二战后美国高等教育大发展中“高等教育管理革命”的产物。
对于中国而言,院校研究还是一个新鲜事物。
从院校研究的发展与实践来看,院校研究的特点主要表现为三个方面:第一,院校研究的重心是高等学校,侧重于微观研究而不是宏观研究;第二,院校研究着力研究一切与高校管理有关的问题;第三,院校研究既是一个学术领域也是一个实践领域。
[2]从这些特点可以看出,跨学科研究是其最突出的特色,实践性是其最根本的特性。
院校研究是一种行动研究。
院校研究强调数据(这里的“数据”是广义上的,下同),以数据为基础;数据收集是院校研究的起点问题,数据分析是院校研究的中央过程和重要环节。
院校研究可以看成是这样一个流程:把数据(Data )转化成信息(In form ation )、由信息形成文本向信息需知者提供报告(Report )。
《信息检索与利用1》学习资料
【题目】下列属于一次文献的有（）。
A.私人笔记
B.期刊论文
C.专著
D.会议记录
【标准答案是】：专著,期刊论文
【题目】文献的3个基本要素是（）。
A.载体
B.记录
C.材质
D.知识
【标准答案是】：知识,载体,记录
【题目】信息社会人们必须具备的素质有（）。
A.信息道德
B.信息意识
D.会议记录
【标准答案是】：学术论文
【题目】三次文献也称为（）。
A.灰色文献
B.原始文献
C.检索文献
D.参考性文献
【标准答案是】：参考性文献
【题目】以下哪个不是纸质文献的记录手段（）。
A.胶印
B.雕刻
C.油印
D.手写
【标准答案是】：雕刻
【题目】攻关型检索要求既快又准地提供关键性信息。由于时间比较紧迫，宜用（）迅速查得最新技术信息。
C.信息能力
D.信息制造
【标准答案是】：信息意识,信息能力,信息道德
【题目】不属于文献信息源特点的是（）。
A.稳定性
B.即时性
C.可控性DΒιβλιοθήκη 系统性【标准答案是】：即时性
【题目】不属于文献内容特征的是（）。
A.学科范围
B.主题词
C.著者
D.主题
【标准答案是】：著者
【题目】没有检索工具可供利用的前提下，采用（）检索较为实际
D.声像型文献
【标准答案是】：印刷型文献,缩微型文献,声像型文献,机读型文献
【题目】我们课程中所谓“文献检索”，主要是（）的检索。
A.二次文献
B.三次文献
C.一次文献
D.零次文献
李砚祖编著《艺术设计概论》考研核心笔记
第五章设计方法、程序与管理第一节设计方法学一、概论设计学科中，设计方法及程序是最具操作性的理论，是由实践总结出的理论，具有普遍性，是发展变化着的。
方法：方法是为解决问题或达到某一目的而采取的手段的总和。
方法论：方法论是关于方法的理论，包括建立知知识体系的方法和扩展知识、补充新知识的方法，方法论又称为方法学。
科学方法论：科学方法论从经验到哲学有不同层面，大致可分为：（1）作为技术手段、操作规程的经验层面.（2）作为各门类科学具体研究对象的具体方法层面.（3）作为科学研究一般方法层面，适用于各学科。
（4）作为最一般科学方法的哲学层面，各种科学方法论的哲学层面上最终所体现的即是唯物辨证方法论。
设计方法论：（1）是设计学科的科学方法率，是关于认识和改造广义设计的根本科学方法的学说。
（2）是设计领域最一般规律的科学。
它涉及诸多领域，作为一门学科是20 世纪60 年代兴起和发展起来的，经历了直觉设计阶段、经验设计阶段、中间试验辅助设计阶段与现代设计法四个阶段。
（3）设计方法是在设计实践中产生和发展起来的，也是在与其他学科方法的交流与学习中发展的，设计方法学及其范畴在许多层面上即是自然科学和人文社会科学的方法和范畴。
设计方法学派：从地区而言，不同的国家、地区有不同的设计方法的运用和理解，形成了所谓的“方法学派”，在广义设计方法上国外主要有三大学派：（1）德国与北欧的机械设计方法学派，以“解决产品设计课题进程的一般性理论，研究进程模式、战略与各步骤相应的战术”作为设计方法学的基本定义；（2）英、美、日等国的创造设计学派，它们重视设计中的创造性发挥；（3）俄罗斯、东欧的新设计方法学派，其理论建立在宏观工程设计基础上，思路开阔，提倡发散、变性、收敛三部曲的设计程式。
现代设计方法：（1）它是一门综合科学；（2）包括：综合法、移植法、杂交法、改变法、扩大法、缩小法、转换法、代替法、倒转法、重组法。
（扩散发现技法、综合集中技法、培养技法）现代设计方法理论包括：(预备填空题或名词解释)现代设计方法论包括突变论、信息论、智能论、系统论、智能论、优化论、对应论、控制论、离散论、模糊论、艺术论的内容。
信息经济学复习资料
1、信息熵的概念是信息论的奠基人香侬提出的。
2、香侬的信息熵公式为：3、纳什均衡的定义：当且仅当没有任何一个参与者能够通过单方面背离均衡战略而增加收益时，该战略组合形成纳什均衡。
4、纳什均衡与占优战略均衡及重复剔除的占优均衡之间的关系（1）占优均衡一定是纳什均衡，即每一个占优战略均衡、重复剔除的占优均衡一定是纳什均衡，但并非每一个纳什均衡都是占优战略均衡或重复剔除的占优均衡。
（2）纳什均衡一定是在重复剔除严格劣战略过程中没有被剔除的战略组合，但没有被剔除的战略组合，但没有被剔除的战略组合不一定是纳什均衡，除非他是唯一的。
5、在两人的有限博弈中，有一个求得纳什均衡的简单方法——划线法：先考虑A 的战略，对于第一个给定的B 的战略，找出A 的最优战略，在其对应的支付下面画一横线；然后用同样方法找出B 的最优策略。
在完成这个过程中，如果某个支付格内的两个数字都有横线，则这个数字格对应的战略组合就是一个纳什均衡。
6、委托代理关系：一般的委托－代理关系泛指在任何一种涉及不对称信息的交易（合同、协议）中参与者之间的经济关系。
掌握信息多、处于信息优势的一方称为代理人，掌握信息少、处于信息劣势的一方称为委托人。
简单的说，“知情者”是代理人，“不知情者”是委托人。
也就是说，只要在建立或签订合同前后，市场参加者双方掌握的信息不对称，这种经济关系都可以被认为属于委托－代理关系。
7、代理人的实际收益函数： u1= w-C(a) u2=y-w8、最优行动的必要条件：C ′(a*)=1 a*是代理成本9、委托-代理模型主要研究问题道德风险：又称败德行为。
它是指在签订合同之后，代理人利用隐藏信息或隐藏行动，使其自身效用最大化的同时损害了委托人或者其他代理人效用的行为。
逆向选择：实在签订合同之前，代理人已经掌握某些委托人不掌握的信息，而这些信息可能对委托人是不利的。
处理信息优势的代理人可以利用这些信息签订有利于自己的合同，而委托人则可能由于处于信息劣势而做出对自己不利的选择。
《信息论》申农
第68篇信息论（1）—《信息论》的创始人申农作者：中国医药信息学会北京分会后现代理论医学专业委员会主任委员杨鸿智一概括介绍克劳德?艾尔伍?申农是美国数学家，美国全国科学院院士。
信息论的创始人。
1916年 4月30日生于美国密歇根州盖洛德城。
1936年在密歇根大学毕业获理学士学位，1940年在麻省理工学院获理学硕士和哲学博士学位。
1941～1956年间任贝尔电话实验研究所数学研究员。
1956年到麻省理工学院任教，先后担任客座教授、教授，1958年后为终身教授。
1957～1958年间还担任过斯坦福行为科学高级研究中心的研究员。
1956年当选为美国全国科学院院士。
他是美国无线电工程师学会和美国数学会的高级会员。
曾获电气和电子工程师学会(IEEE)的诺布尔奖，美国无线电工程师学会的利布曼奖，富兰克林学会的巴兰坦奖章(1955)，美国全国研究协会奖(1956)和哈维奖。
香农在1948年发表《通信的数学理论》，1949年发表《噪声中的通信》。
这两篇著名论文奠定了信息论的基础。
1949年发表《保密系统的通信理论》，使他成为密码学的先驱。
他在1956年与J.麦卡锡合编的著名论文集《自动机研究》是自动机理论方面的重要文献。
他的博士论文《关于类的古典布尔代数方法在电工开关系统研究中的应用》，是数字控制系统和计算机科学的先驱工作。
克劳德?艾尔伍?申农是创造了信息时代的巨人之一。
约翰?冯诺伊曼和阿伦?图灵等人发明了计算机，让信息处理成为可能，而克劳德?申农则提出了现代的信息概念。
如果高科技行业仿照拉什摩尔山雕筑四大伟人的头像的话，克劳德?申农定会出现在其中。
完整的信息论科学肇始于申农1948年发表的一份论文，时年32岁的申农是贝尔实验室的一名研究员。
文中，他说明了怎样定义并准确量化一度还很模糊的信息概念，指出了各种信息媒介之间必然的联系：文字、电话信号、无线电波、影像等等通讯交流方式，都能够编码为一种二进制的通用语言——比特，这也是“比特”（ｂｉｔ）一词第一次出现在文字上。
- 1、下载文档前请自行甄别文档内容的完整性，平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益，请联系客服反馈,我们会尽快为您处理(人工客服工作时间：9:00-18:30)。
通信结束之后，信宿仍然具有一定程度的不确定性。
这就是后验不确定性，用条件熵表示H（U/V）。
后验不确定性总要小于先验不确定性:
H（U/V）< H（U）如果后验不确定性的大小正好等于先验不确定性 的大小，这就表示信宿根本没有收到信息。
如果后验不确定性的大小等于零，这就表示信宿
（2）消息（符号）Ui（i=1，2，...，q）的发生概率P（Ui）
组成信源数学模型（样本空间或概率空间）
U1 U2 Uq U , P P(U ) P(U ) P(U ) 1 2 q
（3.5）
（3）自信息:消息Ui发生后所含有的信息量。它反映了消息 Ui发生前的不确定性（随机性）。定义为：
信息熵 H （ U）是信源输出前的平均不确定性， 也称先验熵。 H（U）的性质: （1 ）H （U） =0时，说明只存在着唯一的可能性， 不存在不确定性。 （ 2 ）如果n 种可能的发生都有相同的概率，即所 有的 Ui有 P（ Ui）=1/n ，H（ U）达到最大值 log n ， 系统的不确定性最大。
收到了全部信息。
可见，信息是用来消除（随机）不确定性的度量。 信息量用互信息来表示，即：
I（U，V）＝H（U）－ H（U/V）
互信息的计算
1．定义
（ 1 ）设 S 为训练集，有 n 个特征（属性），表示为（ A1 ，
A2，...，，An）。｜S｜表示例子总数。 （2）S中有U1，U2两类。｜Ui｜表示Ui类例子数。 （3）特征Ak处有m个取值，分别为（V1，V2，...，，Vm）。 2．Ui类出现概率为:
P（Ui）互相接近，H（U）就大。P（Ui）相差 大，则H（U）就小。
7．互信息
(1)后验熵和条件熵
当没有接收到输出符号 V时，已知输入符号U的概率分布为P （U），而当接收到输出符号V=Vj 后，输入符号的概率分布 发生了变化,变成后验概率分布P（U|Vj）。其后验熵为：
1 H (U | V j ) P(U i | V j ) log P(U i | V j ) i
在疑义）。 从上面分析可知：条件熵小于无条件熵，即 H（U|V）<H（U）。 说明接收到符号集V的所有符号后，关于输入符号U的平均不 确定性减少了。即总能消除一些关于输入端 X 的不确定性， 从而获得了一些信息。
（2）平均互信息 定义: I（U,V） = H（U） H（U|V） （3.10） I（U,V）称为U和V之间的平均互信息 .它代表接收到符号集 V后获得 的关于U的信息量。 可见，熵（ H （ U ）、 H （ U|V ））只是平均不确定性的描述。熵差 （H（U） H（U|V））是不确定性的消除，即互信息才是接收端所获 得的信息量。 对输入端U只有U1，U2两类，互信息的计算公式为:
那么接收到输出符号V=Vj后，关于U的平均不确定性为：
1 H (U | V ) P(V j) P(U i | V j ) log P(U i | V j ) j i
这是接收到输出符号Vj后关于U的条件熵
这个条件熵称为信道疑义度。它表示在输出端收到全部
输出符号V后，对于输入端的符号集U尚存在的不确定性（存
P（Ui）=｜Ui｜/｜S｜
自然有
（3.1）
P(U
i 1
2
i
) 1
3．Ui类中在特征Ak处取值Vj的例子集合Vij的条件概率为: P（Vj｜Ui）=｜Vij｜/｜Ui｜ 自然有 （3.2）
P(V
j 1
m
j
|U i ) 1
4．在特征Ak处，取Vj值的例子集合的概率为: P（Vj）=｜Vj｜/｜S｜ 自然有 （3.3）
P(V
j 1
m
j
) 1
5．在特征Ak处取Vj值的例子，属于Ui类的例子集合 Uij的条件概率为:
P（Ui｜Vj）=｜Uij｜/｜Vj｜ （3.4）
自然有
P(U
i 1
2
i
|V j ) 1
6．信息熵
（ 1 ）消息传递系统由消息的发送端（信源）和接收端（信
宿）以及连接两者的通道（信道）三者组成。
在进行了通信之后，信宿收到了信源发来的信息， 这种先验不确定性才会被消除或者被减少。
如果干扰很小，不会对传递的信息产生任何可察
觉的影响，信源发出的信息能够被信宿全部收到，
在这种情况下，信宿的先验不确定性就会被完全
消除。
在一般情况下，干扰总会对信源发出的信息造成某种
破坏，使信宿收到的信息不完全。
u1,u2….ur
信道
P(V|U)
V
v1,v2….vr
在进行实际的通信之前，收信者（信宿）不可
能确切了解信源究竟会发出什么样的具体信息， 不可能判断信源会处于什么样的状态。
这种情形就称为信宿对于信源状态具有不确定
性。而且这种不确定性是存在于通信之前的。因 而又叫做先验不确定性，表示成
信息熵 H（U）
1 （3.6） log P(U ) I (U i ) log i P(U i ) 以2为底，所得的信息量单位为bit。以e为底，所得的信息量
单位为nat. （4）信息熵:自信息的数学期望。即信源输出后，每个消息
所提供的信息量，也反映了信源输出前的平均确定性。定义
为:
1 H (U ) P(U i ) log P(U i ) log P(U i ) P(U i ) i i
（3.7）
例如:两个信源，其概率空间分别为: Y b1 b2 X a1 a2 P(Y ) 0.5 0.5 P( X ) 0.99 0.01
则信息熵分别为:
H（X）= - 0.99 log0.99 - 0.01 log0.01 = 0.08 bit
H（Y）= - 0.5 log0.5 - 0.5 log0.5 = 1bit 可见 H（Y）>H（X） 故信源Y比信源X的平均不确定性要大。
第7章
信息论方法 （一）
7.1
信息论原理
7.2
决策树方法
7.1 信息论原理
信息论是C.E.Shannon为解决信息传递（通信）过程问题而 建立的理论，也称为统计通信理论。
1. 信道模型
一个传递信息的系统是由发送端（信源）和接收端（信宿） 以及连接两者的通道（信道）三者组成。
信源
信宿
U