第5章 基于Agent的复杂系统建模与模拟方法

（2）通信方式
主体之间常用的通信机制有三种：


黑板机制 邮箱机制 消息传递机制
（3）交互协议
交互协议定义了主体之间为了进行协作，实现 某个特定目标而进行交互的结构化消息。 FIPA对一些典型的对话定义了交互协议，





请求(request) 查询(query) 合同网(contract-net) 代理(broking) 订阅(subscribe) 建议(propose)
对主体而言，学习的含义是

（1）强化学习
基本思想：

如果某个行动引起的后果较好，则在以后增加使用 该行动的可能，反之则减少。
强化学习主体的一般结构 ：
Agent 状态st 回报rt rt+1 环境 st+1 行为at
目标是学习一个策略π：S→A，使系统选择的动作能够获得回报的累计值最大。
Roth-Erev算法
概率计算
将倾向转换为选择概率有多种方法，较简单的 一种是计算相对倾向作为概率：
p j (t )
[q
q j (t )
m
(t )]
（2）遗传算法
基本思想：



首先将状态-行动对表达为染色体， 然后主体在动态环境中感知状态→选择行动→得到 回报→计算适应度， 根据个体适应度指标淘汰低适应度个体， 染色体之间进行交叉，以小概率发生变异，产生下 一代种群，重复进行…。
例：多人囚徒困境博弈
状态State=(上次行动，上轮对手行动) 主体的行动有两种：合作=1，欺骗=0 有四种可能的状态，编码为

状态1为(1,1),2为（1，0）,3为(0,1),4为(0,0)
个体的一个策略就可以用位串表示 例如针锋相对（TFT）策略就是：


则该策略可以编码为（1 1 0 1 0），表示初次选择行 动1，以后若状态为1则选择1，若状态2则选择0，状 态3则选择1，状态4则选择0。
（2）Agent的定义
研究人员对Agent的理解并不一致，至今还没有一个 普遍接受的关于Agent的定义。 “Agent”一般用来描述自包含的、能感知环境并能在 一定程度上控制自身行为的计算实体。 Hewitt:“什么是主体对于基于主体的计算来说是个尴 尬的问题，就像主流的人工智能研究中什么是智能这 个问题一样”
E {e0 , e1 , e2 ,}
主体有一个可执行动作集合
A {a0 , a1 , a 2 ,}
主体在环境中的一次执行r是环境状态与主体动作的一个交替序 列：
u 1 r : e0 a0 e1 a1 e2 a2 a eu
主体的动作决策部件可以定义为以下函数：Choose: E * A
（2）面向对象技术
为每类主体设计相应的类，用属性表达主体的 内部状态，用方法表示主体的行为。 多主体系统中的主体本质上是并发的。主体的 主动性和并发性需要在面向对象框架中采用一 定的技术手段进行模拟。
5.3.2 主体的学习算法
学习是智能生物的一个重要特征

如果一个系统能够通过执行某个过程改进他的性能， 我们就认为它有学习能力。 主体根据所观察到的事件，在连续交互过程中结构 化的修改行为策略，改进它的性能。

主体之间通过相互作用构成一个多主体系统 以这样的多主体概念模型为基础通过仿真计算展开研究。
仿真模型 虚实世界 校核 组成 计算实体 转换 概念模型 反馈 主体交互模型 仿真结果 运行
多 主 体 仿 真 基 本 过 程
各类主体模型 反馈 抽象 识别微观个体
校核、验证
分析
结论 初步验证 假设
实际系统
基本要素：事件/主体 状态变化：串行/并发 结构变化：无/有 学习适应：无/有
5.2.3 与其它仿真方法的比较
（2） 与微观分析模拟的区别
应用目的：政策效果/理论揭示 个体动机：无/有 个体交互：无/有
5.2.3 与其它仿真方法的比较
（3）与元胞自动机的区别 空间结构：规则/灵活 个体记忆：无/有或无 学习推理：一般无/一般有 交互结构：临近/网络
初始化：选择各行动的倾向（Propensity） 重复:


根据各个行动的倾向计算选择概率 按概率选择行动 根据该行动的回报调整其倾向
返回
行动倾向的更新方法：
q j (t 1) [1 ]q j (t ) E j ( , k , t )
rk (t )[1 ] if j k E j ( , k , t ) q j (t ) N 1 if j k
第5章 基于Agent的复杂系统 建模与模拟方法
本章内容
主体与多主体系统 多主体建模与仿真 多主体模型的实现 多主体仿真在社会科学中的应用 Aspen多主体经济模型
5.1 主体与多主体系统
5.1.1 主体概念 （1）主体的来源
Agent ：主体，智能体，代理 来源于分布式人工智能领域 Minsky，1986《The Society of Mind》 1990s在人工智能领域得到重视 1990s~ 在其他领域广泛应用
社会能力(social ability)：

反应能力(reactivity)：

预动性(pro-activeness)：

（4）主体的强概念
主体的强概念主要应用在人工智能领域 认为主体是一个计算机系统，除了上述弱概念 说明的特性外，主体还应该具有人类的某些一 般特性，如知识、信念、意图、承诺等心智状 态，甚至具有情感等


有限视角，即每个主体都面临不完全信息，或只具备有限能 力； 没有系统全局控制； 数据分散； 计算是异步的
（3）多主体系统的结构
各个主体相对独立，主体之间可能存在复杂的 关系
Agent 交互 结构关系
作用范围 环境
主体之间的关系类型
结构相关
结构相关性是指不同主体之间具有结构关系，如小组 关系、上下级关系等。 这种结构关系将对系统中主体的运行以及主体之间的 相互作用产生影响。
要实现这样的主体，可以采用不同的结构。 所谓结构就是定义主体的基本成分以及各成分之间的 关系和交互机制。 对特定的应用场合采用某种结构可能会更自然，也更 容易理解。
（1）标准主体
主体
动作决策部件 感知输入 动作输出
环境
形式化
假设环境变化可以抽象为一个环境状态序列，环境在任何离散的 瞬时状态的有穷集合为:
影响较大的主体通信语言：

ACL 消息结构
一个ACL消息是由通信行为、通信内容以及一 组消息参数等几部分组成
通信动作类型 消息开始 消息内容表达式
消息参数
消息结尾
(inform :content (price(bid good2) 150) :sender agent1 :receiver auction-server :in-reply-to round4 :reply-with bid04 :languange KIF :ontology auction )
经济系统的特点：
5.2.2 多主体仿真研究框架
用多主体思想建立的复杂系统模型往往用仿真技术求 解。这样就形成了多主体仿真(Multi-Agent Simulation) 技术。 多主体仿真方法的本质特征是采用多主体视角建立实 际系统的概念模型 首先辨识组成实际系统的微观个体，将这些个体抽象为具
有自治性的主体，
初次选择行动1 if State 1,then choose action 1; if State 2,then choose action 0; if State 3,then choose action 1; if State 4,then choose action 0;
5.4 多主体仿真在经济中的应用
inform-result:inform [query-ref]
5.2 多主体建模与仿真
5.2.1 多主体建模思想 ABM：MAS是对人类或生物群体的自然隐喻，采用多主 体观点可以更自然的对这些系统建模，由此形成了基 于主体的建模方法（Agent-Based Modeling， ABM ）。 ABM的基本出发点是： 许多系统可以看作是由多个自治的主体构成的，主体 之间的相互作用是系统宏观模式出现的根源，通过建 立主体模型，可以更好的理解和解释这些系统。
（3）具有感知部件的主体
将标准主体的决策部件分解为感知子系统和动 作子系统，称为具有感知部件的Agent。
主体
感知 部件 感知输入 动作决策 部件 动作输出
环境
（4）具有状态部件的主体
一种与标准主体等价的表示方法，思路是认为 Agent具有内部状态
主体
感知 部件 状态 转换 动作决策 部件
状态
感知输入
5.1.2 多主体系统(Multi-Agent Systems)
（1）为什么需要多主体系统？

单一主体很难对存在于动态开放环境之中的大 规模复杂问题进行求解 。
人类智能本质上是社会性的，人们往往为解决复 杂问题组织起来，这些组织能够解决任何个人都 无法解决的问题。

（2）多主体系统的特点
概念：
多主体系统是由多个可以相互交互的主体所组成的系 统。 多主体系统的特点：
Initiator
query-if
Participant
query-ref
查 询 交 互 协 议
refuse [refused]
agree [agreed and notification necessary]
failure
inform-t/f:inform [query-if] [agreed]
5.3 多主体仿真的实现技术
5.3.1 主体构建技术 （1）产生式系统