计算广告的匹配算法综述

另外，有许多学者发现单纯的信息检索缺乏对上下文语 义情景的关注，对上述算法做出了不同程度的修正。本文将 详细介绍上述算法及其特点比较，并提出可行的改进方向。
2 计价模型
在介绍计算广告的匹配算法前，需要先对网络广告的计 价模型作描述，因为广告的最佳匹配并非单纯是关键词匹配，
而在于是否最终能够吸引潜在用户的注意。针对网络广告的 不同类型，流行的计价模型有以下 3 种：
3.2 基于机器学习 与信息检索方式不同，基于机器学习的广告匹配计算是
通过收集用户点击的反馈(click feedback)进行的。因为大多数 情况下，只有确实吸引了用户点击的广告才能真正为发布商 和广告商带来收益。对于机器学习来说，点击反馈是一种低 成本、自动化的学习机制，通常大型的广告网络总是能产生 大量的点击数据。
够通过某个统计语言模型根据自然语言在现实中的使用场景
所生成。那么接下来的问题就变成如何通过语言模型生成，
去判断用户与广告之间的相关度。采用模型如下：
P(d )
=
tft1,d
Ld ! !tft 2,d !"!tftM ,d
⋅ !
P (t1 )tft1 ,d
P(t2 )tft2 ,d
" P(tM
)tftM
,d
其中， Ld ! 表示文档关键词的总长度； tft1,d ! 表示检索词的出
现频度；P(t1)tft1,d 则表示检索词出现的概率，用来作为此模型
的主要参数。基于 Multinomial 模型的广告匹配如图 1 所示。
图 1 基于 Multinomial 模型的广告匹配
利用 Multinomial 模型计算广告匹配程度算法过程如下：
l b − odds(Pr(Click | Q, A)) = q' ⋅W ⋅ a
W 具体值需要通过点击数据的学习做调整。基于特征的
模型容易因为向量维数的增长而遇到瓶颈，并且很难对数据
进行规范化，对消极事件也采用同样的权重。
文 献 [3] 提 出 一 个 通 过 点 击 反 馈 学 习 结 合 相 关 度 计 算 的
(1) CPM 模型 图像类广告主要采用该计价模型，因为图像广告得到展 示，品牌印象就可以传播出去，具体的模型如下： Revenue = N ⋅CPM 其中，N 为图像广告所在页面被加载的总次数；CPM 的价格 由广告发布商通过竞价结果得到。 (2)CPC 模型 与图像类广告不同，文本类广告主要是吸引用户实际进 行点击的行为。具体的模型如下： Revenue = N ⋅CTR ⋅CPC 其中，CTR 表示用户在该页面上可能对广告进行实际点击的 概率。同样，CPC 需要通过如关键词竞价等方式得到最终的 价格。文献[1]提出了 GFP、GSP 竞价理论，对 CPC 的市场 竞价进行了优化。同类的理论还有 VCG 等。 (3)CPA 模型 采用该类模型要求用户不仅对广告发生实际点击，而且 还需要被导向广告商的页面去。具体的模型如下： Revenue = N ⋅CTR ⋅Conv.Rate ⋅CPA 其 中 ， Conv.Rate 表 示 用 户 点 击 与 实 际 广 告 页 面 加 载 的 转 换率。
第 37 卷 第 7 期 Vol.37 No.7
计算机工程 Computer Engineering
·人工智能及识别技术·
文章编号：1000—3428(2011)07—0222—03 文献标识码：A
计算广告的匹配算法综述
2011 年 4 月 April 2011
中图分类号：TP18
郭庆涛，郑 滔
(南京大学软件学院，南京 210093)
3.1.2 Okapi BM25 算法
利用由文献[2]提出的 Okapi BM25 算法，可以对广告匹
配进行分值计算。该算法中对使用 TF-IDF 值对不同的关键词
进行加权，突出信息区分度较高的关键词，从而提高了检索
匹配的精度。
BM25(Q, D) = ∑ IDF (w) ⋅
w∈Q
TF (w, D) ⋅ (k1 + 1)
⋅
D
TF (w, D) + k1 ⋅ (1 − b + b ⋅ D )
avg
(k3 + 1) ⋅ TF (w,Q) k3 + TF (w,Q)
IDF (w) = l b N − n(w) + 0.5 n(w) + 0.5
其中， D 表示文本的关键词数量； D 则表示所有待检索 avg
文本的平均关键词数量； k1 、 k3 和 b 为自由参数( k2 = 0 )， 通常取值分别为 2、1 000 和 0.75；N 为待检索文本的总数量； n(w)表示包含关键词 w 的文以提 供自由参数进行调优，从而易于达到很好的性能。
3.1.3 Multinomial 语言模型
基于统计的语言模型自 1998 年便开始被应用到信息检
索领域，Ponte 和 Croft 是最早的倡导者。Multinomial 语言模
型是基于 Claude Shannon 在信息论研究中所提出的字母序列
可能的概率分布。其基本原理是，用户检索以及广告文本能
3 广告匹配计算
3.1 基于信息检索 有学者指出，将用户检索信息当作关键字，广告文本作
基金项目：国家“863”计划基金资助项目(2007AA01Z448)；国家 自然科学基金资助项目(60773171) 作者简介：郭庆涛(1985－)，男，硕士研究生，主研方向：数据挖掘， 模型验证，机器学习；郑 滔，教授 收稿日期：2010-08-20 E-mail：taylorqt@
第 37 卷 第 7 期
郭庆涛，郑 滔：计算广告的匹配算法综述
223
为已索引的待检索文档，那么广告的匹配计算问题即转化为 信息检索问题。
3.1.1 Cosine 相似度算法 Cosine 相似度算法在文本挖掘中用来比较 2 个 N 维向量
的相似程度。定义用户检索词或网页内容关键词向量 Q = {q1, q2,", qn} 以及广告关键词向量 D = {d1, d2,", dn} ，则
迄今为止，网络广告流行的收益计价模型主要是 CPM、 CPC 和 CPA 这 3 种。在不同的计价模型之下，计算广告的匹 配算法主要源于 3 个领域：(1)基于关键词匹配的信息检索， 如 Cosine 算法、Okapi BM25 算法和 Multinomial 统计语言模 型；(2)基于用户点击反馈的机器学习算法，如特征学习模型、 分层学习模型等；(3)在线学习算法，如 Multi-armed bandit、 UCB1 算法等。
摘 要：对计算广告研究中的计价模型和匹配算法及模型进行综述，分别从检索词匹配精度、语义情景和用户点击反馈等方面对 Cosine 算法、Okapi BM25 算法、特征学习算法、分层学习模型和 Multinomial 统计语言模型等进行比较分析和优缺点总结，并提出可行的改进 方向。 关键词：赞助搜索；内容匹配；信息检索；机器学习；在线学习
3.2.1 基于特征的学习模型 定义 q 表示检索词特征向量，a 表示广告词特征向量，Q
表示某次用户检索，A 表示某个广告文本。给出如下基本 模型：
Pr(Click | Q, A) = f (q,a;θ )
其中，Pr 条件概率表示在(Q, A)匹配的条件下发生实际用户 点击的概率；模型参数 θ 则是需要通过大量特征数据学习得 到。一个具体的例子是通过逻辑回归进行学习：
面和广告之间的词语相关程度。该模型不仅通过学习点击反
馈、结合特征向量计算相关度(通常的做法会在模型后面加上
特征向量的 Cosine 值)，并且加入了 TF-IDF 权重值，来预测
最终发生用户点击的概率。
3.2.2 分层学习模型 对于内容匹配(content match)来说，基于特征的学习模型
容易遇到性能瓶颈，因为页面内容的特征抽取比用户检索更 加繁冗。针对页面的内容匹配，文献[4]提出通过页面聚类的 分层学习模型对 CTR 直接作出预测估值。基本思想是将页 面、广告文本分别聚簇到某个分级模型的叶子节点，并且其 中所有兄弟节点的 CTR 估值是正相关。整个算法分为 2 个阶 段：(1)使用 IPF 算法对页面、广告作基于 CTR 值的聚类；
模型：
l b it( pij ) = ∑αwM p,w +∑ βwM a,w +∑δwI p,a,w
w
w
w
M p,w = tf p,w
M a,w = tfa,w
I p,a,w = tf p,w ⋅ tfa,w
其中， pij 表示 CTR； αw 、 βw 、 δw 作为模型参数； M p,w 、
Ma,w 分别表示页面、广告的效果影响大小； Ip,a,w 则表示页
1 概述
随着互联网时代的发展，网络广告已经成为一个市值高 达 200 亿美元的产业。网络信息浩瀚如海，如何在网络中实 现精准的广告投放，实现网络广告的高回报率，已经成为信 息技术领域的计算难题。计算广告就是在这种条件下兴起的 一个分支学科，它所要解决的难题就是，如何在一定的上下 文情境下，找出与当前上下文最佳匹配的网络广告。
(1)计 算 出 用 户 检 索 和 广 告 文 本 中 概 率 最 高 的 短 语 ， Query params 和 Ads params。
(2)根据 Multinomial 语言模型，计算出使用 Query params 能够生成 Ads 的概率，或者相反，使用 Ads params 能够生成 Query 的概率。
目前，网络广告主要分为两大类：图像类(display ads)和 文本类，其中，文本类广告又因登出场景的不同分为赞助搜 索(sponsored search)和内容匹配(content match)。图像类在线 广告的具体形式通常是图片、动画以及视频，这一类广告讲 求的是品牌印象的传播。赞助搜索是指广告主为搜索引擎的 运营提供赞助，作为回报，该搜索引擎在出现与广告主相关 度较高的检索词时，登出相应的广告，例如，Google AdWord 便是赞助搜索的一种典型形式。内容匹配则是指将广告在内 容与其相关度较高的网页中登出，例如 Google AdSense 和百 度推广服务等。