层次K-均值聚类结合改进ITML的迁移度量学习方法

合集下载

相关主题

1、下载文档前请自行甄别文档内容的完整性，平台不提供额外的编辑、内容补充、找答案等附加服务。
2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
3、如文档侵犯您的权益，请联系客服反馈,我们会尽快为您处理(人工客服工作时间：9:00-18:30)。

，２，３蒋林利１，吴建生１
百度文库
（１．广西科技师范学院数学与计算机科学学院，广西来宾５４６１９９；２．武汉大学软件工程国家重点实验室，武汉４３００７２；３．武汉理工大学信息工程学院，武汉４３００７０）摘㊀要：目前的迁移学习方法多针对单一迁移类型，使用低级特征空间，并且源集比目标集复杂耗力。针对这些问题，综合考虑特征表示迁移、参数迁移和实例迁移，提出迁移度量学习的通用框架。首先，基于属性相似性空间和类别相似性空间，利用层次Ｋ均值聚类获取相似性；然后，利用信任评估框架和去相关归一化转换方法消除源集中的相关关系来抑制负迁移作用；最后，改进信息理论度量学习方法（ＩＴＭＬ）进行相似性度量学习。对三种不同复杂度数据集进行实验，结果表明，提出方法的迁移学习性能较传统方法明显提高，且对负迁移影响具有更好的鲁棒性；提出的方法可应用于源集比目标集简单的情况，评估结果表明，即使源集知识有限，也可以得到较好的迁移学习效果。关键词：迁移度量学习；层次Ｋ均值聚类；相似性空间；信任评估框架；去相关归一化空间；信息理论度量学习中图分类号：ＴＰ１８２㊀㊀㊀文献标志码：Ａ㊀㊀㊀文章编号：１００１３６９５（２０１７）１２３５５２０４：１０．３９６９／ｊ．ｉｓｓｎ．１００１３６９５．２０１７．１２．００７ｄｏｉ
Ａｂｓｔｒａｃｔ：Ｎｏｗｍｏｓｔｏｆｔｒａｎｓｆｅｒｌｅａｒｎｉｎｇｍｅｔｈｏｄｓｓｕｆｆｅｒｆｒｏｍｔｈｅｐｒｏｂｌｅｍｓｔｈａｔｔｒａｎｓｆｅｒｔｙｐｅｓａｒｅｓｅｐａｒａｔｅｌｙａｎａｌｙｚｅｄ，ｌｏｗｌｅｖｅｌｆｅａｔｕｒｅｓｐａｃｅａｒｅｕｓｅｄ，ａｎｄｔｈｅｓｏｕｒｃｅｄａｔａｓｅｔｉｓｍｏｒｅｄｉｖｅｒｓｅａｎｄｃｏｍｐｌｅｘｔｈａｎｔｈｅｔａｒｇｅｔｓｅｔ．Ｆｏｒｔｈｅｓｅｐｒｏｂｌｅｍｓ，ｔｈｉｓｐａｐｅｒｐｒｏｐｏｓｅｄａｎｏｖｅｌｇｅｎｅｒａｌｔｒａｎｓｆｅｒｍｅｔｒｉｃｌｅａｒｎｉｎｇｆｒａｍｅｗｏｒｋｗｉｔｈｃｏｍｐｒｅｈｅｎｓｉｖｅｃｏｎｓｉｄｅｒａｔｉｏｎｏｆｆｅａｔｕｒｅｒｅｐｒｅｓｅｎｔａｔｉｏｎｔｒａｎｓ，ｐａｒａｍｅｔｅｒｔｒａｎｓｆｅｒａｎｄｉｎｓｔａｎｃｅｔｒａｎｓｆｅｒ．Ｉｎｉｔｉａｌｌｙ，ｉｔｕｓｅｄｈｉｅｒａｒｃｈｉｃａｌＫｍｅａｎｓｃｌｕｓｔｅｒｉｎｇｔｏｇｅｔｔｈｅｓｉｍｉｌａｒｉｔｙｂａｓｅｄｏｎｆｅｒｔｈｅｓｅｍａｎｔｉｃｓｉｍｉｌａｒｉｔｙｓｐａｃｅａｎｄｃａｔｅｇｏｒｙｓｉｍｉｌａｒｉｔｙｓｐａｃｅ．Ｔｈｅｎ，ｉｔｕｔｉｌｉｚｅｄｔｈｅｔｒｕｓｔｅｖａｌｕａｔｉｏｎｆｒａｍｅｗｏｒｋａｎｄｄｅｃｏｒｒｅｌａｔｅｄ，ａｎｄｒｅｓｔｒａｉｎｅｄｔｈｅｎｅｇａｔｉｖｅｔｒａｎｓｆｅｒ．Ｆｉｎａｌｌｙ，ｉｔｎｏｒｍａｌｉｚｅｄｓｐａｃｅｔｏｅｌｉｍｉｎａｔｅｔｈｅｃｏｒｒｅｌａｔｉｏｎｌｅａｒｎｅｄｉｎｔｈｅｓｏｕｒｃｅｄｏｍａｉｎｍｏｄｉｆｉｅｄｔｈｅｉｎｆｏｒｍａｔｉｏｎｔｈｅｏｒｅｔｉｃｍｅｔｒｉｃｌｅａｒｎｉｎｇｔｏｐｒｅｃｅｄｅｓｉｍｉｌａｒｉｔｙｍｅｔｒｉｃｌｅａｒｎｉｎｇ．Ｔｈｅｅｘｐｅｒｉｍｅｎｔｒｅｓｕｌｔｓｓｈｏｗｔｈａｔｔｈｅｔｒａｎｓｆｅｒｌｅａｒｎｉｎｇｐｅｒｆｏｒｍａｎｃｅｏｆｔｈｅｐｒｏｐｏｓｅｄｍｅｔｈｏｄｈａｓｉｍｐｒｏｖｅｄｇｒｅａｔｌｙｗｉｔｈｍｏｒｅｒｏｂｕｓｔｔｏｎｅｇａｔｉｖｅｔｒａｎｓｆｅｒｅｆｆｅｃｔｃｏｍｐａ，ｔｈｅｐｒｏｐｏｓｅｄｍｅｔｈｏｄｃｏｕｌｄｂｅａｐｒｉｎｇｗｉｔｈｔｈｅｔｒａｄｉｔｉｏｎａｌｍｅｔｈｏｄｓｉｎｔｈｒｅｅｄａｔａｓｅｔｓｗｉｔｈｄｉｆｆｅｒｅｎｔｃｏｍｐｌｅｘｉｔｙ．Ｆｕｒｔｈｅｒｍｏｒｅｐｌｉｅｄｉｎｔｈｅｓｉｔｕａｔｉｏｎｔｈａｔｔｈｅｓｏｕｒｃｅｄａｔａｓｅｔｗａｓｓｉｍｐｌｅｒｔｈａｎｔｈｅｔａｒｇｅｔｓｅｔ．Ｔｈｅｒｅｓｕｌｔｓｒｅｖｅａｌｔｈａｔｅｖｅｎｗｈｅｎｔｈｅｋｎｏｗｌｅｄｇｅ，ｔｒａｎｓｆｅｒｌｅａｒｎｉｎｇｃａｎｓｔｉｌｌｂｅｂｅｎｅｆｉｃｉａｌ．ｓｏｕｒｃｅｉｓｌｉｍｉｔｅｄＫｅｙｗｏｒｄｓ：ｔｒａｎｓｆｅｒｍｅｔｒｉｃｌｅａｒｎｉｎｇ；ｈｉｅｒａｒｃｈｉｃａｌＫｍｅａｎｓｃｌｕｓｔｅｒｉｎｇ；ｓｉｍｉｌａｒｉｔｙｓｐａｃｅ；ｔｒｕｓｔｅｖａｌｕａｔｉｏｎｆｒａｍｅｗｏｒｋ；ｄｅｃｏｒｒｅｌａｔｅｄｎｏｒｍａｌｉｚｅｄｓｐａｃｅ；ｉｎｆｏｒｍａｔｉｏｎｔｈｅｏｒｅｔｉｃｍｅｔｒｉｃｌｅａｒｎｉｎｇ（ＩＴＭＬ）
第３４卷第１２期２０１７年１２月㊀
计算机应用研究ＡｐｐｌｉｃａｔｉｏｎＲｅｓｅａｒｃｈｏｆＣｏｍｐｕｔｅｒｓ
Ｖｏｌ．３４Ｎｏ．１２Ｄｅｃ．２０１７
层次Ｋ均值聚类结合改进ＩＴＭＬ的迁移度量学习方法
（１．ＳｃｈｏｏｌｏｆＭａｔｈｅｍａｔｉｃｓ＆ＣｏｍｐｕｔｅｒＳｃｉｅｎｃｅ，ＧｕａｎｇｘｉＳｃｉｅｎｃｅ＆ＴｅｃｈｎｏｌｏｇｙＮｏｒｍａｌＵｎｉｖｅｒｓｉｔｙ，ＬａｉｂｉｎＧｕａｎｇｘｉ５４６１９９，Ｃｈｉｎａ；２．ＳｔａｔｅＫｅｙＬａｂｏｒａｔｏｒｙｏｆＳｏｆｔｗａｒｅＥｎｇｉｎｅｅｒｉｎｇ，ＷｕｈａｎＵｎｉｖｅｒｓｉｔｙ，Ｗｕｈａｎ４３００７２，Ｃｈｉｎａ；３．ＳｃｈｏｏｌｏｆＩｎｆｏｒｍａｔｉｏｎＥｎｇｉｎｅｅｒｉｎｇ，ＷｕｈａｎＵｎｉｖｅｒｓｉｔｙｏｆＴｅｃｈｎｏｌｏｇｙ，Ｗｕｈａｎ４３００７０，Ｃｈｉｎａ）
ＴｒａｎｓｆｅｒｍｅｔｒｉｃｌｅａｒｎｉｎｇｍｅｔｈｏｄｂａｓｅｄｏｎｈｉｅｒａｒｃｈｉｃａｌＫｍｅａｎｓｃｌｕｓｔｅｒｉｎｇａｎｄｉｍｐｒｏｖｅｄＩＴＭＬ
１，２１，３ＪｉａｎｇＬｉｎｌｉ，ＷｕＪｉａｎｓｈｅｎｇ