基于优化的Inception ResNet A模块与Gradient Boosting的人群计数方法
基于改进GoogLeNet的沥青路面裂缝识别算法
第１３卷㊀第３期Ｖｏｌ．１３Ｎｏ．３㊀㊀智㊀能㊀计㊀算㊀机㊀与㊀应㊀用ＩｎｔｅｌｌｉｇｅｎｔＣｏｍｐｕｔｅｒａｎｄＡｐｐｌｉｃａｔｉｏｎｓ㊀㊀２０２３年３月㊀Ｍａｒ．２０２３㊀㊀㊀㊀㊀㊀文章编号：２０９５－２１６３（２０２３）０３－０２０２－０５中图分类号：Ｕ４１６．０２文献标志码：Ａ基于改进ＧｏｏｇＬｅＮｅｔ的沥青路面裂缝识别算法唐港庭１，尹㊀超１，王绍平２，郭㊀兵２，李仲波１，谭子永１（１山东理工大学建筑工程学院，山东淄博２５５０４９；２日照城投建设集团有限公司，山东日照２７６８００）摘㊀要：针对目前沥青路面裂缝图像识别技术在面对复杂路面情况时（强光㊁积水㊁杂物等干扰因素）识别效率不高的问题，通过构建沥青路面裂缝数据集，提出一种基于改进ＧｏｏｇＬｅＮｅｔ的沥青路面裂缝识别算法㊂首先，对Ｉｎｃｅｐｔｉｏｎ模块和辅助分类器数量进行删减，并将大卷积核替换为连续的小卷积核；其次，激活函数采用ＲｅＬＵ与ＬｅａｋｙＲｅＬＵ组合的方式；最后，加入批量归一化层以及Ｄｒｏｐｏｕｔ层㊂实验结果表明，利用本文所制作数据集训练出的ＧｏｏｇＬｅＮｅｔ原始模型以及改进模型，在面对复杂路面情况时识别效果较好，并且改进ＧｏｏｇＬｅＮｅｔ模型在测试集上的准确率能达到８８．４％，相较于原始模型，改进模型在准确率提升５．６％的同时，耗用时间减少了３２．５ｍｉｎ（４０．３％）㊂关键词：图像识别；ＧｏｏｇＬｅＮｅｔ；裂缝数据集；Ｉｎｃｅｐｔｉｏｎ模块ＲｅｃｏｇｎｉｔｉｏｎａｌｇｏｒｉｔｈｍｏｆａｓｐｈａｌｔｐａｖｅｍｅｎｔｃｒａｃｋｂａｓｅｄｏｎｉｍｐｒｏｖｅｄＧｏｏｇＬｅＮｅｔＴＡＮＧＧａｎｇｔｉｎｇ１，ＹＩＮＣｈａｏ１，ＷＡＮＧＳｈａｏｐｉｎｇ２，ＧＵＯＢｉｎｇ２，ＬＩＺｈｏｎｇｂｏ１，ＴＡＮＺｉｙｏｎｇ１（１ＳｃｈｏｏｌｏｆＡｒｃｈｉｔｅｃｔｕｒａｌＥｎｇｉｎｅｅｒｉｎｇ，ＳｈａｎｄｏｎｇＵｎｉｖｅｒｓｉｔｙｏｆＴｅｃｈｎｏｌｏｇｙ，ＺｉｂｏＳｈａｎｄｏｎｇ２５５０４９，Ｃｈｉｎａ；２ＲｉｚｈａｏＣｉｔｙＣｏｎｓｔｒｕｃｔｉｏｎＩｎｖｅｓｔｍｅｎｔＧｒｏｕｐＣｏ．，Ｌｔｄ．，ＲｉｚｈａｏＳｈａｎｄｏｎｇ２７６８００，Ｃｈｉｎａ）ʌＡｂｓｔｒａｃｔɔＩｎｏｒｄｅｒｔｏｉｍｐｒｏｖｅｔｈｅｒｅｃｏｇｎｉｔｉｏｎｅｆｆｉｃｉｅｎｃｙｏｆａｓｐｈａｌｔｐａｖｅｍｅｎｔｃｒａｃｋｉｍａｇｅｒｅｃｏｇｎｉｔｉｏｎｔｅｃｈｎｏｌｏｇｙｉｎｔｈｅｆａｃｅｏｆｃｏｍｐｌｅｘｒｏａｄｃｏｎｄｉｔｉｏｎｓ（ｓｔｒｏｎｇｌｉｇｈｔ，ｓｕｒｆａｃｅｗａｔｅｒ，ｄｅｂｒｉｓａｎｄｏｔｈｅｒｉｎｔｅｒｆｅｒｅｎｃｅｆａｃｔｏｒｓ），ａｒｅｃｏｇｎｉｔｉｏｎａｌｇｏｒｉｔｈｍｏｆａｓｐｈａｌｔｐａｖｅｍｅｎｔｃｒａｃｋｂａｓｅｄｏｎｉｍｐｒｏｖｅｄＧｏｏｇＬｅＮｅｔｉｓｐｒｏｐｏｓｅｄｂｙｍａｋｉｎｇａｓｐｈａｌｔｐａｖｅｍｅｎｔｃｒａｃｋｄａｔａｓｅｔ．Ｆｉｒｓｔｌｙ，ｔｈｅｎｕｍｂｅｒｏｆＩｎｃｅｐｔｉｏｎｍｏｄｕｌｅｓａｎｄａｕｘｉｌｉａｒｙｃｌａｓｓｉｆｉｅｒｓａｒｅｄｅｌｅｔｅｄ，ａｎｄｔｈｅｌａｒｇｅｃｏｎｖｏｌｕｔｉｏｎｋｅｒｎｅｌｓａｒｅｒｅｐｌａｃｅｄｂｙｔｈｅｃｏｎｔｉｎｕｏｕｓｓｍａｌｌｃｏｎｖｏｌｕｔｉｏｎｋｅｒｎｅｌｓ．Ｓｅｃｏｎｄｌｙ，ｔｈｅｃｏｍｂｉｎａｔｉｏｎｏｆＲｅＬＵａｎｄＬｅａｋｙＲｅＬＵｉｓｕｓｅｄａｓｔｈｅｍｏｄｅｌａｃｔｉｖａｔｉｏｎｆｕｎｃｔｉｏｎ．Ｆｉｎａｌｌｙ，ＢａｔｃｈＮｏｒｍａｌｉｚａｔｉｏｎｌａｙｅｒａｎｄＤｒｏｐｏｕｔｌａｙｅｒａｒｅａｄｄｅｄｔｏｔｈｅｍｏｄｅｌ．ＴｈｅｅｘｐｅｒｉｍｅｎｔａｌｒｅｓｕｌｔｓｓｈｏｗｔｈａｔｔｈｅｏｒｉｇｉｎａｌＧｏｏｇＬｅＮｅｔｍｏｄｅｌａｎｄｔｈｅｉｍｐｒｏｖｅｄｍｏｄｅｌｔｒａｉｎｅｄｂｙｔｈｅｄａｔａｓｅｔｉｎｔｈｉｓｐａｐｅｒｈａｖｅｂｅｔｔｅｒｒｅｃｏｇｎｉｔｉｏｎｅｆｆｅｃｔｉｎｔｈｅｆａｃｅｏｆｃｏｍｐｌｅｘｒｏａｄｃｏｎｄｉｔｉｏｎｓ，ａｎｄｔｈｅａｃｃｕｒａｃｙｏｆｔｈｅｉｍｐｒｏｖｅｄＧｏｏｇＬｅＮｅｔｍｏｄｅｌｏｎｔｈｅｔｅｓｔｓｅｔｃａｎｒｅａｃｈ８８．４％．Ｃｏｍｐａｒｅｄｗｉｔｈｔｈｅｏｒｉｇｉｎａｌｍｏｄｅｌ，ｔｈｅａｃｃｕｒａｃｙｏｆｔｈｅｉｍｐｒｏｖｅｄｍｏｄｅｌｉｓｉｎｃｒｅａｓｅｄｂｙ５．６％ａｎｄｔｈｅｔｉｍｅｃｏｎｓｕｍｐｔｉｏｎｉｓｒｅｄｕｃｅｄｂｙ３２．５ｍｉｎｕｔｅｓ（４０．３％）．ʌＫｅｙｗｏｒｄｓɔｉｍａｇｅｒｅｃｏｇｎｉｔｉｏｎ；ＧｏｏｇＬｅＮｅｔ；ｃｒａｃｋｄａｔａｓｅｔ；Ｉｎｃｅｐｔｉｏｎｍｏｄｕｌｅ基金项目：山东省智慧交通重点实验室（筹）开放基金项目（２０１１－科技合同－４８）；国家自然科学基金（５１８０８３２７）；山东省自然科学基金项目（ＺＲ２０１９ＰＥＥ０１６，ＺＲ２０２１ＭＤ０１１）㊂作者简介：唐港庭（１９９７－），男，硕士研究生，主要研究方向：道路智能检测；尹㊀超（１９８７－），男，博士，副教授，主要研究方向：自然灾害风险评价㊁监测㊁预测预警；王绍平（１９８８－），男，学士，工程师，主要研究方向：公路工程设计与施工；郭㊀兵（１９８７－），男，硕士研究生，主要研究方向：景观生态；李仲波（１９９９－），男，硕士研究生，主要研究方向：地震滑坡危险性区划；谭子永（１９９９－），男，硕士研究生，主要研究方向：滑坡敏感性动态区划㊂通讯作者：尹㊀超㊀㊀Ｅｍａｉｌ：ｙｉｎｃｈａｏ１９８７６１１＠１６３．ｃｏｍ收稿日期：２０２２－０５－１２０㊀引㊀言近年来，随着大数据和高性能硬件设备的更新发展，利用卷积神经网络（ＣｏｎｖｏｌｕｔｉｏｎａｌＮｅｕｒａｌＮｅｔｗｏｒｋｓ，ＣＮＮ）提取图像特征，从而进行目标识别，已经成为图像识别领域的研究热点之一［１－３］㊂部分学者基于ＣＮＮ开展了裂缝检测研究：Ｌｅｅ等学者［４］基于ＣＮＮ开发了一种具有自编码器结构的路面检测语义分割模型，并通过调整图像亮度来提高路面裂缝检测效率㊂陈健昌等学者［５］基于ＲｅｓＮｅｔ提出了一种路面裂缝检测方法，该方法能够大大减少前期图像预处理工作量，并且该方法的各项性能评估指标均优于现有模型㊂Ｒａｊａｄｕｒａｉ等学者［６］采用随机梯度下降和动量优化的方法改进ＡｌｅｘＮｅｔ模型，实验结果表明，该方法对混凝土表面裂缝的识别准确率较高㊂以上研究虽然取得了一定成果，但在面对复杂道路场景时裂缝图像的识别速度以及准确率等方面仍有较大提升空间㊂首先，在图像采集过程中，设备状态（温度㊁电磁波等干扰）或操作不当等原因都可能会严重降低采集图像的质量，并且道路上的光照条件㊁车道线㊁积水㊁阴影㊁油污㊁水渍㊁杂物等干扰因素，也可能会降低道路裂缝图像的识别的准确率㊂此外，模型训练需要大量样本数据集，目前公共裂缝数据集样本数量较少，难以满足训练要求［７］㊂针对以上问题，本文提出一种基于改进ＧｏｏｇＬｅＮｅｔ的沥青路面裂缝识别算法，并通过采集路面图像构建沥青路面裂缝数据集，进行模型的训练和测试㊂１㊀沥青路面裂缝图像数据集的构建１．１㊀图像采集针对目前公共裂缝数据集样本较少的情况，本文通过自行采集沥青路面图像，构建沥青路面裂缝数据集㊂选定山东省淄博市张店区内的部分路段，包括柳泉路㊁西二路㊁美食街㊁新村西路以及共青团路等，分别于不同天气㊁不同时段进行沥青路面图像采集㊂图像采集方案为：首先，通过高清行车记录仪以及车载摄像机以１ｋｍ为基本采集单元，驾驶汽车对沥青路面进行视频录制，采集过程中设备离地高度约１．２ｍ，并且采集宽度不小于行车道宽度的７０％㊂然后，通过视频取帧筛选出满足要求的路面图像，并删除重复或不满足要求的图像㊂最后，针对目前裂缝图像识别研究在复杂道路场景下识别效果不佳的问题，本文使用摄像机或手机以不同拍摄角度或焦距㊁在不同天气状况或不同光照条件下，对带有阴影㊁积水㊁车道线㊁井盖㊁油污㊁杂物等干扰因素的裂缝区域单独进行细节拍摄，从而提升模型泛化能力，细节拍摄图像类型如图１所示㊂㊀㊀将采集到的图像裁剪成像素大小为２２４ˑ２２４且仅含单一病害类型的图像，包括横向裂缝㊁纵向裂缝㊁块状裂缝㊁龟裂以及无病害图像共１１２４张，各类图像数量见表１㊂１．２㊀图像增广为满足模型训练需要，对裁剪后的图像进行增广，从而扩充样本数据集［８］，本文采用的增广方式包括旋转变换（横向裂缝㊁纵向裂缝不进行旋转）㊁镜像翻转（水平㊁竖直）以及亮度变换（明暗变换）㊂将扩展后的各类图像按照７ʒ２ʒ１的比例划分为训练集㊁验证集㊁测试集，各类图像具体数量见表２㊂１．３㊀图像预处理在图像采集过程中，极易受到光照条件㊁设备状态㊁采集方式等因素影响，导致图像质量降低㊂因此，需要通过图像预处理来提升图片质量，从而提高模型的识别准确率㊂（a）路面划痕（b）树枝阴影（c）雨天积水（d）雨后水渍（e）指示文字（f）车道线（g）油污（h）井盖（i）细小裂缝（j）强曝光（k）弱曝光（l）路面杂物图１㊀细节拍摄图例Ｆｉｇ．１㊀Ｄｅｔａｉｌｓｈｏｏｔｉｎｇｅｘａｍｐｌｅｓｄｉａｇｒａｍ表１㊀各类图像数量Ｔａｂ．１㊀Ｎｕｍｂｅｒｏｆｖａｒｉｏｕｓｔｙｐｅｓｏｆｉｍａｇｅｓ类型数量该类型图像占比／％含干扰因素图像占比／％横向裂缝３２３２８．７４３．７纵向裂缝３０４２７．０４２．４块状裂缝１５５１３．８３４．２龟裂１５９１４．２３４．５无病害图像１８３１６．３４７．０合计１１２４１００／表２㊀增广后的各类图像数量Ｔａｂ．２㊀Ｔｈｅｎｕｍｂｅｒｏｆａｌｌｋｉｎｄｓｏｆｉｍａｇｅｓａｆｔｅｒａｕｇｍｅｎｔａｔｉｏｎ类型原始图像／张增广后图像／张训练集／张验证集／张测试集／张横向裂缝３２３２４７０１７２９４９４２４７纵向裂缝３０４２３６８１６５８４７３２３７块状裂缝１５５１８９３１３２５３７８１９０龟裂１５９１８２３１２７６３６４１８３无病害图像１８３９１５６４１１８３９１合计１１２４９４６９６６２９１８９２９４８㊀㊀图像预处理过程如图２所示㊂图２中，（ａ）为原始裂缝图像；（ｂ）为采用平均值法进行图像灰度３０２第３期唐港庭，等：基于改进ＧｏｏｇＬｅＮｅｔ的沥青路面裂缝识别算法化处理的效果，减少图像参数，加快图像处理速度；（ｃ）为图像直方图均衡化的效果，提高图像对比度；（ｄ）为采用中值滤波法去除图像部分噪声的效果，改善图像视觉效果，提升图片质量［９－１０］㊂（a）原始图像（b）灰度化（c）直方图均衡化（d）中值滤波图２㊀图像预处理过程Ｆｉｇ．２㊀Ｉｍａｇｅｓｐｒｅｐｒｏｃｅｓｓｉｎｇｐｒｏｃｅｓｓ１．４㊀图像标注使用ＬａｂｅｌＩｍｇ标注软件对数据集中的图像进行标注，将横向裂缝㊁纵向裂缝㊁块状裂缝㊁龟裂以及无病害图像分别添加标签为ＴｒａｎｓｖｅｒｓａｌＣｒａｃｋｓ㊁ＬｏｎｇｉｔｕｄｉｎａｌＣｒａｃｋｓ㊁ＢｌｏｃｋＣｒａｃｋｓ㊁ＭａｐＣｒａｃｋｓ㊁Ｎｏｒｍａｌ，ＬａｂｅｌＩｍｇ标注软件界面如图３所示㊂图３㊀ＬａｂｅｌＩｍｇ标注软件界面Ｆｉｇ．３㊀ＬａｂｅｌＩｍｇｓｏｆｔｗａｒｅｉｎｔｅｒｆａｃｅ２㊀改进ＧｏｏｇＬｅＮｅｔ２．１㊀ＧｏｏｇＬｅＮｅｔ原模型ＧｏｏｇＬｅＮｅｔ网络由３个卷积层㊁９个Ｉｎｃｅｐｔｉｏｎ模块（１８层）㊁２个辅助分类器（ＡｕｘｉｌｉａｒｙＣｌａｓｓｉｆｉｅｒ）以及一个全连接层构成［１１－１２］，网络结构如图４所示㊂相较于经典图像分类模型ＡｌｅｘＮｅｔ和ＶＧＧＮｅｔ，ＧｏｏｇＬｅＮｅｔ网络模型虽然多达２２层，但参数量仅为５００万个，分别是ＡｌｅｘＮｅｔ和ＶＧＧＮｅｔ参数量的１／１２和１／３６，对计算机硬件条件要求相对较低㊂A v e r a g e P o o l7?7+1（V）C o n v1?1+1（V）I n c e p t i o n?3I n c e p t i o n?3I n c e p t i o n?3C o n v3?3+1（S）L o c a l R e s p N o r mM a x p o o l3?3+2（S）C o n v7?7+2（S）I n p u t M a x p o o l3?3+2（S）L o c a l R e s p N o r mF C S o f t m a xA u x i l i a r y C l a s s i f i e r2A u x i l i a r y C l a s s i f i e r1（ａ）整体网络结构C o n v1?1C o n v3?3C o n v5?5C o n v1?1C o n v1?1C o n v1?1M a x P o o l3?3F i l t e r c o n c a t e n a t i o nP r e v i o u s L a y e r（ｂ）Ｉｎｃｅｐｔｉｏｎ模块网络结构图４㊀ＧｏｏｇＬｅＮｅｔ网络结构Ｆｉｇ．４㊀ＧｏｏｇＬｅＮｅｔｎｅｔｗｏｒｋｓｔｒｕｃｔｕｒｅ２．２㊀ＧｏｏｇＬｅＮｅｔ改进方法本文结合沥青路面裂缝数据集特点，在ＧｏｏｇＬｅＮｅｔ原模型的基础上从以下方面进行改进：（１）ＧｏｏｇＬｅＮｅｔ原始网络较深，本文所采用的分类标签数量较少且路面裂缝图像纹理相对简单，因此，删除ＧｏｏｇＬｅＮｅｔ原始模型中作用较小的ＬｏｃａｌＲｅｓｐＮｏｒｍ结构，并对Ｉｎｃｅｐｔｉｏｎ模块和辅助分类器数量进行删减，在保证准确率满足要求的基础上，减少模型参数量和计算时间㊂（２）Ｉｎｃｅｐｔｉｏｎ模块的大尺度卷积核有着大感受野的同时也带来了更多的参数，因此，本文使用３个连续的３ˑ３卷积核替换第一个７ˑ７卷积核，并在Ｉｎｃｅｐｔｉｏｎ模块中使用２个连续的３ˑ３的卷积核代替５ˑ５卷积核，在感受野大小不变的同时，能够大大减少模型参数㊂（３）激活函数ＲｅＬＵ（ＲｅｃｔｉｆｉｅｄＬｉｎｅａｒＵｎｉｔ）［１３］收敛速度较快，且增强了网络的稀疏性，但输入小于０时梯度为０，该层就会 ｄｉｅ ㊂针对这个问题，诞生了ＬｅａｋｙＲｅＬＵ［１４］，该函数有效改善了ＲｅＬＵ的 ｄｉｅ 特性，但损失了部分稀疏性，并且增加了运算量㊂因此，本文采用ＲｅＬＵ与ＬｅａｋｙＲｅＬＵ组合的方式，即在普通卷积核后进行ＲｅＬＵ操作，在Ｉｎｃｅｐｔｉｏｎ模块中４个分支的卷积核后进行ＬｅａｋｙＲｅＬＵ操作㊂（４）在所有卷积层之后加入批量归一化层（ＢａｔｃｈＮｏｒｍａｌｉｚａｔｉｏｎ，ＢＮ），解决梯度饱和㊁加快模型计算速度［１５］，同时在平均池化层后加入Ｄｒｏｐｏｕｔ层４０２智㊀能㊀计㊀算㊀机㊀与㊀应㊀用㊀㊀㊀㊀㊀㊀㊀㊀㊀㊀㊀㊀㊀㊀第１３卷㊀防止过拟合［１６］㊂３㊀改进ＧｏｏｇＬｅＮｅｔ模型测试３．１㊀实验环境及评价指标本文实验在Ｗｉｎｄｏｗｓ１０操作系统上完成，运行内存１６．０ＧＢ，ＣＰＵ为ＡＤＭＲｙｚｅｎ７４８００ＵｗｉｔｈＲａｄｅｏｎＧｒａｐｈｉｃｓ，８核心１６线程，ＧＰＵ为ＡＤＭＲａｄｅｏｎＴＭＧｒａｐｈｉｃｓ，Ｐｙｔｈｏｎ版本为３．８．８，Ｐｙｔｏｒｃｈ版本１．７．１㊂本文采用总耗时（训练阶段用时与测试阶段用时之和）作为模型的速度评价指标，采用准确率（Ａｃｃｕｒａｃｙ）作为模型的精度指标，其数学定义公式为：Ａｃｃ＝ＴＰ＋ＴＮＴＰ＋ＴＮ＋ＦＮ＋ＦＰ（１）㊀㊀其中，Ａｃｃ表示准确率；ＴＰ表示正样本被正确识别为正样本的数量；ＴＮ表示负样本被正确识别为负样本的数量；ＦＰ表示负样本被错误识别为正样本的数量；ＦＮ表示正样本被错误识别为负样本的数量㊂３．２㊀Ｉｎｃｅｐｔｉｏｎ模块及辅助分类器数量确定本文采用３个㊁６个㊁９个Ｉｎｃｅｐｔｉｏｎ模块（自后向前删减）分别对应０个㊁１个㊁２个辅助分类器进行数量交叉验证，能够在尽量减少Ｉｎｃｅｐｔｉｏｎ模块数量的同时，最大程度减少实验量㊂ＧｏｏｇＬｅＮｅｔ原模型中，每３个Ｉｎｃｅｐｔｉｏｎ模块会有一个辅助分类器，仅在模型训练阶段被激活，将中间层的分类结果以一定权重（本文设为０．３）作为辅助输出添加到最终结果中，最后一个Ｉｎｃｅｐｔｉｏｎ模块直接连接模型输出部分，无需再添加第３个辅助分类器㊂因此，３个Ｉｎｃｅｐｔｉｏｎ模块和２个辅助分类器的组合不存在；３个Ｉｎｃｅｐｔｉｏｎ模块和１个辅助分类器的组合，添加的辅助分类器与输出部分重合；６个Ｉｎｃｅｐｔｉｏｎ模块和２个辅助分类器的情况，添加的第二个辅助分类器与输出部分重合㊂因此，以上３种情况不进行试验，交叉验证实验结果见表３㊂表３㊀Ｉｎｃｅｐｔｉｏｎ模块及辅助分类器数量Ｔａｂ．３㊀ＮｕｍｂｅｒｏｆＩｎｃｅｐｔｉｏｎｍｏｄｕｌｅｓａｎｄａｕｘｉｌｉａｒｙｃｌａｓｓｉｆｉｅｒｓ实验组序号Ｉｎｃｅｐｔｉｏｎ模块数量辅助分类器数量准确率／％耗时／ｍｉｎ１３０４６．５４２．８２６０７９．６６０．４３６１８０．２６８．３４９０８０．６７４．８５９１８１．８７８．５６９２８２．５８０．７㊀㊀由表３可见，相较于实验６（原模型），实验１虽然耗时减少了３７．９ｍｉｎ，但准确率大幅度下降了３７．９％㊂实验２和实验３在耗时大幅度减少的同时，准确率分别下降了２．９％㊁２．３％㊂实验４和实验５的准确率分别下降了１．９％㊁０．７％，耗时分别减少了５．９ｍｉｎ㊁２．２ｍｉｎ，整体变化相对较少㊂实验２相较于实验３，模型复杂度及耗时都减少的同时，准确率仅下降了０．６％㊂综上，本文采用实验组２中６个Ｉｎｃｅｐｔｉｏｎ模块㊁以及不添加辅助分类器的方案㊂３．３㊀改进ＧｏｏｇＬｅＮｅｔ网络结构基于以上修改方案，改进后的ＧｏｏｇＬｅＮｅｔ网络结构如图５所示㊂A v e r a g e P o o l 7?7+1(V )C o n v3?3+2(S )C o n v 3?3+1(S )C o n v 3?3+1(S )C o n v3?3+2(S )C o n v 3?3+1(S )C o n v 3?3+2(S )C o n v1?1+1(V )M a x P o o l 3?3+2(S )I n c e p t i o n (4a )I n c e p t i o n (4b )I n c e p t i o n (4c )I n c e p t i o n (4d )D r o p o u t F C S o f t m a xI n c e p t i o n (3a )I n c e p t i o n (3b )B NB NB N B N B NR e L UR e L UR e L U R e L UR e L UI n p u t（ａ）改进后整体网络结构F i l t e r c o n c a t e n a t i o nL e a k y R e L UC o n v3?3L e a k y R e L U L e a k y R e L UL e a k y R e L UL e a k y R e L U L e a k y R e L UL e a k y R e L U C o n v3?3C o n v3?3C o n v1?1M a x P o o l 3?3C o n v 1?1C o n v1?1C o n v1?1P r e v i o u s L a y e r（ｂ）改进后Ｉｎｃｅｐｔｉｏｎ模块网络结构图５㊀改进ＧｏｏｇＬｅＮｅｔ网络结构Ｆｉｇ．５㊀ＩｍｐｒｏｖｅｄＧｏｏｇＬｅＮｅｔｎｅｔｗｏｒｋｓｔｒｕｃｔｕｒｅ３．４㊀改进ＧｏｏｇＬｅＮｅｔ与原模型对比测试为了在模型训练效果和硬件设备条件之间取得平衡，在模型训练阶段，批尺寸设为１６，迭代次数设为５００，初始学习率设为０．００１，损失函数采用交叉熵函数，Ｄｒｏｐｏｕｔ率设为０．４㊂分别使用训练好的ＧｏｏｇＬｅＮｅｔ原模型与改进模型在测试集上进行测试，结果见表４，损失值和准确率随迭代次数的变化如图６所示㊂㊀㊀由表４可见，原始ＧｏｏｇＬｅＮｅｔ模型在测试集上的准确率为８２．８％，总耗时为８０．７ｍｉｎ，相比之下，改进ＧｏｏｇＬｅＮｅｔ模型的准确率能够达到８８．４％，提升了５．６％，总耗时为４８．２ｍｉｎ，减少了３２．５ｍｉｎ（４０．３％）；相较于不含干扰因素的图像，ＧｏｏｇＬｅＮｅｔ原５０２第３期唐港庭，等：基于改进ＧｏｏｇＬｅＮｅｔ的沥青路面裂缝识别算法模型与改进模型对含有干扰因素图像识别准确率分别降低了２．１％㊁３．６％，下降幅度在可接受范围内㊂表４㊀模型测试结果Ｔａｂ．４㊀ＭｏｄｅｌｔｅｓｔｒｅｓｕｌｔｓＧｏｏｇＬｅＮｅｔ模型测试集准确率／％不含干扰因素图像准确率／％含有干扰因素图像准确率／％总耗时／ｍｉｎ原模型８２．８８３．９８１．８８０．７改进模型８８．４９０．２８６．６４８．２2.52.01.51.00.50100200300400500G o o g L e N e t 原模型G o o g L e N e t 改进模型迭代次数损失值（ａ）损失值随迭代次数变化率100806040200100200300400500G o o g L e N e t 原模型G o o g L e N e t 改进模型迭代次数准确率/%（ｂ）准确率随迭代次数变化率图６㊀损失值、准确率随迭代次数变化率Ｆｉｇ．６㊀Ｔｈｅｃｈａｎｇｅｒａｔｅｓｏｆｌｏｓｓｖａｌｕｅａｎｄａｃｃｕｒａｃｙｗｉｔｈｉｔｅｒａｔｉｏｎｔｉｍｅｓ㊀㊀由图６可见，模型损失值和准确率随迭代次数增加逐渐趋于稳定，ＧｏｏｇＬｅＮｅｔ改进模型相较于原模型，模型收敛速度和损失值下降速度都有所提升㊂４㊀结束语传统图像识别算法在面对复杂路面情况（积水㊁强光㊁阴影等）时，识别效果有较大提升空间，本文针对性地采集了存在各类干扰因素的路面图像，构建了沥青路面裂缝数据集，并提出了一种基于改进ＧｏｏｇＬｅＮｅｔ的沥青路面裂缝识别算法㊂实验结果表明，ＧｏｏｇＬｅＮｅｔ改进算法在本文所构建的沥青路面裂缝数据集上，准确率能达到８８．４％，总耗时４８．２ｍｉｎ，相较于ＧｏｏｇＬｅＮｅｔ原始模型，准确率提升了５．６％，总耗时减少了３２．５ｍｉｎ（４０．３％），并且模型收敛速度和损失值下降速度都明显加快；相较于不含干扰因素的图像，本文所构建数据集训练出的ＧｏｏｇＬｅＮｅｔ原模型与改进模型，对于含有干扰因素的图像识别准确率分别降低了２．１％㊁３．６％，下降幅度在可接受范围内㊂因此，本文所构建的沥青路面裂缝数据集以及提出的改进ＧｏｏｇＬｅＮｅｔ算法，可为道路检测㊁裂缝识别㊁无人驾驶等研究提供帮助㊂参考文献［１］ＬＥＥＤ，ＳＨＩＮＳ，ＳＯＮＷ，ｅｔａｌ．Ｚｅｒｏ－ｏｆｆｓｅｔｄａｔａｅｓｔｉｍａｔｉｏｎｕｓｉｎｇＣＮＮｆｏｒａｐｐｌｙｉｎｇ１Ｄｆｕｌｌｗａｖｅｆｏｒｍｉｎｖｅｒｓｉｏｎ［Ｊ］．ＪｏｕｒｎａｌｏｆＧｅｏｐｈｙｓｉｃｓａｎｄＥｎｇｉｎｅｅｒｉｎｇ，２０２２，１９（１）：３９－５０．［２］张宇卓，王德成，方宪法，等．基于ＣＮＮ的玉米种子内部裂纹图像检测系统研究［Ｊ／ＯＬ］．农业机械学报：１－９［２０２２－０３－０７］．ｈｔｔｐ：／／ｋｎｓ．ｃｎｋｉ．ｎｅｔ／ｋｃｍｓ／ｄｅｔａｉｌ／１１．１９６４．Ｓ．２０２２０２２５．１６１２．０２４．ｈｔｍｌ．［３］ＨＵＸｉａｏｆａｎｇ，ＳＨＩＷｅｎｑｉａｎｇ，ＺＨＯＵＹｕｅ，ｅｔａｌ．ＱｕａｎｔｉｚｅｄａｎｄａｄａｐｔｉｖｅｍｅｍｒｉｓｔｏｒｂａｓｅｄＣＮＮ（ＱＡ－ｍＣＮＮ）ｆｏｒｉｍａｇｅｐｒｏｃｅｓｓｉｎｇ［Ｊ］．ＳｃｉｅｃｅＣｈｉｎａＩｎｆｏｒｍａｔｉｏｎＳｃｉｅｎｃｅｓ，２０２２，６５（１）：２７３－２７５．［４］ＬＥＥＴ，ＹＯＯＮＹ，ＣＨＵＮＣ，ｅｔａｌ．ＣＮＮ－ｂａｓｅｄｒｏａｄ－ｓｕｒｆａｃｅｃｒａｃｋｄｅｔｅｃｔｉｏｎｍｏｄｅｌｔｈａｔｒｅｓｐｏｎｄｓｔｏｂｒｉｇｈｔｎｅｓｓｃｈａｎｇｅｓ［Ｊ］．Ｅｌｅｃｔｒｏｎｉｃｓ，２０２１，１０（１２）：１４０２．［５］陈健昌，张志华．融于图像多特征的路面裂缝智能化识别［Ｊ］．科学技术与工程，２０２１，２１（２４）：１０４９１－１０４９７．［６］ＲＡＪＡＤＵＲＡＩＲＳ，ＫＡＮＧＳＴ．Ａｕｔｏｍａｔｅｄｖｉｓｉｏｎ－ｂａｓｅｄｃｒａｃｋｄｅｔｅｃｔｉｏｎｏｎｃｏｎｃｒｅｔｅｓｕｒｆａｃｅｓｕｓｉｎｇｄｅｅｐｌｅａｒｎｉｎｇ［Ｊ］．ＡｐｐｌｉｅｄＳｃｉｅｎｃｅｓ，２０２１，１１（１１）：５２２９．［７］梁雪慧，程云泽，张瑞杰，等．基于卷积神经网络的桥梁裂缝识别和测量方法［Ｊ］．计算机应用，２０２０，４０（０４）：１０５６－１０６１．［８］马岽奡，唐娉，赵理君，等．深度学习图像数据增广方法研究综述［Ｊ］．中国图象图形学报，２０２１，２６（０３）：４８７－５０２．［９］ＴＩＡＮＬｕｌｕ，ＷＡＮＧＺｉｄｏｎｇ，ＬＩＵＷｅｉｂｏ，ｅｔａｌ．ＡｎｅｗＧＡＮ－ｂａｓｅｄａｐｐｒｏａｃｈｔｏｄａｔａａｕｇｍｅｎｔａｔｉｏｎａｎｄｉｍａｇｅｓｅｇｍｅｎｔａｔｉｏｎｆｏｒｃｒａｃｋｄｅｔｅｃｔｉｏｎｉｎｔｈｅｒｍａｌｉｍａｇｉｎｇｔｅｓｔｓ［Ｊ］．ＣｏｇｎｉｔｉｖｅＣｏｍｐｕｔａｔｉｏｎ，２０２１，１３（５）：１２６３－１２７３．［１０］ＬＥＩＭｉｎｇｆｅｎｇ，ＬＩＵＬｉｎｇｈｕｉ，ＳＨＩＣｈｅｎｇｈｕａ，ｅｔａｌ．Ａｎｏｖｅｌｔｕｎｎｅｌ－ｌｉｎｉｎｇｃｒａｃｋｒｅｃｏｇｎｉｔｉｏｎｓｙｓｔｅｍｂａｓｅｄｏｎｄｉｇｉｔａｌｉｍａｇｅｔｅｃｈｎｏｌｏｇｙ［Ｊ］．ＴｕｎｎｅｌｌｉｎｇａｎｄＵｎｄｅｒｇｒｏｕｎｄＳｐａｃｅＴｅｃｈｎｏｌｏｇｙ，２０２０，１０８：１０３７２４．［１１］ＦＵＹｕｅｓｈｅｎｇ，ＳＯＮＧＪｉａｎ，ＸＩＥＦｕｘｉａｎｇ，ｅｔａｌ．ＣｉｒｃｕｌａｒｆｒｕｉｔａｎｄｖｅｇｅｔａｂｌｅｃｌａｓｓｉｆｉｃａｔｉｏｎｂａｓｅｄｏｎｏｐｔｉｍｉｚｅｄＧｏｏｇＬｅＮｅｔ［Ｊ］．ＩＥＥＥＡｃｃｅｓｓ，２０２１，９：１１３５９９－１１３６１１．［１２］王溢琴，董云云，刘慧玲．基于ＧｏｏｇＬｅＮｅｔ和空间谱变换的高光谱图像超分辨率方法［Ｊ］．光学技术，２０２２，４８（０１）：９３－１０１．［１３］ＤＥＲＥＩＣＨＳ，ＫＡＳＳＩＮＧＳ．ＯｎｍｉｎｉｍａｌｒｅｐｒｅｓｅｎｔａｔｉｏｎｓｏｆｓｈａｌｌｏｗＲｅＬＵｎｅｔｗｏｒｋｓ［Ｊ］．ＮｅｕｒａｌＮｅｔｗｏｒｋｓ，２０２２，１４８：１２１－１２８．［１４］程江洲，温静怡，鲍刚，等．基于Ｔ－ＭｏｂｉｌｅＮｅｔ－Ｌ模型的ＧＩＳ局部放电模式识别研究［Ｊ］．电子测量技术，２０２１，４４（２０）：２２－２８．［１５］ＹＡＮＧＺｈｉｊｉｅ，ＷＡＮＧＬｅｉ，ＬＵＯＬｉ，ｅｔａｌ．Ｂａｃｔｒａｎ：ＡｈａｒｄｗａｒｅｂａｔｃｈｎｏｒｍａｌｉｚａｔｉｏｎｉｍｐｌｅｍｅｎｔａｔｉｏｎｆｏｒＣＮＮｔｒａｉｎｉｎｇｅｎｇｉｎｅ［Ｊ］．ＩＥＥＥｅｍｂｅｄｄｅｄｓｙｓｔｅｍｓｌｅｔｔｅｒｓ，２０２０，１３（１）：２９－３２．［１６］肖旺，杨煜俊，申启访，等．基于改进的ＧｏｏｇＬｅＮｅｔ鸭蛋表面缺陷检测［Ｊ］．食品与机械，２０２１，３７（０６）：１６２－１６７．６０２智㊀能㊀计㊀算㊀机㊀与㊀应㊀用㊀㊀㊀㊀㊀㊀㊀㊀㊀㊀㊀㊀㊀㊀第１３卷㊀。
人工智能深度学习技术练习(习题卷4)
人工智能深度学习技术练习(习题卷4)说明：答案和解析在试卷最后第1部分：单项选择题，共50题，每题只有一个正确答案,多选或少选均不得分。
1.[单选题]Tf.nn.softmax_cross_entropy_with_logits函数是TensorFlow中常用的求( )的函数,即计算labels和logits之间的交叉熵(cross entropy)A)信息熵B)信息元C)logitsD)交叉熵2.[单选题]Which of the following are reasons for using feature scaling?A)It prevents the matrix XTX (used in the normal equation) from being no n-invertable(singular/degenerate)B)It speeds up gradient descent by making it require fewer iterations to get to a good solution.C)It speeds up gradient descent by making each iteration of gradient descent lessD)It is necessary to prevent the normal equation from getting stuck in local optima3.[单选题]判断和之前信息是否有用的门是A)遗忘门B)输入门C)输出门D)更新门4.[单选题]卷积函数中，参数strides的作用是（）A)设置卷积核B)设置卷积步长C)设置卷积层数D)以上都不对5.[单选题]数量积(dot product; scalar product,也称为( )是接受在实数R上的两个向量并返回一个实数值标量的二元运算,它是欧几里得空间的标准内积。
efficientnet_b0 结构
EfficientNet是一种由Google提出的高效的卷积神经网络架构，它以轻量化和高效性而闻名。
其中，EfficientNet-B0是其最基础的版本，也是实际应用中经常使用的一个版本。
本文将就EfficientNet-B0的结构进行详细介绍，包括网络的整体架构、各个模块的设计以及参数量等方面。
一、整体架构EfficientNet-B0的整体架构基于卷积神经网络，在网络的输入端使用了卷积层和池化层，用于提取输入图像的特征。
整个网络主要由多个重复堆叠的模块构成，包括了卷积层、批量归一化层、激活函数等。
最后通过全局平均池化和全连接层得到最终的输出结果。
二、模块设计1. 卷积层EfficientNet-B0中使用了深度可分离卷积（Depthwise Separable Convolution），这种卷积方式能有效地减少参数数量，提高模型的轻量化特性。
深度可分离卷积分为深度卷积和逐点卷积两个步骤，这种设计能够在一定程度上保持有效的特征提取效果。
2. 批量归一化层为了加速模型的收敛速度并提高模型的训练效果，EfficientNet-B0中引入了批量归一化（Batch Normalization）层。
批量归一化能够使得每个特征通道的数据分布更加稳定，有利于提高模型的泛化能力。
3. 激活函数在EfficientNet-B0中广泛采用了Swish激活函数，与传统的ReLU 激活函数相比，Swish激活函数在一些数据集上表现更好，能够提高模型的学习能力。
三、参数量EfficientNet-B0相比于其他网络架构，具有更少的参数量。
这主要得益于其采用了轻量化的卷积层设计和高效的模块堆叠方式。
通过对比实验证明，EfficientNet-B0在参数数量较少的情况下依然能够取得不错的性能表现，这使得它在一些资源受限的应用场景中具有很好的适用性。
EfficientNet-B0作为一个高效的卷积神经网络架构，在轻量化和高效性方面具有明显的优势。
深度学习模型的训练方法
深度学习模型的训练方法深度学习模型训练是指通过大量的数据样本来优化模型参数，以提高模型的准确性和泛化能力。
在这篇文章中，我将介绍几种常见且有效的深度学习模型训练方法。
1. 梯度下降法（Gradient Descent）梯度下降法是深度学习中最常用的优化算法之一。
它通过计算模型参数对损失函数的偏导数来确定参数的更新方向和步长。
在训练过程中，梯度下降法不断迭代优化模型参数，使损失函数的值逐渐减小。
梯度下降法有多种变体，包括批量梯度下降（Batch Gradient Descent）、随机梯度下降（Stochastic Gradient Descent）和小批量梯度下降（Mini-batch Gradient Descent），其中小批量梯度下降是目前最常用的方法。
2. 自适应学习率方法（Adaptive Learning Rate）在梯度下降法中，学习率（Learning Rate）是一个很重要的超参数，它决定了参数更新的速度。
高学习率可能导致参数更新过快而错过最优解，低学习率则可能导致收敛速度很慢。
为了解决学习率难以设置的问题，自适应学习率方法被提出。
这些方法通过动态地调整学习率，使其在训练过程中适应不同的参数更新情况。
3. 正则化方法（Regularization）为了防止模型过拟合（Overfitting）训练数据，正则化方法被广泛应用于深度学习中。
正则化方法通过在损失函数中添加一个正则化项来惩罚模型复杂度。
常用的正则化方法包括L1正则化和L2正则化。
L1正则化会使得部分参数的值变为0，从而实现模型的稀疏性；L2正则化则会将参数的值逼近于0，使得模型的参数比较小，从而减小模型的复杂度。
4. DropoutDropout是一种常用的正则化方法，它可以有效地减少模型的过拟合。
在训练过程中，Dropout会随机地将一部分神经元置为0，从而强制模型去学习多个独立的子模型，每个子模型只使用输入数据的一部分。
深度学习的基础知识
深度学习的基础知识深度学习（Deep Learning）是一种基于人工神经网络的机器学习方法，它模拟人类大脑的结构和功能，通过多层次的非线性处理单元对数据进行特征提取和建模，从而实现对复杂问题的学习和推断。
深度学习在语音识别、图像识别、自然语言处理和推荐系统等领域取得了广泛的应用和突破，成为了当今人工智能领域的热点之一。
本文将从深度学习的基本原理、常见模型和应用实例等方面介绍深度学习的基础知识，帮助读者深入了解深度学习的相关内容。
一、深度学习的基本原理深度学习模型的核心是人工神经网络（Artificial Neural Networks，ANNs），它由大量的神经元（Neurons）和连接它们的权重（Weights）组成，每个神经元接收来自前一层神经元的输入，并对其进行加权和非线性变换后输出给下一层神经元。
整个网络通过多层次的非线性处理单元逐层组合，形成了深度结构，从而能够学习到更加复杂的特征和模式。
1.神经元的工作原理神经元是人工神经网络的基本组成单元，它模拟了生物神经元的工作原理。
每个神经元接收来自前一层神经元的多个输入信号，通过加权和非线性变换后输出给下一层神经元。
具体来说，神经元的输入经过加权和求和后，再经过一个激活函数（Activation Function）进行非线性变换，最终输出给下一层神经元。
常用的激活函数包括Sigmoid函数、ReLU函数和tanh函数等。
2.神经网络的训练人工神经网络通过学习来调整连接权重，使得网络能够适应输入数据的特征和模式。
网络的训练通常采用梯度下降法（Gradient Descent）。
具体来说，网络先进行前向传播，将输入数据通过每层神经元的加权和非线性变换后输出给输出层，然后计算输出层的预测值与真实标签值的误差，最后通过反向传播算法将误差逐层传递回去，调整每个神经元的权重。
3.深度学习的优化深度学习模型通常会面临的问题包括梯度消失和梯度爆炸等。
为了解决这些问题，人们提出了许多优化方法，如Batch Normalization、Dropout和Residual Network等。
基于卷积神经网络的人脸识别算法优化
基于卷积神经网络的人脸识别算法优化一、绪论人脸识别技术一直是计算机视觉领域的研究热点之一，也是广泛应用的实际技术。
在人脸识别技术中，卷积神经网络在最初的应用中展现出了良好的表现，针对现有的人脸识别算法，本文基于卷积神经网络，对其进行了优化研究。
二、卷积神经网络的基本原理卷积神经网络是神经网络的一种，其设计灵感来源于生物学中的神经细胞。
卷积神经网络是由多个卷积层、池化层和输出层组成的神经网络。
其中，卷积层和池化层是实现特征提取的关键模块。
卷积层将输入的图像经过多个卷积核的卷积处理，得到特征图，从而提取出图像中的特征信息。
池化层则对特征图进行缩小，增强提取的特征。
三、基于卷积神经网络的人脸识别算法优化1. 数据集准备数据集的质量对人脸识别算法的性能起着至关重要的作用。
本文选取了常用的LFW数据集进行实验，该数据集包含13,000张人脸图片，共有1680个人，其中包含了各种复杂的面部表情、姿势和光照条件。
2. 模型设计本文使用了深度卷积神经网络（Deep Convolutional Neural Network，DCNN）进行人脸识别，模型结构包含六个卷积层和三个全连接层。
卷积层和全连接层都使用了ReLU激活函数，以加速模型的训练。
3. 数据增强数据增强是针对数据集中的图像进行一系列变换，以生成更多的样本来训练模型。
本文采用了水平翻转、随机旋转、随机裁剪等数据增强方式来增加数据集的样本数量。
4. 正则化正则化是一种防止过拟合的方法，可以使模型更稳健地适应新数据。
本文使用了L1和L2正则化对模型进行正则化。
5. 优化算法优化算法对模型的训练速度和性能有着重要的影响。
本文采用了Adam优化算法，这种算法可以自适应地调整学习率和动量参数，并且对噪声和稀疏梯度具有鲁棒性。
6. 微调微调是指在一个已经训练好的模型上，对一些已训练层和新添加的层进行再训练的过程。
本文使用微调方法来训练模型，对已经训练好的模型进行微调。
resnet改进方法
ResNet改进方法一、引言ResNet（残差网络）是一种非常成功的深度卷积神经网络，它在多个计算机视觉任务中取得了优秀的性能。
然而，尽管ResNet在精度上取得了很大突破，但它仍然存在一些问题和不足之处。
为了进一步改进ResNet的性能和效果，研究者们提出了许多创新的方法。
本文将对其中一些重要的ResNet改进方法进行全面、详细、完整和深入地探讨。
二、改进方法一：尺度处理在ResNet中，卷积层和池化层的步幅（stride）通常被设置为2，以减小特征图的尺寸。
然而，这种做法会导致特征图的尺度缩小，从而造成信息的丢失和感受野的减小。
为了解决这个问题，研究者们提出了一种尺度处理的方法。
1. 尺度处理方法A这种方法是在ResNet的每个残差模块中添加一个子网络，用于学习特定尺度下的特征表示。
具体而言，该子网络包括一组卷积层和池化层，以及相应的归一化层和激活函数层。
通过引入尺度处理子网络，ResNet可以更好地捕捉图像中不同尺度的信息，从而提高性能。
2. 尺度处理方法B另一种常见的尺度处理方法是引入多尺度特征图。
通过在不同层级的残差模块中使用不同尺度的特征图，ResNet可以充分利用图像中的多尺度信息，从而提高精度。
例如，可以在浅层残差模块中使用较小尺寸的特征图，而在深层残差模块中使用较大尺寸的特征图。
3. 尺度处理方法C还有一种常见的尺度处理方法是引入注意力机制。
通过在不同层级的残差模块中应用注意力机制，ResNet可以自动学习重要特征的权重，从而提高精度。
例如，可以在浅层残差模块中更加关注局部细节特征，而在深层残差模块中更加关注全局语义特征。
三、改进方法二：激活函数激活函数在深度神经网络中起着至关重要的作用，它能够引入非线性关系并增强网络的表达能力。
在ResNet中，常用的激活函数是ReLU（线性整流单元）。
然而，ReLU存在一个问题，即它将所有负数值都设置为0，从而可能导致神经元的“死亡”。
为了改进这个问题，研究者们提出了一些新的激活函数。
Inception-Resnet-V2
Inception-Resnet-V2零、Inception-Resnet-V2的⽹络模型整体结构如下，整体设计简洁直观:其中的stem部分⽹络结构如下，inception设计，并且conv也使⽤了7*1+1*7这种优化形式：inception-resnet-A部分设计，inception+残差设计：⼀、Inception基本思想：不需要⼈为决定使⽤哪个过滤器，或是否需要池化，⽽是由⽹络⾃⾏确定这些参数，你可以给⽹络添加这些参数的所有可能值，然后把这些输出连接起来，让⽹络⾃⼰学习它需要什么样的参数，采⽤哪些过滤器组合。
细节：⽹络中存在softmax分⽀，原因——即便是隐藏单元和中间层也参与了特征计算，它们也能预测图⽚的分类，它在Inception⽹络中起到⼀种调整的效果，防⽌过拟合。
⼆、Resnet残差⽹络就是残差块的堆叠，这样可以把⽹络设计的很深；残差⽹络和普通⽹络的差异是，a l+2在进⾏⾮线性变化前，把a l的数据拷贝了⼀份与z l+2累加后进⾏了⾮线性变换；对于普通的卷积⽹络，⽤梯度下降等常⽤的优化算法，随着⽹络深度的增加，训练误差会呈现出先降低后增加的趋势，⽽我们期望的理想结果是随着⽹络深度的增加训练误差逐渐减⼩，⽽Resnet随着⽹络深度的增加训练误差会⼀直减⼩。
三、1*1卷积的主要作⽤有以下⼏点：1、降维（ dimension reductionality ）。
⽐如，⼀张500 * 500且厚度depth为100 的图⽚在20个filter上做1*1的卷积，那么结果的⼤⼩为500*500*20。
2、加⼊⾮线性。
卷积层之后经过激励层，1*1的卷积在前⼀层的学习表⽰上添加了⾮线性激励（ non-linear activation ），提升⽹络的表达能⼒；可以在保持feature map尺度不变的（即不损失分辨率）的前提下⼤幅增加⾮线性特性（利⽤后接的⾮线性激活函数），把⽹络做的很deep。
inceptionresnetv2结构
inceptionresnetv2结构Inception ResNet V2 结构一、综述Inception-ResNet V2，即Inception Residuality Network v2，是一种采用多路残差连接的深度卷积神经网络，它是Google 2016年最新提出的深度学习架构。
它基于GoogleNet Inception v4，采用改进的残差块 Inception-ResNet-A和Inception-ResNet-B，带有一种新的模块 Inception-ResNet-C，将网络深入15层，同时提供端到端的训练程序。
它的性能比先前版本快了35%，被证明在 ImageNet-1K 和 ImageNet-21K 数据集上的图像分类准确率更高。
二、结构Inception-ResNet V2 的网络结构主要由下面五种模块组成：1. 输入层：使用3×3的卷积核将输入图像的深度从3增加到32。
2. 主体模块：Inception-ResNet-A，Inception-ResNet-B，Inception-ResNet-C三个模块的组合，每个模块带有多个残差块，每个残差块由若干种结构的残差组件组成，用于提升模型性能。
3. 过渡层：使用1×1的卷积核，将网络最后一层的输出通道数量减少，以便连接最后的输出层。
4. 输出层：使用softmax函数，将网络输出结果转换为网络最终结果，即分类结果。
三、特点（1）改进了残差模块：Inception-ResNet-V2采用了改进残差模块，使残差块的网络更加深入，训练更加精确。
（2）提升性能：Inception-ResNet V2的实验表明，它的准确率要显著高于GoogleNet Inception V4，使用与GoogleNet Inception V4相同的设置，要提高35％的准确率。
（3）端到端训练：Inception-ResNet V2提供了一种端到端的训练程序，使用该程序可以高效地从头到尾进行架构训练。
基于深度学习的目标检测模型构建与优化
基于深度学习的目标检测模型构建与优化深度学习技术已经在许多计算机视觉应用中展现出强大的能力，其中之一就是目标检测。
目标检测是计算机视觉领域的重要任务之一，它可以识别和定位图像或视频中的特定对象。
本文将介绍基于深度学习的目标检测模型构建与优化的方法和技术。
我们将从模型构建的基础开始，逐步介绍如何进行模型训练和优化，以实现更准确和高效的目标检测。
首先，为了构建一个基于深度学习的目标检测模型，我们需要选择适合的深度学习框架。
目前，流行的深度学习框架包括TensorFlow、PyTorch和Keras等。
这些框架提供了丰富的工具和接口，方便我们构建和训练目标检测模型。
一种常用的目标检测模型是基于卷积神经网络（CNN）的方法。
CNN可以通过多层卷积和池化层来提取图像的特征，并通过全连接层进行分类和定位。
其中，常用的CNN模型包括AlexNet、VGG、ResNet和Inception等。
在构建模型之前，我们需要准备一个标注好的目标检测数据集进行训练。
数据集应包含大量的图像样本，并为每个样本提供准确的目标边界框标注。
常用的目标检测数据集包括COCO、PASCAL VOC和ImageNet等。
接下来，我们需要设计模型架构。
在目标检测任务中，常见的模型架构有两类：基于区域提取的方法和基于回归的方法。
前者包括R-CNN、Fast R-CNN和Faster R-CNN等，后者包括YOLO和SSD等。
基于区域提取的方法首先通过选择性搜索或其他区域提取算法生成一系列候选目标区域，然后对每个候选区域进行特征提取和分类。
基于回归的方法则通过将图像划分为网格，并在每个网格单元格中预测目标的类别和位置。
对于模型训练，我们需要准备一个适当的损失函数来衡量模型的预测结果与真实标注之间的差异。
常见的损失函数包括交叉熵损失函数和均方误差损失函数。
此外，为了提高模型的鲁棒性，我们经常使用一些正则化技术，如L1正则化和L2正则化。
模型训练过程中，我们可以使用梯度下降算法来最小化损失函数。
基于深度学习的分类器设计优化研究
基于深度学习的分类器设计优化研究近年来，深度学习作为一种强大的机器学习技术，已经广泛应用于许多领域，特别是图像分类和自然语言处理等方面。
而针对深度学习模型的设计和优化也成为了近年来的研究热点之一。
本文旨在探讨基于深度学习的分类器设计和优化研究的相关问题，包括网络架构的设计、训练优化方法以及模型压缩等方面。
1.网络架构的设计网络架构的设计是影响深度学习模型精度和效率的关键因素之一。
在深度学习模型的设计中，常用的网络架构包括卷积神经网络（CNN）、循环神经网络（RNN）和残差网络（ResNet）等。
其中，卷积神经网络是常用的图像识别和分类任务的基础模型，能够提取出图像的空间信息和特征，用于分类和识别。
而循环神经网络则主要应用于序列数据的处理，例如文本数据和语音数据等。
残差网络则是一种深度残差学习的模型，可以有效解决模型训练过程中的梯度消失和梯度爆炸问题。
除了常用的网络架构，还可以采用一些特殊的网络结构和设计，例如DenseNet、Inception等。
其中，DenseNet是一种通过直接连接不同层级的特征图来实现信息共享的网络结构。
而Inception则采用了多种卷积核来提取图像的不同信息，以提高模型的分类精度。
2.训练优化方法训练优化方法是影响深度学习模型精度和训练速度的另一个关键因素。
在深度学习模型的训练过程中，我们通常采用随机梯度下降（SGD）等基本算法来更新模型的参数。
然而，这些基本算法存在梯度消失和梯度爆炸等问题，会影响模型的收敛速度和分类精度。
因此，我们需要采用更加有效的训练优化方法来优化模型的训练过程。
其中，一种常用的训练优化方法是动量法（Momentum），它可以加快梯度下降的速度，并且有助于避免梯度消失问题。
另外，AdaGrad和Adam等自适应优化方法也被广泛应用于深度学习模型的训练中。
这些方法可以自动调整学习率，并且能够很好地适应不同的数据分布和模型结构。
3.模型压缩随着深度学习模型的不断发展，模型规模不断增大，导致存储和计算成本也不断增加。
如何训练和调优人脸识别模型以提高识别率
如何训练和调优人脸识别模型以提高识别率人脸识别技术是一种基于生物特点的身份识别技术，它通过分析和识别人脸图像的特征来实现对人物身份的认证。
随着机器学习和深度学习算法的不断发展，人脸识别的准确度和稳定性逐渐提高，但在实际应用中，人脸识别模型还存在一定的识别误差和性能瓶颈。
因此，为了提高人脸识别模型的准确率，需要进行训练和调优。
首先，为了训练一个高性能的人脸识别模型，需要准备大规模的人脸数据集。
这些数据集应包含不同人物、不同角度、不同光照条件下的人脸图像，并且要覆盖各种可能出现的特征和变化。
通过使用大规模的数据集，可以提供足够的样本来训练模型，以适应不同场景下的人脸识别需求。
其次，选择合适的模型架构。
目前，深度学习中最为常用的人脸识别模型是基于卷积神经网络（CNN）的模型，如VGGNet、ResNet和Inception等。
这些模型具有较强的特征提取能力和模式识别能力，并且在人脸识别任务中取得了较好的效果。
根据实际需求和计算资源，选择适合的模型架构，能够有效提高识别率。
接着，进行数据预处理。
在训练过程中，需要对数据进行一系列的预处理操作，以提高模型的训练效果。
常见的数据预处理操作包括图像尺寸调整、图像增强、数据增强和数据标准化等。
图像尺寸调整可以统一输入图像的大小，以满足模型的输入要求；图像增强可以增加数据的丰富性，提取更多有用的特征；数据增强可以通过旋转、裁剪和镜像等操作，扩充数据集，增加模型的鲁棒性；数据标准化可以对图像进行均值减法和方差归一化处理，加速模型的收敛和训练效果。
然后，进行模型训练和优化。
在训练过程中，使用合适的损失函数来衡量模型的性能和误差。
对于人脸识别任务，常用的损失函数包括交叉熵损失函数和三元组损失函数。
交叉熵损失函数可以用于多分类任务，通过计算预测结果和真实标签之间的差异来衡量误差；三元组损失函数则主要用于人脸识别任务，通过最大化同一类别样本间的相似度，并最小化不同类别样本间的相似度，来优化模型的表征能力。
结合Inception模块的卷积神经网络图像分类方法
结合Inception模块的卷积神经网络图像分类方法【摘要】本文介绍了一种结合Inception模块的卷积神经网络图像分类方法。
首先简要介绍了Inception模块的原理和应用，然后对卷积神经网络进行了简要介绍。
接着详细探讨了Inception模块在图像分类中的应用，并提出了结合Inception模块的卷积神经网络图像分类方法。
通过实验验证，该方法在图像分类任务中取得了良好的效果。
最后对研究成果进行总结，指出未来研究方向。
本研究对于提高图像分类的准确性和效率具有重要意义，可以为深度学习领域的研究和应用提供新的思路和方法。
【关键词】Inception模块、卷积神经网络、图像分类、研究意义、研究目的、应用、研究成果、未来研究方向1. 引言1.1 背景介绍为了解决这些问题，研究人员提出了Inception模块，该模块被广泛应用于卷积神经网络中，以提高网络的效率和性能。
在Inception模块中，不同大小的卷积核和池化操作并行进行，最终将它们的输出在通道维度上拼接起来，有效地增加网络的表征能力。
本文旨在结合Inception模块提出一种新的卷积神经网络图像分类方法，以进一步提高图像分类的准确性和效率。
通过对Inception模块的介绍和卷积神经网络的简要概述，探讨如何利用Inception模块优化图像分类任务，为未来更深入的研究提供借鉴和参考。
1.2 研究意义在深度学习领域中，图像分类是一项非常重要的任务。
随着计算机视觉技术的不断发展，对于图像的准确分类已经成为许多领域的基础。
图像分类不仅可以应用于人脸识别、自动驾驶、医学影像分析等实际场景中，还可以帮助我们更好地理解图像背后隐藏的信息。
而本研究旨在探讨如何通过结合Inception模块的卷积神经网络来提高图像分类的准确性和效率。
Inception模块的提出极大地推动了深度学习领域的发展，其能够有效地捕捉图像中不同尺度和层级的特征，从而有助于提升图像分类的性能。
inception的用法
Inception的用法什么是InceptionInception是一种深度学习模型，由Google公司的研究人员于2014年提出。
它是一个卷积神经网络（Convolutional Neural Network, CNN）的架构，被广泛应用于计算机视觉领域，尤其是图像分类任务。
Inception的设计目标是在保持模型的准确性的同时，降低模型的计算复杂度。
通过在网络中添加了一系列的Inception模块，Inception模型可以同时学习多个不同尺度的特征，从而提高了模型对图像的理解能力。
Inception的架构Inception模型的核心是Inception模块。
一个Inception模块由多个并行的卷积层和池化层组成，以捕获不同尺度的特征。
具体来说，一个Inception模块可以分为四个分支：1.1x1卷积分支：使用1x1的卷积核对输入进行卷积，以降低通道数。
这个分支的目的是减少模型的计算复杂度。
2.3x3卷积分支：使用3x3的卷积核对输入进行卷积，以捕获局部特征。
3.5x5卷积分支：使用5x5的卷积核对输入进行卷积，以捕获更大范围的特征。
4.最大池化分支：使用3x3的最大池化对输入进行下采样，以捕获更抽象的特征。
这四个分支的输出在通道维度上进行拼接，形成一个更丰富的特征表示。
通过堆叠多个Inception模块，可以构建一个更深的网络。
Inception的优势Inception模型相比传统的卷积神经网络具有以下优势：1.更高的准确性：通过在网络中引入多个并行的卷积和池化操作，Inception模型可以在不同尺度上学习特征，从而提高了模型对图像的理解能力，进而提升了分类准确性。
2.更低的计算复杂度：通过使用1x1卷积降低通道数，Inception模型可以减少模型的参数数量和计算复杂度。
这使得Inception模型可以在计算资源有限的情况下仍能取得较好的性能。
3.更好的特征表示：通过在不同尺度上学习特征，并将它们进行拼接，Inception模型可以提供更丰富的特征表示。
深入浅出——网络模型中Inception的作用与结构全解析
深入浅出——网络模型中Inception的作用与结构全解析Inception是深度学习领域中应用广泛的一个经典网络模型，它的作用是通过多层次的特征提取来提高模型的性能。
本文将从作用和结构两个方面对Inception进行全面解析。
首先，要理解Inception的作用，我们需要先了解传统的卷积神经网络（Convolutional Neural Network，简称CNN）。
CNN中的卷积层通过滑动卷积核对输入的特征图进行卷积操作，提取局部的特征信息。
然而，由于卷积核的大小和形状是固定的，无法适应不同尺度的特征。
而Inception网络通过多层次的特征提取方式，可以同时获取不同尺度下的特征信息，从而提高模型的性能。
接下来，我们来解析Inception的结构。
Inception网络的核心是Inception模块，它由一系列并行的卷积层组成，这些卷积层具有不同的卷积核大小和步长。
例如，一个常见的Inception模块可以包含一个1x1的卷积层、一个3x3的卷积层和一个5x5的卷积层，以及一个最大池化层。
这些层将输入的特征图进行不同尺度的卷积操作，并将输出进行拼接，得到一个更丰富的特征表示。
此外，为了减少模型的计算量和参数量，Inception还引入了1x1的卷积层，它可以在保持输入特征图大小的情况下，降低特征维度。
这样可以有效减少计算量，并且通过不同尺度的卷积操作和不同维度的特征融合，使得模型更加灵活。
除了上述结构，Inception网络还引入了批标准化（Batch Normalization）和全局平均池化（Global Average Pooling）等技术，进一步提高模型的性能。
批标准化可以解决深层网络训练过程中的梯度消失和爆炸问题，提高模型的收敛速度和泛化能力；全局平均池化可以将整个特征图变为一个特征向量，减少特征图的维度，同时防止过拟合。
总结起来，Inception网络通过多层次的特征提取和特征融合方式，提高模型对不同尺度特征的感知能力，并通过引入批标准化和全局平均池化等技术，进一步优化模型的性能。
图像识别技术的优化参数和注意事项
图像识别技术的优化参数和注意事项随着人工智能技术的发展，图像识别技术越来越受到关注和应用。
图像识别技术的应用广泛，包括人脸识别、物体识别、文字识别等等。
为了实现准确的图像识别，优化参数和注意事项非常重要。
首先，我们来看一些优化参数，这些参数可以在训练模型和应用模型时进行调整，以提高图像识别的准确性和效率。
1. 数据集的质量和数量：图像识别技术的准确性与所使用的数据集密切相关。
高质量的数据集能够提供大量的样本来训练模型，从而使模型具备更好的泛化能力。
因此，必须确保数据集的质量，遵循相应的标注规范，并尽量包含多样化的图像。
同时，数据集的数量也非常重要，更多的数据可以提供更多的样本来训练模型，从而提高识别的准确性。
2. 特征提取算法：在图像识别中，特征提取算法是非常关键的一步。
一种常用的特征提取算法是卷积神经网络（Convolutional Neural Network，CNN）。
CNN能够自动学习图像中的特征，从而实现图像的分类、检测等任务。
选择合适的特征提取算法可以提高图像识别的准确性。
3. 网络架构：网络架构是图像识别任务中的另一个重要参数。
常见的网络架构包括LeNet、AlexNet、VGG、Inception和ResNet等。
不同的网络架构在不同的任务上可能具有不同的性能。
因此，需要根据具体的图像识别任务选择合适的网络架构进行使用。
4. 模型训练和优化：模型训练是图像识别技术中的一项重要工作。
在训练模型时，需要设置适当的学习率、批量大小、迭代次数等参数。
同时，还可以使用一些优化方法来提高训练效果，例如随机梯度下降（Stochastic Gradient Descent，SGD）和自适应学习率优化算法（Adaptive Learning Rate Optimization Algorithms）等。
合理地调整这些参数和方法可以提高模型的准确性和训练效率。
除了以上的优化参数之外，还有一些注意事项也非常重要，这些注意事项可以帮助我们更好地应用图像识别技术。
基于改进YOLOv5_网络的内窥镜息肉检测
1232020年新增确诊的结直肠癌病例约193万，占所有新增确诊病例的10.0%，仅次于乳腺癌（11.7%）和肺癌（11.4%）；结直肠癌患者的死亡率为51%，占癌症总死亡人数的9.4%；总体而言，结直肠癌在发病率方面排名第三，但在死亡率方面排名第二[1-2]。
结直肠镜检是当前最主要的CRC 检测筛查手段，能够检测并移除病变。
但是，检测效果受多种因素的制约，比如患者前期的肠道准备、肠道内的息肉数量与所在部位；此外，镜检过程需要内镜医师保持注意力高度集中的状态，过度疲劳将导致更高的误诊率与漏诊率。
为了应对这些困难，研究人员开发了计算机辅助诊断（Computer-aided Diagnostic, CAD）系统。
文献[3]提出了ColonSegNet 网络模型，预测结果平均准确率80.0%，平均交并比（IoU）为81.0%，在检测速度与预测精度间实现了更好的平衡。
文献[4]中基于深度学习算法DenseNet-201开发了CAD 系统，对NBI 结肠息肉图像准确预测结直肠息肉组织，诊断性能与内窥镜检查专家相当。
文献[5]提出了一种轻量级的无anchor 的卷积神经网络（CNN）结构，使用紧凑的堆叠沙漏网络，在ATLAS Dione 和Endovis Challenge 数据集上分别以37.0FPS 的速度获得了98.5%的mAP 和100%的mAP，实现了RAS 视频中手术器械的实时检测。
文献[6]提出了一个将Faster RCNN 与Inception Resnet 相结合的深度学习模型，在2015 MICCAI 数据集[7]上的检测准确率91.4%、召回率71.2%，但是每基金项目：国家自然科学基金（No.81971767，No.62103263，No.62103267），上海市科委科研项目（No.19142203800，No.19441913800，No.19441910600，No. 21ZR1429900）资助项目。
基于Inception-V3网络的多任务人脸属性
第22期2022年11月无线互联科技Wireless Internet TechnologyNo.22November,2022作者简介:谭彬(2001 ),男,重庆人,本科生;研究方向:计算机科学与技术㊂基于Inception -V3网络的多任务人脸属性识别研究谭㊀彬,杜炳德,赵雅琪(山西农业大学信息科学与工程学院,山西㊀太谷㊀030801)摘㊀要:现如今人脸识别相关技术应用在学校㊁公安等各个领域之中,其中人脸属性识别技术应用越来越广泛,为解决传统卷积神经网络模型复杂㊁参数多㊁训练慢等问题,文章提出一种基于以Inception -V3为主干网络的多任务学习的人脸属性识别模型,此模型有效降低了网络参数,加快了训练速度㊂首先采用主干网络进行特征提取,然后利用分支网络和多属性之间的关联性,判断出人脸属性信息㊂文章使用CelebA 数据集对上述模型进行性能分析,模型的识别准确率最高可达91.67%,此方法能有效识别人脸属性信息,可为人脸属性识别领域的应用提供理论基础㊂关键词:人脸属性识别;Inception -V3;特征提取;多任务学习0㊀引言㊀㊀目前,深度学习的发展越来越快,人脸属性识别也成了深度学习的一个重要研究领域[1]㊂人脸包含很多属性特征,比如性别㊁微笑㊁眼镜等,人脸多属性识别检测到一张图像时,对图像处理并返回一些人脸信息㊂基于人脸多属性识别技术可应用在智慧公安系统[2]㊁教学管理系统等诸多领域[3]㊂传统的人脸识别包括对图像进行特征提取以及进行分类器的训练[4]㊂随着人脸属性识别算法不断发展,对应的神经网络逐渐加深,识别效果也逐步提升㊂随着网络加深,参数也必定会增多㊂因此本文采用一种基于多任务网络的人脸识别技术㊂通过共享Inception -V3主干网络,大大地减少了模型参数,并且加快了训练速度㊂将一种属性对应一个分支网络,构建多分支网络,联合学习多个属性,增强属性之间的相关性㊂此方法模型参数较少,准确率较高,具有很大的研究意义㊂1㊀网络基础㊀㊀本文搭建了一个多任务网络来完成人脸识别任务,为了减少计算量和网络参数,通过使用共享的Inception -V3主干网络进行特征提取[5],然后将得到的特征输送给搭建好的4个分支网络,最终完成多任务网络的训练和测试㊂1.1㊀Inception -V3主干网络㊀㊀为了保持神经网络结构的稀疏性,又能充分利用密集矩阵的高计算性能㊂Google 团队提出Inception 结构,相较于传统的卷积神经网络来说,Inception 的计算量比传统的卷积神经网络更少,控制了参数量和计算量的同时,获得了非常好的分类性能㊂Inception -V1有22层,比VGGNet 的19层更深但参数更少,表达能力更强㊂采取多个尺度的卷积核进行特征提取,其中包括1ˑ1㊁3ˑ3㊁5ˑ5,通过1ˑ1卷积核降低通道数量,可以加速网络学习㊂该网络结构在增加了网络深度,提升了网络普遍性㊂原始的Inception 模块如图1所示㊂图1㊀原始的Inception 模块101㊀㊀后续Inception 模块在原始的Inception 模块上进行了改进,Inception -V2是使用小卷积替换了大卷积,使用两个3ˑ3卷积替换了一个5ˑ5的卷积,分解前后的感受野相同,并且增强了representation 能力,分解之后可以多加一个激活函数,增强了非线性表达能力㊂Inception -V2还提出了著名的Batch Normalization 算法,该算法是将网络的输入数据进行归一化处理,让梯度增大,避免梯度消失现象,加快训练速度和收敛速度㊂Inception -V2模块如图2所示㊂图2㊀Inception -V2模块在此基础之上,Inception -V3引入了非对称卷积,将N ˑN 结构分解为1ˑN 和N ˑ1的叠加,分解之后的感受野还是与原来的感受野相同,并且进一步减少了计算量㊁加快训练测试速度和减轻过拟合㊂此外,Inception -V3网络优化了Inception -module 结构,优化后的Inception -module 应用在网络后面部分,浅层还是使用了普通的卷积层,以确保网络可以有效提取更多的特征㊂1.2㊀分支网络㊀㊀多任务学习是一种归纳迁移机制[6],多任务学习方法基于同一个主干网络,在浅层的卷积层共享特征,在深层的卷积层则开始对每个任务分别学习㊂其中每个属性对应一个学习任务,将主干网络的输出作为每一个分支网络的输入,最终完成对分支任务的学习㊂该方法通过共享的主干网络,大大减少了整体的计算量,并且能够将多个任务之间关联起来进行学习,最终能够得到更优的学习效果㊂本文搭建了一个多任务网络模型,多任务网络模型如图3所示㊂图3㊀多任务网络框2 人脸属性识别整体流程设计㊀㊀本文设计了一种基于多任务学习网络的人脸属性识别方法,整体的网络结构如图4所示,其中包含了主干共享网络和属性识别分支网络㊂图4㊀整体网络结构㊀㊀本文基于Inception -V3进行了改进,并且延展了分支网络,组成了一个多任务学习网络㊂本文中采用小卷积核来改进传统的卷积核,保证感受野不变的同时将参数量也减少了,并且还能增加更多的relu 激活函数㊂输入大小为三通道的180ˑ180的图片,进入主干网络进行一系列卷积操作,主干网络部分是多个1ˑ1的小卷积和3ˑ1与1ˑ3的非对称卷积的组合,在卷积层之间加入relu 激活函数,可以增加网络的非线性,使网格具有稀疏性,减少过拟合的风险㊂在主干网络中加入BN 层,目的是在网络的每一层输入的时候,插入一个BN 层,也就是先进行归一化处理,然后再进入网络的下一层㊂归一化公式如下:201一层有d 维输入:x =(x (1) x (d ))(1)归一化每一维:x ^(k )=x (k )-E [x (k )]Var [x (k )](2)增加了BN 层之后,能够改善流经网络的梯度㊁允许更大的学习率㊁大幅提高训练速度㊂主干网络输出的值,首先通过一个average -pooling 层,将当前的特征图进行平均操作,减少空间信息也就是减少参数㊂随之在average -pooling 层后加一个dropout 层,不仅解决过拟合问题还加快了训练速度㊂然后再加一个flatten 层,该层用来将输入压平,即把多维的输入一维化,常用在从卷积层到全连接层的过渡㊂最后即可得到分支网络的输入㊂主干网络搭建完成之后,进行搭建分支网络,定义4个属性,分别是glasses,smile,young,male㊂分支网络使用二分类网络对4个属性进行处理,最终输出结果为0或1,其中1表示具有该属性,0表示不具有该属性㊂本文使用4个全连接层分别对各分支网络的输入数据进行处理,处理后输出一个二维的数据㊂在最后一层加入softmax 函数,softmax 适用于解决多分类问题,当分类情况只有两种的时候,softmax 就转换成了回归问题,也就是二分类问题,对应的softmax 的表达式如下:softmax(x )=e x 1ex 1+ex 2=e x 1ːe x 1ex 1ːe x 1+ex 2ːex 1=11+ex 2-x 1(3)㊀㊀该函数进行结果的预测,将最终结果约束到[0,1]之间,将得到的预测结果与真实结果进行比较,比较他们的拟合效果,通过损失函数的大小,不断修正模型参数㊂3 实验3.1㊀数据准备和数据打包㊀㊀本文采用了香港中文大学发布的CelebA 人脸属性数据集,该数据集提供了人脸对齐和自然场景下近20万张人脸图像,标注了40种人脸属性和5个人脸关键点的位置信息㊂本文只使用其中4个人脸属性进行具体的研究,以这4种属性来验证该网络模型的可行性㊂这4个属性分别是glasses,smile,young,male㊂首先通过opencv 库对图片进行读取,将读取到的图片通过dlib 库中的人脸检测器识别出人脸的位置,并且裁剪人脸区域的图像,通过检测出来的人脸框数据,把数据中较小的人脸图片过滤掉㊂把最终得到的图像resize 至128ˑ128的大小,将图像的类型转换成bytes 类型,方便后续打包㊂然后从标注文件中提取4个属性对应的属性值㊂遍历标注文件(txt 文件)中的属性名所对应的一行,通过split 函数对属性名进行分隔,得到4个属性所对的下标值㊂对每一行的标注信息也通过split 函数进行分隔,结合得到的下标值和分隔后的标注信息就能够得到图片中4个属性对应的属性值,其中1表示是该图片具有该属性,-1表示否㊂实验中将处理后的图像数据与对应的4个属性值的数据结合起来完成数据打包,把最终打包的文件保存为tfrecord 类型文件㊂3.2㊀模型训练㊀㊀㊀在训练之前设置网络中的一些参数,本文网络中使用了fc 层,故在fc 层之前加入drop -out 层来完成正则化,以减少过拟合的问题,将网络中的drop -out 参数设置为0.5㊂本文中的学习率采用指数衰减的衰减方式,将学习率的初始值设置为0.0001,衰减步长为1000,衰减比率为0.98㊂为了使损失函数逼近最小化,在训练的时候引入优化器,本文选用的是Adam 优化器,该优化器可控制学习速度,经过偏置校正后,每一次迭代学习率都有个确定范围,使得参数比较平稳,提高模型准确率㊂指定训练的参数之后,传入tfrecord 文件进行训练,训练时将shuffle 参数置为True,通过shuffle 实现数据增强㊂在标注信息中,需要将原来的标注信息的值为-1和1转换为0和1,其中1表示具有该属性,0表示不具有该属性,使得后续预测的时候输出的是0和1㊂将最终训练好的模型保存为ckpt 文件㊂然后将保存的网络模型进行网络固化,将ckpt 文件转为pb 文件,使用pb 文件实现前向推理㊂3.3㊀损失函数和评价方法㊀㊀损失函数的作用是描述模型的预测值和真实值之间的差距大小,使得模型通过不断地训练来变得收敛㊂对于多任务网络结构,本文采用交叉熵损失函数对模型进行训练[7]㊂对输入的logits 先通过softmax 函数计算,再计算交叉熵损失函数,交叉熵损失函数的公式如下:L (θ)=-ðmi =1ðn ij =1(y (i )j log(h θx (i )j )+(1-y (i )j )log(1-h θx (i )j ))(4)公式(4)中的m 表示属性总数,n i 表示第i 个属性的样本总数,y (i )j指第i 个属性第j 个样本的标注值,而h θx (i )j指第i 个属性第j 个样本的预测值㊂随着训练次数的增加,不断更新网络参数,来减少损失函数的大小,实现模型的高精确性㊂本文中每一个属性对应一个损失函数,然后将4个损失函数相加得到一个总的损失函数,总的损失函数的变化如图5所示㊂本文采用准确率(ACC)作为模型的评价标准,准确率(ACC)是指分类正确样本个数与总样本数的比值,公式如下:Accuracy =TP +TNTP +FN +FP +TN(5)公式(5)中TP 表示被模型预测为正的正样本,TN 表示被模型预测为负的负样本,FP 表示被模型预测为正的负样本,FN 表示被模型预测为负的正样本㊂301图5㊀损失函数的变化情况3.4㊀实验结果与分析㊀㊀选取300张人脸图片进行测试,多任务网络模型逐一读取图片,并且完成多属性识别任务,得到如表1所示的准确率㊂实验表明,基于Inception-V3改进的多任务网络人脸属性识别模型的平均分类准确率可达89.09%,准确率较高,进一步证明了该模型对于人脸属性识别的可行性,能够较好地应用在信息安全等领域,具有较高的研究价值㊂4㊀结语㊀㊀本文结合深度学习进行人脸属性的识别,基于Inception-V3网络为主干网络,并对其进行扩展和优化,搭建了多任务网络结构,使用此网络结构的人脸属㊀㊀表1㊀各属性的识别准确率属性正确识别数量/张准确率/% glasses26989.67smile26287.33young26387.67male27591.67性识别有效地降低参数量,准确率最高可达91.67%,证明了该网络的可行性㊂人脸属性识别的应用领域越来越广泛,为教育㊁公安等部门提供了很好的技术方案,其应用前景非常广阔㊂[参考文献][1]周婕,马明栋.基于改进的ResNet网络的人脸表情识别[J].计算机技术与发展,2022(1):25-29.[2]郝天然.人脸识别技术在智慧公安系统中的应用[J].数字通信世界,2021(12):5-7.[3]刘红英,钟冰冰.基于人脸识别的教务安全客户端设计与实现[J].数字技术与应用,2021(10):221-224,227.[4]曹大有,胥帅.基于TensorFlow预训练模型快速㊁精准的图像分类器[J].汉江师范学院学报,2017(3):27-32.[5]张文静,孙秀朋,乔永亮,等.基于InceptionV3的烟草病害识别[J].中国烟草学报,2021(5):61-70.[6]陈佳辉,陈岚萍.基于迁移学习的海底底质声呐图像分类[J].计算机仿真,2022(1):229-233.[7]苏美红,张海.基于不同损失函数的模型选择和正则化学习方法[J].纺织高校基础科学学报,2014(4):463-469.(编辑㊀傅金睿) Research on multi task face attribute recognition based on Inception-V3networkTan Bin,Du Bingde,Zhao Yaqi(College of Information Science and Engineering,Shanxi Agricultural University,Taigu030801,China) Abstract:Nowadays,Face Recognition Technology has applications in many fields,such as education,the public Security and so on.Among them,Face attribute recognition is more and more widely used.In order to solve the problems of complex model,many parameters,slow training and others on the traditional convolutional neural network,this thesis proposes a Face Recognition model which based on multi-task learning with Inception-V3as backbone network.The model effectively reduces the network parameters and accelerates the training speed.First, feature extraction is carried out using backbone network.And then,the model judges face attribute information based on the correlation between branch network and multiple attributes.This paper analyzes the performance of the above models on CelebA data set.The recognition accuracy of the model can reach91.67%.This method can effectively recognize face attribute information and provide a theoretical basis for the application of face attribute recognition. Key words:face attribute recognition;inception-V3;feature extraction;multi-task learning401。
残差神经网络与inception-resnet
残差神经⽹络与inception-resnet⼀、基本概念Residual Connection：本质是“短路连接”如下图阴影部分，通过增加shortcuts，加速训练，从⽽可以训练出更深的模型（I.R.v2 > Inception v3）。
更深的模型意味着可以学出更多东西，带来精度的提升。
I.R. v2结构，注意到图中inception区块被简化了，⽐先前的Inception V3种要包含更少的并⾏塔（parallel towers）。
Inception模块的特点，是通过这种并联结构减少参数，使得泛化性更好、降低对样本数量的要求。
实现通过将并联部分与“短路连接”的tensors相加（或加权相加），并经过⼀个‘relu’激活函数。
x = layers.add([mix0, shortcut])x = layers.Activation('relu')(x)⼆、论⽂为了进⼀步推进这个领域的进步，今天Google团队宣布发布Inception-ResNet-v2（⼀种卷积神经⽹络——CNN），它在ILSVRC图像分类基准测试中实现了当下最好的成绩。
Inception-ResNet-v2是早期Inception V3模型变化⽽来，从微软的残差⽹络（ResNet）论⽂中得到了⼀些灵感。
相关论⽂信息可以参看我们的论⽂Inception-v4, Inception-ResNet and the Impact of Residual Connections on Learning（Inception-v4, Inception-ResNet以及残差连接在学习上的影响）：残差连接（Residual connections ）允许模型中存在shortcuts，可以让研究学者成功地训练更深的神经⽹络（能够获得更好的表现），这样也能明显地简化Inception块。
效果如下⽅图表所⽰，Inception-ResNet-v2架构的精确度⽐之前的最优模型更⾼，图表中所⽰为基于单个图像的ILSVRC 2012图像分类标准得出的排⾏第⼀与排⾏第五的有效精确度。
基于改进Inception-ResNet-v2的城市交通路面状态识别算法
基于改进Inception-ResNet-v2的城市交通路面状态识别算
法
王佳;黄德启;郭鑫;杨路明
【期刊名称】《科学技术与工程》
【年(卷),期】2022(22)6
【摘要】针对传统方法对于路面状态识别准确率低的问题,提出了一种改进Inception-ResNet-v2的路面状态识别算法,对6种城市交通路面状态进行识别。
首先,在Inception-ResNet-v2算法的Inception-ResNet-C模块引入SENet注意力机制得到SE-Inception-ResNet-C模块,使算法学习到不同通道特征的重要程度;然后采用特征融合策略,将不同层级的特征信息融合,防止重要特征信息的丢失;最后采用全卷积结构,将原始算法中的全连接层换成卷积层,不仅保证了图像的空间结构,还能使网络接收任意尺度的图片。
实验结果表明,该算法能提取关键的特征信息,有效提高了路面状态的识别精度。
【总页数】7页(P2524-2530)
【作者】王佳;黄德启;郭鑫;杨路明
【作者单位】新疆大学电气工程学院
【正文语种】中文
【中图分类】U467.4
【相关文献】
1.基于改进BP神经网络的路面状态识别研究
2.基于改进人工蜂群算法和BP神经网络的沥青路面路表裂缝识别
3.遗传算法优化支持向量机的城市交通状态识别
4.基于改进BOF算法的压板状态识别方法研究
5.基于改进FCM聚类算法的高速公路交通状态识别
因版权原因，仅展示原文概要，查看原文内容请购买。
- 1、下载文档前请自行甄别文档内容的完整性，平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益，请联系客服反馈,我们会尽快为您处理(人工客服工作时间：9:00-18:30)。
proposed method favorably outperforms the state-of-the-art approaches in terms of accuracy and stability.
Key words: crowd counting； improved Inception-ResNet-A module ； gradient boosting； multi-scale features； receptive field
基于优化的Inception-ResNet-A模块与 Gradient Boosting的人群计数方法
郭瑞琴'，陈雄杰1 9骆 炜符长虹'
(1.同济大学机械与能源工程学院，上海201804； 2.斯图加特大学工程与计算力学研究所，斯图加特70569)
摘要：针对人群计数问题，基于优化Inception-ResNet-A模 块，使用集成学习中的Gradient Boosting方法提出了一种可 用于稀疏人群和密集人群的人群计数方法，并给出此方法实 现的具体细节.通过在三个公开数据集和真实场景(含光照 和视角变化)中进行测试，检验了该方法对于光照、人群密 度、视角等变化的鲁棒性.实验结果表明，该方法对于以上变 化具有较强的鲁棒性，并且相比于之前的人群计数方法在准 确性和稳定性方面具有更好的性能.
GUORuiqin1. CHEN Xiangjie1, LUO Wei2, FUChanghang1
(1. School of Mechanical Engineering, Tongji Univers让y, Shanghai 201804, China； 2. Institute of Engineering and Computational Mechanics, University of Stuttgart, Stuttgart 70569, Germany)
收稿日期：2018-11-12 基金项目：中央高校基本科研业务费专项资金(22120180009) 第一作者：郭瑞琴(1962—),女,副教授，硕士生导师，工学博士，主要研究方向为机器人理论与应用研究、机构及传动系统设计、产品设计
与开发.E-mail：07172@tongji. edu. cn 通信作者：符长虹(1986-),男，助理教授，硕士生导师，工学博士，主要研究方向为基于计算机视觉的无人机目标跟踪、即时定位与地图
Abstract: To count the pedestrians in the scenarios with the sparse or dense crowd, a network based on the improved Inception-ResNet-A module is proposed, which is trained w让h the gradient boosting method of ensemble learning, and the details of the proposed method are given. Besides, a dataset collected in a real scenario, which contains illumination and camera view changes, and other three public datasets are used to evaluate the robustness of the proposed method in terms of illumination, population density, and camera view changes. The experimental results show that the proposed method is robust to the aforementioned changes. In add让ion, the
在早期的人群计数研究中，大多数计数方法是 以目标检测为基础，其检测方法主要分为两类:一类 是基于人工设计特征的目标检测⑴］；另一类是基于 深度神经网络提取特征的目标检测M⑶.目标检测 方法首先通过训练得到能够定位目标的检测器，然 后使用该目标检测器在图片中找到指定目标，并将 检测得到的目标数量作为最后的计数结果.该方法 能够比较有效地检测出目标，并对单个目标精确定
第47卷第8期 2019年8月
同济大学学报(自然科学版) JOURNAL OF TONGJI UNIVERSITY(NATURAL SCIENCE)
Vol. 47 No. 8 A019)08-1216-09
DOI：10.11908/j. issn. 0253-374x. 2019. 08.020
随着科学技术的快速发展,交通工具更加便利， 城市化进程不断加快，城市流动人口的数量快速增 长，城市繁华街道越来越拥挤，各种大型展览会的参 展人员也越来越多•为了保证城市交通通畅,合理控 制人群密集场合的人员数量，保证人民群众生命安 全，有必要对行人行为和分布规律进行研究口⑷.人 群计数技术作为该领域的重要组成部分之一，近年 来受到众多国内外研究机构的关注口力•人群计数主 要有以下难点：第一，在一张图片中，行人的尺度变 化;第二，不同场景下的行人分布变化;第三,相同场 景下不同时间的行人分布变化.由于不同场景图片 中行人数量和大小差别较大，因此要求计数方法对 不同环境场景中行人尺寸的多样性具有很强的鲁棒 性•为解决这个难题，学者们提出了各种不同的人群 计数方法来保证神经网络适应这种尺度的变化⑴叫
关键词：人群计数；优化Inception-ResNet-A模块；Gradient
Boosting；多尺度特征；感知野
中图分类号：TP181
文献标志码：A
A Method of Crowd Counting Based on Improved Inception - ResNet - A Module with Gradient Boosting