CNN图像分类简介
合集下载
- 1、下载文档前请自行甄别文档内容的完整性，平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益，请联系客服反馈,我们会尽快为您处理(人工客服工作时间：9:00-18:30)。
特点2
卷积
池化（pooling）
• Max pooling • Avg pooling
网络结构
网络结构
• conv1阶段DFD（data flow diagram）：
网络结构
• conv2阶段DFD（data flow diagram）：
网络结构
• conv3阶段DFD（data flow diagram）：
网络结构
• conv4阶段DFD（data flow diagram）：
网络结构
• conv5阶段DFD（data flow diagram）：
网络结构
• fc6阶段DFD（data flow diagram）：
网络结构
• fc7阶段Dຫໍສະໝຸດ BaiduD（data flow diagram）：
网络结构
• fc8阶段DFD（data flow diagram）：
网络学习
• 模型（假设函数）
• 代价函数
1{表达式为真}=1， 1{表达式为假}=0，最大化对应类别的概率
• 优化方法 mini-batch梯度下降
网络学习
• 学习到的96个conv1卷积滤波器
以上有不当之处，请大家给与批评指正， 谢谢大家！
27
BP神经网络模型
BP神经网络模型
• 前向传播
卷积神经网络
• 局部连接
– 区别于BP网络的全连接 – 权值参数大大减少
• 权值共享
– 每个神经元都使用相同的权值参数（不同的滑 窗位置使用相同的卷积核权值）
– 权值参数个数变为常数（卷积核的平方数）， 与神经元个数无关
卷积神经网络
特点1
卷积神经网络
ImageNet Classification with Deep Convolutional Neural Networks
监督模式识别系统
• 图像特征 特征的好坏是整个系统的性能瓶颈
• 监督机器学习算法 分类或者预测
Deep Learning = Learning Hierarchical Representations
Hierarchical Representations
监督机器学习
数据
训练样本集有m个已标注样本 {(x1,y1),(x2,y2),…(xm,ym)},xi是第i个训练样本的特征， yi是对应的期望值，作为监督信号。
监督机器学习
监督机器学习
• 不同学习方法之间的区别在于或者是模型 不同，或者是代价函数不同，或者是优化 方法不同。
图像特征
• Feature Engineering （HOG,SIFT）
– 要求开发人员对要解决的问题有深入理解 – 取得好的效果往往要消耗开发团队大部分人力
• Feature Learning
– 海量训练数据中学习有用特征 – 提升分类或预测性能
Feature Engineering or Feature Learning?
卷积
池化（pooling）
• Max pooling • Avg pooling
网络结构
网络结构
• conv1阶段DFD（data flow diagram）：
网络结构
• conv2阶段DFD（data flow diagram）：
网络结构
• conv3阶段DFD（data flow diagram）：
网络结构
• conv4阶段DFD（data flow diagram）：
网络结构
• conv5阶段DFD（data flow diagram）：
网络结构
• fc6阶段DFD（data flow diagram）：
网络结构
• fc7阶段Dຫໍສະໝຸດ BaiduD（data flow diagram）：
网络结构
• fc8阶段DFD（data flow diagram）：
网络学习
• 模型（假设函数）
• 代价函数
1{表达式为真}=1， 1{表达式为假}=0，最大化对应类别的概率
• 优化方法 mini-batch梯度下降
网络学习
• 学习到的96个conv1卷积滤波器
以上有不当之处，请大家给与批评指正， 谢谢大家！
27
BP神经网络模型
BP神经网络模型
• 前向传播
卷积神经网络
• 局部连接
– 区别于BP网络的全连接 – 权值参数大大减少
• 权值共享
– 每个神经元都使用相同的权值参数（不同的滑 窗位置使用相同的卷积核权值）
– 权值参数个数变为常数（卷积核的平方数）， 与神经元个数无关
卷积神经网络
特点1
卷积神经网络
ImageNet Classification with Deep Convolutional Neural Networks
监督模式识别系统
• 图像特征 特征的好坏是整个系统的性能瓶颈
• 监督机器学习算法 分类或者预测
Deep Learning = Learning Hierarchical Representations
Hierarchical Representations
监督机器学习
数据
训练样本集有m个已标注样本 {(x1,y1),(x2,y2),…(xm,ym)},xi是第i个训练样本的特征， yi是对应的期望值，作为监督信号。
监督机器学习
监督机器学习
• 不同学习方法之间的区别在于或者是模型 不同，或者是代价函数不同，或者是优化 方法不同。
图像特征
• Feature Engineering （HOG,SIFT）
– 要求开发人员对要解决的问题有深入理解 – 取得好的效果往往要消耗开发团队大部分人力
• Feature Learning
– 海量训练数据中学习有用特征 – 提升分类或预测性能
Feature Engineering or Feature Learning?