卷积神经网络的深度范文
时间：2024-03-26 17:00:57
卷积神经网络的深度篇1
关键词： 交通标志； 识别； 卷积神经网络； 深度学习
中图分类号： TN911.73?34； TP391.41 文献标识码： A 文章编号： 1004?373X（2015）13?0101?06
Abstract： In actual traffic circumstance， the image quality of collected traffic signs is worse due to motion blur， background disturbances， weather conditions， and shooting angle. The higher requirements are proposed for accuracy， robustness and in real?time of traffic signs auto?recognition. In this situation， the traffic signs recognition method based on deep?layer convolution neural network is presented. The method adopts supervised learning model of deep?layer convolution neural network. Taking the collected traffic sign images through binarization as the inputs. The inputs are conducted multilayer process of convolution and pooling?sampling， to simulate hierarchical structure of human brain perception visual signals， and extract the characteristics of the traffic sign images automatically. Traffic signs recognition is realized by using a full connected network. The experimental results show that the method can extract the characteristics of traffic signs automatically by using deep learning ability of the convolution neural network. The method has good generalization ability and adaptive range. By using this method， the traditional artificial feature extraction is avoided， and the efficiency of traffic signs recognition is improved effectively.
Keywords： traffic sign； recognition； convolution neural network； deep learning
0 引 言
随着智能汽车的发展，道路交通标志的自动识别[1?3]作为智能汽车的基本技术之一，受到人们的高度关注。道路交通标志识别主要包括两个基本环节：首先是交通标志的检测，包括交通标志的定位、提取及必要的预处理；其次是交通标志的识别，包括交通标志的特征提取和分类。
如今，交通标志的识别方法大多数都采用人工智能技术，主要有下述两类形式[4]。一种是采用“人工特征+机器学习”的识别方法，如基于浅层神经网络、支持向量机的特征识别等。在这种方法中，主要依靠先验知识，人工设计特征，机器学习模型仅负责特征的分类或识别，因此特征设计的好坏直接影响到整个系统性能的性能，而要发现一个好的特征，则依赖于研究人员对待解决的问题的深入理解。另一种形式是近几年发展起来的深度学习模型[5]，如基于限制波尔兹曼机和基于自编码器的深度学习模型以及卷积神经网络等。在这种方法中，无需构造任何的人工特征，而是直接将图像的像素作为输入，通过构建含有多个隐层的机器学习模型，模拟人脑认知的多层结构，逐层地进行信息特征抽取，最终形成更具推广性和表达力的特征，从而提升识别的准确性。
卷积神经网络作为深度学习模型之一，是一种多层的监督学习神经网络，它利用一系列的卷积层、池化层以及一个全连接输出层构建一个多层的网络，来模仿人脑感知视觉信号的逐层处理机制，以实现视觉特征信号的自动提取与识别。本文将深层卷积神经网络应用于道路交通标志的识别，通过构建一个由二维卷积和池化处理交替组成的6层网络来逐层地提取交通标志图像的特征，所形成的特征矢量由一个全连接输出层来实现特征的分类和识别。实验中将加入高斯噪声、经过位移、缩放和旋转处理的交通标志图像以及实际道路采集交通标志图像分别构成训练集和测试集，实验结果表明，本文所采用的方法具有良好的识别率和鲁棒性。
1 卷积神经网络的基本结构及原理
1.1 深度学习
神经科学研究表明，哺乳动物大脑皮层对信号的处理没有一个显示的过程[5]，而是通过信号在大脑皮层复杂的层次结构中的递进传播，逐层地对信号进行提取和表述，最终达到感知世界的目的。这些研究成果促进了深度学习这一新兴研究领域的迅速发展。
深度学习[4，6?7]的目的就是试图模仿人脑感知视觉信号的机制，通过构建含有多个隐层的多层网络来逐层地对信号特征进行新的提取和空间变换，以自动学习到更加有效的特征表述，最终实现视觉功能。目前深度学习已成功地应用到语音识别、图像识别和语言处理等领域。在不同学习框架下构建的深度学习结构是不同的，如卷积神经网络就是一种深度的监督学习下的机器学习模型。
1.2 卷积神经网络的基本结构及原理
卷积神经网络受视觉系统的结构启发而产生，第一个卷积神经网络计算模型是在Fukushima的神经认知机中提出的[8]，基于神经元之间的局部连接和分层组织图像转换，将有相同参数的神经元应用于前一层神经网络的不同位置，得到一种平移不变神经网络结构形式。后来，LeCun等人在该思想的基础上，用误差梯度设计并训练卷积神经网络[9?10]，在一些模式识别任务上得到优越的性能。
卷积神经网络本质上是一种有监督的深度学习算法，无需事先知道输入与输出之间精确的数学表达式，只要用已知的模式对卷积神经网络加以训练，就可以学习到输入与输出之间的一种多层的非线性关系，这是非深度学习算法不能做到的。卷积神经网络的基本结构是由一系列的卷积和池化层以及一个全连接的输出层组成，可以采用梯度下降法极小化误差函数对网络中的权值和阈值参数逐层反向调节，以得到网络权值和阈值的最优解，并可以通过增加迭代次数来提高网络训练的精度。
1.2.1 前向传播
在卷积神经网络的前向传播中，输入的原始图像经过逐层的卷积和池化处理后，提取出若干特征子图并转换成一维特征矢量，最后由全连接的输出层进行分类识别。
在卷积层中，每个卷积层都可以表示为对前一层输入图像的二维卷积和非线性激励函数，其表达式可用式（1）表示：
[Ylj=f i=1Ml-1Yl-1i?Wlij+blj] （1）
式中：[Ylj]是第l层中第[j]个卷积特征子图的输出；[Ml-1]是前一层（[l-1]层）的输出[Yl-1j]的总数；[Wlij]是第[l]层中第[j]个卷积的权值；[blj]是第[l]层中第[j]个卷积的阈值；符号“*”表示二维卷积运算；[f（?）]是非线性激励函数，其表达式如下：
[f（x）=11+e-x] （2）
式中：[x]是函数的输入。对于一幅[Nl-1x*Nl-1y] 的输入图像[Yl-1i]和[Klx*Kly]的卷积权值[Wlij，]输出[Ylj]的大小为[Nl-1x-Klx+1，Nl-1y-Kly+1。]
在池采样层中，每个池采样层通过一个非重叠的[kx×ky]矩形区对上一卷积层输出的特征子图进行采样（求矩形区内像素的均值或最大值）。经过池采样后输出的特征子图在两个维度上分别缩小[kx]和[ky]倍，其表达式为：
[Yl+1j=down（Ylj）] （3）
式中：[Yl+1j]表示第[l+1]层中第[j]个池采样的输出；[Ylj]是前一层（l层）的输出特征子图；down（）实现对[Ylj]的池采样。图1给出了上述卷积和池采样的示意图。
在输出层中，首先利用一个全连接层将输入的特征子图转换为一个一维的特征矢量，然后再应用一个BP神经网络完成特征矢量的分类识别。BP神经网络输出层的每一个神经元的输出值对应于输入图像所属不同交通标志图像的概率，表达式为：
[Yj=fi=1nWij×Yl+1i+bj] （4）
式中：[Yj]表示输出层中第[j]个输出；[Yl+1i]是前一层（[l+1]层）的输出特征（全连接的特征向量）；[n]是输出特征向量的长度；[Wij]表示输出层的权值，连接输入[i]和输出[j]；[bj]表示输出层第[j]个输出的阈值；[f（?）]是输出层的非线性激活函数。
对于一个有[C]种不同的交通标志和共计[N]个样本的情况，整个网络的误差平方代价函数[11]为：
[EN=12n=1Nk=1Ctnk-ynk2=12n=1NTn-Yn2] （5）
式中：[T=[t1， t2， …， tC]]为网络的理想输出目标矢量；[Y=[y1， y2， …， yC]]为网络的实际输出矢量；[tk=0，1，][yk∈[0，1]，][k=1，2，…，C。]
当只考虑第[n]个单个样本时，网络的误差平方代价函数可以表示为：
[En=12k=1Ctnk-ynk2=12Tn-Yn2] （6）
1.2.2 反向传播
在反向传播过程中，卷积神经网络的训练方法采用类似于BP神经网络的梯度最速下降法，即按极小化误差的方法反向传播调整权值和阈值。网络反向传播回来的误差是每个神经元的基的灵敏度[12]，也就是误差对基的变化率，即导数。下面将分别求出输出层、池采样层和卷积层的神经元的灵敏度。
（1） 输出层的灵敏度
对于误差函数式（6）来说，输出层神经元的灵敏度可表示为：
[δ=-fu×T-Y] （7）
[u=W×Yl+1+b] （8）
式中：[T]表示目标输出；[Y]表示网络的实际输出；[Yl+1]表示上一层（池采样层）的输出；[W，b]分别是输出层的权值和阈值。那么输出层的权值和阈值的导数为：
[?E?W=Yl+1×δT] （9）
[?E?b=δ] （10）
（2） 池采样层的灵敏度
池采样层没有权值和阈值，所以不存在权值和阈值的导数，只需要求出该层的灵敏度。
① 若池采样层的下一层为全连接的输出层，那么池采样层的灵敏度为：
[δl+1i=WijTδj] （11）
式中：[δil+1]表示输出层的第[j]个灵敏度；[Wij]表示输出层的权值。
② 若池采样层的下一层是卷积层，那么假设第[l+1]层为池采样层，第[l+2]层为卷积层，且卷积层的灵敏度为[δl，]有[M]个特征图。第[l+1]层中的每个特征的灵敏度等于第[l+2]层所有特征核的贡献之和，那么池采样层的灵敏度为：
[δl+1i=j=1Mδl+2j?Wl+2ij] （12）
式中：“[?]”表示卷积；[δil]表示第[l]层第[i]个特征映射的灵敏度；[δjl+1]表示第[l+1]层第[j]个特征映射的灵敏度；[Wl+1ij]表示第[l+1]层的权值，连接第[i]个特征灵敏度与第[j]个特征灵敏度。
（3） 卷积层的灵敏度
假设第[l]层为卷积层，第[l+1]层为池采样层，且池采样层的灵敏度为[δl+1，]那么卷积层的灵敏度为：
[δlj=up（（δl+1j））] （13）
[up（δl+1j）δl+1j?1kx×ky] （14）
式中：up（・）表示池采样第[l+1]层的灵敏度特征映射；[δjl]表示第[l]层第[j]个特征映射的灵敏度；[δjl+1]表示第[l+1]层第[j]个特征映射的灵敏度；[kx×ky]表示采样池的大小。
现在对于一个给定的特征映射，就可以计算出卷积层的权值和阈值的导数：
[?E?Wlij=u，v（δlj）uv（Yl-1i）uv] （15）
[?E?blj=u，v（δlj）u，v] （16）
式中：[Yl-1i]是第[l-1]层与权值[Wlij]作卷积的特征映射；输出卷积映射的[（u，v）]位置的值是由第[l-1]层的[（u，v）]位置的特征映射与权值[Wlij]卷积的结果。
1.3 网络权值和阈值的调整
所有层的权值和阈值的导数都可以用上述方法求得，然后再依据梯度下降法[13]调整权值和阈值，如下：
[ΔWijk+1=ηΔWijk+α（1-η）?E?Wijk] （17）
[Wijk+1=Wijk+ΔWij（k+1）] （18）
[Δbjk+1=ηΔbjk+α（1-η）?E?bjk] （19）
[bjk+1=bjk+Δbj（k+1）] （20）
其中：[k]表示迭代次数；[ΔWij，][Δbj]分别表示权值和阈值的调整值；[Wij，][bj]分别表示权值和阈值调整后的值；[α]为学习效率；[η]为动量因子。
在前向传播过程中，得到网络的实际输出，进而求出实际输出与目标输出之间的误差；在反向传播过程中，利用误差反向传播，采用式（17）～式（20）来调整网络的权值和阈值，极小化误差；这样，前向传播和反向传播两个过程反复交替，直到达到收敛的要求为止。
2 深层卷积神经网络的交通标志识别方法
2.1 应用原理
交通标志是一种人为设计的具有特殊颜色（如红、黄、白、蓝、黑等）和特殊形状或图形的公共标志。我国的交通标志主要有警告、禁令、指示和指路等类型，一般采用颜色来区分不同的类型，用形状或图形来标示具体的信息。从交通标志设计的角度来看，属于不同类型（不同颜色）的交通标志在形状或图形上有较大的差异；属于相同类型（相同颜色）的标志中同类的指示信息标志在形状或图形上比较接近，如警告标志中的平面交叉路口标志等。因此，从机器视觉的角度来分析，同类型中同类指示信息的标志之间会比不同类型的标志之间更易引起识别错误。换句话说，相比于颜色，形状或图形是正确识别交通标志的关键因素。
因此，在应用卷积神经网络识别交通标志时，从提高算法效率和降低错误率综合考虑，将交通标志转换为灰度图像并作二值化处理后作为卷积神经网络的输入图像信息。图2给出了应用卷积神经网络识别交通标志的原理图。该网络采用了6层交替的卷积层和池采样层来逐层提取交通标志的特征，形成的特征矢量由一个全连接的输出层进行识别。图中：[W1i]（i=1，2，…，m1），W1j（j=1，2，…，m2），…，[W1k]（k=1，2，…，m（n?1））分别表示卷积层[L1，L3，…，Ln-1]的卷积核；Input表示输入的交通标志图像；Pool表示每个池采样层的采样池；map表示逐层提取的特征子图；[Y]是最终的全连接输出。
交通标志识别的判别准则为：对于输入交通标志图像Input，网络的输出矢量[Y=[y1，y2，…，yC]，]有[yj=Max{y1，][y2，…，yC}，]则[Input∈j，]即判定输入的交通标志图像Input为第[j]类交通标志。
2.2 交通标志识别的基本步骤
深层神经网络识别交通标志主要包括交通标志的训练与识别，所以将交通标志识别归纳为以下4个步骤：
（1） 图像预处理：利用公式Gray=[0.299R+][0.587G+0.114B]将彩色交通标志图像转换为灰度图像，再利用邻近插值法将交通标志图像规格化，最后利用最大类间方差将交通标志图像二值化。
（2） 网络权值和阈值的初始化：利用随机分布函数将权值[W]初始化为-1～1之间的随机数；而将阈值[b]初始化为0。
（3） 网络的训练：利用经过预处理的交通标志图像构成训练集，对卷积神经网络进行训练，通过网络前向传播和反向传播的反复交替处理，直到满足识别收敛条件或达到要求的训练次数为止。
（4） 交通标志的识别：将实际采集的交通标志图像经过预处理后，送入训练好的卷积神经网络中进行交通标志特征的提取，然后通过一个全连接的网络进行特征分类与识别，得到识别结果。
3 实验结果与分析
实验主要选取了我国道路交通标志的警告标志、指示标志和禁令标志三类中较常见的50幅图像。考虑到在实际道路中采集到的交通标志图像会含有噪声和出现几何失真以及背景干扰等现象，因此在构造网络训练集时，除了理想的交通标志以外，还增加了加入高斯噪声、经过位移、旋转和缩放处理和实际采集到的交通标志图像，因此最终的训练样本为72个。其中，加入的高斯噪声为均值为0，方差分别为0.1，0.2，0.3，图像的位移、旋转、缩放的参数分别随机的分布在±10，±5°，0.9～1.1的范围内。图3给出了训练集中的交通标志图像的示例。图4是在实际道路中采集的交通标志图像构成的测试集的示例。
在实验中构造了一个输入为48×48个神经元、输出为50个神经元的9层网络。网络的输入是像素为[48×48]的规格化的交通标志图像，输出对应于上述的50种交通标志的判别结果。网络的激活函数采用S型函数，如式（2）所示，其输出范围限制在0～1之间。
表1给出网络的结构参数，包括每一层的特征数、神经元数、卷积核尺寸和均值采样尺寸等。
图5给出一幅交通标志图像在卷积层和均值采样层的特征子图的示例。
图6是交通标志的训练总误差[EN]曲线。在训练开始的1 500次，误差能迅速地下降，在迭代2 000次以后是一个平稳的收敛过程，当迭代到10万次时，总误差[EN]可以达到0.188 2。
在交通标志的测试实验中，为了全面检验卷积神经网络的识别性能，分别针对理想的交通标志，加入高斯噪声、经过位移、旋转和比例缩放以及采集的交通标志图像进行实验，将以上测试样本分别送入到网络中识别，表2给出了测试实验结果。
综合分析上述实验结果，可以得到以下结论：
（1） 在卷积神经网络的训练学习过程中，整个网络的误差曲线快速平稳的下降，体现出卷积神经网络的训练学习具有良好的收敛性。
（2） 经逐层卷积和池采样所提取的特征具有比例缩放和旋转不变性，因此对于旋转和比例缩放后的交通标志能达到100%的识别率。
（3） 与传统的BP网络识别方法[11]相比较，卷积神经网络能够达到更深的学习深度，即在交通标志识别时能够得到更高的所属类别概率（更接近于1），识别效果更好。
（4） 卷积神经网络对实际采集的交通标志图像的识别率尚不能达到令人满意的结果，主要原因是实际道路中采集的交通标志图像中存在着较严重的背景干扰，解决的办法是增加实际采集的交通标志训练样本数，通过网络的深度学习，提高网络的识别率和鲁棒性。
4 结 论
本文将深层卷积神经网络应用于道路交通标志的识别，利用卷积神经网络的深层结构来模仿人脑感知视觉信号的机制，自动地提取交通标志图像的视觉特征并进行分类识别。实验表明，应用深层卷积神经网络识别交通标志取得了良好的识别效果。
在具体实现中，从我国交通标志的设计特点考虑，本文将经过预处理二值化的图像作为网络的输入，主要是利用了交通标志的形状信息，而基本略去了颜色信息，其优点是在保证识别率的基础上，可以简化网络的结构，降低网络的计算量。在实际道路交通标志识别中，将形状信息和颜色信息相结合，以进一步提高识别率和对道路环境的鲁棒性，是值得进一步研究的内容。此外，本文的研究没有涉及到道路交通标志的动态检测，这也是今后可以进一步研究的内容。
参考文献
[1] 刘平华，李建民，胡晓林，等.动态场景下的交通标识检测与识别研究进展[J].中国图象图形学报，2013，18（5）：493?503.
[2] SAHA S K， DULAL C M， BHUIYAN A A. Neural network based sign recognition [J]. International Journal of Computer Application， 2012， 50（10）： 35?41.
[3] STALLKAMP J， SCHLIOSING M， SALMENA J， et al. Man vs. computer： benchmarking machine learning algorithms for traffic sign recognition [J]. Neural Network， 2012， 32（2）： 323?332.
[4] 中国计算机学会.深度学习：推进人工智能梦想[EB/OL].[2013?06?10].http：//.cn.
[5] 郑胤，陈权崎，章毓晋.深度学习及其在目标和行为识别中的新进展[J].中国图象图形学报，2014，19（2）：175?184.
[6] FUKUSHIMA K. Neocognition： a self?organizing neural network model for a mechanism of pattern recognition unaffected by shift in position [J]. Biological Cybernetics， 1980， 36（4）：193?202.
[7] LECUN Y， BOTTOU L， BENGIO Y， et al. Gradient?based learning applied to document recognition [J]. IEEE Journal and Magazines， 1989， 86（11）： 2278?2324.
[8] LECUN Y， BOTTOU L， BENGIO Y， et al. Backpropagation applied to handwritten zip code recognition [J]. Neural Computation， 1989， 1（4） ： 541?551.
[9] CIRESAN D， MEIER U， MASCI J， et al. Multi?column deep neural network for traffic sign classification [J]. Neural Networks， 2012， 32（2）： 333?338.
[10] NAGI J， DUCATELLE F， CARO D， et al. Max?pooling convolution neural network for vision?based hand gesture recognition [C]// 2011 IEEE International Conference on Signal and Image Processing Application. Kuala Lumpur： IEEE， 2011， 342?347.
[11] 杨斐，王坤明，马欣，等.应用BP神经网络分类器识别交通标志[J].计算机工程，2003，29（10）：120?121.
[12] BUVRIE J. Notes on convolutional neural networks [EB/OL]. [2006?11?12]. http：///5869/.
[13] 周开利，康耀红.神经网络模型及其Matlab仿真设计[M].北京：清华大学出版社，2005.
[14] 孙志军，薛磊，许阳明，等.深度学习研究综述[J].计算机应用研究，2012，29（8）：2806?2810.
卷积神经网络的深度篇2
关键词：手写数字识别；卷积神经网络；应用
手写体数字识别在邮政、金融等领域应用广泛。对于数字识别，人们往往要求识别器有很高的识别可靠性，数字识别的错误所带来的影响比文字识别等其他识别所带来的影响更大，特别是有关金融方面的数字识别错误所带来的后果是无法想象的，识别错一个数字，这其中的差距可能是几的差距，也可能是几十、几百的差距，这些都还是小问题；但更有可能这一个数字代表的差距是几万、几千万甚至几亿乃至更多，那么这个错误造成的损失就无法估量了。因此，O计出有着高可靠性与高识别率的数字识别系统已经成为了字符识别领域一个非常重要的环节。
1 网络模型和数据库及学习算法的选择
1.1 关于Mnist数据库的介绍
首先，Mnist是NIST数据库的一个优化子集。它是一个有着60000个训练样本集与10000个测试样本集的手写体数字数据库。此数字库一共有4个文件。
此数字库的所有样本集都有图像文件以及标签文件。标签文件的作用是用来储存样本集中的每个样本的数值标签，而每一个样本的图像数据信息则是由图像文件存储着。此数据库的图像数据均保存在二进制文件之中，且每个样本图像的大小均为28*28。
1.2 数字识别的模型选择
手写体数字虽然只有0～9十个数字，但由于写法因人而异，不同地域同样一个数字有多种不同的写法，每个人都有自己的书写习惯。且一些纸质差异、笔画粗细、光线问题、位置、尺度大小等等多种因素都能对输入产生影响。考虑到这些因素，为让网络有良好的识别能力，我们这里采用在图像识别领域有着优秀表现的卷积神经网络作为此数字识别系统的训练模型。
1.3 学习算法的选择
一个优秀的网络模型必须具备良好的学习算法，每个学习网络都有着相对来说较为合适自己的学习算法，而并不是说越高端的算法就越好。在此文中，我选择的学习算法是较为成熟的BP算法。此算法在文字前面有些许介绍，此处不再多做说明。
2 基于卷积神经网络的数字识别系统的设计
2.1 输入层以及输出层设定
根据样本的特征与此网络的网络结构，可以大概判断出输入层与输出层该如何设置。隐含层的个数可以是一个，也可以是多个，这与要分类的问题有关。
前文提及到在mnist数据库中，所有的图像都是28*28大小的，且以整个图片的像素形式存储在数据文件之中。每张图像大小为28*28，故一个图片像素点个数为784个。这里，卷积神经网络的输入即为这784个像素点。
因为数字识别需要识别的是0～9这十个数字，即需要识别十种字符类别，所以将这个神经网络输出层的神经元节点数设置为10。
2.2 网络的中间层设置
卷积神经网络的中间层有两个部分，即卷积层（特征提取层）与下采样层（特征映射层），由第二章中图2-1所示，C1、C3为卷积层，S2、S4为降采样层。
1）激活函数选择
激活函数选择sigmoid函数。同样，在第二章有所提及。Sigmoid函数是严格递增函数，能较好的平衡线性与非线性之间的行为，比较贴近生物神经元的工作。相比于其他函数，sigmoid函数还存在着许多优势，比如光滑性、鲁棒性以及它的导数可以用它自身来表示。
sigmoid函数为：
（1）
其中，x为神经元净输入。
激活函数导数为：
（2）
2）卷积层设计
图像经过卷积核对特征图进行卷积，之后再经过sigmoid函数处理在卷积层得到特征映射图。特征映射图相比于原图像，其特征更为明显突出。
卷积运算其实就是一个加权求和的过程。离散卷积是本文所选取的方法，规定卷积核在水平和竖直两个方向每次都是移动一个像素，即卷积的步长为1。
3）下采样层的设计
根据图像局部相关性这一原理，为了降低网络的学习维度、减少需要处理的数据量且保留图像的有用信息，可以对卷积后的图像进行下采样。这里，我们采取的是取卷积层4个像素点平均值为下采样层的一个像素点的方法。这样可以降低网络规模。
2.3 网络总体结构CNN-0
根据LeNet-5结构，再结合上文中的对输入层、输出层、中间层的设计，完成了如图3-1所示的基本网络结构：
相比于LeNet-5，CNN-0做了一些修改，并非完全按照LeNet-5网络结构模型。Sigmoid函数是本网络中的激活函数，选择这个函数的好处在于可以让所有层得到的输出都在区间[-1，1]之内。网络训练的学习率固定值为1或者是衰减的学习速率。经过卷积后的一维向量与输出层没有沿用LeNet-5的径向基函数网络，而是采取全连接方式，省去了F6层。
3.3 卷积神经网络训练过程
在模式识别中，学习网络有无指导学习网络与有指导学习网络两个类别。无指导学习网络一般是用来进行聚类分析，本文采取的是有指导学习网络。
卷积神经网络其实就是从输入到输出的一种映射，它可以学量的映射关系，只需要用现有的模式对网络进行训练，网络就能具备映射能力。而不需要输入与输出之间的精确的关系。
训练算法与传统的BP算法相差无几（BP算法在第二章有做概述），主要可分为四个步骤，而这四个步骤可以归为向前传播阶段与向后传播阶段：相前传播：
1）随机的从样本集中获取一个样本（A， ），然后将A输入至网络中；
2）根据公式（3）计算出实际输出：
（3）
向后传播：
1）计算和理想输出之间的差；
2）根据极小化误差方法调整权值矩阵。
结语
在手写数字识别这一块，相对来说比较有难度的应该就是脱机自由手写字符识别了，不过本文所研究的并不是这一系统，本设计是一个基于卷积神经网络的手写数字识别系统，因卷积神经网络的局部感受野和降采样以及权值共享、隐性特征提取等优点，它在图像识别领域得到了非常广泛的应用。此程序是在Caffe这个框架上进行运行的，操作系统为Linux系统ubuntu14.04版本。Caffe是一个开源的深度学习框架，也可以说是一个编程框架或者模板框架，它提供一套编程机制。因此，本文所需要实际的卷积神经网络就可以根据这个框架来进行构建。
参考文献：
[1]张伟，王克俭，秦臻.基于神经网络的数字识别的研究[J].微电子学与计算，2006年第23卷第8期.
[2]国刚，.应用BP神经网络进行手写体字母数字识别[J].电脑知识与技术，2008.
卷积神经网络的深度篇3
>> 深度信念网络应用于图像分类的可行性研究 PPP融资模式应用于廉租房建设的可行性研究 超越预算应用于高科技企业研发的可行性研究 网络虚拟游戏应用于法语教学的可行性研究 左手材料应用于隐身领域的可行性研究与分析 3D影像技术应用于体育教学的可行性研究 PLC技术应用于远程抄表的可行性研究 价值投资应用于中国股票市场的可行性研究 将安检系统应用于广州地铁的可行性研究 Solidworks应用于船体生产设计的可行性研究 微信公众平台应用于高校教育领域的可行性研究 超微粉碎技术应用于淫羊藿的可行性研究 风能、太阳能应用于农业生产的可行性研究 脑电信号应用于消费心理研究可行性研究 硅―改沥青应用于沙漠地区公路的可行性研究 关于无线传感器网络应用于变电站的可行性研究 循证护理模式应用于胸外重症患者中的可行性研究 临床护理路径应用于药物治疗脑出血患者护理的可行性研究 基于数字图像处理的裂缝宽度测量可行性研究 基金积累制应用于新型农村社会养老保险制度的可行性研究 常见问题解答 当前所在位置：l.
[19]曹林林，李海涛， 韩颜顺，等.卷积神经网络在高分遥感影像分类中的应用[EB/OL]..
[20]龚丁禧，曹长荣.基于卷积神经网络的植物叶片分类[J].计算机与现代化，2014（4）：1215，19.
[21]贾世杰，杨东坡，刘金环. 基于卷积神经网络的商品图像精细分类[J].山东科技大学学报：自然科学版，2014（6）：9196.
卷积神经网络的深度篇4
关键词：卷积神经网络 人体行为识别 Dropout
中图分类号：TP391.41 文献标识码：A 文章编号：1672-3791（2017）04（c）-0028-02
该文采用随机Dropout卷积神经网络，笔者将此法的优点大致概况为将繁琐杂乱的前期图像处理简易化，原来的图像不可以直接输入，现在的原始图像即可实现直输功能，因其特性得到广泛研究与应用。另外，卷积神经网络在图像的处理中能够将指定的姿势、阳光的照射反应、遮避、平面移动、缩小与放大等其他形式的扭曲达到鲁棒性，从而达到良好的容错能力，进而可以发现其在自适应能力方面也非常强大。因为卷积神经网络在之前建立网络模型时，样本库为训练阶段提供的样本，数量有限，品质上也很难满足要求，致使网络权值参数不能够完成实时有效的调度与整理。
1 卷积神经网络
据调查卷积神经网络由K.Fukushima在80年代提出，那时候它被称为神经认知机，这一认知成为当时的第一个网络，后来网络算法发生了规模性变革，由LeCun为代表提出了第一个手写数字识别模型，并成功投入到商业用途中。LeNet被业界冠以卷积神经网络的代表模型，这类系统在很多方面都起到了不容小趋的作用，它多数应用于各类不同的识别图像及处理中，在这些层面上取得了重要成果。
笔者经查阅资料发现卷积神经网络其实是由两个种类组合而来，它们分别是特征提取、分类器，这种组成我们可以看到特征提取类可由一定数量的卷积层以及子采样层相互重叠组合而成，全部都连接起来的1层或者2层神经网络，就是由分类器来进行安排的。卷积神经网络中的局部区域得到的感觉、权值的参数及子采样等可以说是重要网络结构特征。
1.1 基本CNN网络结构
图1中就是最为经典的LeNet-5网络模型结构图。通过图1中我们可以获悉，该模型有输入输出层，除这两层外还有6层，其征提取可在前4层中体现，后两层体现的是分类器。
在特征提取部分，6个卷积核通过卷积，是图像经尺寸为32×32的输入而得见表1，运算过程如式（1）：
（1）
式中：卷积后的图像与一个偏置组合起来，使函数得到激活，因此特征图变诞生了，通过输出得到了6个尺寸的特征图，这6个尺寸均为28×28，近而得到了第一层的卷积，以下笔者把它简要称为c1；那么c1层中的6个同尺寸图再经由下面的子采样2×2尺寸，再演变成特征图，数量还是6个，尺寸却变成了14×14，具体运算如公式（2）：
通过表2我们可以使xi生成的和与采样系数0.25相乘，那么采样层的生成也就是由加上了一个偏置，从而使函数被激活形成了采样层的第1个层次，以下我们简要称为s1；这种过程我们可反复运用，从而呈现出卷积层中的第2层，可以简要称之为c2，第2层简称s2；到目前为止，我们对特征的提取告一段落。
神经网络的识别，我们可以看到它是由激活函数而形成的一个状态，这一状态是由每个单元的输出而得；那么分类器在这里起到的作用是将卷积层全部连接起来，这种通过连接而使1层与上面1层所有特征图进行了串连，简要称之为c5；因而2层得到了退变与简化效应，从而使该神经网络成为经典，简要称之为F6，向量及权值是由F6 输送，然后由点积加上偏置得到结果的有效判定。
1.2 改进的随机DropoutCNN网络
1.2.1 基本Dropout方法
神经网络泛化能力能够得到提升，是基于Dropout方法的深入学习。固定关系中存在着节点的隐含，为使权值不再依附于这种关系，上述方法可随机提取部分神经元，这一特性是通过利用Dropout在网络训练阶段中随机性而得，对于取值能够有效的存储及保护存留，这一特性在输出设定方面一定要注重为0，这些被选择的神经元随然这次被抽中应用，但并不影响下次训练的过程，并具还可以恢复之前保留的取值，那么每两个神经元同时产生作用的规避，可以通过重复下次随机选择部分神经元的过程来解决；我们通过这种方法，使网络结构在每次训练阶段中都能呈现不同变化，使一些受限制的特征，不再受到干扰，使其真正能展现自身的优点，在基于Dropout方法中，我们可以将一些神经元的一半设为0来进行输出，随机神经元的百分比可控制在50%，有效的避免了特征的过度相似与稳合。
1.2.2 随机Dropout方法
Dropout方法就是随机输出为0的设定，它将一定比例神经元作为决定的因素，其定义网络在构建模型时得到广泛采用。神经元基于随机Dropout的方法是该文的重要网络输出途径，通过设定输出为0，使其在网络中得到变。图2是随机Dropout的加入神经元连接示意图，其在图中可知两类神经元：一类是分类器的神经元，这一阶段的神经元可分榱讲悖涣硪焕嗌窬元是由输出而形成的层次。模型在首次训练的阶段会使神经元随机形成冻结状态，这一状态所占的百分比为40%、60%，我们还可以看到30%及50%的神经元可能在网络随机被冻结，那么这次冻结可以发生在模型第二次训练，那么第三次神经元的冻结可从图示中得出70%及40%，还可以通过变化用人工设置，其范围值宜为35%～65%，那么网络神经元连接次序的多样化，也因此更为突出与精进，网络模型的泛化能力也得到了跨越势的提高。
2 实验及结果分析
2.1 实验方法
卷积神经网络通过实验，通过输入层呈现一灰色图像，该图像尺寸被设定成28×28的PNG格式，这里我们以图像框架图得到双线性差值，用来处理图像及原视频中的影像，将框架图的卷积核设定为5×5的尺寸，子采样系数控制值为0.25，采用SGD迭代200次，样本数量50个进行设定，一次误差反向传播实现批量处理，进行权值调整。实验采用交叉验证留一法，前四层为特征提取层，C1-S1-C2-S2按顺序排列，6-6-12-12个数是相应特征，通过下阶段加入随机Dropout，这阶段为双层也就是两层，进行连接，连接层为全体，从而可知结果由分类得出，又从输出层输出。
2.2 实验结果分析
识别错误率可通过卷积神经网络模型，及训练过程与检测过程中可查看到的。在训练阶段中，我们可以将Dropout的网络中融入200次训练，在将没有使用该方法的网络进行相互比较分析，我可以得知，后者训练时的识别错误率稍高于前者，前者与后的相比较所得的差异不是很大，进而我们可知使用Dropout方法，对卷积神经网络在泛化能力上得到有效的提升，从而有效的防止拟合。
3 结语
笔者基于Dropout卷积神经网络，人体行为识别在视频中进行， 通过Weizmann数据集检测实验结果，随机Dropout在分类器中加入。通过实验可以得知：随机Dropout的加入，使卷积神经构建了完美网络模型，并且使其在人体行为识别中的效率赢得了大幅度的提升，近而使泛化能力可以通过此类方法得到提高，可以防止拟合。
参考文献
[1] 其它计算机理论与技术[J].电子科技文摘，2002（6）.
[2] 王继成.基于神经网络的多目标数据压缩方法的研究[J].小型微型计算机系统，2003（6）：1034-1036.
卷积神经网络的深度篇5
关键词：ROS；表面缺陷；图像采集；神经网络；模型训练
飞机蒙皮是包围在飞机骨架结构外且用粘接剂或铆钉固定于骨架上，形成飞机气动力外形的维形构件，在飞机正常工作状态下扮演着重要的角色，一旦飞机蒙皮出现缺陷等问题，需要及时的反馈出来并且维修。传统的飞机表面缺陷检测方式大多数是由人工来完成，会存在效率低、成本高等缺点，甚至会出现检测失误的情况。本文就针对铝合金表面缺陷检测方面，提出一种基于ROS的飞机表面缺陷检测系统，采用移动机器人底盘定位和导航技术，结合深度学习、图像处理等技术检测出存在缺陷的位置并标记出来，通过机器代替传统人工的方式，旨在提高检测效率和检测精度，为飞机表面缺陷检测提供一种方式。
1系统的总体设计
飞机表面缺陷检测系统主要由检测模块、ROS机器人模块、图像处理模块三大部分组成，系统的总体结构框图如图1所示。系统的具体工作原理为：在某一区域范围内，检测模块以树莓派为核心控制器，通过检测模块中的图像采集系统对铝合金材料表面进行图像采集，将采集到的图像通过TCP通信传输到图像处理模块上[4]。图像处理模块利用深度学习中设计的卷积神经网络进行数据训练，得到检测模型，将检测模型应用到图像预处理上。此时，OpenCV对检测模块得到的图像进行图像处理[5]，最终得到缺陷出现的位置。当前区域检测完毕后，通过ROS机器人模块的定位和导航功能，驱动运动执行机构工作，并移动到相邻下一块检测区域，直到所有位置都检测完毕。上述工作原理可实现飞机表面缺陷检测系统，下文将对其包括的三大模块进行说明介绍。
2检测模块设计
如图2所示，系统的检测模块主要是包括树莓派和摄像头，其中树莓派作为检测模块的处理器，搭建的有Ubuntu系统，是系统实现的重要组成部分。树莓派可以提供普通计算机的功能，并且功耗低。可直接在树莓派上安装Keil进行开发，具有很好的开发效果，运行稳定。本次飞机表面缺陷检测系统实现了树莓派将摄像头拍摄的图片发送到图像处理模块上，同时也搭载ROS系统实现了移动底盘的定位和导航功能。
3ROS机器人模块设计
ROS随着机器人技术发展愈发受到关注，采用分布式框架结构来处理文件，这种方式允许开发者单独设计和开发可执行文件。ROS还以功能包的形式封装功能模块，方便移植和用户之间的共享。下面将介绍其建图和导航功能的实现。
3.1建图设计
本文在ROS系统中使用Gmapping算法软件包实现建图[7]，在ROS系统中设计了建图过程中各节点及节点间的话题订阅/的关系如图3所示。在图3建图节点话题关系图上，其中椭圆形里代表节点，矩形基于ROS的飞机表面缺陷检测系统胡浩鹏（纽约大学NewYorkUniversity纽约10003）框里代表的是主题，节点指向主题代表着该节点了主题消息，主题指向节点代表着该节点订阅了主题消息。在建图过程中，主要涉及激光雷达节点、键盘控制节点、底盘节点、Gmapping节点和地图服务节点。
3.2导航设计
ROS提供的Navigation导航框架结构如图4所示，显然MOVE_BASE导航功能包中包括全局路径规划和局部路径规划两部分，即在已构建好的地图的基础上，通过配置全局和局部代价地图，从而支持和引导路径规划的实施。为了保证导航效果的准确，通过AMCL定位功能包进行护理床的位置定位[8]。获取目标点的位置后，MOVE_BASE功能包结合传感器信息，在路径规划的作用下，控制指令，控制护理床完成相应的运动。
4图像处理模块设计
图像处理模块设计主要分为图像预处理、模型训练和卷积神经网络三大部分，通过TCP通信协议进行通信，TCP通信是一种面向连接的通信，可完成客户端（树莓派）和服务端（PC）的信息传递[9]。下面主要对卷积神经网络部分进行介绍。
4.1卷积神经网络训练流程
通过相机采集到的缺陷和问题图像作为训练样本，这部分是检测飞机表面缺陷的关键一步，然后对训练样本进行训练，具体步骤如下所示。（1）训练标记数据：首先使用图像预处理中标记好的道路故障提取出来，通过卷积神经网络对标记框内的目标数据进行训练；（2）提取特征数据：将道路故障的类型统计并归纳；（3）误差反馈学习：对测试样本进行误差反馈学习，并进行测试；（4）优化训练数据：将得到的测试结果与设定的故障分类结果进行误差对比，不断优化训练集，最终得到理想的训练数据。
4.2缺陷检测流程
缺陷检测流程如图5所示，首先输入缺陷原始图像，通过特征提取网络，将处理后的图像使用检测器进行检测，其中检测器里为卷积神经网络训练后得到的模型，最终缺陷检测后得到的识别后的图像，并反馈出来。
4.3实验测试
铝合金表面缺陷主要有碰伤、刮花、凸粉、脏点等常见的缺陷，下面将以这四种为主要对象进行检测训练，各自训练集数量为1000张。通过卷积神经网络对缺陷的特征进行提取和分类，最终实现了缺陷的检测。本次实验测试的样本为200张，每种缺陷50张，均采集自铝合金材料表面且与训练样本一致，实验结果如表1所示。由表1可知，检测脏点的准确率高达98%，刮花和凸粉的准确率也达到94%，但碰伤的准确率相对较低，只有88%。可能造成的原因是：①硬件原因导致采集的图像清晰度比较低；②碰伤缺陷不明显，无人机难以识别；③训练的数据集较少，特征学习误差大；但最后结果是满足了设计需求，还需进一步改进。
5总结与展望
本文设计了一种基于ROS的飞机表面缺陷检测系统，主要完成了以下工作：（1）通过分析当前飞机表面检测方法的发展现状，对现有的检测方式进行优缺点对比，最终利用ROS集成组件实现移动机器人定位和导航，使用摄像头采集图像信息，深度学习为技术手段的方式进行研究。（2）查询了相关技术的发展，搭建了系统软件平台和硬件控制系统平台，从检测模块、ROS机器人模块、图像处理模块三大部分进行分析研究。（3）着重介绍了图像预处理、模型检测工作原理，并对铝合金材料表面情况进行特征提取与分类，最终完成相关实验验证。本系统实现了飞机表面缺陷检测系统的相关功能，能识别并检测出表面缺陷的情况，进而提醒相关工作人员进行维修，在接下来的工作中，将对系统的硬件进行升级，增加卷积神经网络训练系统的训练集，同时进一步移动机器人的机械臂功能，达到机器人可直接在检测位置处进行维修。
卷积神经网络的深度篇6
关键词：残差网络；人脸图像：年龄分类：非受限条件：Adience数据集
中图分类号：TP391 文献标识码：A 文章编号：1009-3044（2017）14-0169-02
1概述
人脸图像包含很多信息，如身份、表情、姿态、性别和年龄。其中，年龄是人的重要生物特征，可以应用于多种场景，如基于年龄的人机交互系统、基于年龄的访问控制、电子商务中个性营销及刑事案件侦查中的年龄过滤等n，。很多研究者在人脸图像年龄估计方面做了大量研究，早期，主要用Gabor，LBP，SFP和BIF等提取特征以及SVM方法进行年龄分类，这些人工提取特征的方法在受限条件下的人脸数据集上获得了不错的结果，但是在非受限条件下的人脸年龄分类任务中效果不佳；近几年，深度卷积神经网络（DCNN）成为了计算机视觉领域的研究热点。从5层的LeNet，到8层的AlexNet，再到19层的VGGm和22层的GoogleNet，直到上千层的ResNets，无论是网络的学习能力还是深度都得到显著提高。因此，越来越多的学者采用DCNN解决年龄分类问题，并证明其在非受限条件下能获得明显优于手工提取特征方法的结果。
在人脸年龄分类中，人脸图像往往受到面部姿态、光线、化妆和背景等影响，极大地限制了人脸年龄分类的准确性。针对非受限条件下人脸图像年龄分类困难的问题，本文提出了一种基于深度残差网络的非受限条件下人脸年龄分类方法。
2 34层残差网络
He等提出了深度残差网络（ResNets），该网络采用残差块作为网络的基本组成部分，可以很大程度上解决DCNN随着深度增加而带来的网络退化问题。ResNets在原始卷积层外部加人越层连接（shoacut）支路构成基本残差块RB，使原始的映射H（X）被表示为H（X）=F（X）+x。ResNets通过残差块结构将网络对爿（X）的学习转化为对F（X）的学习，而对F（X）的学习较H（X）更为简单。基于残差块更易学习的特性，ResNets通过顺序累加残差块成功地缓解了DCNN的退化问题，提高了网络性能。
ResNet-34结构如图1所示，残差块的具体表达式如下，函数F（x）表示残差映射，x和y分别代表残差块的输入和输出。当x和F数相同时，采用式（1），此时越层连接既没有增加额外参数也没有增加计算复杂度。当x和F维数不同时，采用式（2），通过越层连接执行1×1卷积映射G（x）以匹配维数。
ResNet-34网络输入图像大小为224×224。首先经过卷积层，卷积核为7×7，步长为2，输出特征图为112×112；再经过最大池化层；其次经过四组不同残差块，各残差块组的残差块数量分别为3、4、6和3，并且同组中的残差块输入输出维度相同，分别为64、128、256和512，各组输出特征图大小依次为56×56、28×28、14×14、7×7。最后经过平均池化层和全连接层，通过softmax分类器，输出分类结果。
3数据集
Adience数据集来自人们从智能手机设备自动上传到网络相册的图像。这些图像在上传之前并没有经过人工过滤，且这些图像都是在非受限条件下拍摄的。这些图像在头部姿势、面部表情和光线条件质量等方面都存在很大差异，所以在Adi-ence数据集下的人脸图像年龄分类任务面临巨大挑战。
Adience包含2284个人的26580张人脸图像，年龄范围为0-100岁，共8个年龄段（0-2，4-6，8-13，15-20，25-32，38-43，48-53，60-），年龄分布如表1。
4实验结果与分析
为了提升网络的人脸分类性能，本文选用ResNet-34在人脸图像Adience数据集上做年龄分类。训练和测试时动量值为0.9，权重衰减为0.0001。batch大小设为64，epoch设为164，初始学习率为0.1，在81和122个epoch之后学习率分别降为0.01和0.001。本文实验模型采用Nvidia Titan X GPU训练，运行环境torch7。
本文采用文献[7]中的交叉验证方法，将Adience数据集分成五组不同图像（fold-0，fold-1，fold-2，fold-3，fold-4），令其中一组图像作为测试集，其余四组图像作为训练集，共构成五种检测方式。通过计算平均分类准确度和1-off值作为评估标准。在fold-0测试的年龄分类准确度的曲线图如图2所示，由此可知网络能够很好地收敛。
为了验证本文方法的有效性，将现有在Adience数据集上的年龄分类方法与本文方法对比，各方法人脸年龄分类结果如表2所示。由表2可以看出本文提出的方法获得了除DEX w/IMDB-WIKI Pretrain方法以外的最高年龄分类准确度，主要由于文献[10]用大规模人脸数据集IMDB-WIKI微调网络。不经过大数据集对网络微调时，本文提出的基于深度残差网络的年龄分类方法获得了最高年龄分类准确度。
5结论
卷积神经网络的深度篇7
织的号召下，以新形势发展的需要和青年的特点为立足点，创造性地开展工作，积极实施“跨世纪青年人才工程”，用“青年文明号”的各项标准严格要求自己，为争创**市级“青年文明号”谱写新的篇章。
一、**客户服务部简介**客户服务部现有职工12人,设市场经理1名，副市场经理1名，客户经理10名；其中中国共产党员1名，预备党员1名，共青团员7名,全体职工的平均年龄为29周岁，是一个充满朝气、热情洋溢、实干创新、追求进步的营销服务团队。在这些成员中, 1人取得卷烟商品高级营销员资格证书，5人取得卷烟商品中级营销员资格证书，3人取得卷烟商品初级营销员资格证书。我们团队是一个具备比较全面的营销知识和比较丰富的卷烟营销经验的年轻化，知识化，专业化的青年服务团体。他们当中有多年从事该行业、经验丰富的沙场老将，也有精通营销理论刚刚入行的新手，在此基础上，我们互帮互助，大大提高了工作效率，使得销售业绩等各项指标始终位于**烟草各客户服务部的前茅。
二、一流的管理是**客户服务部的有力保障
科学的管理是**客户服务部工作开展的有力保障。为了确保工作运行的制度化、规范化和科学化，我部从基础工作抓起,从机制入手，推进铸造队伍品牌和青年文明号建设的不断深入，以“青”字号品牌工程为龙头，坚持突出特色,大胆创新,推出了一系列独特的管理、服务新举措，受到各级领导和零售客户的一致好评。具体的硬件设施和软件设施分别如下：
一是健全激励机制，提高工作效率。
健全激励机制是使工作落实执行到位的有力保证。为了进一步提高企业的经济效益和工作质量，**客户服务部通过制定开放、透明的内部管理制度，提升了内部管理的公平性，强化了内部管理的执行效率。通过制定内部管理制度来实现 “以制度管人”，使管理有章可循。
二是民主管理，焕发队伍激情。
**客户服务部通过实行客户经理轮流主持周例会这一形式,充分调动了青工们参与管理工作的热情。大家勤动脑、勤思考、说意见、提建议,提出了许多切实有效的工作方法和管理举措。和谐的团队氛围以及积极向上的团队精神风貌，使得大家在面对急、难、重的任务时,从不推卸责任，总是抢着干,充分发挥了生力军和突击队的作用。
三是开展qc小组活动，创新科学管理。
**客户服务部的青工们把工作中的难点，作为课题攻关的重点。为了让客户经理能够在日常工作中全方位、全视角地了解所管辖零售客户的具体分布情况,同时能够对零售客户的基本情况进行跟踪与管理，**客户服务部于2005年6月成立了“版权所有”qc小组，成功研发了《制作**客户分布图》。这一成果不仅在**烟草分公司各个客户服务部得到了推广与运用，还于2006年7月份福建省第27次质量管理小组代表会议上获得了“二oo六年度福建省先进质量管理小组”的荣誉称号。与此同时,**客服部的青工们分别于2007年和2008年组织开展了题为“提高金典狼的市场占有率”和“创建**卷烟终端形象示范镇区”的qc小组活动，并参加了福建省质量协会组织的第28次和29次质量管理小组会议，均获得了“福建省优秀质量管理小组”的荣誉称号。三、一流的服务是**客户服务部的宗旨
俗话说得好：“一流的企业靠人来建设，一流的产品靠人来制造，而一流的服务同样也要靠人来提供。”在**烟草人弘扬“创拼搏进、止于至善”的企业精神，客户经理唱响“我就是品牌”，努力营造良好企业文化氛围的同时,**客户服务部始终本着“一切从客户出发、一切为客户着想、一切对客户负责、一切让客户满意”的工作原则，唱向“展烟草形象、亮青春风采”的青年文明号口号，立足岗位，为零售客户提供了一系列优质的服务。
多年来，**客户服务部积极响应共青团委和局团委在烟草系统
中开展的创建青年文明号活动，树立烟草部门的良好形象和企业精神，始终坚持以“三个
代表”为重要思想，坚持“以人为本”服务大众，努力践行“至诚至信，全心全意”的行业服务理念，孜孜不倦地追求客户满意这一永恒目标。为了实现这一目标我部实行了以下一系列措施：
首先是“想客户之所想，急客户之所急”，切实站在卷烟零售客户的立场上，以零售客户的需求为中心，力所能及地帮助他们解决卷烟经营和生活中的暂时困难。如在拜访过程中不失时机地帮助零售客户搞好卷烟商品陈列，主动为他们提供一些商情信息，引导他们调整经营结构，转变经营观念等。在货源供应上，努力为零售客户提供更多的、可供选择的紧俏货源及畅销货源，为他们创造更多的利润。同时，与他们进行情感上的交流，使其被我们的热情服务所感化，从而缩短烟草公司与他们之间的距离，以各好地服务于广大的零售客户和消费者。
其次是引导零售客户如何合理订货，制定个性化的销售策略，传授库存管理知
识，授予其如何提高资金的利用率，以及推广优秀的销售经验，科学地陈列卷烟，帮助零售客户解决实际困难，提升零售客户的卷烟销售结构，提高零售客户的经济效益，帮助零售客户获得最高的经营利润。从明码标价的维护、零售客户的经营指导，到我们现在积极开展的“一十百千万”示范工程、维护客户知情权等，通过这些有形的服务，使我们每位成员都深深地体会到，我们与零售客户的心靠得更近了，同时也深深地感受到零售客户对我们的尊重与爱护更多了，使我部的营销工作进入到了一个良性的循环工作中。
另外，为进一步拉近客我情感关系，夯实网络基础，深入贯彻“客户满意是我们永恒的追求”的行业服务理念，提高零售客户的满意度和忠诚度，自08年6月份起我部开展“客户之家”创建活动。我们主要是从建设三个平台入手，即“窗口服务平台”、“客户经理服务平台”和“网络服务平台”。窗口服务平台建设主要是在每个客服部设置“客户之家”版墙，划出客我互动场所，进行主要服务流程、卷烟经营技巧及相关行业知识的展示，开展客我互动活动。“客户经理服务平台”的打造主要是通过强化客户经理的走访工作管理，提升走访质量，为零售客户提供优质的客户服务。“网络服务平台”主要是在客户在线网站中开辟“客户之家”模块，用于展示相关行业政策、服务流程、经营指导、互动活动信息，进行客我网络互动交流等。在“网络服务平台”的构建上,为进一步完善打造“移动的客户之家”的目标，我们在基层客服部中进一步深化了e化营销的工作内涵，认真做好“两台三网”的基础性工作，促进营销工作朝着规模化、专业化和拓展化的方向发展。同时，我们还借助网络开放性的特点，率先建立qq群沟通渠道，并结合指导客户进行网上交流、引导客户利用“**烟草客户在线”获取信息等方式，进一步拓宽了客户与客户之间、客户与客户经理之间、客户与烟草公司之间的沟通渠道，实现了在线指导、实时服务的服务理念，有效地利用了现代信息技术进一步强化了客我关系，推动了温馨“客户之家”的创建进程，也让零售客户感受到了烟草公司提供的一流服务。
四、一流的人才是**客户服务部的基石首先，统一思想，增强创造意识。创建青年文明号并不是一朝一夕的事情，也不是单凭一个人的能力便可以完成的事情，而是长期的实实在在的团体性工作。我部积极组织成员学习了“三个代表”、“两个维护”、“八荣八耻”、“科学发展观”等重要思想，提倡创建和谐烟草，有机地与工作实际相结合，使服务更加规范文明。有了理论的武装，在工作上，每个成员都严格要求自己充分发扬坚持从我做起、从小做起，坚持原则、拼博实干，大到讲原则，小到讲风格的精神。依法经营，使营销工作做到规范化、合法化、合理化，进一步加强与客户的沟通与交流，将矛盾降低到最小化，努力提高客户的满意度，真真正正贯彻“客户的满意是我们永恒的追求”的行业服务理念，把我们的诚信经营注入每一户零售客户的心田。
其次，学以致用，提高自身素质。从2005年开始，**烟草公司
和**分公司先后举办了iso9001质量管理认证体系培训，让我们了解什么是科学管理，并将自身的服务标准化；邀请了埃森哲咨询公司对员工进行培训，让我们明白要经常与客户“换位”思考，才能懂得客户的心理，才能更好的提高配合度；以及**市烟草系统qc小组活动培训、客户经理技能知识培训、**烟草企业内训师培训还有多次关于计算机、专卖法规、营销理论等相关知识方面的培训，对我们的大脑不断充电，以保证我们能高效的胜任各自岗位。培训活动让我部成员的知识领域和眼界水平都有了较大的提高，而每一次考试考核则检验了我们对于培训知识掌握程度的高低。同时，我们积极参加省市局和团委举办的各种活动，展示自我风采。如团委组织的“微笑** 志愿农运”活动，和行业内组织的“安全知识月”知识竞赛、**市qc小组成果发布、福建省烟草商业系统qc成果发布会、客户经理技能大赛、“优秀客户服务部”评选、“两个维护”和“客户在我心中”的演讲、征文比赛等等。这些不仅增强了我们的集体荣誉感和团队协作精神，更重要的是各种竞赛活动的参与，促使我们通过实践来深刻领悟理论知识，加深对新式理论的理解。这些荣誉的取得更加激励我们创建学习型组织，同时以严要求继续不断学习，不断提升自我素质，为更好的进行优质服务工作奠定坚实的人才基础！
五、一流的业绩
是**客户服务部的奋斗目标
2008年**客户服务部在团组织的领导和号召下，认真贯彻落实省、市网建工作会议精神，以全面提高网络运行质量为目标，以品牌培育为主线，维护明码标价和推进电子结算为两翼，进一步完善了客户关系管理。经过不懈的努力，**客户服务部的工作业绩得到了各级领导以及零售客户的一致赞扬，工作业绩始终名列前茅。在销售业绩取得显著成效的同时，我部的各项工作还得到了**市局以及**各级领导的一致肯定，2007年8月参加了**市局组织的**市烟草系统“优秀客服部”评选活动中，荣获了一等奖的好成绩。2008年6月24日,**客服部有幸被**市局推荐参加了“全国烟草部分典型示范单位卷烟销售网络全面提升工作座谈会”，并作了题为《服务为本营造客户温馨家园》的专题汇报,得到了各级领导的充分肯定。
卷积神经网络的深度篇8
这次会议的主要任务是：总结一年来的成绩和经验，通报表彰先进集体和个人，安排部署明年工作任务，进一步认清形势，统一思想，坚定信心，加强协作，毫不松懈地深入开展卷烟打假工作，为维护国家利益、维护消费者利益作出新的更大贡献。
一、2009年卷烟打假工作回顾
今年以来，各级烟草部门、公安机关密切配合、协同作战，充分发挥联合打假长效机制作用，认真贯彻落实国家烟草专卖局、公安部对卷烟打假工作的部署，全面深入开展卷烟打假工作，有效打击了制售假烟违法犯罪活动，取得了显著成效。1—11月，全国共打掉制假窝点173个、重大制售假烟网络525个，查处案值5万元以上案件4982起，案值30.45亿元，查获假烟51.6万件，收缴制假烟机375台，拘留6728人，劳教134人，判刑3433人。
（一）有效遏制制假活动。各级公安、烟草部门把“端窝点、打源头”作为卷烟打假工作的突出重点，全面加大对假烟源头的打击力度，进一步有效遏制了假烟生产能力。一是广东、福建继续保持高压态势，开展全方位不间断打击，重创源头制假活动。福建坚持从集中打击转变为常年打击，采取“精打回查、深度打击”等措施，彻底销毁制假设备和原辅材料，制假生产能力明显削弱。云霄制假活动已经显现从大规模集中制假向零星分散制假转变的趋势。广东进一步健全打假协作机制，着力加强重点区域的指导协调，集中开展专项整治行动，继续加大运输、分销假烟和原辅材料的拦截、封堵力度，积极开展假烟商标印刷窝点打击工作，取得了积极成效。二是打击取得实效，有效防止了制假转移和扩散。随着源头打假力度的加大，福建、广东重点地区制假活动规模逐渐缩小，并出现向其它地区转移扩散的苗头。天津、河北、浙江、湖南、广西、深圳等省（区、市）密切关注制假活动的新动向，打掉了一批立足未稳的制假窝点。京津冀联合破获“3•13”制售假烟网络案件，打掉的就是一个为逃避打击从福建向北方转移的犯罪团伙。广西连续捣毁2个假烟生产窝点，查获各类制假设备及原辅料，抓获制假分子6人。浙江首次捣毁制假窝点，打掉一个由福建云霄和浙江慈溪人组成的制售假烟网络。三是重点地区严密监控，综合治理取得实效。山东、河南等地通过建立综合治理长效监管机制，有效防止了重点地区制假活动死灰复燃。
（二）打击制售假烟网络工作成效显著。今年1－11月，破获符合公安部、国家烟草专卖局标准的制售假烟网络案件525个，同比增长16.6%，其中涉案金额千万元以上的案件32个，卷烟打假工作质量和水平明显提高。各地基本完成了每个地市打掉1－2个制售假烟网络案件的任务。上半年，国家烟草专卖局对74个重大案件和14个专项行动进行了奖励。
今年以来，国家烟草专卖局与公安部进一步加大对重大制售假烟网络案件的督导力度，多次组织了大规模的跨省打假行动，并根据案情进展需要，及时召开案件协调会，加强督导和协调，指挥了京冀“4•14”打击销售假烟网络行动，协调督导了上海“2•22”、山东德州“11•07”、河南“1•06”、江苏徐州“10•28”、辽宁阜新“7•07”、山西晋城“1•04”等重大网络案件。各地高度重视打击制售假烟网络工作，加强组织领导，全面落实“每个地市级局打掉1—2个较大规模制售假烟网络”的目标任务，相继破获了一批有影响的制售假烟网络案件，不仅破获的大要案数量明显增加，而且抓捕主犯数量增加，判刑和处罚力度明显加大。浙江、福建、广东、北京、江西、河北等省（区、市）31个重大制售假烟网络案件被列为部级督办案件，这些网络案件涉案范围广，抓捕犯罪嫌疑人多，查获假烟数量大，案值高，震慑力强，有力地推动了全国卷烟打假工作。
（三）打击制假原辅材料供应取得了实效。云南、贵州、四川、重庆、湖南、广西、江西等地加大打击非法经营烟叶活动的工作力度，破获广西百色“12•24”、福建“10•07”等一批非法运销烟叶案件，有力地遏制了非法烟叶向制假窝点流入。
在积极开展打击非法烟叶的同时，各地对原辅料进行严格监控，取得了积极成效。各烟叶产区加强对烟叶生产收购经营的监控，加大对烟贩非法收购烟叶行为的查处力度；加强对丙纤生产企业、烟机配件生产厂家等行业外烟草专卖品生产企业监管力度，派员24小时“全过程”监管。通过对制假原辅材料供应链的深度打击，有效缓解了源头打假压力，遏制了制假活动。
（四）打击假烟运输分销成果突出。今年以来，利用物流、邮政、航空、铁路等渠道非法经营烟草专卖品案件数量呈上升趋势，各地有针对性地开展打击货运流通环节假烟专项整治行动，在假烟运输
分销环节严查、严堵假烟和原辅材料，取得了明显成效。广东在省内各主要交通干道设立了6个临时检查点，开展大规模封堵拦截假烟的专项行动；湖北继续强化重点道口查堵，分别在主要公路交汇处设置检查站点；上海重点对机场入口空运链进行严密监控；湖南加强与公安机关的紧密协作，建立并完善打击高速公路运输非法烟草制品的协作机制；浙江及时提出在继续完善省
际卡口建设的同时，不断推进卡口建设由点到面纵深发展。陕西、山西、黑龙江、辽宁、湖北、四川、河南、安徽、大连等省市积极协调省综治办、整顿办、公安、交通、铁路、公路等部门，开展整治货运场所非法经营烟草专卖品专项行动，取得了积极成效。全国物流运输环节查获假烟28.3万件，占查获假烟总数的54.8%。
（五）抓捕判刑力度不断加大。一些省市针对长期以来涉烟犯罪取证难、定性难、打击处理不到位等问题，积极研究探索，出台司法政策指导意见，取得了积极成果。湖南省高院、省检察院、省公安厅联合出台了《关于涉烟刑事案件证据的指导意见》，较好地解决了基层办案证据标准、证据转化和涉案金额认定不统一的问题，进一步提高了涉烟刑事案件办案质量，为加大对制售假烟犯罪分子的追刑力度提供了强有力的法律支撑和保障。山东等地对涉烟犯罪管辖权、刑事立案、证据转化和认定等问题作出了明确规定，为打击涉烟违法犯罪活动提供了有力指导。通过加强行政执法和刑事司法的衔接，加大在报捕、、审判环节的协调力度，一批制售假烟网络主犯被判处重刑，极大地震慑了制售假烟犯罪分子。今年全国涉烟犯罪案件追刑之多、刑罚之重、罚金之高，均创历年之最。其中，有6名制售假烟犯罪分子被判处无期徒刑。湖南“3•12”特大销售假烟网络案件和重庆“3•16”制售假烟网络案件各有一名主犯被判处无期徒刑；福建“9•02”金胜物流公司非法运输假烟案件4名主犯被判处无期徒刑。
（六）整治互联网非法销售假烟取得初步成效。针对互联网非法销售烟草专卖品的新动向，国家烟草专卖局和公安部对此高度重视，在去年年底全国卷烟打假表彰会上专门作了工作部署，要求会同有关部门严厉打击。今年,国家烟草专卖局、公安部、工信部、国家工商总局四部门先后了《关于严厉打击利用互联网等信息网络非法经营烟草专卖品的通告》和《关于开展打击网上非法经营烟草专卖品工作的通知》，具体部署了整治利用互联网非法销售烟草专卖品工作。各地采取措施积极落实，烟草、公安联合电信、工商等部门查处违法案件，删除、屏蔽违法信息，并开展法律法规宣传教育活动，遏制互联网非法销售烟草专卖品活动取得了积极成效。目前，上海、北京、浙江等13个省级局协调通信管理部门，已经关闭了“云霄香烟批发网”、“云霄香烟生产网”、“首都烟斗雪茄在线”等共计44家非法从事烟草专卖品的经营网站。各地相继查处了一批互联网售烟案件。
总结2009年卷烟打假工作，主要有以下几个特点：
一是高度重视，领导有力。公安部、国家烟草专卖局领导历来十分重视卷烟打假工作，给予强有力的支持。各级烟草专卖部门和公安机关认真落实公安部、国家烟草专卖局的工作部署和要求，把卷烟打假工作摆在突出位置，落实机构人员，积极协调其他有关司法机关和执法部门开展联合打假，有力地推动了卷烟打假工作深入开展。
二是重点突出，成效明显。加大对重点地区打假工作的督导力度。对于广东、福建重点地区，国家烟草专卖局专门指定人员，重点负责检查、督导广东、福建卷烟打假工作。公安部、国家烟草专卖局多次派员到卷烟打假一线，及时协调解决问题，推动工作开展。以切断制假原辅材料供应链为重点，打击非法经营烟叶违法犯罪活动。福建、云南、贵州、广西等省（区）在切断制售假烟原料供应链方面取得显著成效，从源头上有效遏制了卷烟制假活动。以开展全国性抓捕追逃工作为重点，突出抓捕主要犯罪嫌疑人。目前，大多数制售假烟大要案的源头在福建、广东，主犯也在这两省，而且抓捕工作相当困难。今年，在厦门和汕头召开的工作部署会议上，公安部专门部署了抓捕追逃工作，福建、广东有力配合，今年1-10月份，广东配合外省抓捕涉烟犯罪嫌疑人20多名，福建配合外省抓捕涉烟犯罪嫌疑人70多名。以办理一批有影响、有规模的跨省制售假烟网络案件为目标，突出对大要案的侦破。今年以来，各地有针对性地开展精确打击，成功侦破一批重大网络案件，有力地震慑了制售假烟犯罪分子。
三是卷烟打假协作机制更加完善。各级烟草部门、公安机关不断完善卷烟打假长效机制，部门配合机制向纵深拓展，一些地方烟草与公安治安、经侦、技侦等部门建立了良好的协作关系。区域打假协作机制日趋成熟，发挥了重要作用，一批跨省市大案接连告破，抓捕追逃工作取得了积极成果。
四是开辟卷烟打假新领域。各级公安、烟草部门落实四部门工作部署，协同电信、工商等部门，严厉打击利用互联网非法销售假烟犯罪活动，取得了初步成效。各地加强部门间区域间卷烟打假协作，初步建立了长效工作机制，尤其是在证据收集和司法审判工作上，取得了新突破。
二、当前形势和明年卷烟打假主要任务
今年以来，在国际金融危机蔓延扩散，对我国经济带来巨大影响的形势下，烟草行业经济运行继续保持了良好的态势，卷烟打假发挥了重要作用。国家烟草专卖局姜成康局长多次对卷烟打假工作给予充分肯定，“卷烟打假能够取得明显成效，主要得益于各级公安机关的支持配合，广大公安干警和专卖管理人员功不可没。”在持续不断的严厉打击下，制假活动受到明显遏制，假烟生存空间缩小，市场秩序总体良好。但是，当前局部地区制假转移和扩散趋势明显，假烟运输分销案件频发，部分卷烟零售市场公开摆卖假烟问题严重，假烟网络对制售假烟活动仍起着重要的支撑作用，卷烟打假形势依然严峻。面对当前形势，各级烟草专卖部门要进一步认清形势，坚持把“端窝点、断源头、破网络、抓主犯”作为卷烟打假工作的突出重点，始终做到“毫不松懈，守土有责，巩固成果，严防反弹”，切实维护国家利益，维护消费者利益。
关于明年工作，讲几点意见：
（一）继续突出源头打假，有效摧毁假烟生产能力。福建要以打击云霄卷烟制假活动为重点，实施深度打击，综合治理，把制假活动遏制到最低程度。广东要加大运输环节的拦截围堵力度，切断假烟和制假原辅料供应链；要积极协调工商部门，在打击假烟商标印刷的工作方面取得实效；要加强对广州等重点地区卷烟打假工作的督导，举全省之力，解决长期难以解决的突出问题。广东和福建是毗邻地区，要密切关注制假转移动向，完善粤闽两地联合打假协作机制，做到信息共享，定期交流，跨省办案，共同打击。河南、山东、湖南、江西、河北、天津、四川、重庆、深圳、广西等省（区、市）要严防制假活动转移、扩散，采取有效措施，在其立足未稳的时候就坚决打掉。
（二）不断提高打击制售假烟网络工作水平。要继续抓住侦破大案要案这一关键环节，有效打击跨区域、集团化的制售假烟犯罪团伙，侦破有影响的重大案件。一要充分发挥联合打假的优势，完善行政执法与刑事司法衔接机制，加强协作配合。二要加强毗邻地区打假协作机制，形成各方密切配合、行动迅速快捷、技术支持有力的良好局面。三要建立有效的奖惩机制。各地要继续把“每个地级市局完成打掉1-2个较大规模制售假烟网络”作为硬性任务，落实责任，从严考核。国家烟草专卖局一直高度重视对卷烟打假的财力支持和物质保障，制定了对重大假烟案件和专项行动的奖励办法。今年上半年首次进行了奖励，下一步还要加大奖励力度。各级烟草部门要结合实际，制定科学合理的激励政策，用好打假经费开支政策，为卷烟打假提供财力支持和保障。
（三）进一步加强卷烟市场监管。各级局要充分认识维护零售市场秩序的重要性，认真分析研究本地区卷烟市场监管中存在的突出问题，充分用好法律法规赋予专卖管理部门的职权，进一步加强市场监管工作。一要建立长效机制。从组织机构、监管内容、监管方式等方面制定工作方案，自上而下，建立市场监管联合执法长效机制。二要健全监管体系。要加强对零售市场情况分析，掌握零售终端变化趋势，提高市场监管水平；要充分发挥“12313”举报电话的作用，拓宽案件来源，建立情报信息库；要把打击制售假烟网络和市场监管结合起来，注重在市场监管中发现线索、经营案件。三要增强监管能力。要结合专卖技能鉴定工作，认真开展执法人员教育培训工作，切实提高真假烟鉴别和案件查处等技能，建设一支专业化卷烟打假队伍。四要加强督导检查。各省局要组成专门督导组，对每个地市的市场监管工作进行督导，发现问题要及时通报并督促整改。各地市级局、县级局要认真研究市场监管的新方法，改进市场检查方式，从注重检查频率向注重检查实效转变，要带着问题上市场，提高检查的针对性和有效性。五要明确监管标准。要研究科学合理的市场秩序评价体系，制定可操作的市场监管标准。当前首先要解决公开摆卖假烟问题，在市场净化上下功夫。六要严格考核。要把卷烟打假作为一项硬指标纳入考核范围，从严考核。各省局要把市场监管作为优秀县级局创建活动的重要内容，把市场监管成效与对地市局、县级局“一把手”的业绩考核挂钩。七要开展市场清理整顿专项行动。今冬明春，各省都要集中开展一次市场清理整顿专项行动，要在取得实效上下功夫。
要注重研究有效打击利用互联网和物流运输销售烟草专卖品违法犯罪活动。认真贯彻落实国家烟草专卖局等四部门《关于严厉打击利用互联网等信息网络非法经营烟草专卖品的通告》精神，会同公安、工商、通信等管理部门加强对互联网涉烟活动监管工作，严格执行互联网涉烟活动监管相关规定，坚决堵住网上销售假、私卷烟的渠道。要加强与交通、邮政、民航等有关部门的沟通配合，加大对铁路货运站、汽运中转站、机场、港口等运输枢纽及高速公路的监管检查力度，有效切断非法烟草专卖品运输通道。特别是要集中清理整顿物流货运场（站），解决分销、中转假烟的突出问题。广东、福建两省要继续设立临时检查站，让原辅材料进不来，假烟出不去。云南、贵州、广西、湖南、湖北、浙江、河南、江西等省（区、市）都要积极协调地方政府，联合公安、交通等部门，在非法运输车辆必经的出入口加大检查力度。
（四）严厉打击非法生产经营烟用原辅材料活动。一方面要抓好内部专卖管理监督，另一方面要严厉打击非法经营烟叶违法犯罪活动。对烟叶经营中出现的内外勾结、违法违规经营问题，发现一起查处一起。云南、贵州等烟叶大省要在加强烟叶日常监管的同时，组织开展集中打击行动，侦破非法经营烟叶重大案件，堵源截流，切断制假窝点的烟叶来源。
（五）继续加大抓捕追刑工作力度。实现巩固成果，防止假烟反弹，关键是严惩主犯，彻底打掉制售假烟网络支撑。一要协调公安机关落实专门力量，梳理追逃线索，强化追逃措施。尤其是福建、广东追逃上线重要地区，要积极配合外省市开展追逃工作，并与有关省市建立信息共享、线索移交、串并案件、跨省行动等方面的合作机制，形成各方协作配合高效顺畅的良好局面。二是加强与司法机关协作，充分发挥检察院和法院的职能作用，依法加大刑事打击力度，从重判处一批制假幕后老板、骨干，有效震慑制假活动。三是加强法律政策研究，协调有关部门有效解决基层办案证据标准、证据转化和涉案金额认定等问题，进一步提高涉烟刑事案件办案质量。