卷积神经网络的发展篇1
关键词：树叶识别；支持向量机；卷积神经网络
中图分类号tp18文献标识码：a文章编号：1009-3044（2016）10-0194-03
abstract：inthispaper，theconvolutionneuralnetworkrecognitionintheleaves，andtheprocessbyconvolutionofimagevisualization.experimentsshowthattheneuralnetworkapplicationidentificationconvolutionleavesa92%recognitionrate.inaddition，thisneuralnetworkandsupportvectormachinecomparativestudycanbedrawnfromthestudy，convolutionalneuralnetworkineitherspeedoraccuracybetterthansupportvectormachines，visible，convolutionneuralnetworkintheleavesaspecthasgoodapplicationprospects.
Keywordsrecognitionleaves；SVm；convolutionalneuralnetwork
1概述
树叶识别与分类在对于区分树叶的种类，探索树叶的起源，对于人类自身发展、科普具有特别重要的意义。目前的树叶识别与分类主要由人完成，但，树叶种类成千上万种，面对如此庞大的树叶世界，任何一个植物学家都不可能知道所有，树叶的种类，这给进一步研究树叶带来了困难。为了解决这一问题，一些模式识别方法诸如支持向量机（SupportVectormachine，SVm）[1]，K最近邻（k-nearestneighbor，Knn）[2]等被引入，然而，随着大数据时代的到来，这些传统分类算法暴露出越来越多的不足，如训练时间过长、特征不易提取等不足。
上世纪60年代开始，学者们相继提出了各种人工神经网络[3]模型，其中卷积神经网络由于其对几何、形变、光照具有一定程度的不变形，因此被广泛应用于图像领域。其主要特点有：1）输入图像不需要预处理；2）特征提取和识别可以同时进行；3）权值共享，大大减少了需要训练的参数数目，是训练变得更快，适应性更强。
卷积神经网络在国内研究才刚刚起步。Lenet-5[4]就是一种卷积神经网络，最初用于手写数字识别，本文研究将卷积神经网络Lenet-5模型改进并应用于树叶识别中。本文首先介绍一下卷积神经网络和Lenet-5的结构，进而将其应用于树叶识别，设计了实验方案，用卷积神经网络与传统的模式识别算法支持向量机（SVm）进行比较，得出了相关结论，并对进一步研究工作进行了展望。
2人工神经网络
人工神经网络方面的研究很早就已开展，现在的人工神经网络已经发展成了多领域、多学科交叉的独立的研究领域。神经网络中最基本的单元是神经元模型。类比生物神经元，当它“兴奋”时，就会向相连的神经元发送化学物质，从而改变这些神经元的状态。人工神经元模型如图1所示：
上述就是一个简单的神经元模型。在这个模型中，神经元接收来自n个其他神经元传递过来的输入信号，这些信号通过带权重的w进行传递，神经元接收到的总输入值将与神经元的阈值进行比较，然后通过“激活函数”来产生输出。
一般采用的激活函数是Sigmoid函数，如式1所示：
[σz=11+e-z]（1）
该函数图像图2所示：
2.1多层神经网络
将上述的神经元按一定的层次结构连接起来，就得到了如图3所示的多层神经网络：
多层神经网络具有输入层，隐藏层和输出层。由于每一层之间都是全连接，因此每一层的权重对整个网络的影响都是特别重要的。在这个网络中，采用的训练算法是随机梯度下降算法[5]，由于每一层之间都是全连接，当训练样本特别大的时候，训练需要的时间就会大大增加，由此提出了另一种神经网络―卷积神经网络。
2.2卷积神经网络
卷积神经网络（Cnn）由于在图像分类任务上取得了非常好的表现而备受人们关注。发展到今天，Cnn在深度学习领域已经成为了一种非常重要的人工神经网络。卷积神经网络的核心在于通过建立很多的特征提取层一层一层地从图片像素中找出关系并抽象出来，从而达到分类的目的，Cnn方面比较成熟的是Lenet-5模型，如图4所示：
在该Lenet-5模型中，一共有6层。如上图所示，网络输入是一个28x28的图像，输出的是其识别的结果。卷积神经网络通过多个“卷积层”和“采样层”对输入信号进行处理，然后在连接层中实现与输出目标之间的映射，通过每一层卷积滤波器提取输入的特征。例如，Lenet-5中第一个卷积层由4个特征映射构成，每个特征映射是一个24x24的神经元阵列。采样层是基于对卷积后的“平面”进行采样，如图所示，在第一个采样层中又4的12x12的特征映射，其中每个神经元与上一层中对应的特征映射的2x2邻域相连接，并计算输出。可见，这种局部相关性的特征提取，由于都是连接着相同的连接权，从而大幅度减少了需要训练的参数数目[6]。
3实验研究
为了将Lenet-5卷积网络用于树叶识别并检验其性能，本文收集了8类树叶的图片，每一类有40张照片，如图5所示的一张树叶样本：
本文在此基础上改进了模型，使用了如图6卷积神经网络模型：
在此模型中，第一个卷积层是由6个特征映射构成，每个特征映射是一个28*28的神经元阵列，其中每个神经元负责从5*5的区域通过卷积滤波器提取局部特征，在这里我们进行了可视化分析，如图7所示：
从图中可以明显地看出，卷积网络可以很好地提取树叶的特征。为了验证卷积神经网络与传统分类算法之间的性能，本文基于python语言，CUDa并行计算平台，训练同样大小8类，一共320张的一批训练样本，采用交叉验证的方法，得到了如表1所示的结论。
可见，无论是识别率上，还是训练时间上，卷积网络较传统的支持向量机算法体现出更好地分类性能。
4总结
本文从人工神经网络出发，重点介绍了卷积神经网络模型Lenet-5在树叶识别上的各种研究并提取了特征且进行了可视化，并与传统分类算法SVm进行比较。研究表明，该模型应用在树叶识别上较传统分类算法取得了较好的结果，对收集的树叶达到了92%的准确率，并大大减少了训练所需要的时间。由于卷积神经网络有如此的优点，因此在人脸识别、语音识别、医疗识别、犯罪识别方面具有很广泛的应用前景。
本文的研究可以归纳为探讨了卷积神经网络在树叶识别上的效果，并对比了传统经典图像分类算法，取得了较好的分类精度。
然而，本文进行实验的样本过少，当数据集过多的时候，这个卷积神经网络算法的可行性有待我们进一步的研究；另外，最近这几年，又有很多不同的卷积神经网络模型出现，我们会继续试验其他的神经网络模型，力求找到更好的分类算法来解决树叶识别的问题。
参考文献：
[1]Bella，Sejnowskit.aninformation-maximizationapproachtoBlindSeparationandBlindDeconvolution[J].neuralComputation，1995，7（6）：1129-59.
[2]altmannS.anintroductiontoKernelandnearest-neighbornonparametricRegression[J].americanStatistician，1992，46（3）：175-185.
[3]RipleyBD，HjortnL.patternRecognitionandneuralnetworks[m].patternrecognitionandneuralnetworks.CambridgeUniversitypress，，1996：233-234.
[4]LécunY，BottouL，BengioY，etal.Gradient-basedlearningappliedtodocumentrecognition[J].proceedingsoftheieee，1998，86（11）：2278-2324.
卷积神经网络的发展篇2
关键词：图像分类；深度学习；Caffe框架；卷积神经网络
中图分类号：tp18文献标识码：a文章编号：1009-3044（2016）35-0209-03
ResearchandimplementationofimageClassificationBasedonConvolutionneuralnetwork
wanGChao
（informationengineeringinstitute，eastChinaUniversityoftechnology，nanchang330013，China）
abstract：theproblemofimageclassificationhasbeenthecoreproblemincomputervision.agoodsolutionisdevelopedbyfurtherstudywhichcansolvetheproblemofextractingimagefeaturesinimageclassification.inordertolearnimagefeaturesefficiently，constructingthemachinelearningmodelwithhiddenlayeraswellastrainingalargenumberofimagedatawilleventuallypromotetheaccuracyofimageclassificationorprediction.thispaperisintendedasanin-depthCaffelearningframeworktoconstructasmallimagedata-base.theconvolutionalneuralnetworkprovidedbyCaffeframeworkwillmakeatraininganalysisofthedatasetandthenextracttheinformationoftargetimagefeatures.thesecanbeusedforthefinalpredictionofthetargetimage.Comparedwiththetraditionalimageclassificationalgorithm，theaccuracyofthepredictionwillbegreatlyimproved.
Keywords：imageclassification；deeplearning；Caffeframework；Convolutionalneuralnetwork
S着计算机与互联网技术的快速发展，我们已经进入了一个以图像构建的世界。但是面临有海量图像信息却找不到所需要的数据的困境，因而图像分类技术应运而生。通过各种机器学习算法使计算机自动将各类图像进行有效管理和分类，但是由于图像内容包含着大量复杂且难以描述的信息，图像特征提取和相识度匹配技术也存在一定的难题，要使得计算机能够像人类一样进行分类还是有很大的困难。
深度学习是近十年来人工智能领域取得的重要突破，在图像识别中的应用取得了巨大的进步，传统的机器学习模型属于神经网络模型，神经网络有大量的参数，经常会出现过拟合问题，因而对目标检测准确率上比较低。本文采用卷积神经网络框架，图像特征是从大数据中自动学习得到，而且神经网络的结构深由很多层组成，通过重复利用中间层的计算单元来减少参数，在特征汇聚阶段引入图像中目标的显著信信息，增强了图像的特征表达能力。通过在图像层次稀疏表示中引入图像显著信息，加强了图像特征的语义信息，得到图像显著特征表示，通过实验测试，效果比传统的图像分类算法预测的准确度有明显的提升。
1基于卷积神经网络的图像分类方法
1.1人工神经网络
人工神经网络（artificialneuralnetwork，ann）是描述生物神经网络运行机理和工作过程的抽象和简化了的数学物理模型，使用路径权值的有向图来表示模型中的人工神经元节点和神经元之间的连接关系，之后通过硬件或软件程序实现上述有向图的运行[1]。目前最典型的人工神经网络算法包括：目前最典型的人工神经网络有Bp网络[2]Hopfield网络[3]Boltzmann机[4]SoFm网络[5]以及aRt网络人工神经网络[6]，算法流程图如图1所示[7]。
1.2卷积神经网络框架的架构
Caffe是ConvolutionalarchitectureforFastFeatureembedding的缩写[8]，意为快速特征嵌入的卷积结构，包含最先进的深度学习算法以及一系列的参考模型，图2表示的是卷积神经网络结构图。Caffe深度学习框架主要依赖CUDa，intelmKL，openCV，glog软件以及caffe文件。本文使用的各个软件版本说明，如表1所示。
Caffe深度学习框架提供了多个经典的卷积神经网络模型，卷积神经网络是一种多层的监督学习神经网络，利用隐含层的卷积层和池采样层是实现卷积神经网络特征提取功能，卷积神经网络模型通过采取梯度下降法最小化损失函数对网络中的权重参数逐层反向调节，通过频繁的迭代训练来提高网络的精度。卷积神经网络使用权值共享，这一结构类似于生物神经网络，从而使网络的复杂程度明显降低，并且权值的数量也有大幅度的减少，本文使用这些模型直接进行训练，和传统的图像分类算法对比，性能有很大的提升，框架系统训练识别基本流程如图3表示。
1.3图像分类特征提取
卷积神经网络的结构层次相比传统的浅层的神经网络来说，要复杂得多，每两层的神经元使用了局部连接的方式进行连接、神经元共享连接权重以及时间或空间上使用降采样充分利用数据本身的特征，因此决定了卷积神经网络与传统神经网络相比维度大幅度降低，从而降低计算时间的复杂度。卷积神经网络主要分为两个过程，分为卷积和采样，分别的对上层数据进行提取抽象和对数据进行降维的作用。
本文以Caffe深度学习框架中的CiFaR-10数据集的猫的网络模型为例，如图4所示，对卷积神经网络模型进行训练。CiFaR-10是一个标准图像图像训练集，由六万张图像组成，共有10类（分为飞机，小汽车，鸟，猫，鹿，狗，青蛙，马，船，卡车），每个图片都是32×32像素的RGB彩色图像。通过对数据进行提取和降维的方法来提取图像数据的特征。
2实验分析
将猫的图像训练集放在train的文件夹下，并统一修改成256×256像素大小，并对猫的图像训练集进行标记，标签为1，运行选择cpu进行训练，每进行10次迭代进行一次测试，测试间隔为10次，初始化学习率为0.001，每20次迭代显示一次信息，最大迭代次数为200次，网络训练的动量为0.9，权重衰退为0.0005，5000次进行一次当前状态的记录，记录显示如下图5所示，预测的准度在98%以上。而相比传统的图像分类算法Bp神经网络网络的收敛性慢，训练时间长的，网络的学习和记忆具有不稳定性，因而卷e神经网络框架在训练时间和预测准度上具有非常大的优势。
3结束语
本文使用Caffe深度学习框架，以CiFaR-10数据集中猫的网络模型为例，构建小型猫的数据集，提取猫的图象特征信息，最后和目标猫图像进行预测，并和传统的图像分类算法进行对比，预测的准确率有很大的提升。
参考文献：
[1]杨铮，吴陈沭，刘云浩.位置计算：无线网络定位与可定位性[m].北京：清华大学出版社，2014.
[2]丁士折.人工神经网络基础[m].哈尔滨：哈尔滨工程大学出版社，2008.
[3]mcClellandJL，RumelhartDe，pDpResearchGroup.paralleldistributedprocessing[J].explorationsinthemicrostructureofcognition，1986，2.
[4]HopfieldJJ.neuralnetworksandphysicalsystemswithemergentcollectivecomputationalabilities[J].proceedingsofthenationalacademyofsciences，1982，79（8）：2554-2558.
[5]ackleyDH，HintonGe，SejnowskitJ.alearningalgorithmforboltzmannmachines[J].Cognitivescience，1985，9（1）：147-169.
[6]Kohonenmapst.Self-organizedFormationoftopologicallyCorrectFeaturemaps[J].BiologicalCybernetics，1982，43（1）：59-69.
卷积神经网络的发展篇3
关键词：计算机视觉；D像理解；卷积神经网络；多层感知器
中图分类号：tn915.63?34；tp311文献标识码：a文章编号：1004?373X（2017）14?0170?04
abstract：theopticalnetworkisalightweight，versatileandpurelymatlab?baseddeeplearningframework.theideaunderlyingitsdesignistoprovideaneasy?to?understand，easy?to?useandefficientcomputationalplatformfordeeplearningresearch.theframeworksupportsmajordeeplearningarchitecturessuchasmultilayerperceptron（mLp）networks，convolutionalneuralnetworks（Cnn）andrecurrentneuralnetworks（Rnn）.theframeworkalsosupportsthestraightforwardswitchbetweenbothCpUandGpUforcomputation.theexperimentresultindicatesthattheframeworkhasdifferentapplicationsincomputervision，naturallanguageprocessingandrobotictechnology.
Keywords：computervision；imageunderstanding；convolutionalneuralnetwork；multilayerperceptron
0引言
深层神经网络[1]已经给出了许多机器智能问题的主要进展，最新的神经网络模型的实现主要强调效率。这些框架可以由20万～50万行代码组成，并经常涉及多个编程语言[2?4]。它需要付出巨大的努力来彻底理解和改进模型。一个简单的和自我解释的深层学习框架是高度预期的且加快深层神经网络模型的理解和应用。
在此提出的光网络是一个轻便的、通用的和纯基于matlab的深层神经网络模型。简洁、高效的matlab编程技术已被用来实现所有的计算模块。许多神经网络流行的类型，如多层感知器、卷积神经网络、神经网络都在光网络中得以实现，是结合随机梯度下降的几个变化（SDG）为基础的优化算法。
自从光网络仅用matlab实现，主要的计算用几百行代码来矢量化和执行，数量级比现有的框架更简洁。所有基本操作都可以轻松定制，只需有matlab编程基本知识。数学化研究人员可以专注于数学建模的一部分而不是工程部分。
应用程序的用户可以很容易地理解和修改任何部分的框架，开发新的网络架构，使他们适应新的应用。除了简单，光网络还具有以下特点：光网络包含最现代的网络架构；计算机视觉中的应用、自然语言处理和强化学习已被证明；光网络提供了一个综合的优化算法的收集；光网络支持在CpU和GpU之间计算的简单切换；快速傅里叶变换来有效地计算卷积，从而使大卷积核被支持；光网络自动化的超参数优化了新型选择性的SGD算法。
1模块
主要的计算模块包括前馈过程和向后/反向传播过程。前馈过程评估模型，反向传播报告网络梯度。随机梯度下降算法是用来优化模型参数。
1.1核心计算模块
光网络能够专注于数学部分而不是低层次的工程细节。为了使本文更完备，在此说明光网络中的主要计算模块。本文的所有网络和相关实验都是建立在这些模块的基础之上。
1.1.1线性感知器层
一个线性感知器层可以表示为y=wx+b。在这里，x表示input_dim×1大小的输入数据，w表示output_dim×input_dim大小的权重矩阵，b是一个output_dim×1大小的偏置向量，y表示output_dim×1大小的线性层输出。
从线性感知器输入映射到最终的网络输出可以表示为z=f（y）=f（wx+b），f是一个非线性函数，它表示在更深层次的网络的计算；z是网络输出，通常是一个损失值。
1.1.2卷积层
卷积层由一个多维滤波器组kio将输入特征图nmap_in映射到输出特征图nmap_out。每个输入特征图xi与相对应的滤波器组kio进行卷积，卷积的结果是求和并添加偏置值Bo生成o?th输出图：。允许使用大的卷积核，快速傅里叶变换（FFt）是用来计算卷积（及相关）。根据卷积定理[5]，在空间域卷积等价于在频域的逐点乘法。因此，ki*xi可以用傅里叶变换计算：ki*xi=F-1{F{ki}・F{xi}}。在这里，F表示傅里叶变换，“”表示逐点乘法运算，卷积层支持填充和跨越。
从o?th输出特征图到网络输出的映射可以表示为z=f（yo）。这里f是从o?th输出特征图yo到最终的网络输出的非线性映射。与第1.1.1节类似，，，需要在反向的过程中计算。
1.1.3max?pooling层
最大pooling层计算在窗口中的最大元素与步幅大小，一个定制的im2col_ln功能是实现转换pooling补丁为列向量，来矢量化在matlab中的pooling计算。内置的最大功能是这些列向量可以返回pooling结果和这些最大值的指数，然后，在原来的批量数据恢复相应指数。此外，零填充可应用于输入数据。
不失一般性，从max?pooling层输入到最终的网络输出的映射可以表示为z=f（y）=f（Sx），其中S是选择矩阵，x是一个列向量，它表示输入数据到这层。
在反向的过程中，被计算并传递给浅层：。
当pooling范围小于或等于该步长大小时，可以用matlab中简单的矩阵索引技术计算出。具体来说，与输入数据相同大小的一个空的张量dzdx被创建。dzdx（from）=dzdy，from是pooling指数，dzdy是一个记录pooling结果的张量。当pooling范围大于步长大小时，x中的每一个条目都可以被汇集多次，并且反向传播梯度需要为这些多个汇集条目积累。在这种情况下，计算可以利用matlab自带的功能accumarray（）。
1.1.4修正线性单元
修正线性单元（ReLU）作为一个主要的非线性映射函数被实现，一些其他的函数包括sigmoid和tanh这里的讨论就省略了。ReLU函数是很独特的函数，如果输入大于0，则输出0，否则y=ReLU（x）=x・ind（x>0）。在反向的过程中，如果输入数据是非负的，则梯度传递到较浅层，否则，梯度被忽略。
1.2损失函数
通常，一个损失函数会和最深核心计算模块的输出相连。目前，为了达到分类任务光网络还支持softmax中的LogLoss函数。
1.3优化算法
随机梯度下降（SGD）为基础的优化算法是训练深层神经网络的主要工具。标准的SGD算法和它的一些流行的变型如adagrad[6]，rmsprop[7]，adam[8]，同样实现了深度学习的研究。值得一提的是，在此实现了一个新的选择性的SGD算法便于参数尤其是学习速率的选择。
2实验
2.1多层感知器网络
在mniSt数据上[9]构造一个多层感知器网络来测试光网络的性能。网络从mniSt图像数据集取得28×28输入，在接下来的两层分别有128个节点。然后，128维特征连接10个节点来计算softmax输出。实验结果见图1。
和测试阶段的损失和错误率
2.2卷积神经网络
在cifar?10数据[10]上由4个卷积层构建一个卷积网络来测试光网络的性能。此结构与来自matConvnet的一个报告相同[3]。32，32，64，64在前三层有5×5大小的卷积核，最后一层有4×4大小的内核。ReLU函数应用到每一个卷积层之后作为非线性映射函数。光网络自动选择和调整学习速率并可以达到非常精确。与有固定的学习速率的SGD标准比较，选择性SGD具有更好的精度。最重要的是，使用选择性SGD避免手动调谐的学习速率。图2为实验结果。计算在一个inteli56600KCpU和nvidiatitanXGpU（12GB内存）的台式电脑上进行。当前版本的光网络用这种网络结构在GpU上每秒可以处理750个图像，大约比使用的CpU速度快5倍。
2.3LStm网络
长短期记忆（LStm）[11]是一个流行的递归神经网络模型。由于光网络的通用性，LStm网络作为一个特定的应用程序可以在光网络包中实现。值得注意的是，在光网络中的核心计算模块用于执行时域前向过程和反向传播为LStm。
在一个LStm模型中的前向过程可以用公式表示为：
和测试阶段的损失和错误率
优化LStm模型，在LStm中通过时间的反向传播实现和计算最关键值：
采用一个关键的迭代属性来计算上述值：
一些其他的梯度可以通过使用上述计算输出的链规则计算：
LStm网络测试一个字符语言建模任务，该数据集由选自莎士比亚作品的20000个句子组成，每个句子断成67字（和标点符号），LStm模型可以根据前一个字符预测下一个字符。网络模型中使用30个隐含节点并且RmSprop用于训练。在后10次训练，下一个字符的预测精度提高到70%。
2.4Q?网络
作为强化学习中的应用，创建一个和mLp网络一致的Q?network[12]。然后将Q?network应用到经典的Cart?pole的问题中[13]。Cart?pole系统的动力学可以在一个两层网络数百次迭代中学习到。对Q?network更新过程的一次迭代为：
式中，act是由概率ε随机选择的。所需的网络输出值Qnew是利用观测到的reward和由此产生的状态的贴现值γV（statenew）计算出来的，通过均衡器预测当前的网络。通过使用最小平方损失函数：
3结论
为了深层神经网络模型的理解与发展，光网络提供了一个易于扩展的生态系统。在matlab环境下，整个计算过程可以很容易地跟踪和可视化。这些设置的主要功能可以对深度学习研究界提供独特的便利。
⒖嘉南
[1]KRiZHeVSKYa，SUtSKeVeRi，HintonGe.imagenetclassificationwithdeepconvolutionalneuralnetworks[J].advancesinneuralinformationprocessingsystems，2012，25（2）：1097?1105.
[2]JiaY，SHeLHameRe，DonaHUeJ，etal.Caffe：Convolutionalarchitectureforfastfeatureembedding[C]//proceedingsoftheaCminternationalConferenceonmultimedia.[S.l.]：aCm，2014：675?678.
[3]VeDaLDia，LenCK.matconvnet：Convolutionalneuralnetworksformatlab[C]//proceedingsofthe23rdannualaCmConferenceonmultimedia.[S.l.]：aCm，2015：689?692.
[4]BaStienF，LamBLinp，paSCanUR，etal.theano：newfeaturesandspeedimprovements[J].arXivpreprintarXiv，2012，20：42?51.
[5]maLLatSG.awavelettourofsignalprocessing：thesparseway[J].academicpress，1998，31（3）：83?85.
[6]DUCHiJ，HaZane，SinGeRY.adaptivesubgradientmethodsforonlinelearningandstochasticoptimization[J].thejournalofmachinelearningresearch，2011（12）：2121?2159.
[7]tieLemant，HintonG.Lecture6.5?rmsprop：Dividethegradientbyarunningaverageofitsrecentmagnitude[J].neuralnetworksformachinelearning，2012，4（2）：20?26.
[8]KinGmaD，BaJ.adam：amethodforstochasticoptimization[C]//proceedingsofthe3rdinternationalConferenceforLearningRepresentations.SanDiego：[s.n.]，2015：1412?1418.
[9]LeCUnY，BottoUL，BenGioY，etal.Gradient?basedlearningappliedtodocumentrecognition[J].proceedingsoftheieee，1998，86（11）：2278?2324.
[10]KRiZHeVSKYa，HintonG.Learningmultiplelayersoffeaturesfromtinyimages[m].[S.l.：s.n.]，2009.
[11]HoCHReiteRS，SCHmiDHUBeRJ.Longshort?termmemory[J].neuralcomputation，1997，9（8）：1735?1780.
卷积神经网络的发展篇4
关键词：深度学习；行为识别；神经网络
1概述
动作行为识别是计算机视觉领域中的一个研究热点，已经广泛应用于智能监控、人机交互、视频检索等领域中[1]。动作行为识别技术是通过对视频或者图像中人体动作行为做出有意义的判断。有效表达图像（视频）中的实际目标和场景内容是最基本，最核心的问题。因此，对于特征的构建和选择得到广泛关注，例如Stip、SiFt、mSeR等。但是，能通过无监督方式让机器自动从样本中学习到表征样本的特征，会让人们更好地利用计算机来实现人的视觉功能。而深度学习作为神经网络的延伸和发展，是通过逐层构建一个多层网络来使得机器自动学习到隐含在数据内部的关系，从而让学习到的特征更加准确性。
文章旨在探讨深度学习与机器学习（神经网络）之间的关系，并且介绍深度学习的由来、概念和原理；同时介绍目前深度学习在计算机视觉中的应用。最后提出深度学习目前发展所面临的问题，以及对未来的展望。
2深度学习
2.1深度学习概述
深度学习源于人工神经网络的研究，是机器学习的拓展。深度学习是经过组合低层特征来形成更加抽象的属性类别和特征，从中发现原始数据的特征表征[2]。现在用于动作行为识别的技术是通过“动作表征”+“动作分类器”的框架来进行行为识别的。其中“动作表征”是人们手动设计特征获取到的，也就是在目前识别框架内存在一个对动作图像（视频）的预处理过程。
深度学习和浅层学习相对。目前许多学习算法是浅层网络学习方法，具有一定的局限性，例如在样本有限的状况下，表示复杂函数的能力有限制，且对复杂分类问题的泛化能力也会受到一定约束[3]。而深度学习通过学习深层非线性网络结构，达到复杂函数逼近，又能在样本少的情况下学习原始数据的特征。Bp算法作为传统神经网络的典型算法，虽然训练多层网络，但仅含几层网络，训练方法很不理想[3]。因为其输入和输出间非线性映射让网络误差函数形成含多个极小点的非线性空间，因而经常收敛到局部最小，且随着网络层数的增加，容易过拟合。而深度学习可以获得分布式表示，通过逐层学习算法来得到原始输入数据的主要变量。通过深度学习的非监督训练完成，同时利用生成性训练避免因函数表达能力过强而出现过拟合情况。
2.2深度学习原理
传统机器学习仅含单层非线性变换的浅层网络结构，而且浅层模型单一。这对于深度网络来说易造成陷入最优或产生梯度分散等问题。因此，Hinton等人在基于深度置信网（DBns）的情况下提出非监督贪婪逐层训练算法，随后提出了多层次自动编码器深层结构，这给解决深层网络结构相关的优化难题带来了希望。此外Lecun等人提出的卷积神经网络是第一个多层次结构的学习算法。同时深度学习还出现了许多结构：多层感知机、去噪自动编码器、稀疏编码等。
卷积神经网络是第一个真正采用多层次网络结构，具有鲁棒性的深度学习算法，通过探究数据在空间上的相关性，减少训练参数的数量。而且卷积神经网络（Cnn）适应性强，善于发现数据的局部特征。它的权重共享结构降低了网络模型的复杂度，减少了权值的数量，使得卷积神经网络在模式识别中取得了很好的结果。
自动编码器的核心关键是将原始图像（视频）输入信号进行编码，使用编码后的信号来重建原始信号，使得两者之间的重建误差最小。通过将原始信号编码成另一形式，能够有效地提取信号中的主要信息，能够简洁地表达原始图像（视频）的特征。
3深度学习的应用
3.1语音识别
从2009年开始，微软研究院语音识别专家通过与Hinton合作，首先将RBm和DBn引入到语音识别声学模型训练中，使得语音识别的错误率相对减低30%，这彻底改变了语音识别原有的技术框架。在国际上，iBm、google等公司都快速进行了Dnn语音识别的研究，并且速度飞快。国内方面，阿里巴巴，科大讯飞、百度、中科院自动化所等公司或研究单位，也在进行深度学习在语音识别上的研究。
3.2视频中的动作行为识别
准确迅速识别视频中人的动作行为对于视频搜索和视频监控具有划时代的意义。最近几年，深度学习技术被应用于视频动作行为识别中。如Ji等人[4]提出多层网络的3D卷积神经网络来学习视频中的时空特征，并通过卷积来实现对整个视频特征的学习，从而代替之前的时空兴趣点检测和特征描述提取。在tReCViD数据库上进行的实验取得了不错效果。
4结束语
文章对深度学习的主要概念进行了全面阐述，包括其由来、原理、研究进展和相应的应用等。在很多领域中，深度学习都表现了潜在的巨大价值，但深度学习作为浅层学习的延伸，仍处于发展阶段，还有很多问题值得我们深入探讨：
（1）我们需要了解深度学习的样本复杂度，需要多少训练样本才能学习到足够的深度模型。
（2）在推进深度学习的学习理论和计算理论的同时，我们是否可以建立一个通用的深度学习网络模型，作为统一的框架来处理语音、图像和语言。
（3）神经网络具有前馈性连接和反馈性连接，可是我们研究的深度网络中还没有加入反馈连接，这些都给深度学习的研究带来了严峻的挑战。
参考文献
[1]王亮，胡卫明，谭铁牛.人运动的视觉分析综述[J].计算机学报，2002，25（3）：225-237.
[2]余凯，贾磊，陈雨强.深度学习的昨天、今天和明天[J].计算机研究与发展，2013，50（9）：1799-1804.
卷积神经网络的发展篇5
【关键词】压缩紧邻字符识别正确率
1研究背景
样本选择是从原有的样本集中某一种选择方式来选出样本子集，是一个能加快数据处理效率，可以节省存储资源并且保证不降低分类性能的可靠方法。样本选择和特征选择在某些方面上有相似之处，一般都是与具体分类预测方法相关联。字符识别是模式识别中一类热门的研究问题，本文将利用样本选择方法结合深度卷积神经网络进行字符识别。
2加权压缩近邻方法
基于压缩近邻的样本选择方法具有拥有降低存储、缩短运算等特点。郝红卫等人在此基础上提出了加权压缩近邻规则，针对那些未被选中的边缘样本，可以重复数次对压缩近邻的过程，从而确保样本数据均能够被选上。对于中心样本也能被保留的问题，通过对样本加权评估、再次选择的方式来解决。在选择的过程中可以根据实验需要进行样本数量进行控制，称之为加权压缩近邻规则（weightedCondensednearestneighbor）。
该算法是通过压缩近邻规则过程的循环保证子集p中有足够多的边界样本，但是其中仍存在大量的冗余，我们依据投票的原则对子集p中样本的代表性进行评估并且再次选择。其具体过程是对于U中的每个样本x找出p中距离最接近的样本xi，如果x和xi的类别是相同的，那么投xi一票。样本获得的票数最高，说明它最具有代表性。根据投票的实际情况和样本的数量来得到最终的子集a。用加权压缩近邻规则获得的子集比压缩近邻规则得到的子集包含更少的冗余样本和更多的具有代表性样本，同时还可以根据实验来控制子集中所含有的样本数。
3实验结果与分析
本次实验分别使用mniSt和USpS手写体识别库作为训练和测试样本集。
实验平台采用英特尔酷睿i5-4430CpU3.00GHz，8GB内存，windows10操作系统，matlabR2010b。我们设定随机选择和压缩近邻选取mniSt中样本数目为6600个，样本压缩比为10%，USpS库中选取样本数目为1767个，样本压缩比为20.34%。设置深度卷积神经网络训练次数设为100次。
算法给出了基于压缩近邻和Bp神经网络手写体字符识别结果。通过融合压缩近邻规则选取样本和Bp神经网络实验，在训练时间上虽然没有融合随机选取样本和深度卷积网络实验短，但是在时间上并没有很大幅度延长。在实验的识别错误率上，mniSt库中比随机选择实验提升了1.52%，分类效果提升明显。可见压缩近邻方法可以选择到更好的代表性样本。这两组数据依然说明了压缩近邻对样本选择的可靠性。表1给出了基于压缩近邻和卷积神经网络的手写体字符识别结果。
4总结
本文主要介绍了基于压缩近邻的样本选择方法。样本选择的提出是为了有效减少样本数量，并且保证不降低训练精确度。在实验中进行验证，通过压缩近邻规则选取样本和深度卷积神经网络实验，证明其能够减少训练样本，提升训练速度，降低存储空间还可以提高识别正确率。
参考文献
[1]郝红卫，蒋蓉蓉.基于最近邻规则的神经网络训练样本选择方法[J].自动化学报，2007，33（12）：1247-1251.
[2]姜文瀚.模式识别中的样本选择研究及其应用[D].南京理工大学，2008.
[3]余凯，贾磊，陈雨强.深度学习的昨天、今天和明天[J].计算机研究与发展，2013，50（09）：1799-1804.
卷积神经网络的发展篇6
【关键词】使用网络；中学生；身心健康
当今，互联网在我国呈超高速发展之势，其社会影响力日益凸显。这一先进传播工具既能造福人类，也会带来有悖社会文明的负面因素。中学生正处于求知欲旺盛时期，如何以健康的心理状态迎接挑战，积极地将网络这个时代的产物引入到有益于自己的学习和生活中来，这已成为一个迫在眉睫的问题。为了了解中学生使用网络及网络成瘾情况，探讨使用网络状况对中学生心理健康状况的影响，本文通过对中学生使用网络的情况进行调查，了解网络对中学生学习、人际交往、道德、身体健康等方面的负面影响，探讨其成因并提出合理化建议，旨在使网络成为中学生健康成长和学习、生活的良师益友，真正为中学生服务。
一、研究对象与研究方法
1.研究对象。泉州市第十五中学生为研究对象，初一、初二、初三年段各100人，年龄13-15周岁。
2.研究方法。一是问卷调查法。对上述300名中学生进行问卷调查，共发300份问卷，回收300份，回收率100%，有效问卷300份，有效率100%。二是访谈调查法与经常上网的部分中学生访问交谈，了解有关情况。三是分析法。对调查结果，结合与本研究有关的文献资料，进行分析研究。
二、结果与分析
1.中学生使用网络的基本状况。调查结果显示：调查对象中有281人有上网的经历，占调查人数93.7%。可以看出，互联网在中学生日常生活中扮演着重要的角色，他们已经成为网民的重要组成部分。
2.使用网络的主要目的和使用网络的地点。调查显示，中学生使用网络的目的有32%（96人）玩游戏；18%（54人）找人聊QQ；17%（51人）查找学习资料；12%（36人）关注新闻；11%（22人）收发e-mail，10%的人选择下载软件。上网地点方面，43%（129人）使用手机，20%（60人）在网吧，21%（63人）在家里，16%（48人）在学校。互联网为中学生提供了便捷的信息获取渠道，为他们的学习提供了方便，一些学生利用互联网来做作业，收集学习资料等等，但有相当比例的学生将网络用于娱乐用途，耗费了大量的时间和精力。
3.每周平均使用网络的时间及对网络的感受。调查结果发现，中学生每周平均上网4小时以下的有43%；4-10小时的有29%；10小时以上的有8%。绝大多数中学生能够合理安排上网时间，将每周上网时间控制在4小时内，但仍有少部分学生长时间沉溺于网络世界。48%的中学生认为网络是虚拟的，凡事不可当真，而20%持相反意见，认为网络是真实世界的反映，不容置疑。介乎于其间的44%则认为真真假假，取舍全靠自己，也有少数的（12%）认为无论虚拟与真实，网络都只是一个情绪发泄的垃圾场。
4.学校和家长对使用网络的引导。调查显示46%的家长是约束孩子上网的；8%的家长则是不管不问；46%的家长要求正确使用，避免不健康的东西。网络是一把双刃剑，大量的网络信息极大丰富了他们的学习方式、生活方式和课余生活，但是这些信息良莠不齐，思想单纯的中学生难辨真伪，极易受到网络负面影响。如果学校和家长对中学生正确的引导，使用网络还是起积极作用的。
5.使用网络对中学生身心健康的影响。据调查显示，79%的中学生认为长时间上网对身体有不良的影响，11%的学生认为没有影响。玩电子游戏后感到眼睛痛的占81%；脖子酸痛的占68%；头晕的占62%。76%的学生觉得长时间上网会产生睡眠障碍，睡中多梦等现象，58%的学生因长时间使用网络接触电脑导致视力下降。
6.使用网络对中学生学习能力的影响。因特网上的资源可以帮助中学生找到所需的学习材料，甚至是合适的学校和老师。据我们的问卷调查发现：网络上有不少中学生认为“我们是赞成使用网络的，作为学生我们不仅需要缓解学习压力，更需要不断地补充课外知识。”不可否认，我们当中的多数人上网是为了更好地学习。从这个意义上来说，学生使用网络是有好处的。但是，网络传播的形象化（图、文、音、像），强化了显示“看”的接受方式，而淡化了学生“想”的思维方式。经本次调查显示发现：常“泡”在网上的学生，其写作文、分析问题、评论和欣赏能力，要比接受传统学习的差一些。调查发现80%的中学生认为使用网络对提高学习成绩有帮助，15%认为没有作用，5%认为有副作用。在制作网页和小游戏方面，28%的学生回答会，72%的学生回答不会。49%的中学生表示在没人监控的情况下，不能自觉利用网络学习。11%的学生承认曾逃课去学校周边的网吧上网。
三、结论与建议
1.结论。一是互联网在中学生日常生活中扮演着重要的角色，调查对象中有93.7%有上网的经历；上网的主要目的依次是玩游戏、聊QQ、查找资料；上网时间基本控制在4小时内；46%的家长约束孩子上网。二是有79%的学生认为长时间的上网对身体有不良影响；80%的中学生认为使用网络对提高学习成绩有帮助。三是网络的信息化特征催生了中学生的现代化观念的更新，如学习观念、效率观念、全球意识等，它使中学生不断接触新事物、新技术，接受新观念的挑战。
2.建议。一是传播积极、先进的网络文化，引导中学生身心健康发展。网络文明的建构需要道德自律、法律约束与技术保障这三方面的合力，即需要道德、法治及技术三个层面的一体化。同时加大网络德育教育力度，大力加强以中华民族优秀文化为主体的正面网络内容的生产和传播，占领网络思想教育阵地，不断提供适合中学生阅读的内容，满足他们对信息资源的渴求。通过努力改进思想政治教育，扬网络之长、避网络之短来开辟网络德育的新天地，引导中学生身心健康发展。二是学校和家长要教育引导学生树立正确的使用网络观念。教师应多为学生树立榜样，激发他们进取的精神，教会学生必要的使用网络常识，指导和教育他们正确的使用网络，安全使用网络，科学使用网络，高尚使用网络。家长要引导孩子树立正确的择友观，引导他们参加社会活动，加强对他们的精神关怀，让网络在中学生身心成长中发挥积极作用。三是对中学生进行安全上网的教育，消除中学生对互联网的神秘心理。掌握网络的使用和有关知识，能使其消除网络的神秘感，了解互联网作为应用工具的实质，“网络心理障碍”的发生几率就会大大减少。教师和家长要引导、教育中学生学会筛选有用信息，提高抵制信息污染的能力，使中学生不仅成为电脑的使用者，更要做网络世界的建设者和真正的主人。四是加强网络安全管理，完善网络秩序。利用已建立的校园网络阵地，构筑我们自己的网络文化。
参考文献：
[1]孙银聪.中学生安全教育读本.海潮摄影艺术出版社
[2]俞国荣.试谈网络与中学生心理健康[eB/oL]
卷积神经网络的发展篇7
一、主要经济指标完成情况（1～6月份）
1.系统外销售***箱，为全年任务的**％
2.金圣系列销售***箱，为全年任务的**％
3.百牌号销售***箱，为全年任务的**％；
4.名优烟销售***箱，为全年任务的**％；
5.省外烟销售***箱，为全年任务的**％。
二、主要抓了以下工作
㈠统一思想认识，明确工作目标
按照国家局要求，积极组织县（市）局领导班、客户经理代表及网建、业务、配送、电访等部门同志，参加了2月2日上午国家局召开的继续推进全国卷烟销售网络建设电视电话会议，会议的主要内容是认真贯彻落实全国烟草工作会议精神，按照保持平稳发展的工作，部署落实2005年的卷烟销售和网络建设工作，国家局何泽华副局长、中国卷烟销售公司总经理田忠振都作了重要讲话。田忠振在讲话中对2005年卷烟销售工作需要抓好的几项重要工作，即提高认识，把卷烟销量摆在各项工作的头等位置，继续推进卷烟销售网络建设，提高网建水平，加快传统商业向现代流转变等几项具体工作及何泽华副局长强调的首先要坚持平稳发展的方针，正确分析当前形势，努力保持卷烟销量稳定增长。其次要按照整体推进的要求，加快网络建设的步伐。第三，要根据国际一流的目标，全面提升网建水平（抓住服务和效率两个关键，努力做到三个满意，提升四种能力）。第四，要围绕提升中国烟草总体竞争实力的主要任务，积极构建新型工商关系，工商合力保证销售任务的完成。第五，要不断提高市公司的经营水平。对2005年网建工作提出了更高标准的要求，内容丰富详实，特别是参加会议收看人员之广是历年来所没有的，对会议精神在全体员工作了进一步的传达和贯彻，按照国家局、省局网络建设要求，结合本地实际、制定了《景德镇市烟草专卖局（分公司）卷烟销售网络建设整体推进、全面提升实施方案》，并提出了具体目标和要求。经过一年的努力，按照省局要求到2005年底景德镇烟草网建达到或基本达到上海、大连水平。围绕一个目标建设好现代物流配送中心。调整好“二个观念”（即服务与效率），落实好“三个满意”（即工业企业满意、客户满意、消费者满意），着力提高“四种能力”（即培育资源整合能力、客户服务能力、科学管理能力、品牌培育能力）。通过“流程优化，实现管理集中；机构扁平化，实现职能集中；财务电算化，实现核算集中；管理信息化、实现数据集中”的要求，全面提升网建水平。具体要求为：1.按照规划要求，脚踏实地，认认真真地抓好网络建设的各项基础工作。2.进一步抓好规范经营。3.加大市场的整治和净化，努力营造一个良好的销售环境。4.建立城信服务，提升客户关系管理，构建新型工商合作伙伴关系，努力提高“三个满意”。5.做好客户“订单供货”月销售计划工作，根据市场需求，进行品牌结构调整，尽可能满足订单货源的需求，促进卷烟销售正常提高，保证全年销量稳定增长。6.进一步加强队伍建设和作风建设，提高员工素质，为做好营销网络提供保障。
㈡完善网络功能，提高网建水平。
1.完善网络功能，实行全市大配送。我局（分公司）按照省局要求，克服条件差没有场地困难，租赁场地创造条件，实行了“电话订货”和“卷烟配送”两个集中，电话订货面达100％，订货成功率98％以上，卷烟统一由分公司打码到户，集中送货面达100％。两个集中真正体现了以分公司为经营主体基本格局，同时也有利于县级局（营销中心）的职能转变，使县级局（营销中心）能够集中精力管好市场，做好市场。
2.加强客户关系管理，提高服务质量。客户关系管理是一项系统工程，行业的每位员工都与此有关联，但工作的重点在客户经理的工作中得以体现。一是充分发挥客户经理的职能作用，对展开的工作要做到“精、细、实、恒”。二是及时了解市场情况、客户需求、经营状况、政策解释、宣传到位，帮助经营户提高规范意识、经营考评。三是把货源分配权，特别是紧俏烟分配权交给客户经理掌握，由客户经理根据市场情况和客户关系需求、库存情况进行货源的确定和安排。四是做好零售户“订单供货”月度卷烟销售计划。2005年3月份制定了“以定单供货”的月计划工作流程及考核办法。具体操作是每月初由客户经理向所辖零售户送达“月供货计划衔接表”。按照划分的销售级别、月合理定量、单品牌限量等要求由经营户自己填写当月所需品牌、数量，然后由客户经理收集交营销中心汇总，报分公司网建科审核后，由业务科负责组织货源，并将可供货源与零售户商定后，分次数填入月计划及订货登记簿内，并严格按计划商定数执行。这种以“定单供货”的方法实施后，使零售户的满意度提高了，打破了过去由公司有什么货，要零售户卖什么货传统做法，变为零售户需要什么货，公司组织什么货供应的办法，也进一步掌握了市场调控主动权，优化了资源配置，活跃了零售市场。
㈢诚信经营，实现“三个满意”
1.认真做好明码标价工作，规范价格行为，今年4月12日，在公司金叶大酒店召开了40位各级别经营户代表座谈会，共同商定卷烟条、包不同的零售价格，市工商、公平交易局也派员参加，与会代表逐一对所投放的品牌达成了统一共识，并在4月15日全市逐一经营户换发新印制的统一条、包零售价格标签，进一步提高了市场零售价格规范行为，特别是条、包不同价位，比较符合市场零售及消费者购物心理和实际状况。
2.为进一步提高客户满意度，改善卷烟零售户销售环境，我司制定了近260个美观、大方、实用的卷烟专用零售柜台，免费租赁给一级户，城市、主要街道给逐一签订了协议书，交到了经营户的一流好评，许多经营户都表示要规范经营，扩大零售，也争取得到卷烟柜台。
3.6月份市局（分公司）与价格检查局联合下发了开展卷烟零售经营价格诚信评比活动的实施办法，拟在全市评选出一批价格诚信经营户，这无疑给我市的明码标价，特别是明码实价工作带来新的成效。通过开展价格诚信活动，进一步强化经营者自律意识，规范经营者的价格行为，促进我市烟草零售市场公平、公正的合法竞争，有利于建立健全符合市场经济体制要求的社会经济体制要求的社会经济制度。
4.严格实行限量供货。我们始终坚持按销售级别对月、日供量及单品牌限量要求进行供货，对80元／条以上的省产名优烟适当增量外，其它均按去年所定限量要求，较好地控制了批发性的大户货源，使中小客户不断壮大，稳定了市场零售价，同时在4.5月份对三、四级根据其销售情况，进行了级别调整。目前，全市一、二、三级客户达2382户，比去年年初的2009户增加373户，中小户的壮大增加了零售户对烟草公司的依存度。
5.密切工商协作，搞好网络销售。一是在营销过程中牢固树立服务意识、品牌意识，通过实施“订单供货”月计划作，使我们及时有效的掌握了市场卷烟销售结构的变化、品牌需求的变化，促进了市场占有率的进一步提高。通过对主导品牌上柜要求，有力地促进了名优、百牌号卷烟销售和对新品牌的认识和选择，有力的促进了品牌的培育和宣传。二是进一步调整销售结构，进行市场货源优化，加大品牌培育和宣传，积极引导消费，加大对市场调研和发展新品牌主动性，争取新上市的品牌销售都能获得市场占有率成功。
6.积极组织调入适销对路货源，满足市场需求。一是按照定单供货要求，组织调入适销对路，批零差价合理的卷烟。二是想办法多调入四、五类烟，以满足农村市场需求。三是在正常调入省产烟情况下，争取多调入一些市场具有一定潜能，有一定品牌培育价值的省外烟、名优烟及百牌号卷烟，以满足市场正常流通。由于调入卷烟基本符合市场需求要求，而且又具有一定的利润空间，品牌结构较为合理，深受广大经营户的欢迎，而且市场的乱渠道进货，卖假冒烟的情况得到了进一步遏制。
7.加强专销结合，狠抓规范经营。我局（公司）把规范经营作为事关行业稳定健康发展的大事抓紧做好，坚持规范、严谨踏实的工作作风，坚决贯彻执行烟草专卖法及其法律、法规，落实国家局、省局杜绝体外循环的有关规定，认真扎实地做好本地市场的培育和销售。一是狠抓制度建设，相继出台和完善了许多规范性文件，使大家工作职责更明确、措施更得力、管理更到位。二是抓制度的落实和考评，更加注重过程管理，对查出的问题坚决按规范要求，严肃处理。上半年内部查处不规范行为2起，中队长被免职1人、辞退员工1人，有关人员共有15人被处以经济处罚。通过狠抓规范经营，杜绝了体外循环，制止了卖大户，刹住了超量供货等现象。
8.制定了客户投诉管理办法。为进一步提升网建水平，提高客户满意度，规范工作行为，加大社会的有效监督，建立快捷有效的客户投诉渠道和投诉受理管理机制。县（市）局（营销中心）、分公司网建科都设立了客户投诉电话，并有专人负责受理客户投诉。对烟草公司的政策、规定及对“四员”的工作情况、服务态度及建议和要求都在受理范围之内。
㈣加强队伍建设，提高员工素质
随着网建的整体推进，全面提升的要求，对网建人员整体素质也提出了更高的要求，网络人员怎样适应工作职能工作流程，工作方法的变化，都需要我们认真思考和探索的问题。因此我们要引进激励机制、新的营销理念、新的工作思维、强化技能培训和组织学习、自学相结合方式，同时把人才关，以提高网建人员的业务技能和知识水平，努力塑造一支高素质的网络队伍。上半年以来，我们主要从以下几个方面着手：
1.树立“营销网络”是企业不断发展和立足之本的理念，进一步增强员工的责任感和使命感。
2.关心员工遇到的问题和困难，加强情感交流，增强企业凝聚力和向心力。
3.加强员工的培训，提高其综合素质，上半年我市共举办各类培训班共4期，培训人数共260余人。
4.充分利用网点日、周例会进行政治、业务、报刊等方面学习和讨论。
5.认真做好2005版营销管理系统的切换工作。
按照省局布置，我市按照把新的营销管理系统的上线工作纳入重要议事日程，由于前期准备工作充分，培训工作到位，部门间配合，4月底切换成功，并且利用五一节日期间，休息时间，对电访、配送、业务等上线情况跟踪和逐项问题的进一步解决营销软件运行基本正常，同时对一号工程工作极为重视，信息中心指派一人自5月份中旬以来经常仓库指导仓储人员对购进品牌进行打码，对出现的问题进行总结和汇报，按照省局要求，确保7月实现卷烟生产经营决策管理系统全面稳定进行。
三、网建工作存在的差距与不足
上半年，景市网建工作在省局（公司）正确领导下取得了一定的进步，得到一定提升，但仍存在许多不足。
1.与上海、大连网建水平相比，我市网建基础工作还有差距，网络的功能还没有得到最大发挥。
2.队伍的整体素质还不高，特别是客户经理的水平还不能完全适应现代流通要求。
3.省外卷烟调销进度缓慢，市场占有份额较少，特别是四、五类卷烟矛盾相对突出。
4.城区电子结算率不高。
5.管理体制和考核机制还不够健全。
四、下半年的工作打算
㈠、完成以分公司为经营主体的网络组织机构
1.按照省局（公司）统一规划要求，进行组织架构调整到位，成立营销中心、物流中心、督察中心、信息中心，按照业务流程再造，按照程序化、规范化要求，整合流程，使业务流程更加科学、规范、合理。
2.根据流程需求，进一步整合线路和人员，使线路更优化，用工更合理，降低运行成本，提高工作效率。
㈡、加强管理，真抓实干
管理是永恒的主题，只有加强制度管理工作的前提，才能真抓实干，下大力气抓好制度建设，完善管理机制，对网建的每项工作都要落到实处，不断提升网建水平，正视工作中的困难和不足，找到解决问题的办法，抓好典型推广，要按照分公司的部署达到上海、福建管理模式，紧扣景德镇烟草实际，不断探索、勇于创新、精心策划、狠抓落实，要自我加压、自逼快上，同时，要充分发挥县（市）局（营销中心）的骨干作用，把主要精力集中到网建工作上来。
㈢、狠抓规范经营，努力提高市场占有率
首先要从思想上彻底解决规范经营问题，要引导营销人员不能把不规范经营看作是完成任务的有效途径。二是要从考核体制上彻底解决不规范经营行为。三是彻底解决虚假入网的不规范经营行为。四是通过分级限量，彻底解决批发大户再次批发的行为。五是通过“两个专项整顿”全面、彻底解决不规范经营的各种行为。
㈣、在营销中牢固树立服务意识，注重工作过程和实数。⑴坚持以市场为导向，积极组织改进适销对路的货源，特别是加大省外名优、百牌号烟的销售，满足不同消费群体需求。⑵进一步调整卷烟销售结构，进行市场货源优化，加大品牌的宣传和推介力度，培育好品牌。⑶要通过客户经理的工作，在实施“订单供货”月计划工作中，解释引导工作要到位，增强零售户对他公司的依存度和满意度，要不断完善“订单供货”月计划工作流程和考核办法，使之更贴近市场、贴近经营户，使我们有效地掌握掌声卷烟销售结构的变化，以最大可能地组调货源给予满足。⑷继续抓好主导品牌上柜工作，促进名优、百牌号卷烟销售以及消费者对新品牌的认知和选择，促进品牌的培育和宣传。
卷积神经网络的发展篇8
一、主要经济指标完成情况（1～6月份）
1.系统外销售***箱，为全年任务的**％
2.金圣系列销售***箱，为全年任务的**％
3.百牌号销售***箱，为全年任务的**％；
4.名优烟销售***箱，为全年任务的**％；
5.省外烟销售***箱，为全年任务的**％。
二、主要抓了以下工作
㈠ 统一思想认识，明确工作目标
按照国家局要求，积极组织县（市）局领导班、客户经理代表及网建、业务、配送、电访等部门同志，参加了2月2日上午国家局召开的继续推进全国卷烟销售网络建设电视电话会议，会议的主要内容是认真贯彻落实全国烟草工作会议精神，按照保持平稳发展的工作，部署落实XX年的卷烟销售和网络建设工作，国家局何泽华副局长、中国卷烟销售公司总经理田忠振都作了重要讲话。田忠振在讲话中对XX年卷烟销售工作需要抓好的几项重要工作，即提高认识，把卷烟销量摆在各项工作的头等位置，继续推进卷烟销售网络建设，提高网建水平，加快传统商业向现代流转变等几项具体工作及何泽华副局长强调的首先要坚持平稳发展的方针，正确分析当前形势，努力保持卷烟销量稳定增长。其次要按照整体推进的要求，加快网络建设的步伐。第三，要根据国际一流的目标，全面提升网建水平（抓住服务和效率两个关键，努力做到三个满意，提升四种能力）。第四，要围绕提升中国烟草总体竞争实力的主要任务，积极构建新型工商关系，工商合力保证销售任务的完成。第五，要不断提高市公司的经营水平。对XX年网建工作提出了更高标准的要求，内容丰富详实，特别是参加会议收看人员之广是历年来所没有的，对会议精神在全体员工作了
进一步的传达和贯彻，按照国家局、省局网络建设要求，结合本地实际、制定了《景德镇市烟草专卖局（分公司）卷烟销售网络建设整体推进、全面提升实施方案》，并提出了具体目标和要求。经过一年的努力，按照省局要求到XX年底景德镇烟草网建达到或基本达到上海、大连水平。围绕一个目标建设好现代物流配送中心。调整好“二个观念”（即服务与效率），落实好“三个满意”（即工业企业满意、客户满意、消费者满意），着力提高“四种能力”（即培育资源整合能力、客户服务能力、科学管理能力、品牌培育能力）。通过“流程优化，实现管理集中；机构扁平化，实现职能集中；财务电算化，实现核算集中；管理信息化、实现数据集中”的要求，全面提升网建水平。具体要求为：1.按照规划要求，脚踏实地，认认真真地抓好网络建设的各项基础工作。2.进一步抓好规范经营。3.加大市场的整治和净化，努力营造一个良好的销售环境。4.建立城信服务，提升客户关系管理，构建新型工商合作伙伴关系，努力提高“三个满意”。5.做好客户“订单供货”月销售计划工作，根据市场需求，进行品牌结构调整，尽可能满足订单货源的需求，促进卷烟销售正常提高，保证全年销量稳定增长。6.进一步加强队伍建设和作风建设，提高员工素质，为
做好营销网络提供保障。
㈡ 完善网络功能，提高网建水平。
1. 完善网络功能，实行全市大配送。我局（分公司）按照省局要求，克服条件差没有场地困难，租赁场地创造条件，实行了“电话订货”和“卷烟配送”两个集中，电话订货面达100％，订货成功率98％以上，卷烟统一由分公司打码到户，集中送货面达100％。两个集中真正体现了以分公司为经营主体基本格局，同时也有利于县级局（营销中心）的职能转变，使县级局（营销中心）能够集中精力管好市场，做好市场。
㈢ 诚信经营，实现“三个满意”
1.认真做好明码标价工作，规范价格行为，今年4月12日，在公司金叶大酒店召开了40位各级别经营户代表座谈会，共同商定卷烟条、包不同的零售价格，市工商、公平交易局也派员参加，与会代表逐一对所投放的品牌达成了统一共识，并在4月15日全市逐一经营户换发新印制的统一条、包零售价格标签，进一步提高了市场零售价格规范行为，特别是条、包不同价位，比较符合市场零售及消费者购物心理和实际状况。共3页,当前第1页1
2.为进一步提高客户满意度，改善卷烟零售户销售环境，我司制定了近260个美观、大方、实用的卷烟专用零售柜台，免费租赁给一级户，城市、主要街道给逐一签订了协议书，交到了经营户的一流好评，许多经营户都表示要规范经营，扩大零售，也争取得到卷烟柜台。
3.6月份市局（分公司）与价格检查局联合下发了开展卷烟零售经营价格诚信评比活动的实施办法，拟在全市评选出一批价格诚信经营户，这无疑给我市的明码标价，特别是明码实价工作带来新的成效。通过开展价格诚信活动，进一步强化经营者自律意识，规范经营者的价格行为，促进我市烟草零售市场公平、公正的合法竞争，有利于建立健全符合市场经济体制要求的社会经济体制要求的社会经济制度。
4.严格实行限量供货。我们始终坚持按销售级别对月、日供量及单品牌限量要求进行供货，对80元／条以上的省产名优烟适当增量外，其它均按去年所定限量要求，较好地控制了批发性的大户货源，使中小客户不断壮大，稳定了市场零售价，同时在4.5月份对三、四级根据其销售情况，进行了级别调整。目前，全市一、二、三级客户达2382户，比去年年初的2009户增加373户，中小户的壮大增加了零售户对烟草公司的依存度。
5.密切工商协作，搞好网络销售。一是在营销过程中牢固树立服务意识、品牌意识，通过实施“订单供货”月计划作，使我们及时有效的掌握了市场卷烟销售结构的变化、品牌需求的变化，促进了市场占有率的进一
步提高。通过对主导品牌上柜要求，有力地促进了名优、百牌号卷烟销售和对新品牌的认识和选择，有力的促进了品牌的培育和宣传。二是进一步调整销售结构，进行市场货源优化，加大品牌培育和宣传，积极引导消费，加大对市场调研和发展新品牌主动性，争取新上市的品牌销售都能获得市场占有率成功。
6.积极组织调入适销对路货源，满足市场需求。一是按照定单供货要求，组织调入适销对路，批零差价合理的卷烟。二是想办法多调入四、五类烟，以满足农村市场需求。三是在正常调入省产烟情况下，争取多调入一些市场具有一定潜能，有一定品牌培育价值的省外烟、名优烟及百牌号卷烟，以满足市场正常流通。由于调入卷烟基本符合市场需求要求，而且又具有一定的利润空间，品牌结构较为合理，深受广大经营户的欢迎，而且市场的乱渠道进货，卖假冒烟的情况得到了进一步遏制。
7.加强专销结合，狠抓规范经营。我局（公司）把规范经营作为事关行业稳定健康发展的大事抓紧做好，坚持规范、严谨踏实的工作作风，坚决贯彻执行烟草专卖法及其法律、法规，落实国家局、省局杜绝体外循环的有关规定，认真扎实地做好本地市场的培育和销售。一是狠抓制度建设，相继出台和完善了许多规范性文件，使大家工作职责更明确、措施更得力、管理更到位。二是抓制度的落实和考评，更加注重过程管理，对查出的问题坚决按规范要求，严肃处理。上半年内部查处不规范行为2起，中队长被免职1人、辞退员工1人，有关人员共有15人被处以经济处罚。通过狠抓规范经营，杜绝了体外循环，制止了卖大户，刹住了超量供货等现象。
8.制定了客户投诉管理办法。为进一步提升网建水平，提高客户满意度，规范工作行为，加大社会的有效监督，建立快捷有效的客户投诉渠道和投诉受理管理机制。县（市）局（营销中心）、分公司网建科都设立了客户投诉电话，并有专人负责受理客户投诉。对烟草公司的政策、规定及对“四员”的工作情况、服务态度及建议和要求都在受理范围之内。
㈣ 加强队伍建设，提高员工素质
随着网建的整体推进，全面提升的要求，对网建人员整体素质也提出了更高的要求，网络人员怎样适应工作职能工作流程，工作方法的变化，都需要我们认真思考和探索的问题。因此我们要引进激励机制、新的营销理念、新的工作思维、强化技能培训和组织学习、自学相结合方式，同时把人才关，以提高网建人员的业务技能和知识水平，努力塑造一支高素质的网络队伍。上半年以来，我们主要从以下几个方面着手：
1.树立“营销网络”是企业不断发展和立足之本的理念，进一步增强员工的责任感和使命感。
2.关心员工遇到的问题和困难，加强情感交流，增强企业凝聚力和向心力。
3.加强员工的培训，提高其综合素质，上半年我市共举办各类培训班共4期，培训人数共260余人。
4.充分利用网点日、周例会进行政治、业务、报刊等方面学习和讨论。
5.认真做好XX版营销管理系统的切换工作。
按照省局布置，我市按照把新的营销管理系统的上线工作纳入重要议事日程，由于前期准备工作充分，培训工作到位，部门间配合，4月底切换成功，并且利用五一节日期间，休息时间，对电访、配送、业务等上线情况跟踪和逐项问题的进一步解决营销软件运行基本正常，同时对一号工程工作极为重视，信息中心指派一人自5月份中旬以来经常 仓库指导仓储人员对购进品牌进行打码，对出现的问题进行总结和汇报，按照省局要求，确保7月实现卷烟生产经营决策管理系统全面稳定进行。共3页,当前第2页2
三、网建工作存在的差距与不足
上半年，景市网建工作在省局（公司）正确领导下取得了一定的进步，得到一定提升，但仍存在许多不足。
1.与上海、大连网建水平相比，我市网建基础工作还有差距，网络的功能还没有得到最大发挥。
2.队伍的整体素质还不高，特别是客户经理的水平还不能完全适应现代流通要求。
3.省外卷烟调销进度缓慢，市场占有份额较少，特别是四、五类卷烟矛盾相对突出。
4.城区电子结算率不高。
5.管理体制和考核机制还不够健全。
四、下半年的工作打算
㈠、完成以分公司为经营主体的网络组织机构
1.按照省局（公司）统一规划要求，进行组织架构调整到位，成立营销中心、物流中心、督察中心、信息中心，按照业务流程再造，按照程序化、规范化要求，整合流程，使业务流程更加科学、规范、合理。
2.根据流程需求，进一步整合线路和人员，使线路更优化，用工更合理，降低运行成本，提高工作效率。
㈡、加强管理，真抓实干
管理是永恒的主题，只有加强制度管理工作的前提，才能真抓实干，下大力气抓好制度建设，完善管理机制，对网建的每项工作都要落到实处，不断提升网建水平，正视工作中的困难和不足，找到解决问题的办法，抓好典型推广，要按照分公司的部署达到上海、福建管理模式，紧扣景德镇烟草实际，不断探索、勇于创新、精心策划、狠抓落实，要自我加压、自逼快上，同时，要充分发挥县（市）局（营销中心）的骨干作用，把主要精力集中到网建工作上来。
㈢、狠抓规范经营，努力提高市场占有率
首先要从思想上彻底解决规范经营问题，要引导营销人员不能把不规范经营看作是完成任务的有效途径。二是要从考核体制上彻底解决不规范经营行为。三是彻底解决虚假入网的不规范经营行为。四是通过分级限量，彻底解决批发大户再次批发的行为。五是通过“两个专项整顿”全面、彻底解决不规范经营的各种行为。
㈣、
在营销中牢固树立服务意识，注重工作过程和实数。⑴坚持以市场为导向，积极组织改进适销对路的货源，特别是加大省外名优、百牌号烟的销售，满足不同消费群体需求。⑵进一步调整卷烟销售结构，进行市场货源优化，加大品牌的宣传和推介力度，培育好品牌。⑶要通过客户经理的工作，在实施“订单供货”月计划工作中，解释引导工作要到位，增强零售户对他公司的依存度和满意度，要不断完善“订单供货”月计划工作流程和考核办法，使之更贴近市场、贴近经营户，使我们有效地掌握掌声卷烟销售结构的变化，以最大可能地组调货源给予满足。⑷继续抓好主导品牌上柜工作，促进名优、百牌号卷烟销售以及消费者对新品牌的认知和选择，促进品牌的培育和宣传。
㈤、
创新工作思维，不断推进客户关系管理，提高服务质量和管理水平，提高工作效率，以客户满意作为我们
服务的追求，对客户实行差异化、亲情化服务和沟通能力，要熟练运用CRm，提高市场分析、预测能力，认真做好各项具体工作，注重工作实效，全面掌握经营户基础信息情况，特别是抓好电子结算，明码实价，诚信管理等工作，不断提高月计划制定准确率，促进客户经营能力、经营利润的提高、品牌规范意识增强。
㈥、
完善考核机制，加大督察力度。目标做到层层分解，考核机制要跟上。努力做好三级考核，一级抓一级，层层抓落实，严格按照XX年度销售网络建设考核办法具体要求，逐项对县、市局（营销中心）进行考核，强化过程管理，采取平时考核与年终考核相结合，每月将组织一次“三员”考核，不符合要求将进行扣分和通报，特别是一级考核，要充分发挥中队长的职能.
卷积神经网络的发展篇9
关键词：超分辨率；深度学习；卷积；神经网络；视觉特征；映射
中图分类号：tp399文献标志码：a文章编号：1006-8228（2017）07-38-04
applicationofdeeplearninginsuper-resolutionimagereconstruction
HanSensen
（SchoolofComputerandinformationengineering，HenanUniversity，Kaifeng，Henan475000，China）
abstract：Super-resolutionimagereconstructioncanreconstructahigh-resolutionimageusinglow-resolutionimages；ithasbecomeahotspotinimageprocessing.Deeplearningisapopularbranchofmachinelearning，whichbycombininglow-levelfeaturestoformmoreabstracthigh-levelvisualfeatures，toavoidtheartificialextractionoffeatures.thispaperdividesthecurrentreconstructionalgorithmintothreecategories，whicharebasedoninterpolation，basedonreconstructionandbasedonlearning，andespeciallyfocusesonthereconstructionalgorithmsbasedondeeplearning.Finallythefutureresearchdirectionofsuper-resolutionimagereconstructiontechnologyisprospected.
Keywords：super-resolution；deeplearning；convolution；neuralnetworks；visualfeature；mapping
0引言
单帧图像的超分辨率（superresolution，SR）重建是指利用已知的低分辨率图像，重构出具有更高像素密度的图像，并且重构出的图像还能够保持丰富的纹理、质地等细节信息。它在视频监控、图像打印、医学图像处理、卫星成像等领域有较广泛的应用。
超分辨率图像的重建本质上是一个病态（ill-posed）问题，因为不完全相同的多张图像高分辨图像在经过相同的降采样都可以产生相同的低分辨图像，这是一种典型的一对多问题，因此存在惟一解，特别是在放大倍数较高的情况下该问题将变得更为复杂。
1算法分类
当前的超分辨算法大致可分为三类：基于插值的超分辨率重建算法，基于重构的超分辨率重建算法和基于学习的超分辨率重建算法。
基于插值的重建算法假设像素的灰度值是连续变化的，并利用邻近像素的灰度值计算待插值像素的灰度值，然而实际应用中许多图像并不满足这种假设。并且该算法通过一个预定义的数学公式直接将低分辨率图像生成高分辨率的图像而不考虑任何的图像特性，也不接受任何的训练。所以基于差值方法得到的重建图像容易产生模糊、锯齿现象。常见的线性插值方法有最近邻插值方法，双线性插值方法，双三次插值方法等。
基于重构的超分辨率重建算法是依照特定的退化模型，将已知的低分辨率图像序列中不同鼍暗男畔⒔行融合来重建出高分辨率图像，因此该算法需要对图像进行配准。常见重构算法有种迭代反向投影[1]（iBp）、凸集投影法[2]（poCS）。
基于学习的分辨率重建算法则是通过机器学习方法从大量的低分辨图像和高分辨图像对中学习它们之间的映射函数，利用学习到的函数对测试图像进行预测来产生高分辨率图像。常见的基于学习的分辨率重建算法有嵌套的邻域嵌入[3]（neighborembeddingwithLocallyLinearembedding）、固定邻域回归[4]（anchoredneighborhoodRegression）、稀疏编码[5]（SparseCoding）。
相比较于其他两类算法而言，基于学习的SR算法直接学习分辨率图像与高分辨率图像端到端的映射函数，比传统的插值和重构的方法具有更突出的性能。本文着重介绍几种基于深度学习的超分辨算法，包括SRCnn[6]，DRCn[7]，eSpCn[8]和SRGan[9]等。
2SRCnn
SRCnn（Super-ResolutionConvolutionalneuralnetwork）是较早地使用卷积神经网络来做SR的网络模型。该网络结构十分简单，仅仅用了三个卷积层。对于一张低分辨率图像，SRCnn首先使用双三次插值将它放大到将要放大的尺寸，再通过三层卷积神经网络做非线性映射，得到的输出结果作为重建的高分辨率图像。整个过程可分为三个部分：图像块的提取和特征表示，特征非线性映射和最终的重建。
图像块提取与表示：该过程从低分辨率图像中提取出部分重叠的图像块，并将每个图像块表示为一个高维向量，这些向量包含一些特征映射，映射的个数与向量的维数相同。
非线性映射：这个功能将每个高维向量非线性地映射成另外一个高维向量。从概念上来讲每个映射后的向量代表了一个高分辨率图像块。这些向量构成了另外一个特征集。
重建：这个处理聚集以上高分辨率基于像素块的替代对象，用于生成最终的高分辨率图像。并且我们希望这个图像能尽可能与高分辨率原图相近。
对重建后的超分辨率图像的质量进行定量评价的两个常用指标是pSnR[10]（peakSignal-to-noiseRatio）和SSim[11]（StructureSimilarityindex）。这两个值代表重建图像的像素值和原始图像像素值的接近程度，具体对比结果如表1，在2、3、4的放大倍数下，SRCnn与传统方法的对比，可以看出无论是在哪个放大倍数下，SRCnn的pSnR值都比其他的重建算法要高出0.4Db左右。
SRCnn的网络层数较少，同时局部感受野也较小，所以从输入图像中提取到的信息就非常有限。因此DRCn（Deeply-RecursiveConvolutionalnetworkforimageSuper-Resolution）提出在网络中增加更多的卷积层增加局部感受野的大小，这样可利用更多的邻域像素。同时为了避免过多w络参数，DRCn提出使用递归神经网络Rnn（Recurrentneuralnetwork）。
与SRCnn比较类似DRCn的网络结构可分为三个部分，第一个是embeddingnetwork，相当于SRCnn中的特征提取，第二个是inferencenetwork，相当于SRCnn中的非线性变换，第三个是Reconstructionnetwork，即从特征图像得到最后的重建结果。其中的inferencenetwork是一个递归网络，即数据循环地通过该层进行多次递归。将这个递归过程展开后可以看出，它等效于多个串联的卷积层共享同一组参数，inferencenetwork展开后的网络结构是由D个共享参数的卷积层组成。DRCn将每一层的卷积输出都送入同一个Reconstructionnet来作为其输入，由于递归的深度是D，从而一共可得到D个重建图像，再把它们加权平均得到最终的输出。此外DRCn受Resnet[14]的启发通过skipconnection将输入图像与inferencenet的输出HD叠加作为Reconstructionnet的输入，这就相当于inferencenet学习的是高分辨率图像与低分辨率图像的残差图像，即图像的高频信息。
实验部分，DRCn同样也使用了包含91张图像的Set91[4]数据集进行训练，与SRCnn不同的是DRCn使用的训练数据是在多个方法倍数下生成的，而不像SRCnn那样在单一的放大倍数下生成，这样可以利用不同尺度图像间的信息进行互补，理论上DRCn的重建效果会由于SRCnn，具体的对比结果如表2所示，可以看出DRCn的重建图像的pSnR与SRCnn相比有了较大提高。
4eSpCn
在SRCnn和DRCn中，低分辨率图像都需要先使用双三次插值得到与高分辨率图像大小相同的低分辨率图像来为网络输入，这意味着卷积的计算将在较高分辨率的图像上进行，这与在低分辨率图像上计算卷积相比于会需要较大的计算开销。因此eSpCn（Real-timeSingleimageandVideoSuper-ResolutionUsinganefficientSub-pixelConvolutionalneuralnetwork）提出在低分辨率图像上直接计算卷积来得到高分辨率图像。
eSpCn的核心思想是亚像素卷积层（Sub-pixelConvolutionalLayer）。网络的输入是原始的低分辨率图像，经过两个卷积层后得到的特征图像大小与输入图像一样，但是特征的通道数变为r2，γ是图像的目标放大倍数。然后将每个像素上的r2个通道重新排列成一个γ×γ的区域，该区域对应于高分辨率图像中的一个区域大小为γ×γ的子块，从而对于一个大小为r2×H×w的特征图像在通道上进行重新排列会形成一个大小为1×rH×rw的图像，该图像的尺寸是输入图像尺寸的r倍，从而间接地实现了输入图像的放大。
通过使用sub-pixelconvolution可以间接的实现图像的放大过程，即插值函数是隐含地包含在前面的卷积层中，只在网络的最后一层对图像大小做变换，前面的卷积运算由于在低分辨率图像上进行，因此效率会有很明显的较高。
eSpCn的训练与SRCnn类似，在重建效果上，以pSnR为评价指标来看eSpCn比SRCnn有进一步的提高，具体对比如表3所示。而时间效率方面对于一个1080HD的视频图像，对其放大四倍进行的高分辨率重建，SRCnn需要的时间为0.434s，而eSpCn只需要0.029s。
SRGan（photo-RealisticSingleimageSuperResolutionUsingaGenerativeadversarialnetwork）是将生成对抗网络用于SR问题的处理。其出发点是传统的方法一般只能处理的是较小的放大倍数，当图像的放大倍数在4以上时，得到的结果往往显得过于平滑，从而重建出的图像在视觉上却少一些质地细节的真实感，因此SRGan使用Gan来生成图像中的细节。
SRGan网络由两部分组成：生成网和判别网，生成网用于生成一些图像，判别网用于判断接收到的输入图像是由生成网生成的还是来自于真实样本中的原始图像。训练时如果判别网无法区分出来输入的样本来自于哪里就达到了预期的效果。
传统方法一般使用图像的最小均方差（mSe）作为误差函数，即该误差函数使重建图像有较高的pSnR，但是重建图像缺少了必要的高频信息，因而在重建后的图像中容易出现过度平滑的纹理。在SRGan的误差函数中又增加了一个内容误差项和生成误差项。
内容误差用于衡量重建出图像与原始图像在更高级的视觉特征上的差e。其具体定义由以下公式描述。
生成误差项基于判别网输出的概率，其输出值表示输入数据来自于真实样本的概率大小。其具体定义由以下公式描述。
其中是一个图像属于真实的高分辨率图像的概率。是重建的高分辨率图像。
SRGan的训练过程与前面的网络类似，同样使用pSnR和SSim评价标准对算法的重建效果进行测试，SRGan生成的高分辨率图像看起来更真实，具体的对比如表4所示。
6结束语
深度学习已经在超分辨率图像重建领域取得了突破性的成绩，同时它仍然存在一些问题，例如它与传统的机器学习方法一样，通常假设训练数据与测试数据服从同样的分布，而实际上这两者存在一定的偏差。此外当前的重建算法仍然只使用于较小的放大倍数，对于较大的放大倍数得到重建图像仍然过于平滑模糊，因此如何充分利用深度学习来增强算法在较高的放大倍数下的重建性能是目前深度学习研究的重点。
参考文献（References）：
[1]iranim，pelegS.improvingresolutionbyimageregistration[J].
CVGip：Graphicalmodelsandimageprocessing，1991.53（3）：231-239
[2]StarkH，oskouip.High-resolutionimagerecoveryfrom
image-planearrays，usingconvexprojections[J].JoSaa，1989.6（11）：1715-1726
[3]timofteR，DeSmetV，VanGoolL.a+：adjusted
anchoredneighborhoodregressionforfastsuper-
resolution[C]，2014：111-126
[4]timofteR，DeSmetV，VanGoolL.anchored
neighborhoodregressionforfastexample-basedsuper-
resolution[C]，2013：1920-1927
[5]YangJ，wrightJ，HuangtS，etal.image
super-resolutionviasparserepresentation[J].ieeetransactionsonimageprocessing，2010.19（11）：2861-2873
[6]BrunaJ，Sprechmannp，LecunY，etal.image
Super-ResolutionUsingDeepConvolutionalnetworks[J].ComputerScience，2015.
[7]KimJ，LeeJK，LeeKm.Deeply-RecursiveConvolutional
networkforimageSuper-Resolution[J].arXivpreprintarXiv：1511.04491，2015.
[8]Shiw，CaballeroJ，HuszárF，etal.Real-timeSingle
imageandVideoSuper-ResolutionUsinganefficientSub-pixelConvolutionalneuralnetwork[J]，2016.
[9]LedigC，theisL，HuszarF，etal.photo-RealisticSingle
imageSuper-ResolutionUsingaGenerativeadversarialnetwork[J]，2016.
[10]Horea，ZiouD.imageQualitymetrics：pSnRvs.SSim[J]，
2010：2366-2369
[11]wangZ，BovikaC，SheikhHR，etal.imagequality
assessment：fromerrorvisibilitytostructuralsimilarity[J].ieeetransactionsonimageprocessing，2004.13（4）：600-612
[12]KimKi，KwonY.Single-imagesuper-resolutionusing
sparseregressionandnaturalimageprior[J].patternanalysis&machineintelligenceieeetransactionson，2010.32（6）：1127-1133
[13]DongC，LoyCC，HeK，etal.imagesuper-resolution
usingdeepconvolutionalnetworks[J].ieeetransactionsonpatternanalysisandmachineintelligence，2016.38（2）：295-307
卷积神经网络的发展篇10
一、“打假破网”的形势、分类和特征
（一）“打假破网”的形势
1、卷烟市场现状：①全国卷烟产量与卷烟实际消费量仍存在一定差距；②各地市辖区市场仍存在大量从非法渠道流入的“紧俏卷烟”；③烟草是一种特殊商品，有利润就有犯罪，不法烟贩受利益驱使，仍将长期从事制售假冒卷烟活动。
2、“打假破网”效果：2008年，全市共查处各类卷烟违法案件——起，其中假烟案件——起，5万元以上大要案件——起，经营达省局标准以上的网络案件——起。以假烟案为基数，案件成功经营率为——‰，以5万元以上大要案为基数，案件成功经营率为——%，全市案件经营成功率仍然不高。
3、在打假破网工作中存在的关题。一是案件经营意识缺乏。在日常市场监管中，对发现的违法线索和苗头，耐不住性子，露头就打，查一条收一条，就事论事，简单处理，缺乏深挖细查和案件经营；查处案件就案论案，没有深挖根源、刨根问底，最终造成打掉的窝点多，摧毁的制假网络少，制假分子很容易重新组织进行违法犯罪活动。二是证据收集和保全意识缺乏。随着近年来制售假烟分子反侦察、抗打击能力逐渐增强，由于执法人员没有证据收集和保全意识，造成一些主要证据的遗失、毁灭，有的因为证据不足，当事人拒不承认，最终不了了之，从而使案件流产。三是破网工作经验缺乏。在查处案件时，急于求成，条件不成熟，查处时机把握不准，往往事倍功半。四是专门人才缺乏。缺少打假破网的专门人才，加之基层车辆、通讯、办公设备落后，制约着破网工作的开展。
面对上述“打假破网”的严峻形势，我们要做到“三个必须”和“一个牢固”。即，必须深刻认识到“打假破网”工作的重要性、艰巨性、复杂性、长期性；必须深刻认识到“打假破网”的新形势、新特征和新难点；必须深刻认识到“打假破网”工作的核心就是强化案件经营意识，经营好案件。并要牢固树立“辖区有非法卷烟，就一定有非法卷烟经营网络”的思想。
（二）网络案件的分类和标准
1、网络案件的分类
一类是符合国家局、省局标准的网络案件，这类网络案件既是烟草专卖稽查人员办案质量和水平的最高体现，也是对专卖稽查工作要求的最好体现。另一类是规模在省局网络标准以下的网络案件，这类案件相对规模较小，有的案件案值只有几万元，甚至几千元，涉案人员只有5－6人，甚至2－3人，但不能因为“小”，而否认它是网络案件，只要它具备“网”的特征，就要认真摸查违法卷烟的来源去向，做到追根溯源，努力经营成国家局、省局标准网络案件。
2、网络案件的标准
国家局网络标准：①涉案金额不少于100万元，包括现场查获的实物，以及犯罪嫌疑人供述、证人证言与其他证据（书证、鉴定结论等）能相互印证的非法生产、经营烟草专卖品的货值金额；②非法生产、购进、储存、销售烟草专卖品涉及两个以上（含）环节，或者任一环节的经营场所不少于5个，或者非法运输烟草专卖品的车辆不少于3辆；③逮捕犯罪嫌疑人不少于3个。
省局网络标准：①涉案金额不少于50万元，包括现场查获的实物，以及犯罪嫌疑人供述、证人证言与其他证据（书证、鉴定结论等）能相互印证的非法生产、经营烟草专卖品的货值金额；②非法生产、购进、储存、销售烟草专卖品涉及两个以上（含）环节，或者任一环节的经营场所不少于3个，或者非法运输烟草专卖品的车辆不少于2辆；③逮捕犯罪嫌疑人不少于2个。
（三）“打假破网”工作呈现的主要特征：
1、制售假烟犯罪行为的特点：家族化、组织化、专业化、智能化、网络化、区域化、严密化。
2、新型假烟销售方式：量少次多、勤进快销、委托送货、电子交易、先款后货、电话预约、送货上门。
3、制售假烟行为主要表象：上线供货范围越来越大，假烟包装越来越精细，打码越来越逼真，人员越来越紧凑，组织越来越严密，货物存放地点多、位置偏，窝点呈现出小型化、分散化，一般人货分离，反侦察能力、隐蔽性越来越强。
4、卷烟“打假破网”工作的难点：线索难、经营难、取证难、协作难、追刑难、队伍素质不高，奖励标准不明。
（四）“打假破网”相关人物
在我们“打假破网”案件经营工作中一般关联着七种人，即违法烟贩、烟草专卖行政执法人员、线人、公安人员、检察院人员、法院人员、党委政府人员。通过分析可以看出，“打假破网”案件经营的实质就是后六种人相互沟通、协调、配合共同打击第一种人。根据违法烟贩的特点，违法烟贩可分为地下批发户（跑轮子户），有证的大户，中、小户。一般情况下，他们与后六种人是耗子与猫的关系，但也存在违法烟贩与后六种人相互熟悉，从而影响办案的情况，这一点必须引起办案人员的高度重视，并在办案初期就认真加以解决。只有深刻认识这七种人之间的关系，始终将“人”做为“打假破网”案件经营工作的核心，才能充分发挥卷烟联合打假长效机制的作用，将“网”一破到底。
二、“打假破网”实施步骤
（一）线索来源和线索经营。一要强化线索的经营和分析。线索来源一般主要是群众举报、市场检查、以案追案和专业线人。应参照下表对获取的线索进行认真筛查、汇总、分析、判断，确保不放过任何有价值的线索。二要强化线人的培养和沟通。线人可分为职业线人和辖区市场线人。要积极拓宽线人培养的渠道，动员自己的亲戚、朋友成为自己的线人，并有针对性地将自律小组成员列为线人重点发展对象。平时我们还要与线人多交流（交流经验）、多打气（打消顾虑）、多商量（商量对策）、多指导（指导方法），切实做到及时沟通反馈信息，共同分析、研究、制定下一步打假破网的主攻方向和工作措施。同时，我们还要了解到：①职业线人举报的目的就是为了领取举报奖，这是他们举报的源动力，这就要求我们在案件结案后，要及时兑现举报奖，甚至可以先行垫付一部分举报奖，以免挫伤他们的举报积极性；②辖区市场线人举报的目的并不完全是为了举报奖，有的辖区市场线人法律意识强，具有正义感，一旦他们发现有违反烟草专卖法的行为，就会自觉地举报，举报奖对他们来说只是重要的激励措施，而不是主要的激励措施。三要强化线索经营的量化考核。在日常市场监管中会查到许多小案子，而往往一个小案子背后就隐藏着一个线索。我们应对日常市场监管进行量化考核，要求案件经营成功率达到5－10%，即在100个小案子中要有5－10个有所突破。实践证明，这种对大、中队的量化考核是十分有效和必要的，但是我们也应充分考虑到案件经营的可行性和工作成本，而不是盲目的要求100个小案子就一定要经营出一个大案，同时，也要防止工作不负责，发现可疑线索也不去经营的情况发生。
（二）制定方案。要深入分析梳理出来的案件线索，并以严格查证事实、掌握规律、获取证据、打击涉案人员为目标，制定针对性强和操作性强的“打假破网”方案。“打假破网”方案要根据案件经营工作所处的不同阶段，细分阶段性工作计划，逐步认真实施，确保“打假破网”工作的顺利开展。
（三）侦察经营。一要紧紧围绕经过梳理的案件线索，根据线索所拓展的需要确定调查的工作内容，如：目标人员基本情况及活动规律、交通工具、涉案历史、活动路线、仓储位置环境、上下线关系、经营非法卷烟类别、运输特点、分销特点、资金流向等。二要明确经营案件的调查过程就是掌握违法犯罪事实，获取证据的过程，既是掌握卷烟非法经营网络链的过程也是锁定涉案人员违法犯罪证据链的过程。经营案件侦破前的取证应做到：①经营案件的每一个工作过程都要有详实的书面记录，特别是进入实质性的调查取证阶段，专卖人员在落实每一项工作任务时，对耳闻目睹的有关案件的情形随时间、空间发展变化都要作详实的记录，并且要注重细节。②在经营案件调查过程中，能够及时获取的书证、证人证言及合同、发票、帐册、单据等涉案资料要及时提取，一时难以提取的要注明原因。③要努力使用先进科技器材获取证据，如摄像机、照相机等器材捕捉非法活动的现场证据。④对目标人员、车辆活动路线及非法卷烟储存场地、交易场地要有勘验示意图。⑤在案件收网过程中，除要注重查获的非法卷烟等实物证据外，还要注重对查获现场其它证据的收集。
（四）择时收网
1、收网之前要做到三个定位：
①网络人员定位：对涉及到网络中的所有人员基本特征及作用进行定位。
②非法活动规律定位：对非法网络中的人、财、物及产、购、销、运、存等非法活动规律进行定位。
③分销渠道定位：对网络中非法卷烟的来源及分销渠道进行定位。
2、在经过大量的调查取证和掌握非法卷烟经营网络活动规律的基础上，要选择“锁定犯罪事实、人赃俱获”的破案最佳时机，要通过以下多种方法选择最佳时机，提高经营案件的破案打击成功率。
①直接观察：专案人员直接捕捉到目标人员的较大数量非法卷烟的接货、进出库、分销的时机。
②间接印证：通过目标人员非法经营网络中上下线的关系人员或其他人员可间接印证较大数量非法卷烟的时机。
③线人反映：线人反映目标人员在什么时期会有较大数量非法卷烟的时机。
④假设推断：根据掌握的网络销售规律周期，推断有较大数量非法卷烟的时机。
⑤出现异常：目标人员涉案情况超出已掌握的活动规律，需要立即决断的时机。
3、围绕对涉案所有经营、存储、交接货等场所，线路的控制和涉案人员的控制来制定行动方案。行动方案中要明确每一名参与行动的执法人员的责任以及关于交通、通讯方式、安全措施等方面的要求。并在收网之前的阶段性工作中，要有行动预案，预防出现意外情况，并随着工作的不断深入，逐步调整完善预案，直至形成最终的行动方案。在经营案件的收网之际，要有公安机关参加。
4、收网行动要按照“人赃并获、多点并举”的原则进行，现场行动指挥员要根据行动方案，细分每一个参与人员的职责并落实到具体行动。
①对控制下的非法卷烟经营、储存、运输现场，要迅速清点涉案物品、收集涉案证据，并制作《暂扣物品收据和清单》、《勘验笔录》、《抽样笔录》等文书，由涉案人员、见证人员签字认定。对涉及到查案现场的房屋、车辆、涉案人员等案情相关联的“第三人”，要立即制作指证笔录和辨认笔录。
②对控制下的涉案人员应由参与行动的公安人员切断其通讯联系，讲明政策，要求其配合现场行动。
③对多点现场的清查，各点负责人要向现场行动指挥员及时通报现场清查情况，便于及时沟通信息、处理问题。
（五）及时移送、及时突审
1、经营案件侦破后，对应追究涉案人员刑事责任的案件，要及时将案件移送到公安机关，出具正式《案件移送函》并通报同级检查机关，积极帮助公安机关开展调查取证工作。对经营案件调查取证过程中获取的证据也要及时移交公安机关。
2、要对查获的非法卷烟实物进行质量鉴定和价值认定，要明确及时审理工作的目标、方法和步骤，由公安人员组织力量对涉案人员进行突审。
3、烟草专卖行政执法人员一定要积极参与案件审理等全过程，并注重与公安打交道的技巧，切实做到：一要认识到我们和公安是合作关系，是共同打击卷烟违法犯罪行为的，而不是我们求着公安为我们办案；二要真正做到与公安及时沟通、相互支持、以诚相待；三要不卑不亢，积极主动地全面参与案件经营、择时收网、及时审理等环节的每个过程，并在和公安配合当中要做到及时提醒、及时建议，主动把握办案的方向、甚至把握经营案件的节奏和力度。
（六）检察院、法院的协调督办
案件侦破后我们要与公安机关一道积极走访检察院、法院，充分发挥全国卷烟联合打假长效机制的作用。目前，行政执法与刑事司法相结合的工作已经持续开展8年了，烟草专卖部门与公检法的协作关系也越来越健全了，但仍有些问题不容忽视，一是与公安打假协作机制还需进一步完善；二是检察院的、批捕力度还需进一步加强；三是法院判实刑难度较大。目前社会上流行一种说法：“和谐社会，经济案件能不判实刑的就不判”。如果这个说法真的成立的话将直接影响甚至挫伤公安、检察院和我们的积极性，更会极大地削弱打击违法烟贩、净化卷烟市场的震慑力。对于这个问题，我们一定要高度重视，要和法院多宣传、多沟通。
三、“打假破网”案件经营应注意的问题
（一）加强专卖队伍建设。在“打假破网”案件经营工作中，要按照“人尽其才、物尽其用”的原则，培养信息收集、线索分析、实地勘察、调查取证、现场行动、案件办理等方面的能手，为经营案件的侦破提供人员力量保障。一是“打假破网”工作要想达到良好的效果，专卖人员必须具备“政治合格、作风过硬、业务精湛、纪律严明、执法公正、服务优良、快速反应、机动作战”三十二字的基本素质。二是要建立健全对稽查支队和各大、中队经营案件的评价考核机制，要明确县级局专卖工作搞的好不好主要取决于专卖局长和专卖办主任，大、中队专卖工作搞的好不好主要取决于大、中队长和1－2个专卖骨干。三是“打假破网”工作是一项系统工程，面临的难点多、困难大，要求专卖管理人员要具备责任意识、创新意识和拼搏精神。责任意识就是要求每一个专卖管理人员要做到守土有责，要明白自己身上所担负的神圣职责，要加强日常市场监管，认真分析卷烟销售异动，为卷烟“打假破网”工作提供更多有价值的线索。创新意识就是要求每一个专卖管理人员要打破定向思维的障碍，将好的思路通过实践去验证，不断探索、总结出更多更好的“打假破网”案件经营方法。拼搏精神就是要求每一个专卖管理人员要拿出特别能吃苦，特别能战斗和敢“啃”硬骨头的作风，持续深入地开展“打假破网”案件经营工作。
（二）正确面对经营案件过程中经常出现的几个问题。在“打假破网”案件经营过程中时常出现线索突然中断；人际关系复杂，抵制不了说情；工作失误，延误、错失战机；案件经营成功率不高等问题，其实，出现这样几个问题是很正常的，关键是要在这几个问题出现以后，要及时查找原因，理顺工作思路，改进工作方法，坚定信心，重头再来。目前，我们已与违法烟贩进入了拼智力、拼耐力、拼实力的“三拼”阶段，两军相对，狭路相逢勇者胜，我们要勇敢面对“打假破网”工作的一切难点，甚至失败，争取“打假破网”工作的全面胜利。
（三）把握及时查处和适度案件经营的分寸。要充分认识到及时破案打击与适时破案打击都是市场控制的方法，一个是讲求市场面上的控制，一个是讲求影响市场深层次问题的控制，在实践中不能将其绝对化。采用何种方法，主要要视情报线索的价值、条件和方向来做出正确的判断。只有把两种方法有机结合，才能有效的控制市场，提高打击的威慑力。
四、“打假破网”案件经营的几点思考
（一）转变观念，创新机制是关键。当前“打假破网”案件经营工作中比较突出的一个问题就是部分专卖人员思想观念陈旧，案件经营、协作机制落后，这极大地制约了我们“打假破网”案件经营工作的有效发展。为不断适应卷烟“打假破网”工作的新形势、新特点，我们只有不断转变观念，创新机制，做到用新观念指导工作，用新机制解决问题，促进“打假破网”各项工作扎实有效开展，才能确保“打假破网”案件经营工作取得更大进展。
（二）精心组织，善于经营是基础。每一个顺利侦破的网络案件，背后都有一个组织能力强、善于经营案件的团队。在“打假破网”工作的全过程，应严格参照本文所叙述的“打假破网”实施步骤的有关要求，精心组织，制定严密的实施方案，选择最佳收网时机，并积极与检查院、法院协调，力争在“判实刑”方面取得突破。