米乐捕鱼

米乐捕鱼:卷积神经网络CNN的简略理论介绍

发布时间:2021-09-07 06:57:51 来源:米乐体育ios版app网页 作者:mile米乐体育平台

  好久不见各位亲们,从上半年结业到现在各方面开端步入正常轨道,也开端有时间写点文章了,后续开端连续更新关于自然言语处理相关技能、论文等,感谢各位老铁这么长期的重视和支撑,我会再接再厉认真写文以飨读者,也感谢各位提出的主张,一起沟通,不吝赐教,figh

  众所周知,卷积神经网络(Convolutional Neural Network, CNN)通常是被用在图画辨认范畴的,其实还能够运用于语音辨认,文本分类等多个范畴。写这篇文章首要是为了介绍TextCnn文本分类模型,当然也会详细介绍CNN的详细内容,并辅以相关的事例。当然,这儿默许读者对神经网络有必定的了解和知道,假如有疑问可留言,本文也不介绍太多关于数学的内容,以便于读者了解,如有需求后期更新相关数学推导。

  当然,咱们的首要作业仍是构建CNN模型以及运用相关数据进行模型练习,以使得模型能够提取数据特征进行更好的分类。下面就对各个层以及神经网络的中心模块进行介绍。

  卷积层是卷积神经网络的中心层,中心的处理方式便是卷积(Convolution)核算。卷积其实也就能够当作一个函数或许一种算法。这个函数则需求输入数据和卷积核,依照卷积要求进行核算。咱们能够经过下面的图形简略了解一下,假定咱们有一个5x5的矩阵和一个3x3的卷积核(进行卷积核算所需求的两个参数),如下:

  输入矩阵对应的虚线框体巨细便是卷积核形状的巨细,然后虚线框对应元素与卷积核中的对应元素相乘求和就得出成果4。然后虚线框向右移一个单位(后边还会用到)核算第二个值,然后再移动一个单位核算第三个值,那么榜首行就核算结束了。需求留意的是,虚线框的巨细要与卷积核形状巨细保持一致。同理可核算第二行,如下:

  一次类推核算出一切成果。经过卷积核算的成果便是一个3x3的矩阵。总结一句话便是移动窗口,对应值核算相加即可。

  能够看出,卷积层其实是提取图画特征的进程。别的沉思一下:摆在咱们面前的问题有:卷积核怎么确认?卷积核为啥只移动一个单位?移动进程超出鸿沟不能够吗?

  卷积核在图画辨认中也称过滤器。比较简略的过滤器有:Horizontalfilter、Verticalfilter、Sobel Filter等。这些过滤器能够检测图画的水平边际、笔直边际、增强图画区域权重等,这儿不做详尽探求。其实,过滤器的作用类似于规范(例如全衔接层)的权重矩阵W,需求经过梯度下降算法重复迭代求得。而卷积神经网络的首要意图便是核算出这些卷积核。

  在前面的核算中能够看出,经过向右,向下移动一个单位的卷积核巨细的窗口核算得到卷积成果。其实这个卷积核巨细的窗口向右,向下移动的格数(单位)成为步幅(strides),上面每次移动一格,那么对应的strides就为1。在图画处理中便是越过像素的个数了。这个步幅也不是固定不变便是1,可结合实践场景改动。并且在移动的进程中,卷积核中的值不变是同享的。这也就大大下降了参数的数量。

  从上面的核算成果能够看出,输入是一个5x5的矩阵,经过卷积核核算后,输出就变成了3x3的成果。假如你想再次输入巨细为5x5的矩阵怎么办?这时咱们就需求对原始输入的5x5巨细的矩阵做一下处理——填充(padding),在扩展区域补0。依据之前核算进程,只需向右向下各多移动两次即可得到5x5的核算成果,那么对输入矩阵补齐得到如下成果:

  现在结合输入矩阵巨细n、卷积核巨细f、padding(补0圈数)核算输出矩阵巨细p、步幅巨细为s,公式如下:

  拓宽:实践中的图片是三通道的,即:RGB通道,而关于视频又会多个帧数通道。其实多通道时,每个通道对应一个卷积核即可。

  为了确保对数据非线性处理,也需求激活函数,也便是激活层的处理。其处理方式是,为卷积核的每个元素增加一个bias(偏移值),然后送入比如relu、leakyRelu、tanh等非线 池化层

  在经过卷积层之后,其实就能够经过全衔接层后接softmax进行分类输出图片类别了,可是这个时分,数据量依然是特别大的,也就面临着巨大的核算量应战。池化(Pooling)又称下采样,能够进一步下降网络练习参数和模型过拟合的程度。

  均值池化(Mean Pooling):将Pooling窗口中的一切值加起来取均匀,运用均匀值作为采样值

  这部分首要衔接最终池化后的成果,将池化后的数据展平构满意衔接层的输入。然后便是依据类别数构建的一个分类层,也便是输出层,关于分类使命输出层则增加一个sigmoid层核算需求分类的图片各个类别的概率。关于练习使命,则运用丢失函数开端反向传达更新模型中的卷积核。

  卷积神经网络的大致流程如此,实践中则需求灵敏多变。卷积神经网络开展十分敏捷,相关技能比较老练,运用也比较广泛。比较有代表性性的模型有:

  对此感兴趣的能够深化了解。下面一篇文章将结合Pytorch以及CIFAR-10数据集做一个运用卷积神经网络分类的使命,以夯实对卷积神经网络的了解以及Pytorch的娴熟运用。

  】卷积神经网络-CNN简略理论介绍文章出处:【微信大众号:自然言语处理爱好者】欢迎增加重视!文章转载请注明出处。

  文章出处:【微信号:NLP_lover,微信大众号:自然言语处理爱好者】欢迎增加重视!文章转载请注明出处。

  l导言MATLAB是一种面向科学与工程核算的高档言语,它集科学核算、主动控制、信号处理、神经网络、图画处理等于一体,具有极高...

  恩智浦是全球抢先的轿车电子处理计划供货商,为安全互联轿车供给全面的体系级处理计划。恩智浦S32G高性....

  受人工智能和深度学习技能开展较快等要素影响,结构生物学数据的研讨也开端迎来了簇新的阶段,针对蛋白质结....

  NLP实操手册: 根据Transformer的深度学习架构的运用攻略(总述) 精选资料共享

  点上方人工智能算法与Python大数据获取更多干货在右上方···设为星标★,榜首时间获取资源仅做学术共享,如有侵权,联络删去转...

  前视摄像头体系是高档驾驭辅佐体系( ADAS )的要害元素,因其能为安全要害型功用供给所需的先进感知....

  主动机器学习总述 自从核算机年代开端,科学家和工程师们就一向想知道怎么像人类相同,给核算机注入学习的....

  摘要咱们提出了一种根据机器学习的建筑物切割掩模主动正则化和多边形化办法。以图画为输入,首要运用通用彻底卷积网络( FCN )...

  上一回为我们介绍了人工智能的根本概念和算法,讲到了梯度下降法、神经网络、机器学习的根本概念,还没看过的小伙伴能够点击这儿...

  来自:哈工大SCIR 本期导读:近年来研讨人员在核算机视觉和自然言语处理方向均取得了很大发展,因而融....

  本文将评论方针检测的根本办法(尽头查找、R-CNN、Fast R-CNN和Faster R-CNN)....

  原始结构的RNN还不行处理较为杂乱的序列建模问题,它存在较为严峻的梯度消失问题,最直观的现象便是跟着....

  习神经神经网络,关于神经网络的完成是怎么一向没有详细完成一下:现看到一个简略的神经网络模型用于练习的输入数据:对应的输出数...

  嵌入式设备自带专用特点,不适协作为随机性很强的人工智能深度学习练习渠道。幻想用S3C2440练习神经网络算法都会头皮发麻,PC...

  正在从事智能假肢的课题,需求用到,这篇给我的完成起到到很好的指导意义,特此转载,也特此感谢作者,运用色彩传感器读取pH试纸...

  概述硬件上运用STM32F4+MPU9150完成的神经网络辨认手势,不过没有用IMU的地磁数据,只用了三轴加速度计和三轴陀螺仪的...

  NVIDIA开发者计划现将NVIDIA Omniverse带给全球超越250万的开发者。在SIGGR....

  导读 运用每个类的有用样本数量来从头为每个类的Loss分配权重,作用优于RetinaNet中的Foc....

  北亚利桑那大学的两位研讨人员运用根据GPU的深度学习算法对古代陶器小碎片进行分类,分类成果到达乃至超....

  GNN算法触及很多的矩阵核算和存储拜访操作。在传统的x86架构服务器上运转这种算法的功率是十分低的,....

  Maxim Integrated宣告与Xailient联手打造最快、功耗最低的IoT人脸检测计划

  MAX78000 AI微控制器与Xailient的Detectum™神经网络技能相结合,只需12m....

  STM32CubeMx.AI的运用欢迎运用Markdown编辑器在STM32论坛中看到这样一个视频:在视频中,在STM32上验证神经网络模...

  此次A1000 Pro流片成功也让黑芝麻智能成为国内仅有现已推出两款满意ISO26262车规功用安全....

  图神经网络图解攻略图神经网络或简称 GNN 是用于图数据的深度学习 (DL) 模型。这些年来它们变得....

  BP(BackPropagation)反向传达神经网络介绍及公式推导(电源和地电气安全距离)-该文档....

  7月15日,以“机器智联、赋能万物、协作共赢”为主题的第七届我国机器人峰会暨智能经济人才峰会在浙江宁....

  为什么要进步图画边际检测的精度? 图画辨认现已运用于出产日子各个范畴,如在人脸辨认范畴,进步图画检测....

  导读本文首要介绍运用Python-OpenCV完成餐盘生果辨认与计价的运用。 测验图画与阐明 运用图....

  EpsAvlc: 这个工作的答复需求根据你的动机。 假如你想改善已有的算法以取得在数据集上的视觉路程....

  为什么要进步图画边际检测的精度? 图画辨认现已运用于出产日子各个范畴,如在人脸辨认范畴,进步图画检测....

  为什么关于零件进行精细的光学检测 机械零件的尺度巨细和加工质量会影响零件之间的合作精细度,然后整个仪....

  在资料科学范畴,制备具有特定光学功能纳米资料的办法极为重要。近年来,机器学习办法已用于处理资料科学中....

  极市导读2018图灵奖取得者Yoshua Bengio, Yann LeCun和Geoffrey H....

  前语 缺点检测是工业上十分重要的一个运用,因为缺点多种多样,传统的机器视觉算法很难做到对缺点特征完好....

  像许多神经网络模型相同,方针检测模型在练习很多数据时作用最好。通常情况下,可用的数据有限,世界各地的....

  / 导读 / 双目立体视觉(Binocular Stereo Vision)是机器视觉的一种重要方式....

  导读 本文首要介绍一个杂乱布景下缺点检测的实例,并将Halcon完成转为OpenCV。 实例来历 实....