百摩网
当前位置: 首页 生活百科

卷积神经网络架构最新(卷积神经网络概述及python实现)

时间:2023-07-22 作者: 小编 阅读量: 6 栏目名: 生活百科

每列表示图像中的像素,每行表示一张单独的灰度图像。直接对表示类别的数字执行操作没有意义。因此,需要对其进行分类编码。因此,数据集有28个类别。如果未指定,则对所有样品评估平均值。根据定义,最大池化选取一组数据中的最大值作为其输出值。密集层只是一层人工神经网络,也被称作全连接层。如果每个类别中的观察数量不等,或者数据集中有两个以上的类,单独的分类准确性可能会产生误导。

摘要: 本文概括地介绍CNN的基本原理 ,并通过阿拉伯字母分类例子具体介绍其实现过程,理论与实践的结合体。

对于卷积神经网络(CNN)而言,相信很多读者并不陌生,该网络近年来在大多数领域都表现优异,尤其是在计算机视觉领域中。但是很多工作人员可能直接调用相关的深度学习工具箱搭建卷积神经网络模型,并不清楚其中具体的原理。本文将简单介绍卷积神经网络(CNN),方便读者大体上了解其基本原理及实现过程,便于后续工作中的实际应用。本文将按以下顺序展开:

  • 了解卷积操作
  • 了解神经网络
  • 数据预处理
  • 了解CNN
  • 了解优化器
  • 理解 ImageDataGenerator
  • 进行预测并计算准确性
  • demo

什么是卷积?

在数学(尤其是函数分析)中,卷积是对两个函数(f和g)的数学运算,以产生第三个函数,该函数表示一个函数的形状如何被另一个修改。(来源:维基百科)

此操作在多个领域都有应用,如概率、统计、计算机视觉、自然语言处理、图像和信号处理、工程和微分方程。

该操作在数学上表示为:

卷积操作

查看此链接以更加直观地了解卷积操作。

什么是人工神经网络?

人工神经网络(ANN)或连接系统是由构成动物大脑的生物神经网络模糊地启发的计算系统。这些系统通过从示例中“学习”以执行任务,通常不需要使用用任何特定规则来编程。(来源:维基百科)

人工神经网络是一个较小的处理单元集合,称为人工神经元,它们与生物神经元相似。

生物神经回路

生物神经回路

神经元之间的互联构成了一个网络模型

人工神经网络

人工神经网络

现在,我们开始具体实现。

导入必要的数据包

加载数据集

数据集

此处使用的数据集是手写数据集。

trainIamges.csv有1024列和13440行。每列表示图像中的像素,每行表示一张单独的灰度图像。每个像素的取值范围是0到255之间的值。

可视化数据集

训练数据集

训练数据集

测试数据集

测试数据集

数据预处理

编码分类变量

什么是分类变量?

在统计学中,分类变量是一个可以承担限制变量之一的变量,基于某些定性属性将每个个体或其他观察单元分配给特定组或名义类别。(来源:维基百科)

简单来说,分类变量的值表示类别或类。

为什么需要编码分类变量?

直接对表示类别的数字执行操作没有意义。因此,需要对其进行分类编码。

请查看此链接以了解分类变量示例。

阿拉伯字母表中有28个字母。因此,数据集有28个类别。

标准化

什么是标准化?

进行归一化以使整个数据进入明确定义的范围,一般选择归一化到0到1之间

在神经网络中,不仅要对数据进行标准化,还要对其进行标量化,这样处理的目的是能够更快地接近错误表面的全局最小值。(来源:Stack Overflow)

对其进行变形操作使得每条数据表示一个平面图像

按功能划分的零中心将每个样本的中心置零,并指定平均值。如果未指定,则对所有样品评估平均值。

建立CNN

最大池化(Max Pooling)是什么?

池化意味着组合一组数据,组合数据的过程中应该遵循一些规则。

根据定义,最大池化选取一组数据中的最大值作为其输出值。(来源:machinelearningonline.blog)

最大池还可以用于减小特征维度,它还可以避免过拟合的发生。查看此博客,以便更好地了解Max Pooling。

什么是Dropout?

Dropout是一种正则化技术,通过防止对训练数据进行复杂的协同适应来减少神经网络中的过拟合,这是神经网络模型中十分有效的方法之一。“ 丢失”指的是在神经网络中以某一个概率随机地丢弃部分神经单元。(来源:维基百科)

什么是Flatten?

对特征图进行展平,以将多维数据转换为一维特征向量,以供下一层(密集层)使用

什么是密集层?

密集层只是一层人工神经网络,也被称作全连接层。

CNN的优化方法

什么是优化?

优化算法帮助我们最小化(或最大化)目标函数,目标函数只是一个数学函数,取决于模型内部可学习的参数。模型中使用预测变量集(X)计算目标值(Y)。例如,我们将神经网络的权重(W)和偏差(b)值称为其内部可学习参数,用于计算输出值,并在最优解的方向上学习和更新这些参数,即最小化损失网络。这就是神经网络的训练过程。(来源:数据科学)

本文在这里使用的优化器是RMSprop,点击此处以了解有关RMSprop的更多信息。

什么是ImageDataGenerator?

当你的数据集规模比较小时,你可能会应用到图像数据生成器,它用于生成具有实时增强的批量张量图像数据,扩大数据集规模。一般而言,当数据量增多时,模型性能会得更好。

以下代码用于批量加载图像:

CNN拟合训练数据

做出预测

生成混淆矩阵

什么是混淆矩阵?

混淆矩阵是用于总结分类算法性能的一种技术。如果每个类别中的观察数量不等,或者数据集中有两个以上的类,单独的分类准确性可能会产生误导。计算混淆矩阵可以让我们更好地了解分类模型的正确性以及它所犯的错误类型。来源:machinelearningonline.blog

计算准确性

本文获得了97%的准确度,感兴趣的读者可以自己尝试下。

CNN手写数字识别demo

点击此链接可以实时查看CNN的工作情况,该demo显示了CNN的工作过程,以及每层输出的特征图。最后该CNN网络经过训练后能够识别手写数字。

作者信息

Vishal R,机器学习爱好者

本文由阿里云云栖社区组织翻译。

文章原标题《Convolutional Neural Network — A Bird’s eye view with an implementation》,译者:海棠,审校:Uncle_LLD。

,
    推荐阅读
  • 男人嘴唇厚代表什么(男人嘴唇厚是什么意思)

    而对于异性,则非常热情,温情脉脉,包容性强,给对方以温暖情怀。嘴唇厚的男人重感情,在床上显得浓情密意,会带给女人性福。嘴唇薄的男人讲话刻薄、顾人怨、不会替人着想。嘴唇厚的男人娶妻一般偏于木性:厚唇男子娶妻,一般都是性子硬,处处咄咄逼人类型的女子,处事有主意,带领性较强。并且对待钱财,不是吝啬,而是善于发现客户,并且能够维持与客户之间的友情。

  • 番禺普惠性幼儿园(一年40所村办幼儿园转公办)

    创新体制机制,破解村集体公办园管理体制难题,成为了番禺区公办学前教育资源得以迅速扩充的重要因素。截至目前,番禺全区已完成115所集体公办园事业单位法人登记,占全区公办幼儿园的64%。为此,番禺区委编办统筹加强各类主体利用国有资产举办登记设立公办园的事业单位法人监管,促进其健康有序发展。

  • 蜂室花种子的种植方法 蜂室花幼苗

    种植蜂室花种子最好在每年的春秋两季进行,这样它的发芽率会高一些。种植时需要使用饱满有光泽的蜂室花种粒,然后最好将它的种子放入温水中浸泡几个小时催芽。种植蜂室花种子的方法1、种植时间种植蜂室花种子需要选择合适的时间,它种子适宜的发芽温度在15-20℃左右,所以最好在每年的春秋两季进行种植,这样它的发芽率会高一些,而且植株也能更快的存活生长,别的季节种植的话需要做好控温措施。

  • 散打里面kto是什么意思(TKO的解释)

    散打里面kto是什么意思散打里面正确的拼写应该是TKO,而不是KTO。TKO,一般翻译为“技术性击倒”,可以理解为虽然现在还没被KO,但因为双方实力差距明显,被KO只是迟早的事。一切除外一般KO或点数决定胜负或一方犯规被判负的情况下,所有决出胜负的方式都是TKO,一般的情况有一方弃权、一方因伤无法继续比赛、因实力相差过大裁判为了保护实力差的选手而中止比赛等。

  • 干洗衣服怎么洗(干洗衣服的方法)

    下面希望有你要的答案,我们一起来看看吧!干洗衣服怎么洗干洗是一种让水不直接的接触衣物来进行清洗的手段,干洗常常会使用到一些化学溶剂来有效的清除衣物中的油污或者污渍的。干洗多为干进干出,而且干洗不会对衣服的面料做成伤害,对于衣服的保护更加的好即可了。

  • 肇庆七星岩景区北门附近哪里有公交车站

    肇庆七星岩景区北门附近哪里有公交车站-名郡尚林宛(公交站)距离七星岩北门361米,在28路。可换乘28,1,25A路等公交车。-仙掌岩(公交站)距离七星岩北门1284米,在19路。

  • 落差感什么意思(什么是落差感)

    接下来我们就一起去研究一下吧!通俗的讲,你非常想要的东西,父母也觉得了要给你,你非常高兴,最后由于某个原因没有得到,你又非常失落,前后两种心情的差距就可以用落差形容。落差,是汉语词语,拼音是luòchā,意思是对比中的差距或差异。

  • 新手汽车维护与保养(汽车维护保养)

    新手汽车维护与保养每半年进行的汽车保养,一般安排在春秋两季进行。检查底盘重要螺栓或螺母的紧定情况,特别是转向系统的重要螺栓和螺母,发现松动或缺损情况,应补充拧紧。彻底清洗汽车的内、外部,并对脱漆和破损部位进行修补。检查修理汽车灯光,检查维护制冷、取暖装置;清洁音响系统等。

  • 冬季怕冷吃什么食物好(冬天怕冷的人可以吃什么食物)

    冬季怕冷吃什么食物好瘦肉,大多数女性每日摄入的铁元素并没有达到身体需要,因此在冬会特别怕冷。胡萝卜,胡萝卜能够增强体力和免疫力,激活内脏功能和血液运行,从而达到调理内脏、暖身、滋养的功效。每100克去皮鸡肉中含有24克蛋白质,却只有0.7克脂肪。羊肉,相对猪肉而言,羊肉蛋白质含量较多,脂肪含量较少。黑豆,黑豆是各种豆类中蛋白质含量最高的,比猪腿肉多一倍还有余。糯米味甘、性温,吃后能补养人体气血,滋养脾胃。

  • 渴望的近义词(与渴望语义相近的词汇大全)

    想得到某种东西或达到某种欲望。春秋时齐置,掌鱼盐之利。