四、激活函数 激活函数又称非线性映射，顾名思义，激活函数的引入是为了增加整个网络的表达能力（即非线性）。若干线性操作层的堆叠仍然只能起到线性映射的作用，无法形成复杂的函数。常用的函数有sigmoid、双曲正切、线性修正单元函数等等。 使用一个神经网络时，需要决定使用哪种激活函数用隐藏层上，哪种用在输出节点上。 比如，在神经网路的前向传播中，这两步会使...
1.一般的模型构造、训练、测试流程 1 # 模型构造 2 inputs = keras.Input(shape=(784,), name='mnist_input') 3 h1 = layers.Dense(64, activation='relu')(inputs) 4 h1 = layers.Dense(64, activation='relu...
原文地址：http://www.hackcv.com/index.php/archives/104/?hmsr=toutiao.io&utm_medium=toutiao.io&utm_source=toutiao.io 卷积神经网络的四个基本操作: 1、卷积 2、非线性处理（Relu） 3、赤化或者亚采样 4、分类（全连接层） 一、先说卷...
1 模型训练基本步骤 进入了AI领域，学习了手写字识别等几个demo后，就会发现深度学习模型训练是十分关键和有挑战性的。选定了网络结构后，深度学习训练过程基本大同小异，一般分为如下几个步骤 定义算法公式，也就是神经网络的前向算法。我们一般使用现成的网络，如inceptionV4，mobilenet等。 定义loss，选择优化器，来让loss最小 对数据进...
原文地址：https://www.learnopencv.com/deep-learning-based-human-pose-estimation-using-opencv-cpp-python/ COCO输出格式： 鼻子– 0，脖子– 1，右肩– 2，右肘– 3，右腕– 4，左肩– 5，左肘– 6，左腕– 7，右臀部– 8，右膝盖– 9 ，右脚踝– 1...
目录 人工神经网络VS卷积神经网络 卷积神经网络CNN 卷积层 参数及结构 卷积输出值的计算 步长 外围补充与多Filter 总结输出大小 卷积网络API 新的激活函数-Relurule激活函数API Pooling计算Pooling API Mnist数据集卷积网络实现 人工神经网络VS卷积神经网络 参数太多，在cifar-...
激活函数有什么用？ 提到激活函数，最想问的一个问题肯定是它是干什么用的？激活函数的主要作用是提供网络的非线性表达建模能力，想象一下如果没有激活函数，那么神经网络只能表达线性映射，此刻即便是有再多的隐藏层，其整个网络和单层的神经网络都是等价的。因此正式由于激活函数的存在，深度神经网络才具有了强大的非线性学习能力。接下来我们就来盘点一下当前有哪些流行的激活函...
MobileNet系列之MobileNet_v1 Inception系列之Inception_v1 Inception系列之Batch Normalization Inception系列之Inception_v2-v3 Inception系列之Inception_v4 导言： MobileNet_v2提出了一些MobileNet_v1存在的一...
0. alexnet 工具箱下载 下载地址：Neural Network Toolbox(TM) Model for AlexNet Network 需要先注册（十分简单），登陆，下载； 下载完成之后，windows 是无法运行该文件的； 需要打开 matlab，进入到该文件所在的路径，双击运行；（注：需要较久的时间下载安装 alexnet） 1. d...
来源：https://www.numpy.org.cn/deep/basics/fit_a_line.html 数字识别 本教程源代码目录在book/recognize_digits,初次使用请您参考Book文档使用说明。 #说明: 硬件环境要求： 本文可支持在CPU、GPU下运行 Docker镜像支持的CUDA/cuDNN版本： 如果使用了Docke...