有些知识还是记录下来比较容易复习。 懂原理， 会使用平台，使用语言实现常见算法。 1.大纲 机器学习的基本概念 机器学习的实质 机器学习方法的三要素 经验风险与结构风险 常见损失函数 一：基本概念 1.机器学习的方法流程 用监督学习为例 首先，有一个输入数据，然后根据这个输入数据做一些特征的加工和整理，基于特征进行模型的训练，去建模，然后做模型评估，得到...
一，引言 尽管线性回归包含了一些强大的方法，但这些方法创建的模型需要拟合所有的样本数据。当数据拥有众多特征并且特征之间的关系比较复杂时，构建全局线性模型就会非常困难。并且，在实际生活中很多问题都是非线性的，很难通过全局线性模型来拟合所有数据。 解决上述非线性数据的拟合问题的一个可行的方法是，将数据集切分成很多份容易建模的数据，然后再利用线性回归方法...
1 模型训练基本步骤 进入了AI领域，学习了手写字识别等几个demo后，就会发现深度学习模型训练是十分关键和有挑战性的。选定了网络结构后，深度学习训练过程基本大同小异，一般分为如下几个步骤 定义算法公式，也就是神经网络的前向算法。我们一般使用现成的网络，如inceptionV4，mobilenet等。 定义loss，选择优化器，来让loss最小 对数据进...
在本节中，我们介绍Softmax回归模型，该模型是logistic回归模型在多分类问题上的推广，在多分类问题中，类标签 可以取两个以上的值。 Softmax回归模型对于诸如MNIST手写数字分类等问题是很有用的，该问题的目的是辨识10个不同的单个数字。Softmax回归是有监督的，不过后面也会介绍它与深度学习/无监督学习方法的结合。（译者注： MNIST...
转自出处： http://blog.csdn.net/walilk/article/details/50278697 符号说明： 以如下图为例： 前面的网络结构对应二分类问题 后面的网络结构对应多分类问题 Layer层： 最左边的层为输入层(input layer)，对应样本特征 最右边的层为输出层(output layer)，对应预测结果 Node：...
定义:机器学习系统通过如何组合输入信息来对从未见过的数据做出有用的预测。 基本术语 标签：标签是我们要预测的事物，即简单线性回归中的(y)变量。 特征：特征是输入变量，即简单线性回归中的(x)变量，特征可以有多个，是一种可量化的指标。 样本：样本是指数据的特定实例(X)，样本分为有标签样本和无标签样本。 模型：模型定义了特征与标签之间的关系。 训练：是指...
第5章 决策树 决策树(decision tree)是一种基本的分类与回归方法。本章主要讨论用于分类的决策树。决策树模型呈树形结构，在分类问题中，表示基于特征对实例进行分类的过程。它可以认为是if-then规则的集合，也可以认为是定义在特征空间与类空间上的条件概率分布。其主要优点是模型具有可读性，分类速度快。学习时，利用训练数据，根据损失函数最小化的原则建...
来源：https://www.numpy.org.cn/deep/basics/fit_a_line.html 数字识别 本教程源代码目录在book/recognize_digits,初次使用请您参考Book文档使用说明。 #说明: 硬件环境要求： 本文可支持在CPU、GPU下运行 Docker镜像支持的CUDA/cuDNN版本： 如果使用了Docke...
SVM有如下主要几个特点：(1)非线性映射是SVM方法的理论基础,SVM利用内积核函数代替向高维空间的非线性映射；(2)对特征空间划分的最优超平面是SVM的目标,最大化分类边际的思想是SVM方法的核心；(3)支持向量是SVM的训练结果,在SVM分类决策中起决定作用的是支持向量。(4)SVM 是一种有坚实理论基础的新颖的小样本学习方法。它基本上不涉及概率测度...
作者：乔不思 来源：微信公众号|3D视觉工坊（系投稿） 3D视觉精品文章汇总：https://github.com/qxiaofan/awesome-3D-Vision-Papers/ 学习ORB-SLAM3单目视觉SLAM中，发现有很多知识点需要展开和深入，同时又需要对系统有整体的认知，为了强化记忆，记录该系列笔记，为自己图方便，也希望对大家有所启发。...