感知机原理及代码实现 上篇讲完梯度下降，这篇博客我们就来好好整理一下一个非常重要的二分类算法——感知机，这是一种二分类模型，当输入一系列的数据后，输出的是一个二分类变量，如0或1 1. 算法原理 1.1 知识引入 说起分类算法，博主想到的另一个算法是逻辑回归，而感知机从原理上来说和回归类算法最大的区别就是引入了几何的思想，将向量放到了高维空间上去想象。首先...
SVM有如下主要几个特点：(1)非线性映射是SVM方法的理论基础,SVM利用内积核函数代替向高维空间的非线性映射；(2)对特征空间划分的最优超平面是SVM的目标,最大化分类边际的思想是SVM方法的核心；(3)支持向量是SVM的训练结果,在SVM分类决策中起决定作用的是支持向量。(4)SVM 是一种有坚实理论基础的新颖的小样本学习方法。它基本上不涉及概率测度...
支持向量机的学习策略就是间隔最大化，形式转化为求解凸二次规划问题。该算法就是求解凸二次规划的最优化算法。 当训练数据线性可分时候，通过硬间隔最大化，学习线性分类器，称为硬间隔支持向量机；当训练数据近似线性可分时，通过软间隔最大化，学习线性分类器，称为软间隔最大化；当数据线性不可分时，通过使用核技巧及软间隔最大化，学习非线性支持向量机。 给定特定空间的训练数...
前言 本文基于教材《大数据挖掘与应用》王振武，出于期末复习目的，对部分算法利用python进行实现，顺便学习numpy构建思维导图，帮助理解。所有代码、结果都以jupyter的形式放在了github上。题型选择题和判断题可能从里面出，题目与答案的word版同样放入了github中。 第1章 大数据简介 本章主要考填空题： 数据规律化 分类结果评价 混淆矩...