极大似然估计思想的最简单解释 https://blog.csdn.net/class_brick/article/details/79724660?from=timeline 极大似然估计法的理解可以从三个角度入手，一个是整体性的思想，然后两个分别是离散状态的极大似然估计和连续状态的极大似然估计的简单例子。 一、思想 极大似然估计可以拆成三个词，分别是“极...
拉普拉斯平滑（Laplace Smoothing）又称 加1平滑，常用平滑方法。解决零概率问题。 背景:为什么要做平滑处理? 零概率问题：在计算实例的概率时，如果某个量x，在观察样本库（训练集）中没有出现过，会导致整个实例的概率结果是0。 在文本分类的问题中，当一个词语没有在训练样本中出现，该词语调概率为0，使用连乘计算文本出现概率时也为0。 这是不合理的...
抛出问题：为什么前面的线性回归要用最小二乘法？为什么要用这样的指标？ 下面我们会给出一系列的概率假设，从而导出最小二乘法是一个很自然的算法： 先设 y^(i) = θTx^(i) + ε（i）, 其中ε（i）叫做误差项 error term，这个可以看作是对未建模的效应的捕获，简单的说就是没有考虑到的特征，像预测房子中的这个房子有...
讲授玻尔兹曼分布、玻尔兹曼机的网络结构、实际应用、训练算法、深度玻尔兹曼机等。受限玻尔兹曼机（RBM）是一种概率型的神经网络。和其他神经网络的区别：神经网络的输出是确定的，而RBM的神经元的输出值是不确定的，以某种概率取到某一个值、以另一种概率取到另一个值，神经元的输出值。各个神经元的输入值服从某种概率分布，所有神经元的输出值服从玻尔兹曼分布。 大纲： 玻...
在raw image中，主要的噪声为两种，高斯噪声和散粒噪声，其中，高斯噪声是与光强没有关系的噪声，无论像素值是多少，噪声的平均水平（一般是0）不变。另一种是散粒噪声，因为其符合泊松分布，又称为泊松噪声，下图可见，泊松噪声随着光强增大，平均噪声也增大。 什么是散粒噪声？ 散粒噪声=泊松噪声=shot noise=poisson noise Shot no...
最大概率分词是一种最主要的统计方法分词。一个待切割的字符串有多种分词结果，最大概率分词的原则是将当中概率最大的那个作为该字符串的分词结果。 第一部分 理论基础 如对一个字符串： S：有意见分歧 分词结果1： w1:有/ 意见/ 分歧/ 分词结果2： w2:有意/ 见/...
线性函数拟合（y=a+bx） 1. R运行实例 R语言运行代码如下：绿色为要提供的数据，黄色标识信息为需要保存的。 x<-c(0.10,0.11, 0.12, 0.13, 0.14, 0.15,0.16, 0.17, 0.18, 0.20, 0.21, 0.23) y<-c(42.0,43.5, 45.0, 45.5, 45.0,...
朴素贝叶斯算法 优点： 算法原理和实现简单，常用于文本分类。 对小规模数据表现很好，适合多分类增量式训练任务。 对缺失数据不太敏感。 缺点： 对输入数据的表达形式很敏感 需要计算先验概率，分类决策存在错误率 要求样本之间相互独立，这就是“朴素”的意思，这个限制有时很难做到，或使用者误以为符合而造成错误的结果 适用数据类型：离散型数据。 朴素贝叶斯假...