第9章 EM算法及其推广 EM算法是一种迭代算法，用于含有隐变量(hidden variable)的概率模型参数的极大似然估计，或极大后验概率估计。EM算法的每次迭代由两步组成：E步，求期望(expectation)；M步，求极大( maximization )，所以这一算法称为期望极大算法(expectation maximizationalgorith...
理解一下这些基础知识 先验概率（prior probability） 是指根据以往经验和分析得到的概率，如全概率公式，它往往作为 "由因求果" 问题中的 "因" 出现的概率。 在贝叶斯统计中，先验概率分布，即关于某个变量X的概率分布，是在获得某些信息或者依据前，对X之不确定性所进行的猜测。这是对不确定性（而不是随机性）赋予一个量化的数值的表征，这个量化数值...
极大似然估计，只是一种概率论在统计学的应用，它是参数估计的方法之一。 直接说，就是在给定样本的输出结果时，我们来估计参数。 它是建立在极大似然原理的基础上的一个统计方法，极大似然原理的直观想法是：一个随机试验如有若干个可能的结果A，B，C，…。若在仅仅作一次试验中，结果A出现，则一般认为试验条件对A出现有利，也即A出现的概率很大。一般地，事件A发生的概率与...
参考 从最大似然到 EM 算法浅解最大似然估计学习总结EM 算法及其推广学习笔记 之前已经总结了似然的概念，那么顺其自然的理解就是，求得似然最大值的参数即为想要的参数，也就是参数估计，使用的方法为最大似然估计。 先提出几个问题： 1.最大似然估计求参数的一般流程是怎样的？ 2.什么样的场景适合/不适合最大似然估计？为什么 求解步骤： 基于对似然函数 L(θ...