一、概念 朴素贝叶斯模型（Naive Bayesian Model，NBM）是以条件概率为基础的分类器，是一种监督算法，常被用于文本分类和垃圾邮件过滤。贝叶斯理论解决的是逆向概率问题，即通过已经发生的已知的概率来推测未发生的事将会发生的概率。 二、计算 朴素贝叶斯各个事件发生的概率是彼此独立的，即m事件概率P(m)和n事件概率P(n)同时发生的概率为P(...
贝叶斯公式由英国数学家贝叶斯 ( Thomas Bayes 1702-1761 ) 发展，用来描述两个条件概率之间的关系。贝叶斯原本是个神父，他为了证明上帝的存在而发明了著名的贝叶斯公式。然而他本人并不知道他所发明的公式及其背后的思想对当今社会产生重大变革，最典型的的莫过于当今炙手可热的“人工智能+”时代下，是人工智能的分支：机器学习，所必备的方...
本文始发于个人公众号：TechFlow 上一篇文章当中我们介绍了朴素贝叶斯模型的基本原理。 朴素贝叶斯的核心本质是假设样本当中的变量服从某个分布，从而利用条件概率计算出样本属于某个类别的概率。一般来说一个样本往往会含有许多特征，这些特征之间很有可能是有相关性的。为了简化模型，朴素贝叶斯模型假设这些变量是独立的。这样我们就可以很简单地计算出样本的概率。 想要...
说说高斯过程回归作者介绍：新浪微博ID @妖僧老冯， 9月将赴南京大学（直博生），方向是机器学习与数据挖掘 编者：小便和作者打过几次交道，一直以为是他是已“修成正果”的某某博士，便“毕恭毕敬”地去邀请他写篇牛文。细聊之后才得知小伙子原来是90后，9月份才博士入学。这篇文章对GP进行了深度科普，数学公式是有一些的，但耐心读读，都不是问题的。高斯过程是机器学习...
1判别模型与生成模型 上篇报告中提到的回归模型是判别模型，也就是根据特征值来求结果的概率。形式化表示为，在参数确定的情况下，求解条件概率。通俗的解释为在给定特征后预测结果出现的概率。 比如说要确定一只羊是山羊还是绵羊，用判别模型的方法是先从历史数据中学习到模型，然后通过提取这只羊的特征来预测出这只羊是山羊的概率，是绵羊的概率。换一种思路，我们可以根据山羊...
原文链接：http://tecdat.cn/?p=21641 工资模型 在劳动经济学领域，收入和工资的研究为从性别歧视到高等教育等问题提供了见解。在本文中，我们将分析横断面工资数据，以期在实践中使用贝叶斯方法，如BIC和贝叶斯模型来构建工资的预测模型。 加载包 在本实验中，我们将使用dplyr包探索数据，并使用ggplot2包进行数据可视化。我们也可...
1.朴素贝叶斯的使用条件 朴素贝叶斯方法假设条件概率分布是相互独立的,这个假设会使每个属性独立的对分类结果产生影响 因此，根据独立性有，$p(x_1,x_2,...,x_n|C) = p(x_1|C)p(x_2|C)...p(x_n|C)，其中x_n是特征，C是分类的类别$ 2.贝叶斯公式 由于朴素贝叶斯假设属性之间相互独立，所以贝叶斯公式可以写成如下形式...
读完这篇博文，你能够收获什么？ 从数据处理到利用朴素贝叶斯进行分类的整个过程 本文更关注于数据处理阶段，朴素贝叶斯模型直接使用sklearn库中自带的 先给出整个算法的流程： 采用的是sogou语料库的部分数据，每个C开头的文件各代表一类，里面包含着若干篇txt类型的文章，具体类别如下： 1.数据审视阶段（查看是否有不符合规范或异常的数据），由于...
为什么要有m-估计？ 当我们通过在全部事件的基础上观察某事件出现的比例来估计概率时，例如：P=nc/n.，其中nc为该类别中的样本数量，n为总样本数量。若n=5，当P=0.6时，则nc为3。多数情况下该比例是对概率的一个良好的估计。但当nc很小时估计会较差，例如：P=0.08，样本中同样有5个样例，那么对于nc最可能的取值只有0,。这会导致两个问题： 1、...
和前面介绍到的kNN，决策树一样，贝叶斯分类法也是机器学习中常用的分类方法。贝叶斯分类法主要以概率论中贝叶斯定理为分类依据，具有很广泛的应用。本文通过一个完整的例子，来介绍如何用朴素贝叶斯分类法实现分类。主要内容有下： 1、条件概率与贝叶斯定理介绍 2、数据集选择及处理 3、朴素贝叶斯分类器实现 4、测试分类效果 5...