人脸检测属于计算机视觉的范畴，早期人们的主要研究方向是人脸识别，即根据人脸来识别人物的身份，后来在复杂背景下的人脸检测需求越来越大，人脸检测也逐渐作为一个单独的研究方向发展起来。 目前人脸检测的方法主要有两大类：基于知识和基于统计。 基于知识的方法：主要利用先验知识将人脸看作器官特征的组合，根据眼睛、眉毛、嘴巴、鼻子等器官的特征以及相互之间的几何位置关系来...
0、什么是数据不平衡问题 在机器学习的分类问题中，不同类别的样本数据量存在差异。在某些场景，比如网页点击率预估(网页点击率低)，购物推荐(浏览产生的购买少)，信用卡欺诈，网络攻击识别等，这种差异可能会较大。传统的学习算法，对不同类别的数据一视同仁地处理，会产生在多数类样本效果较好，但是在少数类样本上效果差的问题。而在上述的四种场景中，我们更关注的是少数类的...
在之前的决策树到集成学习里我们说了决策树和集成学习的基本概念（用了adaboost昨晚集成学习的例子），其后我们分别学习了决策树分类原理和adaboost原理和实现， 上两篇我们学习了cart（决策分类树），决策分类树也是决策树的一种，也是很强大的分类器，但是cart的深度太深，我们可以指定cart的深度使得cart变成强一点的弱分类器。 在决策树到集成学...
GBDT(GradientBoostingDecisionTree)又叫MART（MultipleAdditiveRegressionTree)，是一种迭代的决策树算法，该算法由多棵决策树组成，所有树的结论累加起来做最终答案。它在被提出之初就和SVM一起被认为是泛化能力（generalization)较强的算法。近些年更因为被用于搜索排序的机器学习模型而引...
俗话说，三个臭皮匠顶个诸葛亮。类似的，如果集成一系列分类器的预测结果，也将会得到由于单个预测期的预测结果。一组预测期称为一个集合（ensemble），因此这一技术被称为集成学习（Ensemble Learning）。集成学习算法称作集成方法（Ensemble method）。 例如，可以基于训练集的不同随机子集，训练一组决策树分类器。做预测是，首先拿到每一...