一、优点： 1.引入了两个随机（样本随机、特征随机），所以不容易陷入过拟合。 2.由于树的组合，可以处理非线性数据。 3.训练结束后，模型可以给出feature的重要程度。 二、缺点 1.随机森林的决策树个数较多时，训练时间和空间会较大。 2.在某些噪音较大的样本集中，容易陷入过拟合。 三、框架参数 1. n_estimators: 弱学习器的最大迭代次数...
这里仅介绍分类决策树。 决策树：特征作为决策的判断依据，整个模型形如树形结构，因此，称之为决策树 对于分类决策树，他们可以认为是一组if-then规则的集合。决策树的每一个内部节点有特征组成，叶子节点代表了分类的结果。父节点和子节点之间是由有向边连接，表示了决策的结果。 在这里，有必要解释一下，为什么决策树的学习过程变成了三个步骤：特征选择、决策树生成和剪...
class sklearn.ensemble.RandomForestClassifier(n_estimators=’10’, criterion=’gini’, max_depth=None,min_samples_split=2, min_samples_leaf=1, min_weight_fraction_leaf=0.0, max_featur...
俗话说，三个臭皮匠顶个诸葛亮。类似的，如果集成一系列分类器的预测结果，也将会得到由于单个预测期的预测结果。一组预测期称为一个集合（ensemble），因此这一技术被称为集成学习（Ensemble Learning）。集成学习算法称作集成方法（Ensemble method）。 例如，可以基于训练集的不同随机子集，训练一组决策树分类器。做预测是，首先拿到每一...