随机森林算法原理是什么-嗨游网

随机森林算法原理是：1、随机森林算法是对bagging算法进行了改进；2、随机森林使用了cart决策树作为弱学习器；3、输入为样本集，弱分类器迭代次数t；4、输出为最终的强分类器【f(x)】。

随机森林算法原理是什么

随机森林算法原理是：

1. 随机森林算法

　　RF（Random Forest）算法是对Bagging算法进行了改进。

　　首先，RF使用了CART决策树作为弱学习器，这让我们想到梯度提升树GBDT。

　　第二，在使用决策树的基础上，RF对决策树的建立做了改进，对于普通的决策树，我们会在节点上所有的n个样本特征中选择一个最优的特征来做决策树的左右子树划分，但是RF通过的随机选择节点上的一部分样本特征，这个数字小于n，假设为nsub，然后在这些随机选择的nsub（小于n）个样本特征中，选择一个最优的特征来做决策树的左右子树划分。这样进一步增强了模型的泛化能力。

除了上面两点，RF和普通的bagging算法没什么不同，下面简单总结下RF的算法。

输入为样本集，弱分类器迭代次数T。

输出为最终的强分类器f(x)

　　（1）对于t = 1,2,3,...,T;

对训练集进行第t次采样，共采集m次，得到包含m个样本的采样集Dt

用采样集Dt训练第t个决策树模型Gt(x)，在训练决策树模型的节点的时候，在节点上所有的样本特征中选择一部分样本特征，在这些随机选择的部分样本特征中选择一个最优的特征来做决策树的左右子树划分。

　　（2）如果是分类算法预测，则T个弱学习器投出最多票数的类别或者类别之一为最终类别。如果是回归算法，T个弱学习器得到的回归结果进行算术平均得到的值为最终的模型输出。

2. 随机森林的推广

　　RF不仅用于分类问题，还可以用于特征转换，异常点检测等。

2.1 extra trees

　　extra trees是RF的变种，原理几乎与RF一模一样，仅有的区别：

　　（1）对于每个决策树的训练，RF采用的是随机采样bootstrap来选择采样集作为每个决策树的训练集，而extra trees一般不采用随机采样，即每个决策树采用的原始训练集。

　　（2）在选定了划分特征后，RF的决策树会基于基尼系数，均方差之类的原则，选择一个最优的特征划分点，这和传统的决策树相同。但是extra trees比较的激进，他会随机的选择一个特征值来划分决策树。

2.2 Totally Random Trees Embedding

　　Totally Random Trees Embedding(以下简称 TRTE)是一种非监督学习的数据转化方法。它将低维的数据集映射到高维，从而让映射到高维的数据更好的运用于分类回归模型。我们知道，在支持向量机中运用核方法来将低维的数据集映射到高维，此处TRTE提供了另外一种方法。

　　TRTE在数据转化的过程也使用了类似于RF的方法，建立T个决策树来拟合数据。当决策树建立完毕后，数据集里的每个数据在T个决策树中叶子节点的位置也定下来了。比如我们有3个决策树，每个决策树有5个叶子节点，某个数据特征x划分到第一个决策树的第2个叶子节点，第二个决策树的第3个叶子节点，第三个决策树的第5个叶子节点。则x映射后的特征编码为（0,1,0,0,0, 0,0,1,0,0, 0,0,0,0,1），有15维的高维特征。这里特征维度之间加上空格是为了强调三个决策树各自的子编码。

　　映射到高维特征后，可以继续使用监督学习的各种分类回归算法。

3. 随机森林小结

　　RF的算法原理也终于讲完了，作为一个可以高度并行化的算法，RF在大数据时候大有可为。

RF的主要优点有：

　　　　1）训练可以高度并行化，对于大数据时代的大样本训练速度有优势。个人觉得这是的最主要的优点。

　　　　2）由于可以随机选择决策树节点划分特征，这样在样本特征维度很高的时候，仍然能高效的训练模型。

　　　　3）在训练后，可以给出各个特征对于输出的重要性

　　　　4）由于采用了随机采样，训练出的模型的方差小，泛化能力强。

　　　　5）相对于Boosting系列的Adaboost和GBDT， RF实现比较简单。

　　　　6）对部分特征缺失不敏感。

RF的主要缺点有：

　　　　1）在某些噪音比较大的样本集上，RF模型容易陷入过拟合。