随机森林为何有效？将其理解为自正则化自适应平滑器 (arxiv.org)

这篇论文探讨了随机森林为何如此有效。作者认为，将随机森林理解为自适应、自正则化的平滑器是关键。论文指出，随机森林的预测结果比单个决策树更加平滑，并且能根据测试和训练数据的差异调整平滑程度。此外，论文还反驳了普遍认为的随机森林优于单个决策树仅仅是由于方差降低的观点，认为随机森林的平滑效应可以通过减少预测方差、提高学习函数质量以及丰富假设空间来提升性能。