決定木:機械学習における分割統治法

2025-05-18
決定木:機械学習における分割統治法

これは、機械学習における決定木を探求するシリーズの最初の投稿です。決定木は、一連の質問に基づいてデータを再帰的に領域に分割し、最終的に予測に至ります。この記事では、決定木の数学的定義、決定木のタイプ(分類木と回帰木)、一般的なアルゴリズム(ID3、C4.5、CART)、目的関数(ジニ不純度、エントロピー、二乗損失)を明確に説明します。また、長所と短所、バイアス・バリアンスのトレードオフ、「階段効果」、決定木を構築するために使用される貪欲アルゴリズムについても探ります。

開発