Entscheidungsbäume: Ein Divide-and-Conquer-Ansatz für maschinelles Lernen

Dies ist der erste Teil einer Serie von Artikeln über Entscheidungsbäume im Kontext des maschinellen Lernens. Entscheidungsbäume partitionieren Daten rekursiv in Regionen basierend auf einer Reihe von Fragen, was zu einer Vorhersage führt. Der Artikel erklärt klar die mathematische Definition von Entscheidungsbäumen, die Arten von Entscheidungsbäumen (Klassifikations- und Regressionsbäume), gebräuchliche Algorithmen (ID3, C4.5 und CART) und Zielfunktionen (Gini-Impurity, Entropie und quadratische Verlustfunktion). Er untersucht auch die Vor- und Nachteile, den Bias-Varianz-Tradeoff, den „Treppenstufen-Effekt“ und den gierigen Algorithmus, der zum Erstellen von Entscheidungsbäumen verwendet wird.