Differenzierbare Programmierung: Ein tiefer Einblick von Grund auf
2025-04-17
Dieser Artikel bietet eine umfassende Erklärung der differenzierbaren Programmierung, beginnend mit der Definition von Ableitungen in der Analysis und fortschreitend zu Konzepten wie Gradienten, Richtungsableitungen und Jacobi-Matrizen. Er beschreibt drei Differentiationsmethoden: numerische Differentiation, symbolische Differentiation und automatische Differentiation (Vorwärts- und Rückwärtsmodus), wobei er deren Stärken und Schwächen vergleicht. Schließlich wird gezeigt, wie die automatische Differentiation im Rückwärtsmodus, kombiniert mit dem Gradientenabstieg, reale Optimierungsprobleme lösen kann, indem ein Beispiel für die Entzerrung von Bildern verwendet wird.