从零开始理解可微编程

本文深入浅出地讲解了可微编程，从微积分中的导数定义出发，逐步解释了梯度、方向导数和雅可比矩阵的概念。文章详细阐述了数值微分、符号微分和自动微分（正向模式和反向模式）三种微分方法，并比较了它们的优缺点。最后，文章通过一个图像去模糊的案例，演示了如何利用反向模式自动微分结合梯度下降法解决实际优化问题。