Backpropagation Eficiente: Simplificando Derivadas de Transformações Lineares com Einsum

Esta publicação apresenta um método inteligente de backpropagation que simplifica a derivação de qualquer expressão einsum através de uma simples troca de letras. Einsum é uma maneira concisa de expressar transformações lineares, como multiplicação de matrizes, produtos escalares, produtos de Hadamard e muito mais. O artigo usa a multiplicação de matrizes como exemplo, mostrando como realizar a propagação direta e inversa usando einsum e verificando os resultados com JAX. Este método evita derivações complexas, simplificando significativamente os cálculos de backpropagation em aprendizado profundo.