Lecciones aprendidas al optimizar convoluciones con SIMD: predicción de ramas y problemas del compilador

El autor intentó optimizar las operaciones de convolución usando instrucciones SIMD, pero encontró una degradación del rendimiento. La implementación inicial usó cargas SIMD, instrucciones FMA y técnicas de optimización de bucles, pero fue más del doble de lenta que la versión no vectorizada. Después de la depuración, el problema se encontró en instrucciones de bifurcación excesivas que causaban fallas en la predicción de bifurcaciones de la CPU y limitaciones de tamaño de función en línea del compilador, lo que impedía el uso adecuado del conjunto de instrucciones AVX. Finalmente, al reducir la bifurcación, dividir los bucles y usar adecuadamente los atributos en línea del compilador, el autor logró mejorar el rendimiento al nivel esperado. Este estudio de caso ilustra la complejidad de las arquitecturas modernas de CPU y los detalles que deben tenerse en cuenta en la optimización del rendimiento.