LLMs y los límites de la optimización automática de código
David Andersen experimentó con el uso de Modelos de Lenguaje Grandes (LLMs) para optimizar código que encuentra la diferencia entre los números más pequeños y más grandes cuyos dígitos suman 30 en una lista de un millón de enteros aleatorios. El código inicial en Python y Rust era lento. Si bien el LLM mejoró partes, como la función de suma de dígitos, se perdió una optimización crucial: comprobar si un número es relevante *antes* del cálculo costoso de la suma de dígitos. La intervención manual, que incluyó un generador de números aleatorios más rápido, paralelización y preprocesamiento, aceleró el código Rust en un factor de 55. Esto destaca las limitaciones de los LLMs en la optimización de código, particularmente para problemas complejos que requieren una profunda comprensión algorítmica y estrategias de paralelización. El ingenio humano sigue siendo crucial.