대규모 언어 모델과 코드 최적화의 한계

David Andersen는 100만 개의 난수 목록에서 자릿수의 합이 30인 가장 작은 수와 가장 큰 수의 차이를 찾는 코드를 최적화하기 위해 대규모 언어 모델(LLM)을 사용하는 실험을 했습니다. 초기 Python 및 Rust 코드는 느렸습니다. LLM은 자릿수 합계 함수 등 일부 코드를 개선했지만 중요한 최적화를 놓쳤습니다. 비용이 많이 드는 자릿수 합계 계산을 수행하기 전에 숫자가 관련이 있는지 확인하는 것입니다. 더 빠른 난수 생성기, 병렬 처리 및 전처리를 포함한 수동 개입을 통해 Rust 코드의 속도가 55배 향상되었습니다. 이는 특히 알고리즘에 대한 심오한 이해와 병렬화 전략이 필요한 복잡한 문제에서 LLM의 코드 최적화의 한계를 보여줍니다. 인간의 창의성은 여전히 필수적입니다.