LLVM-MCA 성능 분석: 벡터화 최적화의 함정

저자는 ARM NEON을 사용한 벡터화 최적화에서 성능 저하 문제를 경험했습니다. 초기 코드는 5개의 로드 명령어(5L)를 사용했지만, 최적화된 버전은 메모리 접근을 줄이기 위해 2개의 로드 명령어와 3개의 확장 명령어(2L3E)를 사용했습니다. 놀랍게도 2L3E 버전이 더 느렸습니다. LLVM-MCA를 사용한 성능 분석 결과, 2L3E는 CPU 실행 유닛에 병목 현상을 일으키고, 리소스 사용이 불균형적이며, 명령어 의존성이 강화되어 성능 저하로 이어지는 것으로 나타났습니다. 5L 버전은 리소스 사용이 더 균형적이고 로드 명령어가 독립적이기 때문에 더 나은 성능을 보였습니다. 이 사례 연구는 CPU 리소스 경합과 명령어 의존성을 고려하지 않으면, 보기에 적절해 보이는 최적화라도 성능 저하로 이어질 수 있음을 보여줍니다. LLVM-MCA는 이러한 문제를 분석하는 데 유용한 도구입니다.