zymtrace: 마찰 없는 GPU 프로파일링으로 잠재력 극대화

zymtrace는 경량의 프로덕션급 지속적인 GPU 프로파일러로, 커널 정체, 메모리 경합, 스케줄링 지연과 같은 성능 병목 현상을 PyTorch 코드, CUDA 커널, 네이티브 함수 또는 스케줄러 스레드와 같은 원인으로 직접 추적합니다. 기존 솔루션과 달리 zymtrace는 시스템 전체의 가시성을 제공하고 GPU 추적과 이를 트리거한 CPU 코드 경로를 연결합니다. 이를 통해 AI/ML 엔지니어는 CUDA 커널 시작을 최적화하고, 최적의 배치 크기를 결정하고, GPU 사용률 저하 문제를 해결하여 GPU 성능을 극대화하고 비용을 절감할 수 있습니다.