구글의 새로운 로드 밸런서 PReQuaL: CPU 부하 분산을 넘어서
2024-12-16
Google Research는 NSDI 2024에서 새로운 로드 밸런서 PReQuaL(Probing to Reduce Queuing and Latency)을 발표했습니다. 기존 CPU 부하 분산과 달리 PReQuaL은 서버 대기 시간과 활성 요청을 적극적으로 탐색하여 서버를 선택함으로써 YouTube와 같은 시스템의 테일 레이턴시, 오류율, 리소스 소비를 크게 줄입니다. YouTube에서 1년 이상 운영되어 시스템 활용률을 크게 향상시켰습니다. 이 혁신적인 접근 방식은 기존의 상식에 도전하고 고성능 분산 시스템을 위한 새로운 패러다임을 제시합니다.