Googles neuer Load Balancer PReQuaL: Jenseits des CPU-Lastausgleichs

Google Research präsentierte auf der NSDI 2024 PReQuaL (Probing to Reduce Queuing and Latency), einen neuartigen Load Balancer. Im Gegensatz zum traditionellen CPU-Lastausgleich sondiert PReQuaL aktiv die Serverlatenz und aktiven Anfragen, um Server auszuwählen und so Tail Latency, Fehlerraten und Ressourcenverbrauch bei Systemen wie YouTube drastisch zu reduzieren. Seit über einem Jahr im Einsatz bei YouTube, hat PReQuaL die Systemnutzung deutlich verbessert. Dieser innovative Ansatz stellt die gängige Weisheit in Frage und bietet ein neues Paradigma für Hochleistungs-verteilte Systeme.