谷歌新型负载均衡器PReQuaL:告别CPU负载均衡

2024-12-16

谷歌研究团队在NSDI 2024会议上发表论文,介绍了新型负载均衡器PReQuaL。不同于传统的CPU负载均衡,PReQuaL通过探测服务器延迟和活跃请求数来选择服务器,从而显著降低了YouTube等系统的尾部延迟、错误率和资源消耗。PReQuaL已在YouTube上线一年多,极大地提升了系统利用率。这项创新挑战了传统的负载均衡理念,为高性能分布式系统的设计提供了新的思路。

阅读更多
开发 PReQuaL

理解软件动态

2024-07-08

这篇文章是对Richard L. Sites所著书籍《理解软件动态》的书评。该书主要面向程序员、SRE、操作系统和硬件设计人员,重点关注如何发现导致长尾延迟的细微原因。书中详细介绍了测量和观察计算机系统(CPU、内存、磁盘和网络)的方法,以及如何使用KUTrace工具链进行性能分析和优化。作者通过大量示例和图表,深入浅出地解释了软件性能优化的原理和技巧,并鼓励读者积极思考和实践。

阅读更多
未分类 长尾延迟 KUTrace

SIEVE:简单、高效、可扩展的新型缓存驱逐算法

2024-07-01

SIEVE是一种新型缓存驱逐算法,其效率优于LRU等传统算法,同时保持了简单性和可扩展性。SIEVE采用延迟提升和快速降级策略,仅使用一个FIFO队列和一个移动指针来保留常用对象并快速移除不常用对象。评估结果表明,SIEVE在各种web缓存负载下均优于现有算法,并且易于在实际系统中实现。

阅读更多
未分类 SIEVE