本文深入探讨了 SIMD 函数在编译器自动向量化中的作用。SIMD 函数可以一次处理多个数据，从而提升性能。然而，编译器对 SIMD 函数的支持参差不齐，且生成的向量化代码效率有时并不理想。文章详细介绍了声明和定义 SIMD 函数的方法，包括使用 OpenMP pragma 和自定义编译器属性，并分析了不同参数类型（variable、uniform、linear）对向量化效率的影响。此外，文章还讲解了如何使用 intrinsics 提供自定义的向量化实现，以及处理函数内联和编译器 quirks 的方法。总而言之，虽然 SIMD 函数具有提升性能的潜力，但在实际应用中仍面临诸多挑战。
阅读更多
作者在使用ARM NEON进行向量化优化时遇到性能下降问题。初始代码使用五个加载指令（5L），优化后代码使用两个加载指令和三个扩展指令（2L3E），旨在减少内存访问。然而，2L3E版本反而更慢。利用LLVM-MCA工具进行性能分析，发现2L3E版本导致CPU执行单元出现瓶颈，资源利用不均衡，指令依赖性更强，最终导致性能下降。5L版本因其更均衡的资源利用和独立的加载指令而表现更佳。该案例说明了即使看似合理的优化，也可能因未考虑CPU资源竞争和指令依赖性而导致性能下降，LLVM-MCA是分析此类问题的有力工具。
阅读更多
Johnny's Software Lab的研究表明，在内存密集型代码中，编译优化（例如GCC的-O3）的收益并非总是显著的。他们测试了两种内核：一种具有高指令级并行性（ILP），另一种具有低ILP。结果显示，对于高ILP内核，-O3优化能带来3倍的加速；但对于低ILP内核，优化效果微乎其微，因为内存访问成为瓶颈。这说明，在高度内存绑定的场景下，即使代码指令数量减少，但由于ILP限制，性能提升有限，优化策略需要根据代码特性调整。
阅读更多
本文探讨了链接时优化（LTO）技术，它通过在链接阶段进行优化来提升程序性能。传统编译器在单个文件内进行优化，而LTO则能跨越多个文件进行更全面的优化，例如内联函数和代码局部性改进。虽然LTO能带来显著的性能提升（例如文中ProjectX项目测试结果显示运行时间减少9.2%，二进制文件大小平均减少20%），但它也需要更长的编译和链接时间以及更多的内存。作者通过对ProjectX和ffmpeg两个项目的实验对比，说明了LTO的优缺点，并建议在未经深度优化的项目中尝试使用LTO，最终的性能提升取决于具体项目情况。
阅读更多
Johnny's Software Lab 探索了在 C++ 中避免代价高昂的数据复制的方法。文章深入探讨了操作系统层面如何通过 `mmap`（Linux）和 `VirtualAlloc`（Windows）等系统调用来实现缓冲区大小的动态调整，从而避免数据复制。文中比较了不同方法的性能差异，例如使用 `mremap`、`xallocx`（jemalloc）以及自定义的内存分配策略。实验结果表明，避免数据复制能显著提升性能，但同时也需要注意不同操作系统间的差异和潜在的内存碎片问题。
阅读更多