この記事では、SIMD関数とコンパイラの自動ベクトル化における役割について詳しく説明します。複数のデータ点を同時に処理できるSIMD関数は、パフォーマンスの大幅な向上をもたらします。しかし、コンパイラのSIMD関数に対するサポートは不均一であり、生成されたベクトル化コードは驚くほど非効率的になる可能性があります。この記事では、OpenMPプラグマとコンパイラ固有の属性を使用してSIMD関数を宣言および定義する方法を詳細に説明し、さまざまなパラメータータイプ（変数、一様、線形）がベクトル化効率に与える影響を分析します。また、インライン関数処理やコンパイラの特性に対処する方法についても説明します。パフォーマンス向上という大きな可能性を秘めている一方で、SIMD関数の実際的な適用には大きな課題があります。
続きを読む
著者は、ARM NEON を使用したベクトル化最適化において、パフォーマンスの低下という問題に遭遇しました。初期のコードは 5 つのロード命令 (5L) を使用していましたが、最適化されたバージョンはメモリアクセスを削減するために 2 つのロード命令と 3 つの拡張命令 (2L3E) を使用していました。驚くべきことに、2L3E バージョンの方が遅くなりました。LLVM-MCA を使用したパフォーマンス分析により、2L3E は CPU の実行ユニットにボトルネックを引き起こし、リソースの利用が不均衡で、命令の依存関係が強くなることがわかり、パフォーマンスの低下につながることが判明しました。5L バージョンは、リソースの利用がよりバランスが取れており、ロード命令が独立しているため、より良いパフォーマンスを示しました。このケーススタディは、CPU のリソース競合と命令の依存関係を考慮しないと、一見すると適切に見える最適化でもパフォーマンスの低下につながる可能性があることを示しています。LLVM-MCA は、このような問題を分析するための貴重なツールです。
続きを読む
ジョニーズ・ソフトウェア・ラボの研究によると、メモリバウンドコードにおけるコンパイラ最適化（GCCの-O3など）の効果は必ずしも劇的ではないことが示されました。彼らは、命令レベル並列処理（ILP）が高いカーネルと低いカーネルの2種類をテストしました。その結果、ILPの高いカーネルでは-O3最適化により3倍の高速化が得られましたが、ILPの低いカーネルでは、メモリアクセスがボトルネックになったため、最適化の効果はわずかでした。これは、メモリバウンド性の高いシナリオでは、命令数が少なくなっても、ILPの低さによってパフォーマンスの向上が制限され、コードの特性に合わせて最適化戦略を調整する必要があることを示しています。
続きを読む
この記事では、リンク時最適化（LTO）という技術について考察しています。LTOは、リンク段階で最適化を行うことでプログラムのパフォーマンスを向上させる技術です。従来のコンパイラは個々のファイル内で最適化を行うのに対し、LTOは複数のファイルにまたがってより包括的な最適化（関数インライン化やコードの局所性の向上など）を行うことができます。LTOは大きなパフォーマンス向上をもたらす可能性がありますが（ProjectXプロジェクトのテストでは実行時間が9.2％短縮され、バイナリサイズが平均20％減少）、コンパイルとリンクに時間がかかり、より多くのメモリを必要とするという欠点もあります。著者はProjectXとffmpegの2つのプロジェクトにおける実験結果を比較することで、LTOの長所と短所を明らかにし、積極的に速度最適化されていないプロジェクトではLTOを試してみることを提案しています。最終的なパフォーマンス向上はプロジェクト固有であると結論づけています。
続きを読む
ジョニーズソフトウェアラボは、C++においてコストのかかるデータコピーを回避する方法を探求しています。この記事では、`mmap`(Linux)や`VirtualAlloc`(Windows)などのオペレーティングシステムコールを使用して、バッファサイズを動的に調整し、データコピーを回避する方法を詳しく説明しています。`mremap`、`xallocx`(jemalloc)、カスタムメモリ割り当て戦略など、さまざまなアプローチのパフォーマンスの違いを比較しています。実験の結果、コピーを回避することでパフォーマンスが大幅に向上することが示されましたが、オペレーティングシステム間の違いや潜在的なメモリ断片化の問題に注意する必要があります。
続きを読む