大規模言語モデルとコード最適化の限界

David Andersen氏は、100万個のランダムな整数のリストから、数字の合計が30になる最小値と最大値の差を求めるコードを最適化するために、大規模言語モデル（LLM）を使用する実験を行いました。初期のPythonとRustのコードは遅かったです。LLMは数字の合計を求める関数など、一部のコードを改善しましたが、重要な最適化を見逃しました。それは、コストの高い数字の合計計算を行う前に、数値が関連しているかどうかを確認することです。より高速な乱数生成器、並列処理、前処理などを含む手動による介入により、Rustコードの速度は55倍向上しました。これは、特にアルゴリズムの深い理解と並列化戦略を必要とする複雑な問題において、LLMのコード最適化における限界を浮き彫りにしています。人間の創意工夫は依然として不可欠です。