llama.cpp WASM、SIMD最適化で2倍高速化

Simon Willisonのブログ記事では、llama.cppの大きな改善点が紹介されています。SIMD命令の最適化により、WASM版の速度が2倍に向上しました。驚くべきことに、コードの99%はAIアシストプログラミングツールDeepSeek R1によって生成されました。DeepSeek R1は各プロンプトについて3～5分「思考」し、最終的に開発者がllm_groq.pyプラグインを改良し、model_mapをうまく削除してコードを効率化することに貢献しました。これは、AIがコード最適化とリファクタリングにおいて計り知れない可能性を秘めていることを示しています。