自己改良型AI：ダーウィン・ゲーデルマシンがコードを記述する

マイクロソフトとグーグルのCEOは、AIが現在、自社コードのかなりの部分を記述していると述べています。研究者たちは長年、自己改良型のコーディングエージェントを探求してきました。新たな研究では、ダーウィン・ゲーデルマシン（DGM）が発表され、これは大規模言語モデル（LLM）と進化アルゴリズムを組み合わせて、コーディングエージェントを反復的に改良します。DGMはコーディングベンチマークで目覚ましい進歩を示していますが、コードの解釈不能性や人間の指示との不一致など、安全上の懸念も引き起こします。研究者たちは、サンドボックス化とログ記録によってこれらのリスクを軽減しています。この研究は、AIの自己改良における大きな一歩ですが、将来の雇用とAIの安全性に関する議論を引き起こしています。