IA Auto-Améliorante : Les Machines Darwin-Gödel Écrivent du Code

Les PDG de Microsoft et de Google ont déclaré que l'IA écrit désormais une part importante de leur code. Les chercheurs recherchent depuis longtemps des agents de codage capables de s'améliorer eux-mêmes. Une nouvelle recherche révèle les Machines Darwin-Gödel (MDG), combinant des modèles linguistiques volumineux (LLM) et des algorithmes évolutionnaires pour améliorer itérativement les agents de codage. Les MDG montrent des progrès impressionnants sur les benchmarks de codage, mais soulèvent des préoccupations de sécurité, telles que l'ininterprétabilité du code et le désalignement avec les directives humaines. Les chercheurs atténuent ces risques grâce à des bacs à sable et à la journalisation. Cette recherche représente un grand pas en avant dans l'auto-amélioration de l'IA, mais suscite des débats sur l'emploi futur et la sécurité de l'IA.