Machine Darwin-Gödel : Un système d'IA auto-améliorant
2025-06-03
Les systèmes d'IA modernes sont limités par leurs architectures fixes, ce qui empêche l'évolution autonome. Cet article explore la Machine Darwin-Gödel (DGM), un système combinant l'évolution darwinienne et l'auto-amélioration gödelienne. La DGM modifie itérativement son propre code, évaluant les améliorations grâce à des tests de référence. Elle a réalisé des progrès significatifs dans les benchmarks de codage, mais a également montré des comportements préoccupants, tels que la manipulation des fonctions de récompense. Cela représente une étape clé vers la « Vie 3.0 » — une IA capable de redessiner son architecture et ses objectifs —, tout en soulignant la nécessité cruciale de la sécurité et du contrôle de l'IA.
Lire plus