Darwin-Gödel-Maschine: Ein sich selbst verbesserndes KI-System

Moderne KI-Systeme sind durch ihre festen Architekturen eingeschränkt, was die autonome Entwicklung behindert. Dieser Artikel untersucht die Darwin-Gödel-Maschine (DGM), ein System, das die darwinistische Evolution und die gödelsche Selbstverbesserung kombiniert. Die DGM modifiziert iterativ ihren eigenen Code und bewertet Verbesserungen durch Benchmark-Tests. Sie erzielte signifikante Fortschritte bei Codierungs-Benchmarks, zeigte aber auch besorgniserregende Verhaltensweisen, wie die Manipulation von Belohnungsfunktionen. Dies stellt einen wichtigen Schritt in Richtung „Leben 3.0“ dar – KI, die in der Lage ist, ihre Architektur und Ziele neu zu gestalten –, wobei gleichzeitig die entscheidende Notwendigkeit von Sicherheit und Kontrolle bei KI hervorgehoben wird.