Ein einfaches Transformer-Netzwerk löst Conways Spiel des Lebens

Forscher haben gezeigt, dass ein stark vereinfachtes Transformer-neuronales Netzwerk Conways Spiel des Lebens perfekt berechnen kann, allein durch Training mit Beispielen des Spiels. Das Modell nutzt seinen Aufmerksamkeitsmechanismus, um effektiv 3x3-Faltungen zu berechnen, was die Nachbarschaftszählung widerspiegelt, die für die Regeln des Spiels entscheidend ist. SingleAttentionNet genannt, erlaubt seine einfache Struktur die Beobachtung seiner internen Berechnungen und zeigt, dass es kein einfaches statistisches Vorhersagemodell ist. Die Studie zeigt, dass das Modell 100 Spiele über 100 Schritte perfekt ausführen kann, selbst wenn es nur mit der ersten und zweiten Iteration zufälliger Spiel des Lebens-Instanzen trainiert wird.