간단한 트랜스포머가 컨웨이의 생명 게임을 해결하다

연구자들은 고도로 단순화된 트랜스포머 신경망이 게임의 예시만으로 컨웨이의 생명 게임을 완벽하게 계산할 수 있음을 보여주었습니다. 이 모델은 어텐션 메커니즘을 사용하여 생명 게임 규칙에 중요한 이웃 셀 계산을 반영하는 3x3 합성곱을 효과적으로 계산합니다. SingleAttentionNet이라고 불리는 이 모델은 단순한 구조 덕분에 내부 계산을 관찰할 수 있으며, 단순한 통계적 예측 모델이 아님을 보여줍니다. 이 연구는 무작위 생명 게임의 처음 두 번의 반복만으로 훈련했을 때도 모델이 100게임을 100단계 완벽하게 실행할 수 있음을 밝혀냈습니다.