TopoNets: 뇌와 유사한 지형도를 가진 고성능 시각 및 언어 모델

연구자들은 성능 저하를 최소화하면서 주요 AI 아키텍처(합성곱 신경망 및 트랜스포머)에 뇌와 유사한 지형도를 통합하는 새로운 방법인 TopoLoss를 발표했습니다. 결과적으로 생성된 TopoNets는 지도 학습 토포그래픽 신경망 중 최고 성능을 달성합니다. TopoLoss는 구현이 간편하며, 실험을 통해 TopoNets는 높은 성능을 유지하면서 뇌와 유사한 공간적 구조를 보이는 것으로 나타났습니다. 또한, TopoNets는 희소하고 매개변수 효율적인 언어 모델을 생성하며, 이미지 인식에서 뇌의 시각 피질과 유사한 영역 선택성을 보이고, 언어 모델에서는 뇌의 뉴런과 유사한 시간적 통합 창 특성을 보입니다. 이는 뇌의 시각 피질 및 언어 처리 영역에서 관찰되는 패턴을 반영합니다.