TopoNets : modèles de vision et de langage performants avec une topographie cérébrale
Les chercheurs présentent TopoLoss, une nouvelle méthode permettant d'intégrer une topographie cérébrale dans les principales architectures d'IA (réseaux convolutionnels et transformateurs) avec une perte de performance minimale. Les modèles TopoNets qui en résultent atteignent des performances de pointe parmi les réseaux neuronaux topographiques supervisés. TopoLoss est facile à mettre en œuvre, et les expériences montrent que les TopoNets conservent des performances élevées tout en présentant une organisation spatiale similaire à celle du cerveau. De plus, les TopoNets produisent des modèles de langage parcimonieux et efficaces en termes de paramètres, et présentent une sélectivité régionale similaire à celle du cerveau dans la reconnaissance d'images et des fenêtres d'intégration temporelle dans les modèles de langage, reflétant les schémas observés dans le cortex visuel et les zones de traitement du langage du cerveau.