TopoNets: Leistungsstarke Bild- und Sprachmodelle mit gehirnähnlicher Topographie

Forscher stellen TopoLoss vor, eine neue Methode zur Integration einer gehirnähnlichen Topographie in führende KI-Architekturen (Convolutional Networks und Transformer) bei minimalem Leistungsverlust. Die resultierenden TopoNets erreichen unter den überwachten topografischen neuronalen Netzen Spitzenleistungen. TopoLoss ist einfach zu implementieren, und Experimente zeigen, dass TopoNets eine hohe Leistung beibehalten, während sie eine gehirnähnliche räumliche Organisation aufweisen. Darüber hinaus liefern TopoNets sparsame, parametereffiziente Sprachmodelle und zeigen eine gehirnähnliche regionale Selektivität bei der Bilderkennung und zeitliche Integrationsfenster in Sprachmodellen, was die Muster widerspiegelt, die in der visuellen Kortex und den Sprachverarbeitungsbereichen des Gehirns beobachtet werden.