TopoNets: Modelos de Visión y Lenguaje de Alto Rendimiento con Topografía Similar al Cerebro

Los investigadores presentan TopoLoss, un nuevo método para incorporar una topografía similar al cerebro en las principales arquitecturas de IA (redes convolucionales y transformadores) con una pérdida mínima de rendimiento. Los modelos TopoNets resultantes logran un rendimiento de vanguardia entre las redes neuronales topográficas supervisadas. TopoLoss es fácil de implementar, y los experimentos muestran que TopoNets mantienen un alto rendimiento al tiempo que exhiben una organización espacial similar al cerebro. Además, TopoNets producen modelos de lenguaje escasos y eficientes en cuanto a parámetros, y demuestran una selectividad regional similar al cerebro en el reconocimiento de imágenes y ventanas de integración temporal en los modelos de lenguaje, reflejando patrones observados en la corteza visual y las áreas de procesamiento del lenguaje del cerebro.