TopoNets: Modelos de Visão e Linguagem de Alto Desempenho com Topografia Semelhante ao Cérebro

Pesquisadores apresentam o TopoLoss, um novo método para incorporar topografia semelhante ao cérebro em arquiteturas de IA líderes (redes convolucionais e transformadores) com perda mínima de desempenho. Os TopoNets resultantes alcançam desempenho de ponta entre as redes neurais topográficas supervisionadas. O TopoLoss é fácil de implementar, e experimentos mostram que os TopoNets mantêm alto desempenho enquanto exibem organização espacial semelhante ao cérebro. Além disso, os TopoNets produzem modelos de linguagem esparsos e eficientes em termos de parâmetros e demonstram seletividade regional semelhante ao cérebro no reconhecimento de imagens e janelas de integração temporal em modelos de linguagem, espelhando padrões observados no córtex visual e nas áreas de processamento de linguagem do cérebro.