TopoNets:模拟大脑拓扑结构的高性能视觉和语言模型

2025-02-03
TopoNets:模拟大脑拓扑结构的高性能视觉和语言模型

研究人员提出了一种名为TopoLoss的新方法,该方法能够在不显著降低模型性能的情况下,将类似大脑的拓扑结构引入领先的AI架构(卷积网络和Transformer)。由此产生的模型TopoNets,是目前为止性能最高的有监督拓扑神经网络。TopoLoss易于安装和使用,实验结果表明,TopoNets在保持高性能的同时,展现出与大脑相似的空间拓扑结构,并能够产生稀疏、参数高效的语言模型。更重要的是,TopoNets在图像识别中展现出与大脑视觉皮层相似的区域选择性,在语言模型中也展现出类似大脑神经元的时序整合窗口特性。

阅读更多
AI