柏拉图式表征假说 2024-05-15 这篇论文论证了人工智能模型,特别是深度网络中的表征正在趋于一致。作者首先概述了文献中关于趋同的许多例子:随着时间的推移,跨越多个领域,不同神经网络表示数据的方式正变得越来越一致。接下来,作者论证了跨数据模态的趋同:随着视觉模型和语言模型变得越来越大,它们测量数据点之间距离的方式也越来越相似。作者假设这种趋同正在走向一种共享的现实统计模型,类似于柏拉图的理想现实概念。作者将这种表征称为柏拉图式表征,并讨论了导致这种表征的几种可能的压力。最后,作者讨论了这些趋势的影响、局限性以及分析的反例。 (arxiv.org) 81 未分类 深度网络 表征学习