柏拉图式表征假说 (arxiv.org)

这篇论文论证了人工智能模型，特别是深度网络中的表征正在趋于一致。作者首先概述了文献中关于趋同的许多例子：随着时间的推移，跨越多个领域，不同神经网络表示数据的方式正变得越来越一致。接下来，作者论证了跨数据模态的趋同：随着视觉模型和语言模型变得越来越大，它们测量数据点之间距离的方式也越来越相似。作者假设这种趋同正在走向一种共享的现实统计模型，类似于柏拉图的理想现实概念。作者将这种表征称为柏拉图式表征，并讨论了导致这种表征的几种可能的压力。最后，作者讨论了这些趋势的影响、局限性以及分析的反例。