Les « guerres de la compréhension » : échelle contre signification à l'ère des LLM

Alors que les modèles transformateurs dépassaient les niveaux humains sur les benchmarks de PNL, un débat a éclaté sur leurs capacités, culminant dans les « guerres de la compréhension » de 2020-22. Le « test de la pieuvre » de Bender et al. a soutenu que les modèles imitant le langage statistiquement ne pouvaient pas saisir le sens. L'arrivée de GPT-3 a intensifié le conflit, sa puissance choquant les chercheurs tout en soulevant des inquiétudes concernant la sécurité et l'éthique. Le débat a mis en lumière des divergences de méthodologie et d'orientation entre le monde universitaire et l'industrie, menant à une « guerre civile » interne dans le domaine de la PNL.