L'illusion de l'intelligence : IA, interaction et l'effet Clever Hans
Cet article explore la nature de l'intelligence en IA, en particulier dans les grands modèles de langage (LLM). Il soutient que l'intelligence apparente des LLM ne provient pas d'un raisonnement indépendant, mais plutôt de l'interaction avec les utilisateurs. En établissant des parallèles entre l'interrogation socratique, l'effet Clever Hans et les invites itératives des LLM, l'auteur démontre que l'intelligence est un phénomène relationnel issu de la collaboration, et non de la cognition isolée. Les LLM génèrent des réponses basées sur des relations probabilistes au sein de leurs données d'entraînement, répondant aux invites de l'utilisateur comme Clever Hans répondait aux indices de son dresseur. Ainsi, la valeur de l'IA ne réside pas dans sa 'connaissance' inhérente, mais dans sa capacité à faciliter des questions perspicaces et une exploration collaborative, augmentant finalement la créativité et la résolution de problèmes humains.