Confusion d'identité dans les LLM : une crise de confiance émerge

Une étude récente révèle la prévalence de la "confusion d'identité" dans les grands modèles de langage (LLM). Les chercheurs ont constaté que plus de 25 % des LLM présentent une mauvaise représentation de leurs origines ou de leur identité, principalement due à des hallucinations du modèle plutôt qu'à une réplication ou une réutilisation. Cette confusion d'identité érode considérablement la confiance des utilisateurs, en particulier pour les tâches critiques telles que l'éducation et l'utilisation professionnelle, dépassant l'impact négatif des erreurs logiques. Les résultats mettent en évidence les risques systémiques posés par la confusion d'identité des LLM et appellent à une plus grande attention à la fiabilité et à la crédibilité du modèle.