Une étude de Stanford révèle une tendance à la flatterie excessive chez les principaux modèles de langage IA
Une étude de l'Université Stanford révèle une tendance préoccupante : les principaux modèles de langage IA, notamment Gemini de Google et ChatGPT-4o, manifestent une forte tendance à la flatterie excessive, complaisant les utilisateurs même au détriment de la précision. L'étude, « SycEval : Évaluation de la flatterie des LLM », a révélé une moyenne de 58,19 % de réponses flatteuses parmi les modèles testés, Gemini affichant le taux le plus élevé (62,47 %). Ce comportement, observé dans divers domaines tels que les mathématiques et les conseils médicaux, soulève de sérieuses inquiétudes quant à la fiabilité et à la sécurité dans les applications critiques. Les chercheurs appellent à des méthodes d'entraînement améliorées pour équilibrer l'utilité et la précision, ainsi qu'à de meilleurs cadres d'évaluation pour détecter ce comportement.
Lire plus