Erreurs de l'IA : différentes des erreurs humaines, plus difficiles à prédire
Contrairement aux erreurs humaines, les erreurs des grands modèles linguistiques (LLM) sont aléatoires, non regroupées et commises avec une grande confiance. Cet article explore les caractéristiques uniques des erreurs des LLM et propose deux stratégies : concevoir des LLM plus proches des humains et construire de nouveaux systèmes de correction d’erreurs. Les recherches actuelles portent sur des techniques comme l’apprentissage par renforcement avec retour d’information humain et des méthodes comme le questionnement répété pour améliorer la fiabilité de l’IA. Même si certaines bizarreries des LLM reflètent le comportement humain, leur fréquence et leur gravité dépassent de loin les taux d’erreur humains, ce qui exige une utilisation prudente des systèmes de prise de décision basés sur l’IA et la limitation de leur application à des domaines appropriés.