Outils IA : Puissants, mais n'oubliez pas l'humain

Cet article explore les risques liés au déploiement d'outils d'IA en environnement de production. L'auteur soutient que l'IA actuelle n'est pas une intelligence artificielle générale (IAG), mais plutôt une technologie charismatique qui ne tient souvent pas ses promesses. S'appuyant sur l'ingénierie des systèmes cognitifs et l'ingénierie de la résilience, l'article pose des questions clés pour évaluer les solutions d'IA : l'outil améliore-t-il réellement les capacités humaines ? Transforme-t-il les humains en simples moniteurs ? Introduit-il de nouveaux biais cognitifs ? Crée-t-il des points de défaillance uniques ? L'auteur souligne l'importance d'une conception responsable des systèmes d'IA, en soulignant que l'adoption aveugle de l'IA ne remplacera pas les travailleurs humains ; elle transformera plutôt le travail et créera de nouvelles faiblesses.