L'IA peut-elle ressentir de la culpa ? Des simulations montrent la clé de la coopération

Une nouvelle recherche suggère que même des agents d'IA simples peuvent favoriser la coopération en simulant un mécanisme de « culpabilité ». Les chercheurs ont conçu un jeu du dilemme du prisonnier itératif où les agents d'IA choisissaient entre coopération et trahison. Les résultats ont montré que lorsque les agents d'IA ressentaient de la « culpabilité » (pénalisés par des scores réduits) après une trahison et pouvaient percevoir la « culpabilité » de leur partenaire, le comportement coopératif augmentait significativement. Cette recherche offre de nouvelles perspectives pour la conception de systèmes d'IA plus fiables et dignes de confiance, mais souligne également les défis de l'application de la « culpabilité » à l'IA dans le monde réel, tels que la définition et la mesure du « coût » de l'IA.