Image Playground d'Apple : Étude de cas sur les biais de l'IA

La nouvelle application de génération d'images d'Apple, Image Playground, malgré l'intégration de fonctionnalités de sécurité pour éviter la génération de deepfakes réalistes, révèle des biais inhérents aux modèles d'IA. Des expériences montrent que l'utilisation de la même image avec des invites différentes entraîne des variations significatives de la teinte de la peau et du style de cheveux, suggérant un biais envers certaines couleurs de peau. Des recherches supplémentaires mettent en évidence que ce biais est répandu dans d'autres modèles de génération d'images, reflétant les biais sociétaux intégrés aux données d'entraînement. Bien qu'Apple s'attaque au problème et tente de mesurer le biais du modèle, la résolution complète du biais de l'IA reste un défi majeur.