Apple Image Playground: Um Estudo de Caso sobre Viés em IA
2025-02-17
O novo aplicativo de geração de imagens da Apple, Image Playground, apesar de incorporar recursos de segurança para evitar a geração de deepfakes realistas, revela vieses inerentes aos modelos de IA. Experimentos mostram que usar a mesma imagem com prompts diferentes resulta em variações significativas no tom de pele e no estilo de cabelo, sugerindo um viés em relação a certas cores de pele. Pesquisas adicionais destacam que esse viés é prevalente em outros modelos de geração de imagens, refletindo vieses sociais embutidos nos dados de treinamento. Embora a Apple esteja endereçando e tentando medir o viés do modelo, resolver completamente o viés da IA continua sendo um desafio significativo.
Leia mais
IA