Apple Image Playground: Un Estudio de Caso sobre Sesgo en IA
La nueva aplicación de generación de imágenes de Apple, Image Playground, a pesar de incorporar funciones de seguridad para evitar la generación de deepfakes realistas, revela sesgos inherentes a los modelos de IA. Experimentos muestran que usar la misma imagen con diferentes indicaciones resulta en variaciones significativas en el tono de piel y el estilo de cabello, sugiriendo un sesgo hacia ciertos tonos de piel. Investigaciones adicionales destacan que este sesgo es prevalente en otros modelos de generación de imágenes, reflejando sesgos sociales incrustados en los datos de entrenamiento. Si bien Apple está abordando e intentando medir el sesgo del modelo, resolver completamente el sesgo de la IA sigue siendo un desafío significativo.
Leer más