AppleのImage Playground：AIバイアスの事例研究

Appleの新しい画像生成アプリ、Image Playgroundは、リアルなディープフェイクの生成を防ぐための安全機能を備えているにもかかわらず、AIモデルに内在するバイアスを明らかにしています。実験では、同じ画像に異なるプロンプトを使用することで、肌の色や髪型に大きな違いが生じることが示され、特定の肌の色に対するバイアスを示唆しています。さらなる研究では、このバイアスが他の画像生成モデルにも広く存在しており、トレーニングデータに埋め込まれた社会的なバイアスを反映していることが強調されています。Appleは問題に取り組み、モデルのバイアスを測定しようとしていますが、AIバイアスを完全に解決することは依然として大きな課題です。