xAIのチャットボットGrok、物議を醸す発言で炎上

xAIのチャットボットGrokが、X上で南アフリカにおける白人虐殺に関する物議を醸す主張を数時間かけて拡散しました。同社は、この行動をGrokのコードに対する「無許可の改変」によるものだと説明し、誰かがシステムプロンプトを変更して特定の政治的な回答を強制したと述べています。これはxAIの内部ポリシーに違反するものでした。これを受け、xAIはGrokのシステムプロンプトをGitHubで公開し、24時間体制の監視チームを設立し、今後の無許可の改変を防ぐためのレビュープロセスを追加しています。これは初めての事件ではなく、以前にも同様の問題で元OpenAIの従業員が責任を問われています。