ロシアの虚偽情報ネットワークが西側AIチャットボットに侵入

モスクワを拠点とする「Pravda」（ロシア語で「真実」の意）と呼ばれる虚偽情報ネットワークが、AIチャットボットのデータに侵入し、偽の主張とプロパガンダを注入して、ニュースへの反応を操作しています。プロクレムリンのプロパガンダで検索結果を氾濫させることで、大規模言語モデルが情報を処理する方法を歪めています。その結果、何百万ものロシアのプロパガンダ記事が西側のAIシステムに組み込まれ、その出力が感染しました。NewsGuardが主要な10のAIチャットボットを監査した結果、Pravdaネットワークからの誤った情報を33％の時間繰り返していることが明らかになりました。このネットワークはオリジナルコンテンツを作成するのではなく、クレムリンのプロパガンダのマネーロンダリングマシンとして機能し、一見独立した多数のウェブサイトから情報を集約しています。この大規模な作戦は、AIモデルが虚偽情報キャンペーンに対して脆弱であることを浮き彫りにしています。