Russisches Desinformationsnetzwerk infiltriert westliche KI-Chatbots

Ein in Moskau ansässiges Desinformationsnetzwerk namens "Pravda" (russisch für "Wahrheit") infiltriert die Daten von KI-Chatbots, schleust falsche Behauptungen und Propaganda ein, um deren Antworten auf Nachrichten zu manipulieren. Indem es die Suchergebnisse mit pro-kremlischen Falschinformationen überschwemmt, verzerrt das Netzwerk, wie große Sprachmodelle Informationen verarbeiten. Dies führte dazu, dass Millionen von Artikeln russischer Propaganda in westliche KI-Systeme integriert wurden und deren Ausgaben infizierten. Ein Audit von NewsGuard an 10 führenden KI-Chatbots ergab, dass sie falsche Erzählungen des Pravda-Netzwerks zu 33 % der Zeit wiederholten. Das Netzwerk erstellt keine Originalinhalte, sondern fungiert als Geldwäscherei für Kreml-Propaganda und aggregiert sie auf zahlreichen scheinbar unabhängigen Websites. Diese groß angelegte Operation unterstreicht die Anfälligkeit von KI-Modellen für Desinformationskampagnen.