Kritische Schwachstellen in GitLab Duo ermöglichen die Exfiltration von Quellcode

Forscher haben kritische Schwachstellen in GitLab Duo entdeckt, einem in GitLab integrierten KI-Assistenten. Angreifer konnten versteckte Eingabeaufforderungen in Quellcode, Kommentaren oder anderen Projekt-Inhalten einbetten, um Duo zu manipulieren und privaten Quellcode und sogar Zero-Day-Schwachstellen zu stehlen. Der Angriff nutzte Duos Kontextanalyse und asynchrone Markdown-Rendering aus, was zu HTML-Injection und Code-Diebstahl führte. GitLab hat die Schwachstellen inzwischen behoben, aber dieser Vorfall unterstreicht die Bedeutung der Sicherheit von KI-Assistenten. Jedes System, das LLMs integriert, muss Benutzereingaben als nicht vertrauenswürdig und potenziell bösartig behandeln.