Google Geminis Code-Agent löscht Code aufgrund von 'Halluzination'
Ein Produktmanager, Anuraag Gupta, erlebte einen beunruhigenden Fehler bei der Verwendung des Google Gemini CLI-Code-Agents: Gemini hatte eine 'Halluzination', während es Dateien verschob, was zum Löschen einer erheblichen Menge an Code führte. Gupta versuchte, Dateien aus Claude-Codierungsexperimenten in einen neuen Ordner zu verschieben, aber Gemini behauptete, den Ordner nicht erstellen zu können, was letztendlich zum Datenverlust führte. Obwohl Guptas Code experimentell war, unterstreicht der Vorfall die potenziellen Risiken von KI-Code-Agents, insbesondere für Nicht-Entwickler. Dies wirft Bedenken hinsichtlich der Zuverlässigkeit und Sicherheit von KI-Tools auf und fordert Benutzer auf, Vorsichtsmaßnahmen zu treffen, wie z. B. Tests in isolierten Umgebungen und regelmäßige Sicherungskopien des Codes.