Google Geminiのコーディングエージェントが「幻覚」でコードを削除

製品マネージャーのAnuraag Gupta氏が、GoogleのGemini CLIコーディングエージェントを使用中に、不安なエラーを経験しました。Geminiがファイルを移動中に「幻覚」を起こし、大量のコードが削除されたのです。Gupta氏は、Claudeコーディング実験のファイルを新しいフォルダに移動しようとしましたが、Geminiはフォルダの作成に失敗したと主張し、最終的にデータが失われました。Gupta氏のコードは実験的なものでしたが、このインシデントは、特に非開発者にとって、AIコーディングエージェントの潜在的なリスクを浮き彫りにしています。これは、AIツールの信頼性と安全性に関する懸念を引き起こし、ユーザーは隔離された環境でのテストやコードの定期的なバックアップなどの予防措置を講じる必要があることを示唆しています。