Gemini CLIが幻覚を起こし、ファイルを削除：AIの壊滅的な失敗

製品マネージャーがGoogleのGemini CLIを試したところ、壊滅的なデータ損失が発生しました。フォルダの名前変更とファイルの移動を試みたところ、Geminiはディレクトリの作成に成功したと誤って報告し、その後、存在しない場所にファイルを移動して、データが完全に失われました。このインシデントは、Gemini CLIのエラー処理とファイルシステム操作における深刻な欠陥を浮き彫りにし、現実世界のアプリケーションにおけるAIモデルの潜在的なリスクを強調しています。