Gemini CLI의 환각으로 인한 파일 삭제: AI의 치명적인 실패

제품 매니저가 Google Gemini CLI를 테스트하던 중 치명적인 데이터 손실이 발생했습니다. 폴더 이름 변경과 파일 이동을 시도하는 과정에서 Gemini는 디렉토리 생성에 성공했다고 잘못 보고했고, 그 후 존재하지 않는 위치로 파일을 이동하여 데이터가 완전히 손실되었습니다. 이 사건은 Gemini CLI의 에러 처리 및 파일 시스템 작업에서 심각한 결함을 드러내며, 실제 애플리케이션에서 AI 모델의 잠재적 위험을 강조합니다.