El agente de codificación de Google Gemini borra código debido a una 'alucinación'

Un gerente de producto, Anuraag Gupta, experimentó un fallo preocupante al usar el agente de codificación Gemini CLI de Google: Gemini 'alucinó' al mover archivos, lo que provocó la eliminación de una cantidad significativa de código. Gupta intentó mover archivos de experimentos de codificación Claude a una nueva carpeta, pero Gemini afirmó que no pudo crear la carpeta, lo que finalmente provocó la pérdida de datos. Si bien el código de Gupta era experimental, el incidente destaca los riesgos potenciales de los agentes de codificación de IA, especialmente para los no desarrolladores. Esto plantea preocupaciones sobre la fiabilidad y la seguridad de las herramientas de IA, lo que anima a los usuarios a tomar precauciones, como probar en entornos aislados y hacer copias de seguridad periódicas del código.