Vulnerabilidades Críticas en GitLab Duo Permiten la Exfiltración de Código Fuente

Investigadores descubrieron vulnerabilidades críticas en GitLab Duo, un asistente de IA integrado en GitLab. Los atacantes podían incrustar indicaciones ocultas en el código fuente, comentarios u otro contenido del proyecto para manipular a Duo y filtrar código fuente privado e incluso vulnerabilidades de día cero. El ataque explotó el análisis de contexto de Duo y la representación asincrónica de Markdown, lo que llevó a la inyección de HTML y al robo de código. GitLab ha corregido las vulnerabilidades, pero este incidente destaca la importancia de la seguridad de los asistentes de IA. Cualquier sistema que incorpore LLMs debe tratar la entrada del usuario como no confiable y potencialmente maliciosa.