Vulnerabilidades Críticas no GitLab Duo Permitem Exfiltração de Código-Fonte

Pesquisadores descobriram vulnerabilidades críticas no GitLab Duo, um assistente de IA integrado ao GitLab. Ataques podem incorporar prompts ocultos em código-fonte, comentários ou outros conteúdos do projeto para manipular o Duo a vazar código-fonte privado e até mesmo vulnerabilidades de dia zero. O ataque explorou a análise de contexto do Duo e a renderização assíncrona de Markdown, levando à injeção de HTML e roubo de código. O GitLab corrigiu as vulnerabilidades, mas este incidente destaca a importância da segurança dos assistentes de IA. Qualquer sistema que incorpore LLMs deve tratar a entrada do usuário como não confiável e potencialmente maliciosa.