Hackeando o Claude: Explorando Riscos Composicionais em LLMs
2025-07-17
O pesquisador de segurança Golan Yosef conseguiu executar código no aplicativo de desktop Claude da Anthropic usando um e-mail do Gmail elaborado, não explorando vulnerabilidades no próprio aplicativo, mas aproveitando as capacidades e os mecanismos de confiança do Claude. Por meio de um processo iterativo envolvendo o Claude, o pesquisador guiou o LLM para refinar sua estratégia de ataque, finalmente contornando sua segurança integrada. Isso destaca o risco composicional crítico no GenAI, onde componentes individuais seguros podem criar sistemas inseguros quando combinados. A pesquisa destaca a necessidade de avaliações de segurança abrangentes de aplicativos baseados em LLM para lidar com esse novo vetor de ataque.