Extensão do navegador Claude da Anthropic: um teste controlado para segurança de IA

A Anthropic está testando uma extensão do Chrome que permite que seu assistente de IA, Claude, interaja diretamente no navegador. Embora isso melhore muito a utilidade do Claude, ele introduz preocupações significativas de segurança, principalmente ataques de injeção de prompt. Experimentos de equipe vermelha revelaram uma taxa de sucesso de ataque de 23,6% sem mitigações. A Anthropic implementou várias salvaguardas, incluindo controles de permissão, confirmações de ação e classificadores avançados, reduzindo a taxa de sucesso para 11,2%. Atualmente, a extensão está em um programa piloto limitado com 1000 usuários do plano Max para coletar feedback do mundo real e melhorar a segurança antes do lançamento mais amplo.