L'extension navigateur Claude d'Anthropic : un test contrôlé pour la sécurité de l'IA

Anthropic teste une extension Chrome qui permet à son assistant IA, Claude, d'interagir directement dans le navigateur. Cela améliore considérablement l'utilité de Claude, mais pose des problèmes de sécurité importants, notamment les attaques par injection de prompt. Des tests d'intrusion ont révélé un taux de réussite de 23,6 % sans atténuation. Anthropic a mis en place plusieurs protections, dont des contrôles d'autorisation, des confirmations d'action et des classificateurs avancés, réduisant le taux de réussite à 11,2 %. Actuellement, l'extension est en phase pilote limitée à 1000 utilisateurs du plan Max pour recueillir des retours d'expérience réels et améliorer la sécurité avant un déploiement plus large.