IA agentive : la commodité au prix de la confidentialité ?

La présidente de Signal, Meredith Whittaker, a mis en garde lors du SXSW que le domaine croissant de l'IA agentive, bien qu'offrant une commodité, présente des risques importants pour la confidentialité. Les agents d'IA, conçus pour gérer des tâches telles que la réservation de billets et l'envoi de messages, nécessitent un accès au navigateur de l'utilisateur, aux informations de sa carte de crédit, à son calendrier et à ses applications de messagerie, leur accordant essentiellement des autorisations de niveau racine. Cela expose les données de l'utilisateur à des serveurs cloud, floutant les lignes entre les couches d'application et de système d'exploitation. Whittaker a soutenu que cette approche consistant à « mettre son cerveau dans un bocal » sape la sécurité et la confidentialité, menaçant même des applications axées sur la confidentialité comme Signal. Elle a exhorté l'industrie à traiter les dangers potentiels de l'IA agentive, mettant en garde contre le sacrifice de la confidentialité au nom de la commodité.