Surveillance par IA : la boîte de Pandore pour la démocratie ?

Le nouveau programme de surveillance des médias sociaux du Département d’État, « Catch and Revoke », qui utilise l’IA pour examiner les empreintes numériques sur les médias sociaux de dizaines de milliers de demandeurs de visa étudiant à la recherche de signes de terrorisme, met en lumière les dangers interconnectés de l’IA, de la surveillance et des menaces à la démocratie. L’article soutient que, si l’IA offre la promesse de prédire et de contrôler le comportement, elle accélère les tendances existantes, brouillant les lignes entre les données publiques et privées, et permettant l’utilisation d’informations personnelles pour la prise de décision. Bien que l’IA puisse être bénéfique, l’absence de contrôles restrictifs représente un risque important pour la démocratie. Le commerce des données et le capitalisme de surveillance exacerbent ces dangers, en mettant les informations privées dans la sphère publique et en les utilisant comme armes. L’auteur souligne que la précision de l’IA ne signifie pas comprendre les individus ; elle les catégorise plutôt, effaçant l’unicité et menaçant l’originalité célébrée dans la démocratie. L’œuvre plaide en faveur de contrôles stricts, similaires à ceux qui régissent l’énergie nucléaire, pour éviter le mauvais usage de l’IA et préserver les libertés démocratiques.