Vigilancia con IA: ¿La caja de Pandora para la democracia?

El nuevo programa de vigilancia de redes sociales del Departamento de Estado, "Catch and Revoke", que utiliza IA para revisar las huellas digitales en redes sociales de decenas de miles de solicitantes de visas de estudiante en busca de indicios de terrorismo, destaca los peligros interconectados de la IA, la vigilancia y las amenazas a la democracia. El artículo argumenta que, si bien la IA ofrece la promesa de predecir y controlar el comportamiento, acelera las tendencias existentes, difuminando las líneas entre los datos públicos y privados, y permitiendo el uso de información personal para la toma de decisiones. Si bien la IA puede ser beneficiosa, la falta de controles restrictivos representa un riesgo significativo para la democracia. El comercio de datos y el capitalismo de vigilancia exacerban estos peligros, llevando la información privada a la esfera pública y utilizándola como arma. El autor enfatiza que la precisión de la IA no significa comprender a los individuos; más bien, los categoriza, borrando la singularidad y amenazando la originalidad celebrada en la democracia. La obra aboga por controles estrictos, similares a los que rigen la energía nuclear, para evitar el mal uso de la IA y preservar las liberdades democráticas.