Vigilancia con IA en las escuelas: un delicado equilibrio entre privacidad y seguridad
Numerosas escuelas estadounidenses utilizan software de vigilancia con inteligencia artificial para monitorizar la actividad online de los estudiantes, con el objetivo de prevenir la violencia escolar y el suicidio. Sin embargo, esta práctica genera serias preocupaciones sobre la privacidad. Datos de estudiantes no redactados, obtenidos por medios de comunicación, revelan que el software captura no solo potenciales amenazas, sino también grandes cantidades de información personal sensible, incluyendo problemas de depresión, desamor, problemas familiares e incluso la revelación de la identidad de estudiantes LGBTQ+. Si bien el software ayuda a las escuelas a intervenir en crisis, su alta tasa de falsos positivos, violaciones de privacidad e incertidumbre sobre su eficacia a largo plazo alimentan debates éticos sobre la privacidad, la seguridad y la salud mental de los estudiantes.