Vigilancia con IA en las escuelas: una broma de una niña de 13 años lleva a un arresto, generando debate
El arresto de una niña de 13 años por una broma en línea destaca el uso controvertido de software de vigilancia con IA en las escuelas. El software, diseñado para detectar amenazas, calificó un comentario inofensivo como una amenaza violenta, lo que llevó a un interrogatorio, un registro corporal y el encarcelamiento. Si bien los educadores afirman que la tecnología salva vidas, los críticos argumentan que criminaliza las palabras descuidadas y afecta desproporcionadamente a los adolescentes. Las altas tasas de falsas alarmas y numerosas demandas judiciales ponen de manifiesto los dilemas éticos del uso de la IA en las escuelas, planteando preguntas sobre cómo equilibrar la seguridad con los derechos y el bienestar de los alumnos.