KI-Überwachung in Schulen: Ein schmaler Grat zwischen Datenschutz und Sicherheit
Zahlreiche US-amerikanische Schulen setzen KI-gestützte Überwachungssoftware ein, um die Online-Aktivitäten von Schülern zu überwachen und so Schulgewalt und Suizide zu verhindern. Dies wirft jedoch ernste Datenschutzbedenken auf. Nicht geschwärzte Schülerdaten, die von Nachrichtenagenturen erlangt wurden, zeigen, dass die Software nicht nur potenzielle Gefahren, sondern auch umfangreiche sensible persönliche Informationen erfasst, darunter Depressionen, Liebeskummer, familiäre Probleme und sogar das Outing von LGBTQ+-Schülern. Obwohl die Software Schulen bei der Intervention in Krisen unterstützt, führen die hohe Fehlalarmrate, Datenschutzverletzungen und die ungewisse Langzeitwirkung zu ethischen Debatten über den Datenschutz, die Sicherheit und die psychische Gesundheit von Schülern.