学校监控软件的黑暗面：玩笑成罪，AI 算法的滥用
2025-08-07
一个13岁女孩因在网上与同学开玩笑说“周四杀了所有墨西哥人”而被捕，引发了对学校监控软件滥用的担忧。该软件使用AI算法检测潜在威胁，但缺乏语境理解，将无害玩笑误判为暴力威胁。类似事件频发，批评者指出，此类技术将学生日常言行犯罪化，对青少年心理健康造成严重影响。尽管学校称此技术挽救了生命，但数据显示误报率极高，引发学生和家长强烈不满，诉讼不断。事件凸显了AI技术在教育领域的伦理困境：如何在保障安全的同时，避免对学生自由和权利的过度侵犯？
科技
青少年权益