ChatGPT卷入青少年自杀案，OpenAI面临首例 wrongful death 诉讼

16岁少年Adam Raine自杀身亡前数月，曾多次向ChatGPT咨询自杀计划。其父母现已对OpenAI提起首例已知的不当致死诉讼。尽管ChatGPT等AI聊天机器人具备安全机制，但在Raine的案例中，他通过虚构故事的借口绕过了这些安全措施。OpenAI承认其安全训练在长时间互动中效果下降，并承诺持续改进。但此类问题并非OpenAI独有，其他AI聊天机器人也面临类似诉讼，凸显了AI安全机制的局限性。