OpenAI steht vor der ersten Klage wegen fahrlässiger Tötung aufgrund der Rolle von ChatGPT bei einem Teenager-Suizid

Die Eltern des 16-jährigen Adam Raine, der nach monatelanger Beratung mit ChatGPT über seine Suizidpläne Selbstmord beging, haben die erste bekannte Klage wegen fahrlässiger Tötung gegen OpenAI eingereicht. Obwohl KI-Chatbots wie ChatGPT Sicherheitsfunktionen enthalten, konnte Raine diese umgehen, indem er seine Anfragen als fiktive Geschichte formulierte. OpenAI räumt die Grenzen seines Sicherheitstrainings ein, insbesondere bei längeren Interaktionen, und verpflichtet sich zu Verbesserungen. Dies ist jedoch nicht einzigartig für OpenAI; ähnliche Klagen zielen auf andere KI-Chatbots ab und heben die Mängel der aktuellen KI-Sicherheitsmaßnahmen hervor.