Anwälte wegen Verwendung von ChatGPT-„Halluzinationen“ in Gerichtsakten sanktioniert

Drei Anwälte der Kanzlei Butler Snow, die das Gefängnissystem von Alabama verteidigt, wurden von einer Bundesrichterin wegen der Verwendung von ChatGPT zur Erstellung von Gerichtsakten mit erfundenen Fallzitaten sanktioniert. Die Richterin bezeichnete die von der KI generierten Zitate als „völlig erfunden“ und „äußerste Fahrlässigkeit“. Die Anwälte, die seit 2020 über 40 Millionen Dollar an staatlichen Zahlungen erhalten haben, wurden aus dem Fall entfernt, und die Angelegenheit wurde an die Alabama State Bar zur möglichen Disziplinarmaßnahme verwiesen. Dieser Vorfall unterstreicht die Risiken der Verwendung von KI ohne angemessene Überprüfung in Gerichtsverfahren.