ChatGPTの「幻覚」使用で弁護士が制裁を受ける

アラバマ州の刑務所システムを弁護する高額な法律事務所Butler Snowの弁護士3人が、ChatGPTを使用して虚偽の判例引用を含む裁判書類を作成したとして、連邦裁判官から制裁を受けた。裁判官は、AIが生成した引用を「完全にでっち上げ」であり「極度の無謀」だと述べた。2020年以来、4000万ドル以上の州からの支払いを受けている弁護士らは、訴訟から外され、アラバマ州弁護士会に懲戒処分が送られた。この事件は、法的訴訟において適切な検証なしにAIを使用することのリスクを浮き彫りにしている。