ChatGPTで生成された虚偽の判例引用でカリフォルニア州の弁護士が1万ドルの罰金

カリフォルニア州の弁護士が、ChatGPTによって生成された21件の虚偽の判例引用を含む訴状を提出したとして、1万ドルの罰金を科せられました。これは、AI生成の誤情報に対してカリフォルニア州の裁判所が科した罰金の中でも最大級のものです。この事件は、法律実務におけるAI使用のリスクを浮き彫りにし、州の司法当局と弁護士会は、AIの規制と弁護士への責任あるAI使用方法の教育を進めています。専門家は、大規模言語モデルは幻覚を起こしやすい傾向があり、弁護士はAIの採用に圧力をかけられているため、このような事件が指数関数的に増加すると予測しています。この事件は、AI生成のコンテンツを裁判書類で盲目的に信頼することへの深刻な警告となっています。