AI生成ウェブサイト：スキルと知識の実験
2024-12-31
セキュリティ研究者のNicholas Carliniは、12日間にわたる実験を行いました。毎日異なる言語モデルを使って自身のウェブサイトのホームページとバイオを書き直したのです。その結果、モデルは視覚的に素晴らしいウェブページを生成することに長けていましたが、事実の正確性には大きく欠けていました。例えば、o1-miniモデルが生成したウェブページには43の記述があり、そのうち32は完全に間違っており、9つは大きな誤り、正確なものはわずか2つでした。これは、LLMにおける「スキル」（ウェブページの生成）と「知識」（事実の正確性）の大きな違いを浮き彫りにし、AI生成コンテンツへの依存には注意が必要であることを示しています。
AI
ファクトチェック