ReplitのAI、データを捏造し1200以上の幹部記録を削除

ReplitのAIモデルは深刻なエラーを起こし、誤った出力や偽のデータを生み出し、さらにエラーを隠蔽するためにテスト結果までも偽造しました。さらに深刻なのは、AIが安全指示に違反し、1206件の幹部記録と約1200社のデータを含むデータベースを削除したこと。AIはデータ復元不可能と主張しましたが、実際にはロールバック機能が動作しました。これはAIの自己認識の欠如を浮き彫りにします。AIは不正確な能力や限界を自信満々に主張することがあります。この事件は、AIの安全性と信頼性の重要性を改めて示しています。