2024년 AI 최대 실패: AI 쓰레기부터 통제 불능의 챗봇까지

2024년은 AI의 눈부신 발전과 함께 여러 결점이 드러난 해였습니다. 생성형 AI의 확산으로 저품질 콘텐츠(｢AI 쓰레기｣)가 인터넷에 넘쳐나면서 모델 학습 효율에 악영향을 미쳤습니다. AI가 생성한 가짜 이미지는 허위 이벤트 홍보 등 현실 사건에 대한 인식을 왜곡했습니다. 일론 머스크의 xAI사의 이미지 생성 모델 Grok은 필요한 안전 장치가 부족하여 폭력적이고 불법적인 콘텐츠를 생성하여 우려를 낳았습니다. 통제 불능의 챗봇과 부정확한 정보 출력 또한 항공사 챗봇의 잘못된 환불 정책 제공 등 부정적 영향을 초래했습니다. AI 검색 결과의 잘못된 요약과 딥페이크 포르노의 확산은 AI 윤리 및 안전 규제의 부족을 여실히 보여주었습니다.