GenAI의 추론 결함이 가짜뉴스 확산을 부추겨

연구에 따르면 현재 생성형 AI 모델은 추론 능력이 부족하여 조작되기 쉽고 가짜뉴스를 확산하는 도구가 될 수 있다는 사실이 밝혀졌습니다. 예를 들어, 프라우다 네트워크와 같은 정보 출처가 신뢰할 수 없다는 것을 인식하고 있더라도 그 내용을 반복하는 경우가 있습니다. 이는 실시간 검색 모드에서 특히 두드러지며, 모델은 신뢰할 수 없는 정보 출처의 정보를 쉽게 인용하고 알려진 사실과 모순되는 경우도 있습니다. 연구자들은 이 문제를 해결하려면 AI 모델에 신뢰할 수 있는 정보 출처와 신뢰할 수 없는 정보 출처를 구분하고 사실 확인을 수행하는 더 강력한 추론 능력을 부여해야 한다고 주장합니다.