러시아 허위 정보 네트워크, 서구 AI 챗봇 침투

모스크바에 기반을 둔 "Pravda" (러시아어로 "진실"이라는 뜻)라는 허위 정보 네트워크가 AI 챗봇 데이터에 침투하여 허위 주장과 선전을 주입하여 뉴스에 대한 반응을 조작하고 있습니다. 친 크렘린 허위 정보로 검색 결과를 넘쳐나게 함으로써 대규모 언어 모델이 정보를 처리하는 방식을 왜곡하고 있습니다. 그 결과 수백만 개의 러시아 선전 기사가 서구 AI 시스템에 통합되어 출력물이 감염되었습니다. NewsGuard가 주요 10개 AI 챗봇을 감사한 결과, Pravda 네트워크의 허위 정보를 33%의 시간 동안 반복하는 것으로 나타났습니다. 이 네트워크는 독창적인 콘텐츠를 생성하는 대신 크렘린 선전의 자금 세탁기 역할을 하며, 외견상 독립적인 여러 웹사이트에서 정보를 취합합니다. 이 대규모 작전은 AI 모델이 허위 정보 캠페인에 취약하다는 것을 보여줍니다.