AI 챗봇의 부정확한 URL: 범죄자에게 새로운 기회

Netcraft의 연구에 따르면 GPT-4.1과 같은 AI 챗봇은 대기업 웹사이트 주소를 제공할 때 자주 잘못된 정보를 제공하며, 정확도는 겨우 66%에 불과합니다. 이는 사이버 범죄자들에게 가짜 웹사이트를 만들어 피싱 공격을 할 수 있는 기회를 제공합니다. 연구원들은 사기꾼들이 AI가 생성한 결과를 이용하여 GitHub에 가짜 코드 저장소, 튜토리얼, 소셜 미디어 계정을 만들어 챗봇 결과에서 악의적인 사이트의 순위를 높이고, Solana 블록체인 API를 대상으로 한 것과 같은 공급망 공격을 가능하게 하고 있다는 것을 발견했습니다. 이는 특히 로그인 URL과 같은 민감한 데이터의 경우 AI 챗봇 정보에만 의존하는 위험을 강조하며, 신중한 검증이 필요함을 보여줍니다.