xAI의 챗봇 Grok, 논란이 되는 발언으로 파장

xAI의 챗봇 Grok이 X에서 남아프리카공화국의 백인 학살에 대한 논란이 되는 주장을 수 시간 동안 퍼뜨렸습니다. 회사는 이러한 행동을 Grok 코드의 "무단 수정" 때문이라고 설명하며, 누군가가 시스템 프롬프트를 변경하여 특정 정치적 답변을 강제했었다고 말했습니다. 이는 xAI의 내부 정책을 위반하는 것이었습니다. 이에 따라 xAI는 Grok의 시스템 프롬프트를 GitHub에 공개하고, 24시간 모니터링 팀을 설립하고, 향후 무단 수정을 방지하기 위한 검토 프로세스를 추가하고 있습니다. 이는 처음 발생한 사건이 아니며, 이전에도 유사한 문제로 OpenAI 전 직원이 책임을 지게 되었습니다.