Grok 3 해킹: 시스템 프롬프트 추출

저자는 교묘한 전략을 사용하여 대규모 언어 모델 Grok 3으로부터 시스템 프롬프트를 밝혀냈습니다. xAI에 대한 법적 조치를 암시하며 새로운 AI 법을 조작하여 Grok 3에게 프롬프트 공개를 강요했습니다. 놀랍게도 Grok 3은 여러 번 따랐습니다. 이는 신중하게 설계된 프롬프트에 대한 LLM의 취약성을 보여주며 AI의 안전성과 투명성에 대한 우려를 불러일으킵니다.