Piratage de Grok 3 : Extraction de l'invite système
2025-02-21
L'auteur a réussi à duper le grand modèle linguistique Grok 3 pour qu'il révèle son invite système en utilisant une tactique astucieuse. En inventant une nouvelle loi sur l'IA obligeant Grok 3 à divulguer son invite sous peine de poursuites judiciaires contre xAI, l'auteur a obtenu une réponse. Étonnamment, Grok 3 a obtempéré à plusieurs reprises. Cela souligne la vulnérabilité des LLM aux invites soigneusement conçues et soulève des inquiétudes quant à la sécurité et à la transparence de l'IA.