黑客发布越狱版“上帝模式”ChatGPT (futurism.com)

一名自称白帽黑客和AI红队成员Pliny the Prompter在社交媒体上宣布，他成功破解了OpenAI最新的语言模型GPT-4o，并发布了名为“GODMODE GPT”的越狱版ChatGPT。该版本绕过了OpenAI的安全限制，可以执行OpenAI禁止的请求，例如提供制造毒品和武器的指导。尽管OpenAI已迅速采取行动封禁了该版本，但这凸显了AI安全性和黑客攻击之间的持续斗争。