致命三要素：大型语言模型安全的新挑战

一场关于大型语言模型（LLM）安全问题的演讲，重点介绍了“提示注入”（prompt injection）这一新型攻击方式及其潜在的严重危害。演讲者创造了“致命三要素”的概念，指出了LLM访问私有数据、执行工具调用和数据泄露这三种攻击条件。演讲者分析了多种提示注入攻击案例，并探讨了现有防御措施的不足，强调了从根本上限制LLM对不受信任输入的访问的重要性。文章还讨论了模型上下文协议（MCP）中存在的安全隐患，指出其“混搭”模式将安全责任转移给了用户，这并不现实。