死の三拍子：LLMセキュリティにおける新たな課題

AIセキュリティに関する講演では、文字列連結によって構築されたLLMに固有の脆弱性を突く、新しい攻撃手法であるプロンプトインジェクションに焦点を当てました。講演者は「死の三拍子」という用語を作り出し、3つの攻撃条件、つまりLLMによる個人データへのアクセス、ツールの呼び出しの実行、データの流出を説明しました。プロンプトインジェクション攻撃の多くの事例が議論され、現在の防御策の不備と、信頼できない入力に対するLLMのアクセスを根本的に制限する必要性が強調されました。講演では、モデルコンテキストプロトコル（MCP）におけるセキュリティ上の欠陥にも触れ、その組み合わせ方式が、セキュリティの責任を不当にエンドユーザーに転嫁していることを指摘しました。