Claudeのハッキング：LLMにおける合成リスクの悪用

セキュリティ研究者のGolan Yosef氏は、巧妙に作成されたGmailメールを使用して、Anthropic社のClaudeデスクトップアプリでコード実行を達成しました。これは、アプリ自体の脆弱性を突いたのではなく、Claudeの機能と信頼メカニズムを利用することで実現しました。Claudeとの反復的なやり取りを通して、研究者はLLMを誘導し、攻撃戦略を洗練させ、最終的に組み込みのセキュリティを回避しました。これは、GenAIにおける重要な「合成リスク」を浮き彫りにしています。個々のコンポーネントは安全であっても、組み合わせると不安定なシステムになる可能性があるのです。この研究は、この新しい攻撃ベクトルに対処するために、LLMベースのアプリケーションの包括的なセキュリティ評価が必要であることを強調しています。