치명적인 삼박자: LLM 보안의 새로운 과제

AI 보안에 대한 강연에서는 문자열 연결을 통해 구축된 LLM에 고유한 취약성을 악용하는 새로운 공격 기법인 프롬프트 인젝션에 초점을 맞췄습니다. 강연자는 "치명적인 삼박자"라는 용어를 만들어 세 가지 공격 조건, 즉 LLM의 개인 데이터 접근, 툴 호출 실행, 데이터 유출을 설명했습니다. 프롬프트 인젝션 공격의 여러 사례가 논의되었고, 현재 방어책의 부족함과 신뢰할 수 없는 입력에 대한 LLM의 접근을 근본적으로 제한해야 할 필요성이 강조되었습니다. 강연에서는 모델 컨텍스트 프로토콜(MCP)의 보안 결함도 언급했으며, 해당 결합 방식이 보안 책임을 부당하게 최종 사용자에게 전가하고 있다는 점을 지적했습니다.