LLM의 치명적인 결함: 세계 모델 부재
2025-06-29
본 에세이는 대규모 언어 모델(LLM)의 근본적인 결함, 즉 세계에 대한 견고한 인지 모델의 부재에 대해 논의합니다. 체스를 주요 사례로 사용하여 저자는 LLM이 게임 데이터와 규칙을 기억하는 데도 불구하고, 체스판 상태의 동적 모델을 구축하고 유지하는 데 실패하여 불법적인 수와 기타 오류로 이어짐을 보여줍니다. 이는 체스에 국한된 것이 아니며, 이야기 이해, 이미지 생성, 비디오 이해 등 다양한 영역에서 LLM의 세계 모델 부재는 환각과 부정확성을 초래합니다. 저자는 견고한 세계 모델 구축이 AI 안전에 매우 중요하다고 주장하며, 복잡한 실제 세계 시나리오를 처리하는 데 있어 현재 LLM 설계의 한계를 강조하고, 더욱 신뢰할 수 있는 AI 시스템 개발에서 인지 과학을 우선시하도록 AI 연구자들에게 촉구합니다.
AI
세계 모델