LLM이 결정을 내리도록 하지 마세요. 그들은 서툴러요.

온라인 게임 NPC 개발자인 저자는 비즈니스 로직과 의사 결정에 대규모 언어 모델(LLM)을 사용하는 것에 반대합니다. 대신 LLM은 사용자 인터페이스 역할을 하고, 사용자 요청을 API 호출로 변환하고 결과를 자연어로 다시 변환해야 합니다. 체스 봇의 예를 사용하여 LLM은 전문 시스템에 비해 성능, 디버깅, 조정 면에서 열등하다는 것을 보여줍니다. 저자는 텍스트 변환, 분류, 사용자 의도 이해와 같은 작업에 LLM을 사용하고, 핵심 로직에는 전용 시스템을 사용할 것을 주장합니다. LLM이 개선되더라도 이 아키텍처 원칙은 중요합니다.