LLM 기반 고객 지원 에이전트에서의 자율성과 신뢰성 균형
2025-04-11
대규모 언어 모델(LLM)은 고도의 자율성을 가진 작업을 수행할 수 있도록 발전하고 있지만, 고객 지원과 같은 고부가가치 사용 사례에 배포하려면 신뢰성과 일관성을 우선시해야 합니다. 연구에 따르면 고도의 자율성을 가진 에이전트는 이상적인 환경에서는 탁월하지만, 현실 세계의 고객 지원에는 지식 격차, 예측 불가능한 사용자 행동, 시간 제약과 같은 과제가 있습니다. 이를 해결하기 위해 새로운 지표인 pass^k가 개발되었고, 시뮬레이션된 고객 상호 작용을 통해 테스트되었습니다. 그 결과 고도의 자율성을 가진 에이전트는 복잡한 작업에서 신뢰성 문제를 겪는 것으로 나타났습니다. 해결책은? “Give Fin a Task” 에이전트입니다. 이는 에이전트의 자율성을 제한하고 단계별 지침을 사용하여 신뢰성을 향상시키고 복잡한 작업을 더 간단한 모듈로 분해합니다. 이러한 접근 방식은 실제 고객 지원 시나리오에서 LLM의 성능을 향상시키는 유망한 방법입니다.
더 보기
(fin.ai)
AI