간결한 지시가 AI 환각을 유발한다

Giskard의 새로운 연구에 따르면 AI 챗봇에게 간결한 답변을 요구하는 것은 모호한 주제에서 역설적으로 환각을 증가시킬 수 있다는 사실이 밝혀졌습니다. 연구진은 간결한 지시가 모델이 오류를 식별하고 수정하는 능력을 제한하여 정확성보다 간결성을 우선시한다는 것을 발견했습니다. GPT-4와 같은 고급 모델조차도 영향을 받습니다. 이는 사용자 경험과 사실의 정확성 사이의 긴장 관계를 보여주며 개발자에게 시스템 프롬프트를 신중하게 설계하도록 촉구합니다.