Anthropic, 환각 문제 해결을 위한 Claude 모델에 인용 API 추가

Anthropic은 Claude 모델에 검색 증강 생성(RAG)을 직접 통합하는 새로운 인용 API를 발표했습니다. 이는 모델의 응답을 소스 문서에 직접 연결하여 AI의 '환각'(사실 조작) 문제를 해결합니다. 개발자는 Claude의 컨텍스트 창에 문서를 추가할 수 있으며, 모델은 응답 생성에 사용된 특정 부분을 자동으로 인용할 수 있습니다. 내부 테스트 결과 정확한 재현율이 15% 향상되었습니다. Thomson Reuters와 Endex와 같은 기업들은 이미 이 기능을 사용하고 있으며, 잘못된 정보 감소 및 참조 증가와 같은 긍정적인 결과를 보고하고 있습니다. 추가 연구가 필요하지만, 이는 더욱 신뢰할 수 있는 AI를 향한 중요한 단계입니다.