Cursor의 LLM 클라이언트 리버스 엔지니어링: AI 코딩 어시스턴트의 내부 작동 방식 살펴보기

이 글에서는 저자들이 오픈소스 프레임워크인 TensorZero를 사용하여 자체 호스팅 프록시를 구축하고 AI 코딩 어시스턴트인 Cursor의 LLM 클라이언트를 성공적으로 리버스 엔지니어링한 방법을 자세히 설명합니다. TensorZero를 통해 Cursor와 LLM 제공업체 간의 통신을 라우팅함으로써 Cursor가 사용하는 프롬프트와 모델을 관찰, 분석 및 최적화할 수 있었습니다. Cursor의 서버측 전처리 및 CORS 문제를 극복했습니다. 최종적으로 프롬프트와 응답을 포함한 Cursor의 LLM 상호 작용에 대한 완벽한 가시성을 확보하여 서로 다른 LLM 모델의 A/B 테스트를 수행할 수 있었습니다. 이 작업은 AI 코딩 어시스턴트의 이해 및 최적화에 대한 귀중한 통찰력을 제공하며 Cursor 내부의 LLM 계층 구조 가능성을 시사합니다.