똑똑한 상태 머신으로 Flash of Incomplete Markdown (FOIM) 문제 해결

Streak팀은 인용문이 포함된 Markdown 콘텐츠를 생성하기 위해 OpenAI의 스트리밍 API를 사용하는 과정에서 'Flash of Incomplete Markdown (FOIM)' 문제를 겪었습니다. 불완전한 링크와 AI 환각으로 인한 잘못된 URL이 제품에 악영향을 미쳤습니다. 이를 해결하기 위해 서버 측에 상태 머신을 구현하여 Markdown 링크가 완성될 때까지 버퍼링한 후 클라이언트에 전송하도록 했습니다. 이를 통해 FOIM 문제가 해결되었을 뿐만 아니라 OpenAI 토큰 사용량 감소, 응답 속도 향상, 개인 정보 보호 강화라는 세 마리 토끼를 잡았습니다.