LLM 비용 환상: 확장성이 고정 가격 구독 모델을 무너뜨린 방법

많은 AI 기업들은 LLM 비용이 매년 10배씩 감소한다는 추세에 베팅하여 초기 손실은 미래의 높은 마진으로 상쇄될 것이라고 가정했습니다. 하지만 현실은 다릅니다. 모델 비용은 감소하고 있지만 최고의 모델에 대한 사용자의 수요는 계속 증가하여 컴퓨팅 사용량의 폭발적인 증가로 이어집니다. ChatGPT와 같은 모델의 응답 길이가 극적으로 증가하여 토큰 소비가 기하급수적으로 증가하고 있습니다. 즉, 비용 절감에도 불구하고 총 지출은 예상치를 훨씬 초과합니다. 이 기사에서는 세 가지 대응 전략을 분석합니다. 첫날부터 사용 기반 가격 책정, 높은 마진을 얻기 위한 매우 높은 전환 비용 생성, 인프라에서 이익을 얻기 위한 수직적 통합입니다. 저자는 고정 가격 구독 모델을 고수하는 것은 궁극적으로 파산으로 이어질 것이라고 결론짓습니다.