AGI 병목 현상: 엔지니어링, 모델이 아니다

대규모 언어 모델의 급속한 발전은 병목 현상에 도달한 것으로 보인다. 모델의 규모를 확장하는 것만으로는 더 이상 큰 개선을 얻을 수 없다. 인공 일반 지능(AGI)으로 가는 길은 더 큰 언어 모델을 훈련하는 것이 아니라 모델, 메모리, 컨텍스트, 결정론적 워크플로우를 통합한 엔지니어링 시스템을 구축하는 것이다. 저자는 AGI는 모델 훈련 문제가 아니라 엔지니어링 문제이며, 컨텍스트 관리, 메모리 서비스, 결정론적 워크플로우, 그리고 전문적인 모델을 모듈식 구성 요소로 구축해야 한다고 주장한다. 최종 목표는 이러한 구성 요소의 시너지 효과를 통해 진정한 AGI를 달성하는 것이다.