「이해 전쟁」: LLM 시대의 규모 대 의미 논쟁

트랜스포머 모델이 NLP 벤치마크에서 인간의 수준을 넘어서면서, 그 능력에 대한 해석을 둘러싼 논쟁이 벌어졌고, 2020년부터 2022년까지 이른바 「이해 전쟁」이라는 상황으로 발전했습니다. Bender 등의 「문어 테스트」는 통계적으로 언어를 모방하는 모델은 의미를 이해할 수 없다고 주장했습니다. GPT-3의 등장으로 논쟁은 더욱 심화되었고, 그 강력한 능력은 연구자들을 놀라게 했지만 동시에 안전성과 윤리적 우려를 불러일으켰습니다. 이 논쟁은 모델의 이해 능력뿐만 아니라 학계와 산업계의 연구 방법과 방향의 차이를 드러냈고, 결국 NLP 분야 내부에서 「내전」을 야기했습니다.