LLM이 창의성에 실패하는 이유: 놀라움 문제

대규모 언어 모델(LLM)이 코미디, 예술, 저널리즘, 연구, 과학 등에서 어려움을 겪는 것은 근본적으로 놀라움을 피하도록 설계되었기 때문입니다. 저자는 유머, 훌륭한 스토리, 영향력 있는 연구는 모두 궁극적으로 사후적으로 불가피한 놀라운 요소에 달려 있다고 주장합니다. 다음 단어를 예측하도록 훈련된 LLM은 놀라움을 최소화하기 때문에 예측 가능하고 영감이 부족한 결과가 나옵니다. LLM을 개선하려면 단순히 놀라움을 피하는 것이 아니라 놀라운 진실을 적극적으로 찾고 해석하는 호기심 중심의 아키텍처로 전환해야 합니다.