LLM: 우연히 만들어진 환상?

저자의 광범위한 연구 결과, 대규모 언어 모델(LLM)의 인식된 '지능'은 교묘하게 만들어낸 환상이며, 점쟁이의 콜드 리딩 기법과 유사하다는 것이 밝혀졌습니다. LLM은 포러 효과와 같은 인간의 인지 편향을 이용하여 개인적인 것처럼 보이지만 통계적으로는 일반적인 응답을 생성하여 지능의 환상을 만들어냅니다. 저자는 이것이 의도적인 것이 아니라 오히려 심리적 인지 편향에 대한 AI의 이해 부족으로 인해 발생한 의도하지 않은 결과라고 주장합니다. 이로 인해 많은 사람들이 LLM이 진정한 지능을 가지고 있다고 잘못 생각하게 되었고, 많은 의심스러운 시나리오에서 LLM이 사용되게 되었습니다.