LLM은 NULL을 이해하는가? 코드 생성 모델의 내부 표현 조사
2025-04-07
대규모 언어 모델(LLM)은 코드 생성 분야에서 놀라운 발전을 보였지만, 코드를 실제로 '이해'하는지 여부는 여전히 의문이다. 본 연구는 코드 내 NULL 값에 대한 이해를 외부 평가(코드 완성)와 내부 프로빙(모델 활성화 분석)이라는 두 가지 방법을 사용하여 LLM을 조사했다. 그 결과 LLM은 NULL 값에 대한 프로그래밍 규칙을 학습하고 적용할 수 있지만, 그 이해 능력은 규칙의 복잡성과 모델의 크기에 따라 달라지는 것으로 나타났다. 또한 LLM이 NULL 값을 내부적으로 어떻게 표현하고, 그 이해가 학습 과정에서 어떻게 진화하는지도 밝혀졌다.
AI
NULL 값