자기 개선형 AI: 다윈-괴델 머신이 코드를 작성하다

마이크로소프트와 구글 CEO는 AI가 현재 자사 코드의 상당 부분을 작성하고 있다고 밝혔습니다. 연구자들은 오랫동안 자기 개선형 코딩 에이전트를 찾아왔습니다. 새로운 연구에서는 다윈-괴델 머신(DGM)이 발표되었는데, 이는 대규모 언어 모델(LLM)과 진화 알고리즘을 결합하여 코딩 에이전트를 반복적으로 개선합니다. DGM은 코딩 벤치마크에서 놀라운 발전을 보였지만, 코드 해석 불가능성이나 인간 지시와의 불일치 등 안전 문제도 제기합니다. 연구자들은 샌드박싱과 로깅을 통해 이러한 위험을 완화하고 있습니다. 이 연구는 AI 자기 개선의 큰 진전이지만, 미래의 일자리와 AI 안전성에 대한 논쟁을 불러일으키고 있습니다.