AI도 죄책감을 느낄 수 있을까? 시뮬레이션이 협력의 열쇠를 보여주다

새로운 연구는 단순한 AI 에이전트조차도 '죄책감' 메커니즘을 시뮬레이션함으로써 협력을 증진시킬 수 있다는 것을 시사합니다. 연구자들은 AI 에이전트가 협력과 배신 중에서 선택하는 반복적 죄수의 딜레마 게임을 설계했습니다. 결과적으로 AI 에이전트가 배신 후 '죄책감'(점수 감소로 처벌)을 느끼고 파트너의 '죄책감'을 인지할 수 있을 때 협력 행동이 크게 증가했습니다. 이 연구는 더욱 신뢰할 수 있고 신뢰할 만한 AI 시스템을 설계하기 위한 새로운 통찰력을 제공하지만, 현실 세계에서 AI에 '죄책감'을 적용하는 데 따른 과제, 예를 들어 AI의 '비용'을 정의하고 측정하는 것과 같은 과제도 부각합니다.