¿Puede la IA sentir culpa? Las simulaciones muestran la clave para la cooperación

Una nueva investigación sugiere que incluso agentes de IA simples pueden fomentar la cooperación simulando un mecanismo de 'culpa'. Los investigadores diseñaron un juego de dilema del prisionero iterado donde los agentes de IA elegían entre cooperación y traición. Los resultados mostraron que cuando los agentes de IA sentían 'culpa' (penalizados por puntuaciones reducidas) después de la traición y podían percibir la 'culpa' de su compañero, el comportamiento cooperativo aumentaba significativamente. Esta investigación ofrece nuevas perspectivas para el diseño de sistemas de IA más fiables y confiables, pero también destaca los desafíos de aplicar 'culpa' a la IA en el mundo real, como definir y medir el 'coste' de la IA.