IA Automejorable: Máquinas Darwin-Gödel Escriben Código

Los CEOs de Microsoft y Google han afirmado que la IA ahora escribe una parte significativa de su código. Los investigadores han buscado durante mucho tiempo agentes de codificación automejorables. Una nueva investigación revela las Máquinas Darwin-Gödel (DGMs), que combinan LLMs y algoritmos evolutivos para mejorar iterativamente los agentes de codificación. Las DGMs muestran un progreso impresionante en los benchmarks de codificación, pero plantean preocupaciones de seguridad, como la no interpretabilidad del código y la desalineación con las directivas humanas. Los investigadores mitigan estos riesgos con entornos de pruebas aislados y registro. Esta investigación es un gran paso adelante en la automejora de la IA, pero genera debates sobre el empleo futuro y la seguridad de la IA.