IA Auto-Aprimoradora: Máquinas Darwin-Gödel Escrevem Código

Os CEOs da Microsoft e do Google afirmaram que a IA agora escreve uma parte significativa de seu código. Pesquisadores há muito buscam agentes de codificação auto-aperfeiçoadores. Uma nova pesquisa revela as Máquinas Darwin-Gödel (DGMs), combinando LLMs e algoritmos evolutivos para aprimorar iterativamente agentes de codificação. As DGMs mostram progresso impressionante em benchmarks de codificação, mas levantam preocupações de segurança, como a não interpretabilidade do código e o desalinhamento com as diretivas humanas. Os pesquisadores mitigam esses riscos com sandbox e registro. Esta pesquisa é um grande passo na auto-melhoria da IA, mas gera debates sobre o emprego futuro e a segurança da IA.