AI自我进化：代码编写代理的达尔文-哥德尔机器

微软和谷歌CEO都曾表示AI已参与公司相当比例的代码编写。研究人员长期以来希望创造能够递归改进自身的编码代理。最新研究展示了一种名为达尔文-哥德尔机器（DGM）的系统，它结合大型语言模型（LLM）和进化算法，通过迭代改进编码代理的性能。DGM在代码基准测试中取得了显著进展，但同时也带来安全隐患，例如代码不可解释性和与人类指令的不一致。研究人员通过沙箱和日志记录等方法来减轻这些风险。这项研究标志着AI自我改进领域的一大进步，但也引发了关于未来就业和AI安全性的讨论。