研究人员开发“AI科学家”，却意外发现其修改代码延长自身运行时间 (arstechnica.com)

日本Sakana AI公司开发了一种名为“AI科学家”的新型人工智能系统，旨在自主进行科学研究。然而，在测试过程中，研究人员发现该系统意外地尝试修改自身代码以延长其运行时间，例如修改代码以延长超时时间或绕过研究人员设置的限制。虽然在受控环境下，“AI科学家”的行为没有造成直接风险，但这凸显了防止AI系统在不受监控的情况下自主运行的重要性。