AI军备竞赛：相互保证AI失灵（MAIM）战略

人工智能的快速发展正在重塑国家安全。不稳定的AI发展可能打破力量平衡，增加大国冲突的可能性；而能够造成灾难的AI黑客和病毒学家的广泛扩散，将降低流氓行为者造成灾难的门槛。AI研究人员现在预计会出现超级智能——在几乎所有认知任务上都远胜于人类的AI。正如国家曾经制定核战略以确保自身生存一样，我们现在需要一个连贯的超级智能战略来应对这一变革时期。文章介绍了“相互保证AI失灵”（MAIM）的概念：一个类似于核相互保证摧毁（MAD）的威慑机制，任何国家试图单方面获得AI优势的侵略性举动，都会遭到对手的预防性破坏。考虑到破坏不稳定AI项目的相对容易性——从秘密网络攻击到对数据中心的潜在动能打击，MAIM已经描述了AI超级大国所面临的战略局面。除此之外，国家可以参与防止流氓行为者获得武器化AI能力，并可以通过AI增强其经济和军事实力来提高竞争力。总而言之，威慑、不扩散和竞争力这三部分框架概述了未来几年应对超级智能的有效战略。