Carrera armamentística de IAG: Evitando el Mal funcionamiento Mutuo Asegurado de IA (MMAIA)

Un documento político de Eric Schmidt, Alexandr Wang y Dan Hendrycks advierte contra un esfuerzo al estilo del "Proyecto Manhattan" para la Inteligencia Artificial General (IAG), argumentando que una carrera liderada por EE. UU. hacia una IA superinteligente podría provocar represalias feroces de China, potencialmente desestabilizando las relaciones internacionales. Introducen el concepto de Mal funcionamiento Mutuo Asegurado de IA (MMAIA) y sugieren una estrategia defensiva que prioriza la disuasión de otros países para crear IA amenazantes. Esto implica expandir las capacidades de ciberataque, limitar el acceso de los adversarios a chips de IA avanzados y modelos de código abierto, en lugar de concentrarse en "ganar la carrera hacia la superinteligencia". Esto contrasta con las propuestas recientes para el desarrollo de IAG respaldado por el gobierno y marca un cambio en las opiniones previamente expresadas por Schmidt.