Corrida armamentista de IAG: Evitando a Falha Mútua Assegurada de IA (FMAI)

Um documento político de Eric Schmidt, Alexandr Wang e Dan Hendrycks alerta contra um esforço no estilo do "Projeto Manhattan" para a Inteligência Artificial Geral (IAG), argumentando que uma corrida liderada pelos EUA para uma IA superinteligente pode provocar retaliações ferrenhas da China, potencialmente desestabilizando as relações internacionais. Eles introduzem o conceito de Falha Mútua Assegurada de IA (FMAI) e sugerem uma estratégia defensiva priorizando a dissuasão de outros países de criar IAs ameaçadoras. Isso envolve expandir as capacidades de ciberataque, limitar o acesso de adversários a chips de IA avançados e modelos de código aberto, em vez de se concentrar em "ganhar a corrida para a superinteligência". Isso contrasta com propostas recentes para o desenvolvimento de IAG apoiado pelo governo e marca uma mudança nas visões anteriormente expressas por Schmidt.