Course aux armements IAG : éviter le dysfonctionnement mutuel assuré de l’IA (DMAIA)

Un document politique d’Eric Schmidt, Alexandr Wang et Dan Hendrycks met en garde contre une initiative de type « Projet Manhattan » pour l’intelligence artificielle générale (IAG), arguant qu’une course à l’IA superintelligente dirigée par les États-Unis pourrait provoquer de vives représailles de la Chine, risquant de déstabiliser les relations internationales. Ils introduisent le concept de dysfonctionnement mutuel assuré de l’IA (DMAIA) et suggèrent une stratégie défensive privilégiant la dissuasion d’autres pays de créer des IA menaçantes. Cela implique d’accroître les capacités de cyberattaque, de limiter l’accès des adversaires aux puces IA avancées et aux modèles open source, plutôt que de se concentrer sur « gagner la course à la superintelligence ». Cela contraste avec les propositions récentes de développement de l’IAG soutenu par le gouvernement et marque un changement dans les opinions précédemment exprimées par Schmidt.