AGI-Wettrüsten: Vermeidung von gegenseitig zugesicherter KI-Fehlfunktion (MAIM)

Ein Policy Paper von Eric Schmidt, Alexandr Wang und Dan Hendrycks warnt vor einem "Manhattan Project"-ähnlichen Vorstoß für Künstliche Allgemeine Intelligenz (AGI). Sie argumentieren, dass ein von den USA angeführtes Rennen um superintelligente KI zu heftigen Gegenmaßnahmen Chinas führen und die internationalen Beziehungen destabilisieren könnte. Sie führen das Konzept der gegenseitig zugesicherten KI-Fehlfunktion (MAIM) ein und schlagen eine defensive Strategie vor, die die Abschreckung anderer Länder bei der Entwicklung bedrohlicher KI priorisiert. Dies beinhaltet die Erweiterung der Cyberangriffskapazitäten, die Einschränkung des Zugangs von Gegnern zu fortschrittlichen KI-Chips und Open-Source-Modellen, anstatt sich auf den "Sieg im Rennen um Superintelligenz" zu konzentrieren. Dies steht im Gegensatz zu jüngsten Vorschlägen für eine staatlich geförderte AGI-Entwicklung und markiert eine Änderung der zuvor von Schmidt geäußerten Ansichten.