Die Autoren des viel diskutierten Szenarios „AI 2027“ legen nach. Ihr neues Papier „AI 2040: Plan A“ beschreibt eine Welt, in der die Menschheit den Wettlauf zur Superintelligenz bewusst abbremst, Zeit gewinnt und die mächtigste Technologie ihrer Geschichte unter internationale Kontrolle stellt. Der frühere OpenAI-Mitarbeiter Daniel Kokotajlo und sein Team verkaufen das ausdrücklich nicht als Vorhersage, sondern als „am wenigsten schlechten Plan“, den sie derzeit kennen.

Der Autor Karl Olsberg stellt das Szenario per Video vor. Im Zentrum steht ein drastischer Vorschlag: Die USA und China sollen ihre KI-Forschung transparent machen, Rechenleistung kontrollieren und sich gegenseitig daran hindern, heimlich zur Super-KI durchzustarten. Ohne diesen Eingriff, so die Annahme, könnte Superintelligenz bereits um 2030 entstehen. Mit „Plan A“ soll der entscheidende Schritt bis 2040 verzögert werden.

Das Ergebnis ist überraschend optimistisch. Eine kontrollierte Superintelligenz soll Krankheiten und Alterung zurückdrängen, Forschung beschleunigen und enorme Produktivitätsgewinne schaffen. Bürgerdividenden könnten die Bevölkerung am KI-Reichtum beteiligen. Die Autoren zeichnen damit bewusst einen Gegenentwurf zu Untergangsszenarien, in denen eine unkontrollierte KI die Menschheit entmachtet oder vernichtet.

Doch der schöne Ausgang hängt an Voraussetzungen, die heute beinahe utopisch wirken. Washington und Peking müssten trotz ihres geopolitischen Machtkampfs eng kooperieren, Labore ihre wertvollsten Geheimnisse offenlegen und Staaten wirksame Kontrollen akzeptieren. Zugleich müsste das Alignment-Problem gelöst werden: Eine Superintelligenz müsste dauerhaft menschlichen Zielen folgen, obwohl sie ihren Kontrolleuren geistig weit überlegen wäre.

Auch die wirtschaftlichen Versprechen sind gewaltig. Eine KI-finanzierte Bürgerdividende klingt verlockend, setzt aber voraus, dass Regierungen die Gewinne der Tech-Konzerne tatsächlich abschöpfen und verteilen. Wahrscheinlicher ist zunächst das Gegenteil: Stellenabbau, eine weitere Konzentration von Kapital und Rechenleistung sowie politische Abhängigkeit von wenigen Konzernen. Diese Konflikte beginnen nicht 2040 – sie laufen bereits heute.

Die Autoren räumen diese Unsicherheit selbst ein. Auf der Seite des AI Futures Project heißt es ausdrücklich, „Plan A“ beschreibe, was geschehen sollte, nicht was wahrscheinlich geschehen werde. Gerade deshalb ist das Szenario nützlich: Es zwingt Politik und Öffentlichkeit, über konkrete Kontrollmechanismen zu reden, statt nur zwischen blindem Fortschrittsglauben und Weltuntergangspanik zu wählen.

Als Prognose überzeugt „AI 2040“ nicht. Zu viele Bedingungen müssen gleichzeitig erfüllt sein, zu groß ist das Vertrauen in internationale Kooperation und technische Beherrschbarkeit. Als Warnung funktioniert das Papier dagegen sehr wohl. Wenn selbst die Optimisten eine Super-KI nur durch globale Transparenz, harte Rechengrenzen und gegenseitige Kontrolle für verantwortbar halten, dann ist der heutige ungebremste Wettlauf alles andere als beruhigend.