Keine KI-Apokalypse, sondern eine Verkaufskampagne

Artikel von İsmail Gökhan Bayram, übersetzt von evrensel.net

Ausgelöst wurde die Debatte durch einen Beitrag von Jacob Coxon, der bei Anthropic kündigte. Er erklärte, „die Unternehmer handelten bei der Entwicklung von KI unverantwortlich“. Seine Aussage lässt sich wie folgt zusammenfassen: „Die Menschen, die künstliche Intelligenz entwickeln, glauben aus tiefstem Herzen daran, dass diese Technologie uns alle bis zum Ende des Jahrzehnts umbringen könnte“. Einen Tag nach Coxons Veröffentlichung gab Evan Hubinger, Sicherheitsforscher bei Anthropic, an, seine persönliche Schätzung für die Wahrscheinlichkeit einer KI-Apokalypse innerhalb der nächsten zehn Jahre liege bei „über zehn Prozent“. Anschließend reihten sich Persönlichkeiten wie Samuel Marks (Anthropic), Jakub Pachocki (OpenAI), Jonathan Schwarz (Google) und andere in diese Liste der Apokalyptiker ein. Die Diskussion um den KI-Weltuntergang fand binnen kürzester Zeit in zahlreichen Medien und auf Social-Media-Accounts Verbreitung. Wie sollte sie auch nicht? Schließlich verkauft sich Sensationslust gut. Die Aussage eines Forschers hingegen, es sei unwahrscheinlich, dass heutige Modelle oder daraus entstehende, weiterentwickelte Systeme die Menschheit vernichten, hat keinen Sensationswert und ist somit für viele Medien schlicht keine Meldung wert.

Fragt man sich, worin diese „Meldung“ eigentlich besteht, bleibt kaum mehr als die Formulierung „über zehn Prozent“ und ähnliche Floskeln. Wer sagt das? Ein Experte, der auf die eine oder andere Weise mit den Konzernen verbandelt ist. Hat er das berechnet? Nein, er fühlt es einfach so, es ist eine „Eingebung“… Bestenfalls handelt es sich um die subjektiven Mutmaßungen eines Experten über eine ungewisse Zukunft und Milliarden von Möglichkeiten. Hat eigentlich jemand die Experten befragt, die den Prozentsatz als weitaus niedriger „empfinden“ oder behaupten, er liege bei null? Auch das nicht.

Genau zu dem Zeitpunkt, als die Gefahr einer Auslöschung der Menschheit durch KI intensiv debattiert wurde, legte Anthropic seinen Sicherheitsbericht vor. In diesem Bericht, dessen Passagen teils wenig glaubwürdig klingen, fehlt es an nichts: der Aufbau eines Systems zur Überwachung von 25 Millionen SIM-Karten-Besitzern in Mali; wie russische Hacker das unbefugte Eindringen in Systeme automatisierten; die Durchführung einer Kampagne zur Wahlbeeinflussung in Malaysia mithilfe von Claude; das Entwerfen von Toxinen; die Frage, wie die Vogelgrippe an Säugetiere übertragbar gemacht werden könnte; sowie die Softwareentwicklung für Raketenleitsysteme im Jemen samt anschließender Test- und Debugging-Phase…

All diese Untergangsszenarien und Andeutungen nach dem Motto „Wir haben hier ein brandgefährliches Werkzeug in den Händen“ lassen sich nicht losgelöst vom ökonomischen Kontext der heutigen Modelle betrachten. Sowohl im Hardware- als auch im Softwarebereich pumpen Tech-Giganten Billionen von Dollar in große Sprachmodelle und darauf basierende Systeme. Auf der Hardwareseite läuft das Geschäft: Solange der Absatz stimmt, behauptet Nvidia-Chef Jensen Huang alle sechs Monate, wir hätten die allgemeine künstliche Intelligenz erreicht. Doch abseits der Hardwareseite bleibt der finanzielle Ertrag für das investierte Geld weitgehend aus. Anthropic beginnt gerade erst vorsichtig, profitabel zu werden. Bei OpenAI wird damit gerechnet, dass Gewinne erst 2029 erzielt werden. Während die Hardwarekosten mit jedem neuen Modell exponentiell steigen, drücken Modelle chinesischen Ursprungs wie DeepSeek die Preise kontinuierlich nach unten. Entgegen dem Bild, das in den Medien und Netzwerken gezeichnet wird, liegt auch die Nutzung der aktuellen Modelle keineswegs auf dem Niveau, das die Konzerne benötigen würden. Nach Schätzungen von Gradually aus dem Juli 2026 haben 71 Prozent der Weltbevölkerung diese Modelle noch nie genutzt. Der Anteil derjenigen, die kostenlose Systeme verwenden, liegt bei 28 Prozent. Und der Anteil derer, die für irgendein Modell bezahlen, beträgt gerade einmal 1 Prozent.

Vor diesem Hintergrund steht im Oktober der Börsengang von Anthropic an, jener von OpenAI spätestens 2027. Wie lässt sich der Wert eines Unternehmen, das Verluste einfährt oder kaum Gewinne abwirft, beim Gang an die Börse steigern? Die Öffentlichkeit davon zu überzeugen, dass man im Besitz eines extrem mächtigen, hochgefährlichen und in seinem wahren Wert noch unentdeckten Produkts sei, gehört zum Standardrepertoire legaler Täuschungsmanöver von Konzernen. Die Frage bleibt offen, wie viele derjenigen, die Untergangsszenarien verbreiten, schlicht ein persönliches Interesse an steigenden Aktienkursen beim Börsengang haben.

Der Punkt, in dem sich die Verfechter der Untergangsszenarien weitgehend einig sind, betrifft nicht die gegenwärtigen Modelle selbst, sondern die Annahme, diese Modelle würden durch sich selbst trainierende, rekursive Mechanismen einen „Intelligenzsprung“ vollziehen. Blenden wir für einen Moment die Tatsache aus, dass die Resultate eines hinreichend komplexen statistischen Modells – insbesondere bei oberflächlicher Betrachtung – leicht mit Intelligenz verwechselt werden können, und sehen wir auch davon ab, dass die Behauptung, ein statistisches Modell könne ab einem gewissen Stadium Intelligenz erlangen, jeglichen Beweises entbehrt: Nehmen wir tatsächlich an, ein statistisches Modell hätte sich in ein bewusstes Wesen verwandelt. Warum dieses Wesen die Menschheit vernichten wollen sollte – darauf gibt es keine Antwort. Nehmen wir weiter an, es wollte es: Wie es das bewerkstelligen sollte – auch darauf gibt es keine Antwort. Szenarien, in denen eine KI Laborsysteme infiltriert und Viren freisetzt, scheitern an der Praxis moderner Labore. Es ist weder möglich, Viren über automatisierte Systeme in die Luft abzugeben, noch sind die Systeme in Laboren, die mit gefährlichen Stoffen arbeiten, überhaupt an das Internet angeschlossen. Wollte sie eine Atombombe zünden: Bestehende Sicherheitsvorkehrungen verlangen zwingend manuelle Eingaben von zwei Personen – ein solches Vorhaben ist praktisch ausgeschlossen. Wollte sie heimlich vollautomatisierte Fabriken hochziehen und T-800-Roboter wie im Film Terminator in Serie fertigen, wäre das logistisch schlicht unmöglich. Selbst scheinbar realistischere Szenarien wie ein Zusammenbruch der Wirtschaft brechen bei genauerer Betrachtung zusammen.

Diese Endzeitszenarien, genährt von den subjektiven, gefühlsbasierten Mutmaßungen konzernnaher Experten, überdecken zudem die weitaus dringlicheren Debatten rund um große Sprachmodelle. Während wir darüber philosophieren, ob die KI die Menschheit vernichtet, werden Modelle in Kriegen und Konflikten längst für autonome Waffensysteme, Drohnensteuerung und Datenanalysen eingesetzt, um Menschen „besser und effizienter zu töten“. Versicherungsgesellschaften nutzen Modelle, um im Konzernjargon den Leistungsanspruch auf Gesundheit zu „optimieren“ – in Wahrheit jedoch, um aus Profitgier Menschen, angefangen bei den kostenintensivsten Patienten, dem Tod zu überlassen. Anthropic forscht unter dem Vorwand von Anti-KI-Aktivisten an Systemen zur vorausschauenden Kriminalitätsbekämpfung. Wie sehr sich OpenAI von den Arbeiten jener Wissenschaftler „inspirieren“ lässt, die seine Modelle nutzen; in welchem Ausmaß Anthropic auf die Chatverläufe seiner Nutzer zugreift; KI-generierte Missbrauchsdarstellungen von Kindern; Deepfakes und der damit verbundene Anstieg von Betrugsfällen; das Plündern personenbezogener Daten; massive Verstöße gegen das geistige Eigentum… Anstatt all diese Themen eingehend zu diskutieren, beherrschen die Fantasien einer Handvoll Konzernexperten die Agenda – Fantasien, an deren Realitätsgehalt sie vermutlich nicht einmal selbst glauben.