Seit einigen Tagen wird in den Medien und sozialen Netzwerken intensiv über die Gefahr diskutiert, künstliche Intelligenz könnte die Menschheit auslöschen. Den Anstoß gab Jacob Coxon, der Anthropic mit dem Vorwurf verließ, die Konzerne handelten bei der Entwicklung vollkommen verantwortungslos.
İsmail Gökhan Bayram*
Seine Aussage lässt sich in einem Satz zusammenfassen: Die Menschen, die künstliche Intelligenz entwickeln, glauben aus tiefstem Herzen daran, dass diese Technologie uns alle noch vor Ende des Jahrzehnts umbringen könnte. Nur einen Tag später erklärte Evan Hubinger, Sicherheitsforscher bei Anthropic, seine persönliche Schätzung für eine KI-Apokalypse innerhalb der nächsten zehn Jahre liege bei über zehn Prozent. Rasch reihten sich Branchenvertreter wie Samuel Marks von Anthropic, Jakub Pachocki von OpenAI oder Jonathan Schwarz von Google in diese Liste ein. Die Debatte schlug sofort hohe Wellen – Sensationslust verkauft sich schließlich gut. Ein Forscher hingegen, der darlegt, dass weder bestehende Modelle noch deren Weiterentwicklungen die Menschheit vernichten werden, besitzt keinen Sensationswert und findet medial kaum Gehör.
Fragt man nach der eigentlichen Substanz dieser Berichte, bleibt nichts als die Floskel von „über zehn Prozent“. Wer äußert das? Experten mit enger Bindung an die jeweiligen Konzerne. Stecken dahinter fundierte Berechnungen? Keineswegs – es sind reine Bauchgefühle und Vorahnungen. Bestenfalls handelt es sich um subjektive Mutmaßungen einzelner Spezialisten über eine ungewisse Zukunft und unzählige Variablen. Hat man eigentlich jene Fachleute gefragt, die das Risiko als verschwindend gering einstufen oder darlegen, dass die Wahrscheinlichkeit bei null liegt? Natürlich nicht.
Mitten in die hitzige Debatte um den vermeintlichen Weltuntergang platzierte Anthropic seinen aktuellen Sicherheitsbericht. Das Dokument steckt voller fragwürdiger Schreckensszenarien: ein System zur Überwachung von 25 Millionen SIM-Karten-Besitzern in Mali; von russischen Hackern automatisierte Hacks; die Beeinflussung der Wahlen in Malaysia mithilfe von Claude; das Design gefährlicher Toxine; Experimente zur Übertragung der Vogelgrippe auf Säugetiere sowie die Softwareentwicklung und Fehlerbehebung für Raketenleitsysteme im Jemen.
All diese Untergangsszenarien und die Andeutungen, man halte ein brandgefährliches Werkzeug in den Händen, dürfen nicht isoliert vom ökonomischen Kontext betrachtet werden. Hard- und Softwarekonzerne pumpen Billionen Dollar in große Sprachmodelle und deren Infrastruktur. Bei den Chipherstellern boomt das Geschäft: Solange die Absatzzahlen stimmen, verkündet Nvidia-Chef Jensen Huang alle sechs Monate das Erreichen einer allgemeinen künstlichen Intelligenz. Abseits der Hardware jedoch bleibt der erhoffte Ertrag weitgehend aus. Anthropic erwirtschaftet erst seit Kurzem vorsichtige Gewinne, und OpenAI dürfte die Gewinnzone wohl erst 2029 erreichen. Während die Hardwarekosten mit jedem Modell steigen, drücken chinesische Modelle wie DeepSeek die Preise kontinuierlich nach unten. Entgegen dem medialen Eindruck bleibt auch die reale Nutzung weit hinter den Erwartungen zurück. Nach Schätzungen von Gradually vom Juli 2026 haben 71 Prozent der Weltbevölkerung solche Modelle noch nie genutzt. 28 Prozent nutzen kostenlose Angebote – und lediglich ein Prozent zahlt tatsächlich für ein Modell.
Vor diesem Hintergrund bereitet Anthropic für Oktober seinen Börsengang vor, während OpenAI denselben Schritt spätestens für 2027 plant. Wie aber lässt sich ein unrentables oder kaum profitables Unternehmen an der Börse künstlich aufwerten? Indem man Öffentlichkeit und Anleger davon überzeugt, man besitze ein ungemein mächtiges, hochgefährliches und im Wert noch völlig verkanntes Produkt – ein altbekannter Trick legaler Täuschungsmanöver auf Konzernebene. Es bleibt die berechtigte Frage, wie viele der Untergangspropheten schlicht ein handfestes Interesse an möglichst hohen Kursen beim Börsengang haben.
Der gemeinsame Nenner dieser Thesen betrifft nicht die aktuellen Modelle, sondern die Annahme, diese würden durch rekursives Selbstlernen einen plötzlichen „Intelligenzsprung“ vollziehen. Blenden wir aus, dass statistische Muster bei oberflächlicher Betrachtung leicht mit Intelligenz verwechselt werden können und die Vorstellung eines bewusstwerdenden Statistikmodells jeder Beweisgrundlage entbehrt: Nehmen wir für einen Moment an, ein solches Modell würde tatsächlich zu einem bewussten Wesen erwachen. Warum sollte es die Menschheit vernichten wollen? Darauf gibt es keine Antwort. Und selbst wenn: Wie sollte es das anstellen? Szenarien, in denen KI Labore infiltriert und Viren freisetzt, scheitern an der Praxis moderner Labore. Weder lässt sich ein Virus automatisiert versprühen, noch sind Sicherheitslabore mit gefährlichen Erregern an das Internet angebunden. Ein Nuklearschlag scheitert an militärischen Sicherheitsprotokollen, die manuelle Befehle zweier Personen vor Ort verlangen. Der heimliche Aufbau autonomer Fabriken zur Massenfertigung von Terminator-Robotern ist logistisch unmöglich. Selbst vermeintlich realistischere Theorien über eine gezielte Zerstörung der Wirtschaft fallen bei genauerer Betrachtung in sich zusammen.
Diese gefühlsbasierten Endzeitvisionen verdecken die weitaus dringlicheren Probleme großer Sprachmodelle. Während die Öffentlichkeit über das Auslöschen der Menschheit spekuliert, werden Modelle in Kriegen längst eingesetzt, um Menschen per Drohnensteuerung, Datenanalyse und autonomen Waffensystemen „besser und effizienter zu töten“. Versicherungen nutzen Algorithmen, um Leistungsansprüche zu „optimieren“ – in Wahrheit jedoch, um aus Profitgier die kostenintensivsten Patienten unversorgt dem Tod zu überlassen. Anthropic erforscht unter dem Vorwand des Schutzes vor KI-Aktivisten Systeme zur vorausschauenden Kriminalitätsbekämpfung. Hinzu kommen akute Missstände wie das Abschöpfen wissenschaftlicher Arbeiten durch OpenAI, Anthropics Zugriff auf private Nutzerchats, KI-generierte Kindesmissbrauchsbilder, ausufernde Deepfake-Betrügereien, der Raubbau an persönlichen Daten und massive Urheberrechtsverletzungen. Statt diese handfesten Probleme aufzuarbeiten, beherrscht die PR-Fantasie einer Handvoll Konzernvertreter die Agenda – Fantasien, an die sie vermutlich selbst nicht glauben.
*Dieser Artikel ist erstmals am 13. September auf Türkisch in der Tageszeitung Evrensel erschienen und wurde für unsere Zeitung übersetzt und gekürzt.
