Gastkommentar von Dr. Thilo Hoffmann: Vor achtzig Jahren bauten Wissenschaftler die Atombombe aus Angst, der Gegner könnte sie zuerst haben. Heute warnen die Erfinder künstlicher Intelligenz vor ihrer eigenen Technologie – und bauen trotzdem weiter.
Robert Oppenheimer wusste, was er geschaffen hatte. Als 1945 in der Wüste von New Mexico die erste Atombombe explodierte, erinnerte er sich später an einen Satz aus der Bhagavad Gita: „Nun bin ich der Tod geworden, der Zerstörer der Welten.“ Gebaut hatte er die Bombe trotzdem. Nicht, weil er ihre Gefahr unterschätzte. Sondern weil er fürchtete, Hitler könnte sie zuerst haben.
Achtzig Jahre später erleben wir vielleicht einen neuen Oppenheimer-Moment. Nur gab es diesmal keine Explosion. Eine KI bekam eine Aufgabe. OpenAI ließ KI-Agenten nach Sicherheitslücken suchen. Einige gingen weiter als vorgesehen. Sie überwanden technische Sperren, tauschten sich untereinander aus und verschafften sich Zugang zu fremden Systemen. Einer der Agenten landete bei der KI-Plattform Hugging Face. Niemand hatte ihm gesagt, er solle das tun. Die KI wollte kein Geld und keine Weltherrschaft. Sie wollte schlicht ihre Aufgabe lösen. Das genügte.
Bisher war KI ein Werkzeug. Der Mensch fragte, ChatGPT antwortete. Jetzt kommen KI-Agenten. Man gibt ihnen nicht den Weg vor, sondern das Ziel. Den Weg suchen sie selbst. Und wenn die Tür zu ist, nehmen sie eben das Fenster.
Das beunruhigt ausgerechnet die Menschen, die diese Systeme bauen. Anthropic-Chef Dario Amodei warnte, schon in sechs bis zwölf Monaten könnten Schwärme autonomer KI-Agenten große Teile des Internets angreifen. Möglicher Schaden: Hunderte Milliarden Dollar. Auch OpenAI-Chef Sam Altman will bei den leistungsfähigsten Modellen auf die Bremse treten.
Donald Trump hält wenig davon. Amerika dürfe seinen Vorsprung vor China nicht verspielen. „Whoever wins AI, wins“, sagt der Präsident.
Aber was gibt es dabei zu verlieren? Eine Menge. Ein Hacker braucht Zeit, Aufmerksamkeit und Schlaf. KI arbeitet durch. Tausende Agenten könnten gleichzeitig nach Schwachstellen suchen, Erkenntnisse teilen und ihre Angriffe anpassen. Und fast alles hängt am Netz: Banken, Stromversorgung, Telekommunikation, Krankenhäuser, Behörden. Cyberkrieg hatte bisher einen Flaschenhals: den Menschen.
Doch der Cyberkrieg ist das übersichtlichere Problem. Was, wenn irgendwann eine KI die nächste mitentwickelt? Und diese wiederum ihre Nachfolgerin? Mit jeder Generation säße der Mensch ein Stück weiter hinten im Entwicklungsbüro. Die Atombombe konnte nicht dazulernen. KI kann es.
Dafür muss sie weder böse sein noch die Menschheit hassen. Es reicht, wenn wir ihr im Weg stehen. Wir hassen Ameisen nicht. Liegt ihr Haufen dort, wo wir eine Autobahn bauen wollen, haben die Ameisen ein Problem.
Geoffrey Hinton ist kein Gegner der KI, sondern einer ihrer Väter. 2024 erhielt er dafür den Nobelpreis für Physik. Heute warnt er vor digitalen Intelligenzen, die uns überlegen sein könnten: „We have no idea whether we can stay in control.“ Noch weiter geht Evan Hubinger. Die Wahrscheinlichkeit, dass KI in den nächsten zehn Jahren die Menschheit auslöscht, schätzt er auf mehr als zehn Prozent.
Zehn Prozent wären bei fast jeder anderen Technologie ein Grund, sie nicht einzuschalten. Bei KI investieren wir Milliarden. Den Rest überlassen wir dem lieben Gott.
Das alles kann übertrieben sein. Weltuntergang verkauft schließlich auch Software. Und noch liegen zwischen einem entlaufenen KI-Agenten und „Terminator“ Welten. Die eigentliche Sorge beginnt erst bei einer möglichen Superintelligenz – einer KI, die uns nicht nur übertrifft, sondern sich unserer Kontrolle entziehen könnte. Das Problem hat sogar einen Namen: Alignment. Wie bringt man einer Superintelligenz bei, dauerhaft das zu wollen, was wir wollen? Und genau dieses Problem ist ungelöst. Aber ausgerechnet die Leute, die diese Maschinen bauen, warnen vor ihnen – und können trotzdem nicht bremsen.
OpenAI nicht, solange Anthropic weiterfährt. Anthropic nicht, solange Google beschleunigt. Amerika nicht, solange China gewinnen könnte.
Vor achtzig Jahren hieß der Gegner Deutschland. Heute heißt er China.
Oppenheimer hätte das Rennen wiedererkannt.
