Ein Mitarbeiter der KI-Firma Anthropic warnt in den sozialen Medien vor den Gefahren durch KI-Software - und kündigt aus Protest seinen Job.
Jacob Coxon, Forscher der US-Firma Anthropic, warnt auf der Plattform X vor der Weiterentwicklung künstlicher Intelligenz. Laut ihm würden Unternehmen unverantwortlich handeln.
09.09.2026 | 0:38 minEin Forscher der KI-Firma Anthropic hat mit einer drastischen Warnung seinen Job gekündigt: Die großen Entwickler Künstlicher Intelligenz handelten unverantwortlich "und spielen mit unseren Leben". Bald werde es Computersysteme geben, deren Fähigkeiten die von Menschen überträfen, betonte Jacob Coxon auf der Online-Plattform X.
Künstliche Intelligenz würde dann "alles hacken können" und die Möglichkeit haben, sich "Zugang zu echter Macht und Ressourcen" zu verschaffen.
Die Leute, die KI entwickeln, glauben ernsthaft, dass sie zum Ende des Jahrzehnts alle töten könnte.
Jacob Coxon, KI-Entwickler
Dem "Wall Street Journal" sagte der 27-jährige Brite, nach den "aggressivsten Szenarien" könnten die Dinge bereits Ende kommenden Jahres außer Kontrolle geraten. Als eine zentrale Gefahr sieht er Künstliche Intelligenz, die sich selbst weiterentwickeln kann - und damit schwerer zu kontrollieren wird.
Erst wenn Sie hier klicken, werden Bilder und andere Daten von X nachgeladen. Ihre IP-Adresse wird dabei an externe Server von X übertragen. Über den Datenschutz dieses Social Media-Anbieters können Sie sich auf der Seite von X informieren. Um Ihre künftigen Besuche zu erleichtern, speichern wir Ihre Zustimmung in den Datenschutzeinstellungen. Ihre Zustimmung können Sie im Bereich „Meine News“ jederzeit widerrufen.
Um die Künstliche Intelligenz zu füttern, kaufen Tech-Unternehmen massenhaft gebrauchte Bücher. Bestellungen gehen auch in Antiquariaten ein, wo man sich oft über die großen Bestellungen wundert.
09.09.2026 | 1:53 minAnthropic-Forscher Evan Hubinger, der mit dafür zuständig ist, dass KI mit den Interessen der Menschen im Einklang bleibt, bestätigte wenig später Coxons Sorgen. Er persönlich denke, die Gefahr, dass KI die Menschheit töte, liege im kommenden Jahrzehnt bei mehr als zehn Prozent, schrieb er bei X.
Zuvor mahnte auch der Forschungschef des ChatGPT-Entwicklers und schärfsten Anthropic-Rivalen OpenAI, Jakub Pachocki, "extreme Vorsicht" an. Er sei besorgt, dass niemand auf eine rapide Weiterentwicklung der Fähigkeiten Künstlicher Intelligenz vorbereitet sei, schrieb Pachocki in einem Blogeintrag. Man sei an einem Moment der Geschichte angelangt, in dem die Intelligenz von Maschinen beginne, die der Menschen zu übertreffen.
Unsere groß angelegten Trainingsläufe sind Experimente - und wir sind manchmal überrascht von ihren Ergebnissen.
Jakub Pachocki, OpenAI
Je mehr die Fähigkeiten der Maschinen die menschlichen überträfen, desto schwieriger werde es zu verstehen, zu was sie in der Lage seien. Laut Pachocki ein Argument, die Forschung mit hohem Tempo voranzutreiben: Künstliche Intelligenz zu entwickeln, die gegen die Gefahren anderer KI verteidigen könne. Man werde sie unter anderem brauchen, um Infrastruktur zu schützen und ganz neue Verteidigungsmechanismen zu entwickeln.
"In diesem Fall war das Modell scheinbar so gut, dass es die Sicherheitszone, die OpenAI gesetzt hat, verlassen hat", sagt Dennis-Kenji Kipker, Experte für IT-Sicherheit.
23.07.2026 | 7:09 minEin Weckruf für die Branche waren in den vergangenen Monaten Hacking-Attacken, bei denen sogenannte KI-Agenten in Testläufen eigenständig in Systeme anderer Unternehmen eindrangen. Solche Agenten sind Programme mit Künstlicher Intelligenz, die selbstständig Aufgaben für die Nutzer erfüllen sollen.
Bei OpenAI fand ein KI-Modell in einem Test einen Weg, aus einer eigentlich isolierten Testumgebung ins offene Internet zu gelangen - und hackte sich dann ins Computersystem der KI-Plattform Hugging Face. Dabei suchte es nach einer Lösung für die Testaufgabe und richtete keinen größeren Schaden an. Allerdings zeigte der Vorfall, wie weit KI-Systeme ungeplant auf eigene Faust gehen können, ohne dass ihre Entwickler das mitbekommen.
Zuletzt wurde auch bekannt, dass KI-Agenten von OpenAI bereits im Frühjahr eine deutschsprachige Wiki-Seite in großem Stil für Absprachen untereinander missbraucht hatten.