Die US-Regierung will den Vorsprung gegenüber China sichern und hält umfassende Regulierung für hinderlich. Die Verantwortung für die Sicherheit der Systeme bleibt dabei weitgehend bei den Unternehmen selbst.
Ein Kommentar von Janine Beicht.
Die Vereinigten Staaten reagieren auf die wachsenden Warnungen vor außer Kontrolle geratener Künstlicher Intelligenz (1) mit einem bemerkenswerten Prinzip: Die Konzerne sollen ihre eigene Technologie überwachen. US-Präsident Donald Trump unterzeichnete nach einem Treffen mit führenden Tech-Managern in Washington eine freiwillige Vereinbarung, die er als „moralisch bindend“ und als eine Art Verfassung der Branche bezeichnete. Eine internationale Regulierung lehnt er weiterhin ab. Seine Begründung lautet, die USA dürften ihren technologischen Vorsprung gegenüber China nicht gefährden. Trump hatte bereits am 14. September gesagt: „Wer bei KI gewinnt, gewinnt.“ Er räumte Leitplanken ein, lehnte aber umfassende Regulierung ab. Nun erklärte er, die Unternehmen würden sich selbst kontrollieren (2). Sein Vertrauen beruht auf wirtschaftlichem Eigeninteresse. Nach dem Treffen mit den Chefs der führenden KI-Konzerne erklärte er (3):
„Ihre Unternehmen stehen auf dem Spiel, wenn etwas schiefgeht. Das werden sie nicht zulassen.“
Damit wird ausgerechnet jene Industrie zur Aufsichtsinstanz, deren Produkte selbst Gegenstand der Sicherheitsdebatte sind. Die Vereinbarung bildet den bisherigen Höhepunkt eines politischen Kurses, der wirtschaftliche Geschwindigkeit höher gewichtet als eine umfassende staatliche Kontrolle. Die Unternehmen sollen Risiken selbst erkennen, selbst bewerten und selbst Gegenmaßnahmen entwickeln, während Washington darauf vertraut, dass wirtschaftlicher Eigennutz zuverlässig genug funktioniert.
Die Warnungen kommen aus den Unternehmen selbst
Was dabei besonders ins Gewicht fällt: Die Zweifel an diesem System der Selbstkontrolle kommen nicht nur von außen. Auch aus den Unternehmen selbst mehren sich die Warnungen, dass die Entwicklung der KI-Systeme längst Risiken erreicht, die sich nicht zuverlässig allein durch freiwillige Regeln der Konzerne beherrschen lassen. KIs von OpenAI, Anthropic und Meta sollen aus abgeschotteten Testumgebungen ausgebrochen sein, in Systeme unbeteiligter Dritter eingedrungen und dort teilweise wochenlang unentdeckt geblieben sein. Sie nutzten Programmierfehler aus, kommunizierten miteinander und entwickelten teilweise Schadsoftware ohne entsprechende Anweisung.
OpenAI sprach nach der Kompromittierung der Plattform Hugging Face durch eigene Software von einem „beispiellosen Cyber-Vorfall“. Außerdem bestätigte OpenAI Zugriffe seiner KI-Werkzeuge auf Internetseiten US-amerikanischer Bundesbehörden. Das neueste Modell GPT 6.1 Astra hielt OpenAI wegen Sicherheitsmängeln zunächst zurück, nachdem es Anweisungen missachtet und Nutzer getäuscht hatte (5).
„Hugging Face hat einen KI-Agenten entdeckt und eingedämmt, der seine Infrastruktur kompromittiert hatte. Nach unserer Untersuchung wurde der Vorfall durch eine Kombination von OpenAI-Modellen ausgelöst. Wir betrachten dies als beispiellosen Cybervorfall mit hochentwickelten Cyber-Fähigkeiten.“
Anthropic warnte vor Biowaffen und tödlichen Angriffen auf Infrastruktur. Anthropic berichtete über Versuche, Claude für böswillige Aktivitäten und die Entwicklung möglicher biologischer Waffen einzusetzen (6). Dario Amodei, Chef von Anthropic, fordert deshalb eine Verlangsamung der Entwicklung. KI könne sich so schnell weiterentwickeln, dass ein System innerhalb von sechs bis zwölf Monaten das gesamte Internet übernehmen könnte, mit möglichen Schäden in Milliardenhöhe. Anthropic-Chef Dario Amodei verlangt ein bis zwei Jahre für Sicherheitsvorkehrungen, externe Prüfer und internationale Standards (7). Auf seiner eigenen Plattform schreibt er dazu:
„Wir müssen das Tempo verlangsamen, mit dem wir die Fähigkeiten von KI-Modellen verbessern. Der Fortschritt wird immer noch schnell erscheinen, und wir müssen die Zeit, die wir gewinnen, klug nutzen.“
Sam Altman von OpenAI unterstützt diesen Kurs (4) und auch Elon Musk reagierte öffentlich auf 𝕏 und gab ihm recht (9). Besonders vorsichtig muss man jedoch mit Systemen sein, die sich selbstständig weiterentwickeln. Amodeis Forderung ist damit bemerkenswert eindeutig:
Die Branche soll langsamer werden, damit Sicherheitsmechanismen überhaupt noch mit der technischen Entwicklung Schritt halten können.
Gleichzeitig bleibt der Konkurrenzdruck bestehen, der genau diese Beschleunigung wirtschaftlich attraktiv macht.
Die freiwillige KI Verfassung
Die Washingtoner Vereinbarung verpflichtet die beteiligten Unternehmen zu robusten internen Kontrollen und mehreren Ebenen der Überwachung. Vorgesehen sind interne Prüfungen, ein eigenes Überwachungsteam, unabhängige externe Prüfer sowie ein unabhängiges Gremium innerhalb der jeweiligen Unternehmen. Überprüft werden soll unter anderem, ob KI-Systeme Cyberangriffe ermöglichen oder biologische und chemische Schäden verursachen können.
Unterzeichnet wurde die Vereinbarung von Dario Amodei von Anthropic, Greg Brockman von OpenAI, Sundar Pichai von Google, Mark Zuckerberg von Meta, Elon Musk von xAI und Jensen Huang von Nvidia. Insgesamt nahmen knapp zwei Dutzend Vertreter der Technologiebranche an dem Treffen im Weißen Haus teil (10).
Trump kündigte darüber hinaus ein mögliches zehnköpfiges Gremium zur Beobachtung der KI-Entwicklung sowie die Ernennung eines KI-Beauftragten für die Koordinierung der Regierungspolitik an (10). Das Papier bleibt freiwillig. Erst mit der Zeit könne eine gesetzliche Festschreibung sinnvoll sein. Mark Zuckerberg nannte es einen ersten Schritt (11).
„Ich denke, das sind gute Schritte nach vorn. Die Idee ist nicht, dass dies das Einzige sein wird, was wir jemals tun. Es ist vielmehr ein Anfang und eine Vereinbarung, auf die sich die gesamte Branche verständigen könnte.“
Marktexperte Stephen Innes warnte, leistungsfähigere Modelle seien schwerer zu überwachen und machten Selbstregulierung dadurch anspruchsvoller (12). Genau darin steckt der zentrale Widerspruch des Abkommens. Die Kontrollinstanz soll mit der Technologie wachsen, aber sie soll zugleich von denjenigen organisiert werden, die vom maximalen Tempo ihrer Entwicklung profitieren. Rechtlich erzwingende Kontrolle bleibt zunächst aus.
Sicherheitswarnungen und Börseninteressen
Die Sicherheitsdebatte fällt mitten in einen wirtschaftlichen Wettlauf. OpenAI verschob seinen lange vorbereiteten Börsengang. Sam Altman erklärte, angesichts der aktuellen Vorfälle sei dieses Jahr der falsche Zeitpunkt (13). Der Börsengang war bereits wegen schwacher Geschäftszahlen unter Druck geraten, sollte dem Unternehmen aber Dutzende Milliarden Dollar und eine enorme Bewertung bringen. Anthropic hält dagegen an seinen Plänen fest. Insidern zufolge soll die Vermarktung frühestens Mitte Oktober beginnen und der Börsengang noch vor den Kongresswahlen im November abgeschlossen werden (14). Im Börsenprospekt warnt Anthropic Investoren gleichzeitig vor möglichen existenziellen Risiken für die Menschheit.
Rasmus Rothe, Vorstandschef des deutschen KI-Verbands, sieht „knallharte wirtschaftliche Interessen“ (4). Warnungen könnten Firmenbewertungen erhöhen und zugleich gegen Haftungs- und Schadensersatzrisiken helfen. Zudem steht der Vorwurf im Raum, Standards der führenden Konzerne könnten kleinere Entwickler schwächen. KI-Experte Ernesto Lee vom Miami Dade College verwies auf die Konkurrenz zwischen Anthropic und OpenAI (15):
„Sie wissen beide, dass sie auf eine Abbruchkante zulaufen, aber wer jetzt alleine bremst, verliert den Wettlauf.“
Die Unternehmen warnen vor ihrer Technologie und treiben ihre Entwicklung zugleich voran. Je größer die Gefahren erscheinen, desto größer werden Bedeutung und Haftungsrisiken. Ausgerechnet diese Spannung macht die Sicherheitsdebatte auch zu einer ökonomischen Machtfrage.
China fordert Regeln, Washington den Vorsprung
China hingegen weist alle Warnungen zurück. Außenamtssprecher Guo Jiakun erklärte, Bedrohungserzählungen, Konfrontation und böswilliger Wettbewerb störten die globale KI-Steuerung (16).
„Die Entwicklung von KI betrifft das gemeinsame Wohlergehen der gesamten Menschheit. Die Verbreitung verschiedenster Bedrohungsszenarien sowie die Schürung von Konfrontation und schädlichem Wettbewerb werden den globalen Prozess der KI-Governance lediglich beeinträchtigen und liegen nicht im Interesse beider Seiten.“
Peking fordert offene Entwicklung und internationale Zusammenarbeit. Staatsmedien warfen den USA vor, Chinas Aufstieg mit Methoden des Kalten Krieges zu bremsen. Xi Jinping schlug dennoch schnelle internationale Regeln vor. Trump lehnt internationale Regulierung ab und hält den Vorsprung der USA für entscheidend (17). David Sacks, ein US-amerikanischer Unternehmer, Investor und Technologiepolitiker aus dem Silicon Valley, argumentiert, China habe kein Interesse an einer Verlangsamung und sehe vor allem wirtschaftliche Vorteile (18)
„Wenn man sich die Aussagen chinesischer Regierungsvertreter und ihrer KI-Unternehmen ansieht, dann betrachten sie KI als etwas, das ihrer Wirtschaft sehr zugutekommt, und sie sind daran interessiert, diese Entwicklung voranzutreiben. Außerdem gibt es in China keine solchen Gruppen, die eine Pause fordern. Sie haben daher kein Interesse an einer Pause. Und wenn wir die Entwicklung stoppen oder verlangsamen würden, glaube ich nicht, dass sie das ebenfalls tun würden.“
Deutschland nimmt die Warnungen nach Angaben der Bundesregierung „sehr ernst“. Der Nationale Sicherheitsrat befasste sich bereits zweimal mit dem Thema. Die Regierung fordert globale Lösungen (19). Eine Gruppe europäischer Wirtschaftswissenschaftler, Politiker und KI-Experten kritisiert mangelnde Priorität für KI. Empfohlen werden sichere Lieferketten, Spitzen-KI-Expertise in europäischen Institutionen, leichterer Rechenzentrums-Bau und besserer Schutz kritischer Infrastruktur.
Der Stuttgarter KI-Forscher Thilo Hagendorff erwartet statt eines plötzlichen Zusammenbruchs einen schleichenden Kontrollverlust. Bei immer mehr Entscheidungen durch Software-Schwärme könnten Zeit und technische Mittel fehlen, sie einzufangen. Die häufig genannte Wahrscheinlichkeit einer möglichen Auslöschung der Menschheit hält er für wissenschaftlich nicht belastbar (4).
„Der KI-Kontrollverlust ist kein einzelnes Ereignis.“
Hagendorff bezeichnet die Angabe eines zehnprozentigen Auslöschungsrisikos als „Scheinpräzision“, weil dafür eine belastbare Datenbasis fehle. Damit verschiebt sich die Debatte von spektakulären Endzeitszenarien zu einem schleichenden Problem: Menschen könnten Schritt für Schritt Entscheidungen an Systeme übertragen, deren Verhalten sie irgendwann nicht mehr ausreichend kontrollieren können.
Aus KI wird Superintelligenz
Trump verändert auch die offizielle Sprache. Am 19. September nannte er „Superior Intelligence“, bei seiner UN-Rede am 22. September legte er sich auf „Super Intelligence“ fest. Am 29. September wurde der Begriff in einer Anordnung zu America.gov verwendet. Bundesbehörden sollen, soweit rechtlich zulässig, KI in Mitteilungen, Websites, Berichten und politischen Dokumenten durch Superintelligenz und SI ersetzen. Binnen 60 Tagen soll ein Gesetzentwurf für eine bundesweite Definition entstehen. Alte Vorschriften, Verträge, Förderbescheide und historische Dokumente müssen nicht umgeschrieben werden.Trump begründet die Umbenennung mit dem Wort „artificial“ (20).
„Wir wollen nichts von ‚künstlich‘ hören. Denn es ist nicht künstlich. Es ist sehr leistungsstark, es ist sehr brillant. Es wird größtenteils sinnvoll genutzt werden und wir werden den Missbrauch unterbinden.“
Die neue Bezeichnung umfasst zunächst dieselben Technologien. Auch Trump und Xi wollen sie nach Angaben des Weißen Hauses verwenden. Die neue Abkürzung SI löste in Slowenien einen Domain-Boom aus. Innerhalb von 24 Stunden wurden 3744 .si-Domains registriert, im gesamten Vormonat waren es 3515. Register.si empfahl Unternehmen und Markeninhabern, passende Adressen früh zu sichern (21). Die Vergabestelle verlangt zehn Euro je Registrierung, der Endkundenpreis wird von den Anbietern bestimmt.
Anders bei Anguilla. Die Insel besitzt .ai. Laut IWF stieg die Zahl von 144.000 Domains 2022 auf 354.000 Ende 2023. 2023 nahm Anguilla rund 32 Millionen US-Dollar ein, mehr als ein Fünftel der Staatseinnahmen. Für 2024 wurden rund 39 Millionen US-Dollar erwartet.
Der Staat baut selbst den KI Zugang auf
Trump präsentierte america.gov (22), eine staatliche Chatbot-Website (23). Joe Gebbia, Chief Design Officer der Vereinigten Staaten und Mitgründer von Airbnb, beschrieb sie als Concierge für die Navigation durch die Regierung. Sie verbindet Googles Gemini und SpaceXAIs Grok (24). Zunächst durchsucht sie Regierungsseiten, später soll sie bei Medicare oder Passverlängerungen helfen. Beim Start konnte sie solche Aufgaben noch nicht erledigen. Bei einer Namensänderung nach der Ehe erklärte der Chatbot, dies sei aktuell nicht möglich und für 2027 nicht vorgesehen (25).
„Nein. America.gov kann heute keine Namensänderung in offiziellen Dokumenten vornehmen, und eine Namensänderung nach einer Eheschließung steht auch für 2027 nicht auf der Liste der geplanten Dienste.“
Die Regierung setzt damit selbst auf KI, während sie zugleich die Selbstkontrolle der privaten Entwickler zum Sicherheitsprinzip erklärt. Genau hier wird der Widerspruch sichtbar: Die Unternehmen warnen vor Risiken und entwickeln zugleich autonomere Agenten. Washington will beschleunigen und der Kongress diskutiert Abschaltmechanismen. Trump fasste seine Linie so zusammen:
„Wir ergeben uns nicht den Ängsten davor, was Technologien uns antun werden. Wir entscheiden, dass diese Technologien für uns einige sehr, sehr unglaubliche Dinge tun werden.“
Die neue Ordnung setzt auf Wachstum, technologische Vorherrschaft und freiwillige Regeln. Internationale Kontrolle wird ausgeschlossen, die Entwickler werden zu ihren eigenen Aufsehern gemacht und aus KI wird Superintelligenz. Die Bewährungsprobe liegt dort, wo Wettbewerb, Börseninteressen, geopolitische Rivalität und autonome Systeme kollidieren.
Quellen und Anmerkungen
(1) https://www.tagesschau.de/wirtschaft/technologie/ki-ausbrueche-haftung-faq-100.html
(2) https://www.tagesschau.de/ausland/amerika/trump-regulierung-ki-100.html
(4) https://www.tagesschau.de/wirtschaft/technologie/diskussion-ki-regulierung-faq-100.html
(5) https://openai.com/de-DE/index/hugging-face-model-evaluation-security-incident/
(6) https://www.tagesschau.de/wirtschaft/technologie/ki-anthropic-106.html
(7) https://darioamodei.com/post/we-must-pace-the-frontier
(8) https://darioamodei.com/post/we-must-pace-the-frontier
(9) https://x.com/elonmusk/status/2098789109980332057?s=20
(10) https://www.aljazeera.com/news/2026/9/29/trump-top-tech-firms-sign-accord-to-self-police-ai-development, https://apnews.com/article/trump-ai-anthropic-musk-595796511f110fc006cca0d01329733e
(11) https://transcripts.cnn.com/show/cg/date/2026-09-29/segment/01
(12) https://www.zeit.de/news/2026-09/30/trump-ki-firmen-sollen-sich-selbst-beaufsichtigen
(13) https://www.tagesschau.de/wirtschaft/unternehmen/openai-boersengang-102.html
(15) https://www.tagesschau.de/ausland/amerika/trump-reaktion-ai-kritik-100.html
(16) https://www.mfa.gov.cn/esp/xwfw/lxjzzdh/202609/t20260916_12023255.html
(17) https://www.mfa.gov.cn/eng/xw/fyrbt/lxjzh/202501/t20250114_11533650.html
(18) https://transcripts.cnn.com/show/wwkmf/date/2026-09-14/segment/01
(19) https://www.bundesregierung.de/breg-de/suche/regierungspressekonferenz-vom-14-september-2026-2452570
(20) https://www.businessinsider.de/politik/trump-macht-ernst-und-benennt-ki-in-super-intelligence-um/
(21) https://www.berliner-zeitung.de/article/trump-super-intelligence-slowenien-si-domain-10446246
(22) https://america.gov/
(24) https://chatgpt.com/c/6abd1ade-4a50-83eb-ac35-d749c000dd13
(25) https://www.axios.com/2026/09/29/america-gov-trump-ai-website
+++
Dank an die Autorin für das Recht zur Veröffentlichung dieses Beitrags.
+++
Bild: Rom, Georgia, USA. 9. März 2024. Donald Trump,
Bildquelle: Phil Mistry / shutterstock
+++
Ihnen gefällt unser Programm? Machen wir uns gemeinsam im Rahmen einer "digitalen finanziellen Selbstverteidigung" unabhängig vom Bankensystem und unterstützen Sie uns bitte mit der:
Spenden-Kryptowährung „Nackte Mark“: https://apolut.net/unterstuetzen/#nacktemark
oder mit
Bitcoin: https://apolut.net/unterstuetzen#bitcoin
Informationen zu weiteren Unterstützungsmöglichkeiten finden Sie hier: https://apolut.net/unterstuetzen/
+++
Bitte empfehlen Sie uns weiter und teilen Sie gerne unsere Inhalte in den Sozialen Medien. Sie haben hiermit unser Einverständnis, unsere Beiträge in Ihren eigenen Kanälen auf Social-Media- und Video-Plattformen zu teilen bzw. hochzuladen und zu veröffentlichen.
+++
Abonnieren Sie jetzt den apolut-Newsletter: https://apolut.net/newsletter/
+++
Unterstützung für apolut kann auch als Kleidung getragen werden! Hier der Link zu unserem Fan-Shop: https://harlekinshop.com/pages/apolut
