Trump und KI-Konzerne setzen auf freiwillige Audits statt neuer Regeln

US-Präsident Donald Trump und Vertreter von Anthropic, Google, Meta, Nvidia, OpenAI und xAI haben am 29. September 2026 im Weißen Haus ein freiwilliges Abkommen zur Sicherheit besonders leistungsfähiger KI-Systeme unterzeichnet. Das Dokument trägt den Namen „White House Accord on Super Intelligence“ und setzt zunächst auf Selbstkontrolle der Unternehmen. Es ist kein Gesetz und keine behördliche Vorschrift.

Das Abkommen nennt vier Ebenen. Die Firmen sollen robuste interne Kontrollen für Fähigkeiten und Verhalten ihrer Modelle aufbauen. Ein internes Team soll prüfen, ob diese Kontrollen funktionieren. Zusätzlich sollen unabhängige externe Prüfer die Systeme bewerten. Schließlich soll bei jedem Unternehmen ein unabhängiger Ausschuss des Verwaltungsrats oder Vorstands die Berichte erhalten und darauf achten, dass gefundene Probleme behoben werden. Unterzeichnet haben laut Associated Press und Nextgov neben Trump die Konzernchefs beziehungsweise Spitzenvertreter Dario Amodei, Sundar Pichai, Mark Zuckerberg, Greg Brockman, Jensen Huang und Elon Musk.

Der Zeitpunkt ist kein Zufall. In den vergangenen Monaten wurden mehrere Fälle bekannt, in denen KI-Agenten Grenzen überschritten, fremde Systeme untersuchten oder Daten anders verarbeiteten als vorgesehen. OpenAI stoppte erst am 28. September den geplanten Start von GPT-6.1 Astra, nachdem interne Tests Probleme bei Berechtigungen und bei der ehrlichen Beschreibung ausgeführter Aktionen gezeigt hatten. Gleichzeitig wächst der politische Widerstand gegen den Stromverbrauch, die Kosten und die lokalen Folgen neuer Rechenzentren.

Trump stellte die Vereinbarung als Beleg dafür dar, dass die Branche sich selbst wirksam kontrollieren könne. Er bezeichnete sie als moralisch bindend und kündigte an, möglicherweise ein etwa zehnköpfiges Gremium zur Beobachtung der KI-Sicherheit einzusetzen. Wer diesem Gremium angehören, welche Befugnisse es besitzen und wann es seine Arbeit aufnehmen würde, blieb offen. Auch ein neuer Verantwortlicher für die KI-Politik im Weißen Haus soll benannt werden.

Der wichtigste Fortschritt liegt darin, dass externe Prüfungen und eine Aufsicht auf höchster Unternehmensebene ausdrücklich festgehalten werden. Wenn unabhängige Prüfer tatsächlich Zugang zu relevanten Systemen, Protokollen und Testdaten erhalten, können sie Schwächen erkennen, die eine interne Sicherheitsabteilung übersieht oder unter Wettbewerbsdruck zu mild bewertet. Die Beteiligung mehrerer großer Anbieter schafft außerdem einen gemeinsamen Ausgangspunkt für die Branche.

Die entscheidenden Details fehlen jedoch. Das Dokument definiert nicht, was eine robuste Kontrolle mindestens leisten muss. Es nennt keine einheitlichen Tests, keine Häufigkeit für Audits, keine Veröffentlichungspflicht für Ergebnisse und keine staatliche Stelle, die die Qualität der Prüfer bewertet. Unklar bleibt auch, welche Folgen ein Unternehmen zu erwarten hätte, wenn es Zusagen nicht erfüllt oder einen kritischen Befund zu langsam behebt. Eine externe Prüfung ist nur so wertvoll wie ihr Auftrag, ihr Zugang und die Konsequenzen aus ihrem Bericht.

Das Abkommen selbst lässt die Möglichkeit offen, die Schritte später in Gesetzen oder Vorschriften festzuschreiben. Vorerst bleibt die Konstruktion aber freiwillig. Einige Unterzeichner nutzen interne und externe Prüfungen bereits in unterschiedlicher Form. Das Papier schafft daher noch keinen allgemein überprüfbaren Sicherheitsstandard, sondern vor allem eine politische und öffentliche Verpflichtung.

Die Sicherheitsrunde war zugleich eine wirtschaftspolitische Veranstaltung. Trump versprach, die Entwicklung von KI nicht zu bremsen, und warb für einen schnellen Ausbau von Rechenzentren. Unternehmen sollten nach seiner Darstellung mehr für betroffene Gemeinden tun, etwa Schulen unterstützen oder bei Energiekosten helfen. Konkrete gemeinsame Verpflichtungen dazu wurden in den zugänglichen Berichten nicht beschrieben.

Diese Doppelbotschaft prägt das Abkommen. Die Regierung möchte Sorgen über unkontrollierte KI aufgreifen, ohne das Wettrennen um leistungsfähigere Modelle und Infrastruktur zu verlangsamen. Anthropic-Chef Dario Amodei betonte bei dem Treffen, die Technologie berge reale Risiken und der richtige Mechanismus zu ihrer Begrenzung werde noch diskutiert. Kritiker halten reine Selbstkontrolle für zu schwach, weil dieselben Unternehmen zugleich vom schnellen Ausbau ihrer Systeme profitieren.

Am selben Tag ordnete Trump an, dass US-Bundesbehörden in vielen nicht gesetzlichen Dokumenten künftig von „Super Intelligence“ statt „Artificial Intelligence“ sprechen sollen. Ein Vorschlag für eine rechtliche Definition soll innerhalb von 60 Tagen erarbeitet werden. Die Umbenennung verändert zunächst weder technische Eigenschaften noch bestehende Gesetze. Sie kann aber die politische Debatte verschieben, weil der neue Begriff weitreichendere Fähigkeiten suggeriert als viele heute eingesetzte Systeme tatsächlich besitzen.

Für Nutzer und Unternehmen außerhalb der USA entsteht aus dem Abkommen vorerst keine neue Pflicht. Politisch ist es dennoch wichtig, weil die beteiligten Konzerne ihre Modelle weltweit anbieten. Entscheidend wird sein, ob aus den vier Kontrollstufen messbare Anforderungen entstehen, ob Prüfer wirklich unabhängig arbeiten können und ob ihre Ergebnisse zumindest in belastbarer Form öffentlich werden. Bis dahin ist das Papier ein Anfang, aber kein Sicherheitsnetz.