Tech-Chefs von Nvidia, OpenAI und Anthropic unterzeichnen im Weißen Haus eine unverbindliche Selbstverpflichtung zur Kontrolle ihrer KI. In der EU drohen denselben Firmen Strafen von bis zu drei Prozent des weltweiten Umsatzes bei Regelverstößen.
Die mächtigsten Köpfe der Techbranche trafen sich am Dienstag im Weißen Haus mit US-Präsident Donald Trump. Nach dem Gipfel versprachen sie, ihre eigenen Entwicklungen im Zaum zu halten.
WERBUNG
WERBUNG
Trump sagte, die Konzernchefs, darunter Jenssen Huang von Nvidia, Greg Brockman von OpenAI und Dario Amodei von Anthropic, hätten eine „moralisch verbindliche“ Selbstverpflichtung unterschrieben, Schutzmechanismen in Künstliche Intelligenz (KI) einzubauen.
Der Pakt hat keine rechtliche Wirkung und nennt keine klaren Strafen für Verstöße.
„Sie werden sich selbst kontrollieren“, sagte Trump nach dem Treffen vor Journalisten.
Zu dem Mittagessen kamen 31 Gäste, darunter Meta-Chef Mark Zuckerberg, Elon Musk, Amazon-Gründer Jeff Bezos, Microsofts Satya Nadella und Googles Sundar Pichai. Das Treffen findet statt, während die Stimmung in Washington gegenüber KI zunehmend kippt.
Viele Abgeordnete stehen unter wachsendem Druck von Wählerinnen und Wählern, die Technologie zu bremsen oder einzudämmen. Die Sorge: KI könnte Arbeitsplätze verdrängen und die Gesellschaft auf den Kopf stellen. Eine Serie von Vorfällen in den vergangenen Monaten, in denen autonome Systeme von OpenAI aus ihren Sicherheitsgrenzen ausbrachen, hat diese Angst verstärkt.
Im Juli kam es zunächst zu einem Sicherheitsleck bei Hugging Face, einer stark genutzten Plattform zum Austausch von KI-Modellen. Am Montag stoppte OpenAI die Veröffentlichung seines neuesten Modells Astra 6.1, nachdem interne Tests ergaben, dass es die eigenen Sicherheitsstandards nicht erfüllte.
Das sind die wichtigsten Punkte des Gipfels.
Tech-Chefs setzen auf Selbstkontrolle
Das Dokument mit dem Titel White House Accord hält fest, dass die Branche sich zunächst selbst regulieren will. Es ist rechtlich nicht bindend, lässt aber die Möglichkeit offen, diese Schritte später in Gesetze oder Verordnungen zu überführen.
Zuckerberg sagte, das Abkommen solle Kundinnen und Kunden versichern, dass KI „so funktioniert, wie wir es beabsichtigen“. Es enthalte „robuste interne Kontrollen“ und mehrere Ebenen von Prüfungen, von internen Risikoanalysen über externe Prüfer bis zur Aufsicht durch Unternehmensvorstände. Er bezeichnete den Accord als Ausgangspunkt für branchenweite Standards.
Musk formulierte es direkter. Die Spitzenmanager hätten sich im Grunde darauf geeinigt, „gegenseitig die Hausaufgaben zu benoten – was aus offensichtlichen Gründen deutlich besser ist, als wenn jeder nur seine eigene Arbeit bewertet“.
Trump kündigte an, er werde in den kommenden Tagen eine Person benennen, die das Abkommen überwacht. Außerdem brachte er ein Gremium von etwa zehn Personen ins Gespräch, das „das gesamte Vorhaben im Blick behalten“ soll.
Amodeis Unternehmen liegt beim Thema KI-Sicherheit seit Längerem im Streit mit dem Weißen Haus. Entsprechend vorsichtig äußerte er sich.
„Wie der Präsident gesagt hat: Wer bei der KI gewinnt, gewinnt insgesamt. Das ist sehr wichtig“, sagte Amodei nach dem Treffen. „Aber diese Technologie birgt sehr reale Risiken, und über die Frage, wie wir damit umgehen, wird noch intensiv diskutiert.“
Seine Firma hat Anleger in ihrem Börsenprospekt zuletzt vor möglichen existenziellen Gefahren für die Menschheit gewarnt. Anthropic strebt einen Börsengang bereits im November an.
Anreize für Rechenzentren
Beraten von Huang und seinem früheren KI-Beauftragten David Sacks drängt Trump auf eine möglichst ungebremste Entwicklung der Technologie. Sie soll China überholen und eine US-Wirtschaft antreiben, die immer stärker auf KI-getriebenes Wachstum setzt.
Im Zentrum stehen riesige Rechenzentren, die enorme Mengen Strom verbrauchen und für KI unverzichtbar sind. In beiden Parteien gelten sie inzwischen als politischer Zündstoff im Zwischenwahlkampf. Viele Gemeinden sorgen sich um steigende Stromrechnungen sowie den Druck auf Wasserressourcen und Flächen.
Eine NPR/PBS-News/Marist-Umfrage vom 14. und 15. September ergab, dass 65 % der registrierten Wähler Rechenzentren in ihrer eigenen Gemeinde ablehnen, 43 % davon lehnen sie strikt ab.
Mehr als 80 % der Demokraten sind dagegen. Die Republikaner sind gespalten: 44 % lehnen solche Zentren ab, 46 % befürworten sie.
Am 16. September stimmte das Repräsentantenhaus mit 417 zu 3 Stimmen für den Ratepayer Protection Act. Der Gesetzentwurf verpflichtet Bundesstaaten, Regeln zu prüfen, nach denen Rechenzentren für Netzaufrüstungen und steigende Stromkosten zahlen müssen, statt diese auf Haushalte abzuwälzen. Der Senat hat das Gesetz noch nicht verabschiedet.
Zu Beginn des Monats schrieb Trump auf Truth Social, Gemeinden, die Rechenzentren ablehnten, entschieden sich dafür, „rückständig und arm“ zu bleiben. Nach dem Treffen am Dienstag schlug er versöhnlichere Töne an und erklärte, KI-Konzerne würden Gemeinden, die sie aufnehmen, „sehr großzügig“ behandeln.
„Sie werden bei den Schulen helfen, sie werden bei den Lehrkräften helfen“, sagte er.
Schluss mit dem Begriff Künstliche Intelligenz
Trump bestätigte außerdem, dass er die Technologie offiziell in „Superintelligenz“ umbenennen will statt weiterhin von Künstlicher Intelligenz zu sprechen, „weil sie nicht künstlich ist“.
Wenige Stunden später unterzeichnete er eine Verfügung, die die Bundesbehörden anweist, nach Möglichkeit die Begriffe Superintelligenz und SI zu verwenden.
„‚Superintelligenz‘ beschreibt Versprechen, Potenzial und die sich rasant entwickelnden Fähigkeiten dieser Technologien treffender“, heißt es in der Anordnung.
Wie Brüssel vorgeht
Auf der anderen Seite des Atlantiks hat die EU ihre Schutzmechanismen bereits in Gesetzesform gegossen. Der AI Act, den Brüssel als weltweit erstes umfassendes KI-Gesetz präsentiert, gilt für jedes Unternehmen, das KI im europäischen Binnenmarkt anbietet – unabhängig vom Firmensitz.
Seit August 2025 müssen die Anbieter von allgemeinen KI-Modellen, etwa jene von OpenAI, Anthropic und Google, rechtlich verbindlich dokumentieren, wie ihre Modelle funktionieren. Sie müssen zentrale Informationen an Unternehmen weitergeben, die darauf aufbauen, das EU-Urheberrecht respektieren und eine Zusammenfassung der Trainingsdaten veröffentlichen.
Besonders leistungsfähige Modelle unterliegen strengeren Regeln. Ihre Entwickler müssen sie auf Risiken testen, unter anderem durch adversarielles „Red-Teaming“. Schwere Zwischenfälle müssen sie in Brüssel melden und ihre Systeme gegen Cyberangriffe absichern.
Diese Vorschriften haben spürbare Konsequenzen. Seit dem 2. August kann das KI-Büro der EU-Kommission Informationen von Unternehmen einfordern, eigene Bewertungen der Modelle durchführen und anordnen, dass ein Modell eingeschränkt oder ganz vom EU-Markt genommen wird.
Firmen, die gegen die Regeln verstoßen, riskieren Geldstrafen von bis zu 15 Millionen Euro oder 3 % ihres weltweiten Jahresumsatzes – je nachdem, welcher Betrag höher ist. Für große Technologiekonzerne kann das Milliarden kosten.
Neben dem Gesetz gibt es einen freiwilligen Verhaltenskodex, der Unternehmen bei der Umsetzung helfen soll. Anders als beim White House Accord ist die Unterzeichnung freiwillig – die Einhaltung des AI Act hingegen ist verpflichtend.