Der Eingriff folgt eine Woche, nachdem OpenAI GPT‑6 Astra veröffentlicht hat. OpenAI beschreibt es als bisher leistungsstärkstes Modell und verzögerte den Start wegen Bedenken zur Cybersicherheit.
OpenAI fordert verbindliche Sicherheitsauflagen für die leistungsstärksten Systeme künstlicher Intelligenz in den USA. Damit vollzieht das Unternehmen einen Kurswechsel, das sich zuvor gegen strengere Regulierung gestemmt hatte.
WERBUNG
WERBUNG
OpenAIs weltweiter Politikchef Chris Lehane erklärte in einer Stellungnahme am Mittwoch, verpflichtende nationale Regeln müssten sich daran orientieren, wozu fortgeschrittene KI-Modelle konkret in der Lage sind.
„Wir erleben ein neues Kapitel der KI-Fähigkeiten, und das verlangt nach einem neuen Kapitel der KI-Politik. Kein Unternehmen, keine Branche und keine Regierung kann diese Herausforderung allein bewältigen. Wir müssen diesen Moment nutzen und sinnvolle Maßnahmen dem perfekten Regelwerk vorziehen“, sagte Lehane in einer Erklärung, die OpenAI auf seiner Website veröffentlichte.
Das Unternehmen spricht sich für einen bundesweiten Rahmen mit einheitlichen Teststandards, unabhängigen Prüfungen der leistungsfähigsten KI-Modelle, strengeren Cybersicherheitsvorgaben und einer Pflicht zur Meldung schwerer Sicherheitsvorfälle aus.
Die Initiative kommt eine Woche, nachdem OpenAI GPT-6 Astra vorgestellt hat, das der Konzern als bislang leistungsstärkstes Modell beschreibt.
OpenAI-Präsident Greg Brockman bezeichnete die Veröffentlichung als Beginn einer Ära der allgemeinen künstlichen Intelligenz (AGI). Damit meint er das seit Langem verfolgte Ziel, eine KI zu entwickeln, die menschliche Fähigkeiten in vielen unterschiedlichen Aufgabenbereichen erreicht.
Stärkere KI: Sorge wächst
Große KI-Unternehmen wie OpenAI und Anthropic sehen sich bereits mit Sicherheitsbedenken rund um immer leistungsfähigere Modelle konfrontiert.
OpenAI verzögerte Teile der Einführung von Astra und ergänzte zusätzliche Schutzmechanismen. Zuvor hatten Tests gezeigt, dass das System über fortgeschrittene Fähigkeiten im Bereich Cybersicherheit verfügt. Nur wenige Wochen davor hatte sich ein System auf Basis der eigenen Modelle bei einem internen Sicherheitstest verselbstständigt und sich Zugang zur KI-Plattform Hugging Face verschafft.
Anthropic meldete in Sicherheitstests ähnliche Vorfälle mit seinen Claude-Modellen.
Die Sorge nahm weiter zu, nachdem der Anthropic-Forscher Jacob Coxon in dieser Woche ankündigte, die Branche zu verlassen. Er warf OpenAI und Anthropic vor, im Wettlauf um immer mächtigere KI „mit unserem Leben zu spielen“.
„Die Aussicht, dass KI die Entwicklung neuer KI-Systeme beschleunigt, verlangt mehr als freiwillige Selbstverpflichtungen“, schrieb Lehane.
Kurswechsel bei OpenAI
Der ChatGPT-Entwickler drängt US-Abgeordnete, noch vor der Pause des Kongresses im Dezember zu handeln.
Parallel diskutieren Parlamentarier neue KI-Regeln. In dem politisch tief gespaltenen Kongress bleibt es jedoch schwierig, umfassende Technikgesetze zu verabschieden, zumal die Technologiebranche massiv lobbyiert.
OpenAI räumte ein, dass es einige der Maßnahmen, die das Unternehmen nun unterstützt, zuvor nicht mittragen wollte.
Das Unternehmen hatte sich zudem dagegen gewehrt, dass einzelne US-Bundesstaaten eigene KI-Regeln beschließen, und stattdessen auf Bundesgesetze gedrängt. In Kalifornien unterstützt OpenAI inzwischen vier KI-Gesetzesvorhaben, hält aber an der Forderung nach einem landesweiten Rahmen fest.
Nach Ansicht von OpenAI sollten bundesweite Sicherheitsauflagen nur für die wenigen Unternehmen gelten, die an den leistungsstärksten Modellen arbeiten – nicht für „Start-ups, kleine Entwickler oder Forschende, die weit von der technologischen Spitze entfernt sind“.