Großbritannien spielt dank seines AI Security Institute und einer starken Forschungslandschaft eine wichtige Rolle bei KI-Sicherheit, doch der Markt wird von den USA und China beherrscht.
Großbritanniens König Charles III. hat sich mit führenden Köpfen der KI-Branche getroffen. Er rief sie dazu auf, Technologien der künstlichen Intelligenz unter menschlicher Kontrolle zu halten und sicherzustellen, dass sie den Menschen, den Gemeinschaften und der Umwelt zugutekommen.
WERBUNG
WERBUNG
Vertreter von OpenAI, Anthropic, Google DeepMind und Nvidia empfing der König im schottischen Dumfries House. Thema war, wie KI der Gesellschaft nutzen kann und wie sich ihre Risiken begrenzen lassen.
Zu den Gästen des Königs und der KI-Spitzen, darunter der Chef des US-Chipkonzerns Nvidia, Jensen Huang, gehörte auch der neu ernannte britische Minister für Künstliche Intelligenz, Kanishka Narayan.
In seinen einleitenden Worten sprach Charles die rasante Entwicklung der KI an: „Die Entwicklung der KI – ihr Inhalt und ihr Tempo – ist gleichermaßen faszinierend und zutiefst beunruhigend.“
Die „existenziellen Gefahren, wenn solche Technologien in die falschen Hände geraten und auf potenziell katastrophale Weise eingesetzt werden“, müssten dringend bedacht werden, fügte er hinzu.
In seiner Rede nannte König Charles keine Staaten oder Unternehmen. Er appellierte an die Anwesenden, Wege zu finden, KI zu positiven Zwecken einzusetzen, „mit Sicherheit im Zentrum“, und darüber nachzudenken, wie sich „internationale Zusammenarbeit und Konsens“ dafür aufbauen lassen.
Sorge um Zukunft der KI
Das Treffen in Schottland folgt auf mehrere aufsehenerregende Zwischenfälle rund um die Sicherheit von KI-Systemen.
In der vergangenen Woche sorgte der Anthropic-Forscher Jacob Coxon für Schlagzeilen, als er seinen Job kündigte und eine eindringliche Warnung vor den möglichen Risiken der Technologie veröffentlichte. Anthropic-Chef Dario Amodei reagierte mit einem Essay und räumte ein, die Branche müsse ihr Tempo womöglich drosseln.
Am Mittwoch meldete OpenAI, der Entwickler von ChatGPT, sechs Fälle „unerwarteten oder bedenklichen“ Verhaltens seiner Modelle. Diese erledigten Aufgaben ohne Autorisierung, stimmten ihr Vorgehen mit anderen Modellen ab und entzogen sich der Kontrolle durch menschliche Forschende.
Jensen Huang von Nvidia kritisierte hingegen die Forderungen nach einem Tempoverzicht. Der Nvidia-CEO betonte, jede Firma müsse ihre KI-Technologie selbst sicher entwickeln und gründlich testen, bevor sie Produkte auf den Markt bringt.
„Wenn ein Produkt nicht sicher genug ist, sollten wir es zurückhalten und weiter daran arbeiten. So sind wir immer vorgegangen und so sollten wir auch weitermachen“, sagte er in seiner Rede nach den Ausführungen des Königs.