KI-Debatte: Wer sind die Doomer und die Booster im weltweiten Streit um Risiken?

Die erbitterte Debatte über Künstliche Intelligenz hat sich in verfeindete Lager aufgespalten. Dazwischen steckt eine vorsichtige Mitte fest.

WERBUNG

WERBUNG

Dieser Überblick zeichnet die Frontlinien in einem Konflikt nach, der um eine Technologie tobt, die heute das Rückgrat der Wirtschaft bildet und über die Zukunft des Planeten mitentscheiden könnte.

Beide Begriffe stammen nicht aus der Fachsprache, sondern aus Online-Debatten über KI auf X und in Internetforen. Sie greifen den Slang aus Tech- und Krypto-Szene auf, die für gegensätzliche Lager gern Kurzformen erfindet.

„Doomer“ bezeichnet jene, die Katastrophen voraussagen. „Booster“, teils gleichbedeutend mit „Accelerationists“ verwendet, beschreibt diejenigen, die eine schnelle und kaum begrenzte Entwicklung von KI vorantreiben.

Die „Doomer“

Die Angst vor gefährlichen Folgen neuer Technologien für die Gesellschaft begleitet die Geschichte seit Langem.

OpenAI entstand auch aus der Sorge seiner Geldgeber, darunter Erstinvestor Elon Musk, dass die Entwicklung von KI am Ende bei Google landen könnte – einem Konzern, dem sie diese Macht nicht anvertrauen wollten.

Heute kommen viele der „Doomer“, die vor den Folgen Künstlicher Intelligenz warnen, aus den Unternehmen selbst, aus der Wissenschaft oder aus beiden Welten.

Im Unternehmenlager steht dafür vor allem Dario Amodei, Mitgründer von Anthropic. Die Firma zählt inzwischen zu den großen KI-Konzernen und steuert auf einen historischen Börsengang zu.

Amodei verließ OpenAI, weil er den Eindruck hatte, dass das von Sam Altman geführte Unternehmen die Möglichkeiten und Risiken der Technologie nicht ernst genug nahm.

Kritiker nennen diese Haltung heuchlerisch, denn auch Anthropic bringt laufend Spitzentechnologie auf den Markt.

Der frühere Google-Forscher Geoffrey Hinton und der Informatiker Yoshua Bengio warnten in den Monaten nach der Veröffentlichung von ChatGPT im Jahr 2022 besonders laut vor den Gefahren von KI und lösten damit den jüngsten KI-Boom mit aus.

Der MIT-Physiker Max Tegmark, Leiter des Future of Life Institute, organisierte 2023 einen offenen Brief, der eine sechsmonatige Pause bei der Entwicklung der fortgeschrittensten KI-Systeme forderte. Tausende unterschrieben, darunter auch Musk.

Noch weiter außerhalb der Branche steht Eliezer Yudkowsky, ein Autodidakt, der seit zwei Jahrzehnten warnt, eine hinreichend mächtige KI werde die Menschheit auslöschen.

Bauen, bauen, bauen

Auf der Gegenseite stehen die sogenannten Accelerationists. Sie glauben an den Fortschritt der Technologie, an seine Unvermeidbarkeit und an seinen grundlegenden Nutzen für die Gesellschaft – und verdienen zugleich an diesem Erfolg.

Diese Haltung ist im Silicon Valley weit verbreitet. Am deutlichsten vertreten sie prominente Wagniskapitalgeber mit direktem Draht ins Weiße Haus, etwa Marc Andreessen, Chef des Investors Andreessen Horowitz, und David Sacks, einst KI-Beauftragter des Weißen Hauses.

Sie stehen persönlich und ideologisch dem Tech-Investor Peter Thiel nahe. Das Lager lehnt Regulierung grundsätzlich ab und kämpft hinter den Kulissen und auf X gegen das, was es als üppig finanzierte Weltuntergangs-„Kult“ bezeichnet.

Sie werfen den „Doomern“ vor, im Namen großer Konzerne aufzutreten, die mit Hilfe strenger Regeln kleinere Rivalen vom Markt drängen wollen.

Garry Tan, Chef des Startup-Inkubators Y Combinator, gehört zu den lautesten Stimmen. Aus seiner Sicht bedroht sicherheitsgetriebene Regulierung vor allem kleinere Firmen, die die Kosten nicht schultern können.

Andreessen und seine Verbündeten finanzieren mit viel Geld politische Aktionskomitees, die Republikaner und Demokraten unterstützen, die auf weiteres KI-Wachstum setzen. Anthropic versucht inzwischen, über eigene Spendenaktionen bei diesen Summen mitzuhalten.

Im selben Tempo-Lager steht Jensen Huang, Chef des Chipkonzerns Nvidia. Seine Halbleiter bilden das Fundament der KI-Revolution und stecken in den riesigen Rechenzentren, die in den USA zunehmend auf Widerstand stoßen.

Huang hält Warnungen vor einer von KI ausgelösten Auslöschung der Menschheit für „kompletten Unsinn“. Zugleich fordert er – anders als manche Accelerationists – einen einheitlichen bundesweiten KI-Rahmen und eine brancheninterne Begutachtung, nicht jedoch völligen Verzicht auf Regeln.

Erwähnenswert ist auch Yann LeCun, der sich den Turing-Preis mit Hinton und Bengio teilte und seit Jahren ihre Warnungen vor existenziellen Gefahren als übertrieben zurückweist.

Mit Vorsicht voran

Viele große Tech-Konzerne versuchen, mit Bedacht vorzugehen. Sie positionieren sich damit wie klassische Großunternehmen, die nicht in einem politischen Streit auf der falschen Seite landen wollen.

Als OpenAI 2015 gegründet wurde, legten die Verantwortlichen die Struktur so an, dass am Ende die Forschenden und nicht die Investoren entscheiden sollten, wie die Technologie eingesetzt wird. Leitmotiv war die Sicherheit der Menschheit.

Unter Sam Altman, der 2023 einen internen Putschversuch sicherheitsorientierter Kolleginnen und Kollegen überstand, verfolgt das Unternehmen heute einen deutlich komplizierteren Kurs. Es spricht offen über Risiken, treibt die Entwicklung aber weiter voran und sucht zugleich die Nähe zu einem Weißen Haus, das bei KI kaum Grenzen setzen will.

Google, Microsoft und Amazon sind darin geübt, bei Technologie über Sicherheit zu sprechen und in Washington doch nur minimale Regulierung zuzulassen.

Auch bei KI bewegen sie sich weiter auf diesem schmalen Grat.