Im Börsenprospekt des KI-Unternehmens warnt die Firma vor möglichen Schäden durch immer autonomere Systeme sowie vor Finanz- und Aufsichtsrisiken.
Anthropic warnt vor einer ganzen Reihe von Risiken für Anleger: Dazu zählen außer Kontrolle geratene KI-Systeme, Cyberangriffe und die Gefahr, dass künstliche Intelligenz zur Entwicklung gefährlicher Waffen eingesetzt wird. Das Unternehmen bereitet sich auf seinen Börsengang vor.
WERBUNG
WERBUNG
Von dem 335 Seiten starken Börsenprospekt zu Finanzen, Managergehältern, Dividendenpolitik und weiteren Punkten entfallen 93 Seiten allein auf „Risikofaktoren“ – Aspekte, die die Geldanlage der Aktionärinnen und Aktionäre gefährden könnten. Beim Rivalen SpaceX machten ähnliche Risikohinweise nur 38 von über 250 Seiten aus.
Diese Angaben sind Teil des Pflichtprogramms eines Börsengangs. Sie sollen Investorinnen und Investoren ein klareres Bild der Risiken geben, die sie beim Einstieg in das Unternehmen eingehen.
Anthropic stellt seinen Börsengang zugleich als Beitrag dar, um aus seiner Sicht bestehende KI-Risiken besser zu begrenzen.
„Wer KI entwickelt, greift direkt auf kognitive Fähigkeiten zu. Und alles, was so mächtig ist, kann zum Guten wie zum Schlechten eingesetzt werden“, schreiben die Gründer des Unternehmens in einem Brief an potenzielle Anteilseigner im Börsenprospekt. „Anthropic ist eine stark werteorientierte Organisation, die zu großen Teilen gegründet wurde, um der Welt zu helfen, die Vorteile von KI zu nutzen und ihre Gefahren zu vermeiden.“
Dennoch ist die Liste der Risiken lang. Sie reicht von eher alltäglichen Problemen – etwa der Frage, ob Anthropic Schlüsselpersonal halten kann oder mit neuen Auflagen zurechtkommt – bis hin zu möglicher Verwicklung in Cyberangriffe und der Verbreitung gefährlicher Falschinformationen.
Einige der wichtigsten Punkte:
Rasanter Fortschritt der Technologie
Anthropic räumt ein, dass sich seine Modelle so schnell weiterentwickeln könnten, dass das Unternehmen nicht mehr rechtzeitig ausreichende Sicherheitsvorkehrungen einführen kann. „Das könnte die Wahrscheinlichkeit von Sicherheitsvorfällen, regulatorischem Eingreifen oder Reputationsschäden erhöhen und unser Geschäft beeinträchtigen“, heißt es im Prospekt.
Anthropic-Chef Dario Amodei warnte im September, dass KI binnen sechs bis zwölf Monaten in der Lage sein könnte, einen Schwarm von Softwareagenten zu steuern, der das gesamte Internet unter seine Kontrolle bringt. Seine Warnung und der geplante Aktienverkauf fallen in eine Phase wachsender Sorgen innerhalb und außerhalb der Branche: Immer mächtigere Systeme können Probleme lösen, die Menschen überfordern, könnten aber auch selbstständig schädliche Aufgaben ausführen.
„Wenn KI-Systeme immer autonomer werden und folgenschwere Entscheidungen mit weniger menschlicher Kontrolle treffen können“, heißt es in dem bei der US-Börsenaufsicht SEC eingereichten Dokument, drohe die Gefahr, dass solche Systeme „selbstständig und im großen Maßstab schädliche Handlungen vornehmen, ohne menschliches Eingreifen“.
„Selbst wenn unsere eigenen Modelle keinen solchen Schaden verursachen, könnte ein schwerer Sicherheitsvorfall mit einer beliebigen Spitzen-KI der gesamten Branche erheblichen Reputationsschaden zufügen, eine öffentliche Gegenreaktion auslösen und zu weitreichenden Regulierungsschritten führen, die unser Geschäft beeinträchtigen“, schreibt Anthropic.
Da die KI-Modelle inzwischen selbst zur Forschung und Entwicklung bei Anthropic beitragen, könnte die Technik sich „über unsere Fähigkeit hinausentwickeln, neue Modelle zu bewerten und abzusichern“, heißt es weiter. Das könnte dem Unternehmen schaden.
Böswillige Akteure: Gefahr massiver Schäden
In dem Prospekt beschreibt Anthropic die Sorge, dass hochentwickelte KI-Systeme ohne ausreichende Sicherungen und Kontrolle „katastrophale oder existenzielle Risiken für die Menschheit darstellen könnten – insbesondere, wenn diese Systeme missbraucht, vervielfältigt, als Waffe eingesetzt oder mit hoher Autonomie betrieben werden“.
Dem Unternehmen drohe Schaden, falls der Einsatz durch Kriminelle tatsächlich schwere Folgen hat „oder wenn unsere Leitplanken und Schutzmechanismen einen solchen Missbrauch nicht verhindern“.
Anthropic beschreibt Szenarien, in denen Täter KI-Modelle nutzen, um chemische Waffen zu bauen, oder autoritäre Herrscher die Technologie zur Unterdrückung ihrer Bevölkerung einsetzen. Im September hatte das Unternehmen mitgeteilt, mehrere Versuche blockiert zu haben, seine Modelle für Cyberangriffe, Überwachung oder Forschung einzusetzen, die zur Entwicklung biologischer Waffen führen könnte.
Begrenzte Rechenleistung als Wachstumsrisiko
Unter „Compute“ versteht Anthropic die Rechenleistung und Ressourcen, die für den Aufbau, das Testen und die Verbesserung von KI-Modellen nötig sind. Sie sind teuer und stark nachgefragt. Wenn Anthropic keine ausreichende Rechenkapazität sichern kann oder „es uns nicht gelingt, unsere Compute-Ressourcen effizient über unsere Arbeitslasten zu verteilen, können wir möglicherweise keine Modelle trainieren, die wettbewerbsfähig bleiben oder unsere Kundschaft ausreichend bedienen“, warnt das Unternehmen.
Anthropic nennt auch Widerstand gegen neue Rechenzentren als Geschäftsrisiko. Der Ausbau solcher Zentren „hat öffentliche Kontroversen und regulatorische Prüfungen ausgelöst – wegen Umweltfolgen, Flächen- und Wasserverbrauch sowie der Nutzung knapper Stromressourcen“, heißt es. Müssen Regulierer deshalb zusätzliche Auflagen oder Gebühren verhängen, könnte das das Geschäft beeinträchtigen.
Hinzu kommt: Anthropic erzielt einen großen Teil seines Umsatzes mit wenigen Großkunden, darunter SpaceX und Microsoft, sowie einigen wichtigen Vertriebskanälen. Zieht sich auch nur einer dieser Partner zurück oder reduziert sein Geschäft deutlich, könnten die Aussichten und Finanzen des Unternehmens spürbar leiden.
Umgang mit den Risiken
Die Kombination aus großem Risiko und großem Potenzial ist für Anthropic zugleich zentrales Verkaufsargument. Das Unternehmen inszeniert sich als verantwortungsbewusster KI-Anbieter und wirbt um Geschäftskunden, indem es seine Sicherheitsorientierung hervorhebt.
„Wir sind überzeugt, dass Unternehmen an der KI-Spitze in Sicherheit und Ausrichtung investieren müssen, um eine verantwortungsvolle Verbreitung dieser Technologie zu gewährleisten“, heißt es im Prospekt.
Brian Mulberry, Chefmarktstratege beim Analysehaus Zacks Investment Research, sagt, Börsengänge müssten „sehr klar“ zeigen, welchen Risiken Anleger ausgesetzt sind, wenn sie in eine neue Aktie investieren. „Eines der guten Dinge an unseren Kapitalmärkten hierzulande ist das Maß an Transparenz, zu dem sich börsennotierte Unternehmen verpflichten müssen“, sagte er. „Wer an einer US-Börse gelistet ist, muss diese Risiken sehr deutlich darlegen, damit Menschen verstehen, ob sie mit ihrem hart verdienten Geld an einem solchen Deal mitwirken und ihn finanzieren wollen.“