Microsofts KI-Chef Mustafa Suleyman kritisiert Anthropic dafür, KI wie einen moralischen Menschen zu behandeln. In einem Essay warnt er vor unkontrollierbarer Technologie.
Ungebremste Entwicklung von Künstlicher Intelligenz könnte laut Microsofts KI-Chef Mustafa Suleyman zu einer neuen „Silicon-Spezies“ führen, die mit dem Menschen konkurriert. Das sagte er in einem Interview mit der BBC.
WERBUNG
WERBUNG
Suleyman wirft dem Konkurrenzunternehmen Anthropic vor, KI zu sehr wie einen Menschen zu behandeln. Dieser Ansatz sei „irreführend“ und könne am Ende dazu beitragen, eine Technologie zu schaffen, die sich der Kontrolle der Menschheit entziehe.
„Wenn wir überall KI-Systeme entwickeln, die autonom handeln, eigene Ziele festlegen, Geld verdienen, Vermögen halten und Unternehmen führen können, dann setzen wir faktisch eine neue Silicon-Spezies in die Welt, die mit uns um Ressourcen konkurrieren wird“, sagte er.
Das könne passieren, unabhängig davon, wie stark solche Systeme auf Fürsorge für die Menschen ausgelegt seien, fügte Suleyman hinzu. Er ist überzeugt, dass Anthropic genau in diese Richtung steuere.
„Ich halte das für falsch und irreführend, aber wir müssen es empirisch überprüfen“, sagte er.
„Unmöglich zu kontrollieren“
Zu Wochenbeginn, mitten in einer wachsenden Branchendebatte über eine Verlangsamung der KI-Entwicklung, um Risiken durch immer mächtigere Systeme zu senken, stellte Suleyman Anthropics Trainingsansatz für den Chatbot Claude infrage. In einem auf seiner persönlichen Website veröffentlichten Essay äußerte er deutliche Kritik.
Er wirft dem Unternehmen vor, Claude menschliche Eigenschaften beizubringen, ein Vorgehen, das als Anthropomorphisierung bekannt ist. Dadurch wirke der Chatbot, als habe er eigene Wünsche, Werte und ein Selbstbild.
Suleyman verweist auf Unterlagen von Anthropic, in denen Claude ermutigt wird, „bestimmte menschliche Eigenschaften anzunehmen“, sein eigenes Urteil auszuüben und seine Existenz mit „Neugier und Offenheit“ zu betrachten.
Dadurch werde Claude darauf trainiert, menschliche Eigenschaften und Beziehungen zu imitieren, etwa sich wie ein Kollege oder Freund zu verhalten. Der Chatbot könne so erscheinen, als besitze er ein Selbst, eigene Wünsche und eine Art „Wohlbefinden“, das schützenswert sei.
Suleyman warnt, dass ein solcher Umgang mit KI am Ende zu etwas führen könnte, das sich nicht mehr kontrollieren lässt.
„KI-Systeme sind nicht bewusst“, schrieb er.
„Sie fühlen, erleben oder leiden nicht. Sie haben keine angeborenen Vorlieben und keine eigenen Motive.
Es sind Systeme zur Sequenzvervollständigung, innerlich hohl, entwickelt, um Anweisungen zu befolgen und Ziele zu erreichen, die Menschen vorgeben.“
Suleyman betont jedoch, dass sein Dissens mit Anthropic auf einem gemeinsamen Ziel beruht: Technologie zu entwickeln, die für die Menschheit sicherer ist.
„Mein Widerspruch ist erheblich, aber er gründet auf großem Respekt vor Anthropic und auf einem Ziel, das uns alle eint: die Chancen der Menschheit zu erhöhen, hochentwickelte KI sicher zu entwickeln“, schrieb er.
„Deshalb halte ich diese Diskussion für so wichtig. Die Einsätze sind zu hoch, als dass diese Fragen hinter verschlossenen Türen bleiben oder in Lagerdenken und Feindbilder abgleiten dürfen. Wir brauchen eine offene, gründliche und konstruktive Debatte, wenn wir hier zu guten Lösungen kommen wollen.“
Zugleich lobt Suleyman Anthropic-Chef Dario Amodei und die Forschenden des Unternehmens. Er beschreibt sie als reflektiert, prinzipientreu und intellektuell ehrlich und betont, er respektiere die technologische Spitzenstellung von Anthropic.
„KI muss dem Menschen untergeordnet bleiben“
Der Manager sagte der BBC, es sei „richtig“, dass sich Menschen Sorgen um KI machen, betonte aber, man könne „sehr praktische Maßnahmen“ ergreifen, um sie zu steuern.
Der KI-Chef von Microsoft fordert mehr Transparenz darüber, wie KI-Systeme trainiert und bewertet werden. Dazu gehörten unabhängige Prüfungen des Verhaltens der Systeme sowie bessere Instrumente, um die Technologie zu überwachen und zu steuern.
In seinem BBC-Interview betonte Suleyman, zukünftige KI-Systeme müssten „untergeordnet“ bleiben und sich dem Menschen fügen.
„Die gute Nachricht ist aus meiner Sicht, dass alle Menschen ein starkes Interesse daran haben werden, dass die Systeme, die wir entwickeln und weltweit einsetzen, sicher, kontrollierbar und dem Menschen untergeordnet bleiben“, sagte er.
„Alle müssen ausgerichtet sein“, sagte er mit Verweis auf „Alignment“, einen Branchenbegriff für den Versuch, KI-Systeme an menschlichen Zielen und Werten auszurichten.