In dem Schreiben warnen Google-Mitarbeitende, das Pentagon könne die Technik auf „unmenschliche“ Weise nutzen. Sie fürchten Massenüberwachung und tödliche autonome Waffen.
Mehr als sechshundert Beschäftigte von Google haben das Unternehmen aufgefordert, ein mögliches Abkommen mit dem Pentagon abzulehnen, das den Einsatz seiner Künstlichen Intelligenz in geheimen Militäroperationen erlauben würde, heißt es in einer Erklärung vom Montag.
WERBUNG
WERBUNG
"Wir wollen, dass KI der Menschheit nutzt – und nicht auf unmenschliche oder extrem schädliche Weise eingesetzt wird", heißt es in dem offenen Brief (Quelle auf Englisch) an Google-Chef Sundar Pichai. "Das betrifft tödliche autonome Waffensysteme und Massenüberwachung, geht aber noch weit darüber hinaus."
Unterzeichnet haben den Brief Mitarbeiterinnen und Mitarbeiter aus Bereichen wie Google DeepMind, Cloud und anderen Sparten. Er erscheint zu einem Zeitpunkt, an dem der Technologiekonzern mit dem US-Verteidigungsministerium über den möglichen Einsatz seines KI-Modells Gemini in geheim eingestuften Projekten verhandelt.
Offen unterschrieben haben ihn mehr als zwanzig Direktoren, Senior Directors sowie Vizepräsidentinnen und Vizepräsidenten.
"Geheime Aufträge sind per Definition intransparent", sagte eine der organisierenden Beschäftigten, die in der Erklärung nicht namentlich genannt wurde.
"Im Moment gibt es keine Möglichkeit sicherzustellen, dass unsere Werkzeuge nicht dazu genutzt werden, enormen Schaden anzurichten oder Bürgerrechte im Verborgenen auszuhöhlen. Es geht um Dinge wie das Erstellen von Personenprofilen oder das Anvisieren unschuldiger Zivilisten."
Der Brief erscheint in einer Phase, in der Technologiekonzerne zunehmend unter Druck stehen, offenzulegen, wie Militär und Geheimdienste ihre KI-Werkzeuge nutzen dürfen, nachdem es zu einem Streit zwischen dem Pentagon und dem KI-Start-up Anthropic gekommen war.
Anthropic hatte zuvor das US-Verteidigungsministerium verklagt, nachdem das Unternehmen als "Risiko für die Lieferkette" eingestuft worden war. Vorausgegangen war die Forderung, seine Systeme nicht für Massenüberwachung oder autonome Kriegsführung einzusetzen.
Anthropic-Chef Dario Amodei erklärte, er könne "dem Wunsch des Pentagons nach uneingeschränktem Zugang zu den KI-Systemen des Unternehmens mit gutem Gewissen nicht nachkommen".
"In einem eng umrissenen Bereich glauben wir, dass KI demokratische Werte eher untergraben als schützen kann", schrieb Amodei. "Manche Anwendungen liegen zudem einfach außerhalb dessen, was heutige Technologie sicher und zuverlässig leisten kann."
Als Reaktion auf Amodeis Entscheidung ordnete US-Präsident Donald Trump an, dass Regierungsbehörden den Chatbot Claude des Unternehmens nicht mehr nutzen dürfen.
Nach Angaben der Organisatorinnen und Organisatoren des Briefes hat Google Vertragsklauseln vorgeschlagen, die verhindern sollen, dass Gemini für inländische Massenüberwachung oder für autonome Waffen ohne angemessene menschliche Kontrolle eingesetzt wird.
Das Pentagon drängt jedoch auf eine weiter gefasste Formulierung "alle rechtlich zulässigen Nutzungen" und argumentiert, diese sei nötig, um die operative Flexibilität zu wahren. Beschäftigte halten solche Schutzklauseln in der Praxis für schwer durchsetzbar und verweisen auf bestehende Pentagon-Regeln, die externe Kontrolle über seine KI-Systeme begrenzen.
Die aktuelle Stellungnahme der Google-Beschäftigten erinnert an einen Protest aus dem Jahr 2018, nach dem Google aus dem Projekt Maven ausstieg – einer Pentagon-Initiative, bei der KI zur Analyse von Drohnenaufnahmen genutzt wurde.
"Wir sind der Ansicht, dass Google kein Geschäft mit dem Krieg machen sollte", hieß es damals in dem Brief.
"Deshalb fordern wir, dass Project Maven beendet wird und dass Google eine klare Richtlinie ausarbeitet, veröffentlicht und umsetzt, die festschreibt, dass weder Google noch beauftragte Firmen jemals Technologien für die Kriegsführung entwickeln."