Ein Teenager, ein KI-Tool und Millionen Klicks: Hinter dem viralen Macron-Video steckt kein politischer Akteur, sondern ein Geschäftsmodell. Der Fall wirft neue Fragen zur Verantwortung sozialer Netzwerke auf.
Frankreichs Präsident Emmanuel Macron hat von seinem angeblichen Sturz erfahren - auf ungewöhnliche Weise: durch eine besorgte Nachricht – inklusive Link zu einem Facebook-Video.
"Am Sonntag [14. Dezember] schrieb mir einer meiner afrikanischen Amtskollegen: 'Lieber Präsident, was ist mit dir los? Ich bin sehr besorgt'", berichtete Macron am 16. Dezember in der französischen Regionalzeitung La Provence.
Der Nachricht beigefügt war ein spektakuläres Video: Ein Hubschrauber kreist, Militärangehörige sind zu sehen, Menschenmengen versammeln sich. Eine Frau, die wie eine Nachrichtensprecherin wirkt, spricht direkt in die Kamera.
"Inoffizielle Berichte deuten darauf hin, dass es in Frankreich zu einem Putsch gekommen ist, angeführt von einem Oberst unbekannter Identität, und dass Emmanuel Macron möglicherweise gestürzt wurde. Die Behörden haben sich bislang jedoch nicht eindeutig geäußert", erklärt sie.
Doch an dem Video ist nichts echt. Es handelt sich um eine vollständig KI-generierte Fälschung.
Nachdem Macron davon erfahren hatte, wandte er sich an Pharos – das offizielle französische Meldeportal für illegale Online-Inhalte – mit der Bitte, die Facebook-Muttergesellschaft Meta zu kontaktieren und das Video entfernen zu lassen. Meta lehnte jedoch ab und erklärte, der Inhalt verstoße nicht gegen die eigenen Nutzungsregeln.
Daraufhin beschloss Macron, selbst aktiv zu werden. "Ich neige dazu zu glauben, dass ich mehr Druck ausüben kann als andere", sagte er. "Oder besser gesagt: Es ist einfacher, etwas als ernsthaft darzustellen, wenn ich selbst anrufe. Aber selbst dann funktioniert es nicht."
"Diese Leute verhöhnen uns", fügte er hinzu. "Sie kümmern sich weder um die Ruhe öffentlicher Debatten noch um die Demokratie – und genau deshalb bringen sie uns in Gefahr."
Wer steckt hinter den KI-Videos?
Das ursprüngliche Video, das innerhalb kurzer Zeit mehr als zwölf Millionen Aufrufe erreichte, wurde von einem Facebook-Konto namens „Islam“ veröffentlicht – einem Account, der trotz seines Namens keine religiösen Inhalte teilt. Betrieben wird er von einem Teenager aus Burkina Faso, der sein Geld mit Kursen zur Vermarktung von KI-Anwendungen verdient.
Angesichts der politischen und öffentlichen Kontroverse nahm er das Video schließlich mehr als eine Woche nach der Veröffentlichung offline. Das Fact-Checking-Team von Euronews, The Cube, versuchte mehrfach, ihn über die auf Facebook angegebene Telefonnummer zu erreichen – bislang ohne Erfolg.
In mehreren Videos tauchen KI-generierte Nachrichtensprecher auf, die Mikrofone mit dem Logo von Radio France Internationale (RFI), dem internationalen Ableger des französischen öffentlich-rechtlichen Rundfunks, in der Hand halten. Einige Clips tragen zudem ein "Sora"-Wasserzeichen, was darauf hindeutet, dass sie mit dieser Technologie erstellt wurden.
Sora 2, eine von OpenAI, dem Unternehmen hinter ChatGPT, entwickelte Anwendung, ermöglicht es Nutzern, aus Texteingaben bis zu zehn Sekunden lange, hyperrealistische Videos zu erzeugen. Zwar fehlt das Wasserzeichen in manchen Fällen, es lässt sich jedoch problemlos in der Nachbearbeitung entfernen.
Seit der Einführung der Technologie im Oktober hat sie eine heftige Debatte ausgelöst – und zu einer Welle immer raffinierter KI-Videos geführt, die in sozialen Netzwerken kaum noch als Fälschungen zu erkennen sind.