Dänemark will ganz normale Däninnen und Dänen schützen. Auch Bühnen- und Kunstschaffende, deren Aussehen oder Stimme ohne Zustimmung imitiert und geteilt werden könnten.
Im Jahr 2021 bekam die dänische Videospiel-Streamerin Marie Watson ein Foto von sich. Es kam von einem unbekannten Instagram-Konto.
Sie erkannte das Urlaubsfoto sofort, es stammte von ihrem eigenen Instagram-Konto. Doch etwas war anders: Ihre Kleidung war digital entfernt worden, sodass sie nackt wirkte. Es war ein Deepfake.
„Das hat mich völlig überwältigt“, erinnert sich Watson. „Ich fing einfach an zu weinen, denn plötzlich stand ich da nackt.“
In den vier Jahren seitdem sind Deepfakes (täuschend echte, mit Künstlicher Intelligenz erzeugte Bilder, Videos oder Tonaufnahmen realer Personen oder Ereignisse) nicht nur einfacher herzustellen. Sie wirken inzwischen auch deutlich echter.
Dafür sorgen technische Fortschritte und die Verbreitung generativer KI-Werkzeuge, darunter Videogeneratoren von OpenAI und Google.
Mit ihnen können Millionen Nutzerinnen und Nutzer Inhalte im Handumdrehen produzieren, auch zu üblen Zwecken: von Darstellungen der Stars Taylor Swift und Katy Perry bis hin zu Eingriffen in Wahlen und der Demütigung von Jugendlichen und Frauen.
Urheberrecht
Als Reaktion darauf will Dänemark normale Bürgerinnen und Bürger schützen, ebenso Darstellende und Kunstschaffende, deren Aussehen oder Stimme ohne Einwilligung nachgeahmt und verbreitet werden könnte.
Ein Gesetzentwurf, der voraussichtlich Anfang nächsten Jahres verabschiedet wird, würde das Urheberrecht ändern. Das Teilen von Deepfakes würde verboten, um persönliche Merkmale von Bürgerinnen und Bürgern, etwa ihr Aussehen oder ihre Stimme, vor Nachahmung und unbefugter Online-Verbreitung zu schützen.
Kommt das Gesetz, erhielten Däninnen und Dänen das Urheberrecht an ihrem eigenen Abbild. Sie könnten Plattformen dann theoretisch verpflichten, unbefugt geteilte Inhalte zu entfernen. Parodien und Satire blieben erlaubt, auch wenn noch unklar ist, wie die Abgrenzung erfolgt.
Fachleute und Behördenvertreter sagen, das dänische Vorhaben zähle zu den bislang weitreichendsten Schritten eines Staates gegen Desinformation durch Deepfakes.
Henry Ajder, Gründer der Beratung Latent Space Advisory und ein führender Experte für generative KI, lobt die dänische Regierung dafür, dass sie anerkennt, dass das Recht geändert werden muss.
„Denn derzeit, wenn Leute fragen: ‚Was kann ich tun, um mich vor Deepfakes zu schützen?‘, muss ich meist antworten: ‚Es gibt nicht wahnsinnig viel, was Sie tun können.‘“, sagte er. „Außer ich würde im Grunde sagen: ‚Verschwinden Sie vollständig aus dem Internet.‘ Und das ist kaum möglich.“
Er fügte hinzu: „Wir können nicht so tun, als sei das der normale Umgang mit zentralen Teilen unserer Identität und unserer Würde.“
Deepfakes und Desinformation
US-Präsident Donald Trump unterzeichnete im Mai ein parteiübergreifendes Gesetz. Es verbietet, wissentlich intime Bilder ohne Zustimmung zu veröffentlichen oder mit der Veröffentlichung zu drohen, auch in Form von Deepfakes.
Im vergangenen Jahr führte Südkorea Maßnahmen gegen Deepfake-Pornografie ein, darunter schärfere Strafen und strengere Vorgaben für soziale Plattformen.
Dänemarks Kulturminister Jakob Engel-Schmidt sagt, der Entwurf stoße im Parlament in Kopenhagen auf breite Unterstützung. Solche digitalen Manipulationen säen Zweifel an der Realität und verbreiten Desinformation.
„Wenn man eine Politikerin oder einen Politiker deepfaken kann, ohne dass sie oder er das entfernen lassen kann, untergräbt das unsere Demokratie“, sagte er im September auf einer Konferenz zu KI und Urheberrecht.
Das richtige Gleichgewicht
Das Gesetz würde nur in Dänemark gelten und für Nutzerinnen und Nutzer sozialer Medien voraussichtlich weder Bußgelder noch Haft bedeuten. Große Tech-Plattformen, die Deepfakes nicht entfernen, müssten jedoch mit hohen Strafen rechnen, so Engel-Schmidt.
Ajder sagt, YouTube, das zu Google gehört, habe zum Beispiel ein „sehr, sehr gutes System“, um das Gleichgewicht zwischen Urheberrechtsschutz und kreativer Freiheit zu treffen.
Die Anstrengungen der Plattform deuten darauf hin, dass sie „das Ausmaß der bereits bestehenden Herausforderung und wie viel größer sie noch wird“ erkennt, fügte er hinzu.
Twitch, TikTok und Meta, der Mutterkonzern von Facebook und Instagram, beantworteten Anfragen für eine Stellungnahme nicht.
Engel-Schmidt sagte, Dänemark, derzeit Inhaber der turnusmäßigen Ratspräsidentschaft der Europäischen Union, habe aus mehreren anderen EU-Staaten Interesse an dem Entwurf erhalten, darunter aus Frankreich und Irland.
Der Immaterialgüterrechtler Jakob Plesner Mathiasen sieht in dem Vorhaben den Beleg für die breite Notwendigkeit, eine Online-Gefahr zu bekämpfen, die inzwischen alle Bereiche des dänischen Lebens durchdringt.
„Ich denke, das zeigt deutlich: Das Ministerium würde diesen Entwurf nicht vorlegen, wenn es keinen Anlass gäbe“, sagte er.
„Wir sehen es bei Fake News, bei Wahlen. Wir sehen es bei Pornografie, bei prominenten Menschen und bei ganz normalen Leuten, wie Ihnen und mir.“
Die Danish Rights Alliance, die die Rechte der Kreativbranchen im Internet schützt, unterstützt den Entwurf. Ihre Direktorin sagt, das geltende Urheberrecht gehe nicht weit genug.
Der dänische Sprecher David Bateson war zum Beispiel ratlos, als KI-Stimmenklone von Tausenden Nutzerinnen und Nutzern online verbreitet wurden. Bateson spricht eine Figur der beliebten Videospielreihe „Hitman“ und ist auch in den englischen Werbespots des dänischen Spielzeugherstellers Lego zu hören.
„Als wir das den Plattformen meldeten, sagten sie: ‚Okay, auf welche Vorschrift beziehen Sie sich?‘“, sagte Maria Fredenslund, Juristin und Direktorin der Allianz.
„Auf eine konkrete Vorschrift in Dänemark konnten wir nicht verweisen.“
„Wenn es online ist, bist du erledigt“
Watson hatte von anderen Influencerinnen und Influencern gehört, die manipulierte Bilder von sich im Netz fanden. Damit gerechnet, dass es ihr passieren könnte, hatte sie nicht.
Sie tauchte in eine dunkle Ecke des Netzes ein, in der gesichtslose Nutzer Deepfake-Bilder verkaufen und teilen, oft von Frauen. Sie war schockiert, wie leicht sich solche Bilder mit frei zugänglichen Online-Werkzeugen erstellen lassen, sagte sie.
„Man kann buchstäblich einfach bei Google nach ‚Deepfake-Generator‘ oder ‚How to make a deepfake‘ suchen, und schon ploppen all diese Websites und Generatoren auf“, sagte die 28-Jährige Watson.
Sie ist froh, dass ihre Regierung handelt, doch große Hoffnung hat sie nicht. Aus ihrer Sicht müssen die Plattformen stärker in die Pflicht genommen werden.
„Es sollte gar nicht möglich sein, solche Bilder hochzuladen“, sagte sie. „Wenn es online ist, bist du erledigt. Du kannst nichts tun, es entzieht sich deiner Kontrolle.“