13.000 Menschen haben am Sonntag in Berlin gegen digitalisierte Gewalt und sogenannte Deepfakes protestiert. Ein Bündnis aus 250 Frauen fordert schärfere Gesetze, ein neuer Entwurf aus dem Justizministerium soll kommende Woche vorgelegt werden. Juristen warnen bereits vor Schlupflöchern.
Wer digitale Gewalt erfährt, ist derzeit in Deutschland nicht ausreichend geschützt. Seit Jahren fordern Betroffene mehr Unterstützung, Initiativen wie die Organisation HateAid fordern schärfere Gesetze. Denn innerhalb Europas gibt es nur ein Land, in dem KI-generierte Nacktbilder - sogenannte Deepfakes - strafbar sind: Italien.
WERBUNG
WERBUNG
Nach einem mutmaßlich besonders schwerwiegenden Fall um die Schauspielerin Collien Fernandes ist die Diskussion in Deutschland neu entbrannt. Am Sonntag protestierten mehrere Tausend Menschen vor dem Brandenburger Tor zur Kundgebung "Sexualisierte und digitale Gewalt stoppen". Nach Angaben der Veranstalter waren rund 13.000 Menschen in Berlin, die Polizei spricht von rund 6.700 Demo-Teilnehmer und Teilnehmerinnen.
"Über 90 Prozent aller Deepfakes im Internet sind pornografisch", sagte Theresia Crone auf der Bühne der Demonstration. Sie ist Jurastudentin, Aktivistin und hat selbst digitalisierte und sexualisierte Gewalt erlebt, in ihren Worten "überlebt".
Der Täter, der von Crone manipulierte Fotos von sexuellen Situationen und Gewalt online weitergeleitet hat, sei schnell ermittelt worden, erzählt die Betroffene auf ihrem Instagram-Account. Er habe nach ihren Angaben eine Geldstrafe bezahlen müssen. "Das ist kein Einzelfall, es ist ein System", sagte sie auf der Bühne vor dem Brandenburger Tor.
Es spricht auch Luisa Neubauer, Klimaaktivistin. Denn auch von ihr wurde bereits Deepfake-Pornographie geteilt. 250 prominente Frauen haben nun einen Zehn-Punkte-Plan mit Forderungen an die Bundesregierung vorgelegt.
Beim Thema "digitale Gewalt" sieht allerdings auch Bundesjustizministerin Stefanie Hubig (SPD) akuten Handlungsbedarf. Seit längerem bereitet man im Justizministerium Verschärfungen der Gesetze vor.
Neuer Gesetzesentwurf: Deepfakes künftig bestrafen
Der Gesetzesentwurf sei jetzt fertig und auf der Zielgeraden, sagte Hubig in einem Statement am Freitag. "Wir wollen künftig pornografische Deepfakes, das Herstellen, das Verbreiten, unter Strafe stellen. Insgesamt die Strafbarkeit von Deepfakes regeln." Neben der strafrechtlichen Verfolgung soll auch mehr Unterstützung für Betroffene angeboten werden. "Wir wollen auch ermöglichen, dass sich Betroffene leichter vor Gericht wehren können", so die Justizministerin. So sollen Betroffene schneller zu ihrem Recht kommen, "damit diese Erniedrigung, Demütigung, die eben passiert, nicht weiter im Netz verbreitet werden kann."
Der Entwurf soll nach Information des Rechts-Nachrichtenportals LTO kommende Woche in die sogenannte Ressortabstimmung gehen.
Der Gesetzesentwurf selbst wird begrüßt, doch bereits jetzt befürchten Juristen neue Lücken in den geänderten Schriftsätzen. Anwalt Chan-Jo Jun, der zum Thema Hasskriminalität auf Facebook Ermittlungsverfahren gegen das Unternehmen und seinen Gründer Mark Zuckerberg vor Gericht brachte, ist skeptisch.
Der Gesetzesentwurf von Hubig lasse eine fatale Lücke, wie der Anwalt auf X teilte. "Sexualisierte Deepfakes sind nur dann strafbar, wenn ein "Anschein erweckt wird, dass sexuelle Handlungen oder die unbekleideten Genitalien, das unbekleidete Gesäß oder die unbekleidete weibliche Brust einer anderen Person abgebildet seien."
Anwalt beklagt Schlupfloch im neuen Gesetzesentwurf
Konkret kritisiert der Anwalt, dass ein Anschein immer auch ausgeräumt werden könne, etwa durch ein Wasserzeichen oder eine Bildunterschrift - im Gesetzestext heißt das im Überbegriff Kennzeichnung. "Bleiben dann DeepFake-Nudes mit Kennzeichnung legal?", fragt der Anwalt, der auch an einem Eckpunktepapier für eine Petition mit der Forderung mitgearbeitet hat, Deepfakes von echten Menschen im Generellen zu verbieten.
Die Petition hat derzeit über 400.000 Unterschriften und stammt von dem Autor Marc-Uwe Kling. Darin geht es um die Forderung, gefälschte und mit künstlicher Intelligenz generierte Bilder von Menschen ohne deren Zustimmung zu verbieten.
"Bei Sex-Nudes wird das Rechtsgut nicht erst durch den (ausräumbaren) Irrtum erweckt", sagt Anwalt Jun. "Die Betroffenen wollen die Bilder gar nicht verbreitet sehen, auch nicht mit Wasserzeichen", so Jun. Denn selbst wenn auf einem Bild die Kennzeichnung "Fake" stehen würde, sieht ein möglicherweise manipuliertes Foto täuschend echt aus.
"Es geht um die Frage, ob die abgebildete Brust tatsächlich der Person gehört. Wenn man Fake drüber schreibt, wird der Anschein ausgeräumt, auch wenn das Bild etwas anderes sagt", argumentiert Jun auf der Plattform X. Der genaue Gesetzestext im Wortlaut ist noch nicht öffentlich zugänglich.
Zehn Forderungen an die Bundesregierung von 250 Frauen
250 prominente Frauen legten am Montag einen Zehnpunkteplan gegen digitalisierte Gewalt vor. Der Maßnahmenkatalog wurde unter anderem von der Parteichefin der Grünen Franziska Brantner und den Fraktionsvorsitzenden Katharina Dröge und Britta Haßelmann unterstützt.
Auch SPD-Vorsitzende und Bundesarbeitsministerin Bärbel Bas steht hinter den Forderungen. Außerdem haben auch Klimaschutzaktivistin Luisa Neubauer, die Musikerin Nina Chuba sowie mehrere bekannte Schauspielerinnen unterschrieben.
Darin wird unter anderem die Erstellung und Verbreitung sexualisierter Deepfakes gefordert. Auch ein digitales Gewaltschutzgesetz, eine Änderung im Sexualstrafgesetz sowie eine nationale Strategie zur Bekämpfung männlicher Gewalt sind Teil der geforderten Maßnahmen.
Die Forderungen der 250 Frauen gehen über die bisher geplanten Änderungen der Bundesregierung hinaus.
Diese Änderungen sind im Strafgesetzbuch geplant
Im August hatte der Bundesrat bereits einen Gesetzesentwurf zum strafrechtlichen Schutz von Persönlichkeitsrechten vor Deepfakes vorgelegt. Dieser liegt momentan im Bundestag vor. Als Paragraph § 201b soll ins Strafgesetzbuch die Verletzung von Persönlichkeitsrechten durch digitale Fälschung hinzugefügt werden.
Dieser erfasst das Erstellen von Deepfakes, wenn die Bilder oder Videos anschließend Dritten zugänglich gemacht werden - etwa Vorfälle von geteilten Bildern in Chatgruppen, über bestimmte Portale oder im Internet. Die Erstellung pornografischer Deepfakes wird allerdings damit nicht direkt kriminalisiert, wie es beispielsweise der Fall in Australien oder den Niederlanden ist. Großbritannien und Dänemark verhandeln über ähnliche Regeln.
Mit dem zusätzlichen Paragraphen § 201b wollte der Bundesrat eine undifferenzierte Vielzahl von Deepfake-Sachverhalten in einen Topf werfen", kommentiert Theresia Crone, Jurastudentin und selbst Betroffene digitalisierter Gewalt auf dem Portal Verfassungsblog im Januar. "Doch pornografische Sachverhalte unterscheiden sich maßgeblich von nicht-pornografischen", mahnt Crone und wirft dem Bundesrat in Teilen Versagen vor. Ihr zufolge wäre es sinnvoller, das Erstellen von pornographischen Deepfakes selbst als Tathandlung mit ins Gesetz aufzunehmen.
"In dem Moment, in dem ein täuschend echter Porno von mir erstellt wird, ist mein allgemeines Persönlichkeitsrecht in seinem würdehaltigen Kernbereich, der Intimsphäre, betroffen", erklärt Crone dem Online-Portal.
Dem Rechtsnachrichten-Portal LTO liegen weitere Änderungen nach eigenen Angaben vor. Demnach soll der Paragraph § 184 im Strafgesetzbuch (SGB) ausgeweitet werden. Diese Vorschrift bestraft unter dem Titel "Verletzung des Intimbereichs durch Bildaufnahmen" derzeit das sogenannte Upskirting und Downblousing.
Bestraft wird das Anfertigen von heimlichen Aufnahmen des Intimbereichs oder des Ausschnitts, aber auch das Fotografieren oder Filmen von Unfallopfern. Auch die Verbreitung ist strafbar. Nun soll der Straftatbestand auch für neue Erscheinungsformen gelten: für die bildbasierte sexualisierte Gewalt. Deepfakes fallen als "mittels Informationstechnik beziehungsweise Künstlicher Intelligenz manipulierten Materials" darunter.
Ein weiterer Unterschied: auch wenn nackte Körperteile nicht direkt eine Person identifizierbar machen, soll die Produktion davon strafbar sein. Bei pornografischen Deepfakes zählt dieser Tatbestand allerdings nicht. Das Opfer muss erkenntlich sein, da bei fiktiven Darstellungen kein konkretes Rechtsgut verletzt sei.
Digitale Gewalt gegen Frauen: Italien hat ein Gesetz
Als erstes europäisches Land bestraft Italien die Verbreitung gefälschter Aufnahmen, die mit Künstlicher Intelligenz (KI) erstellt wurden, mit bis zu fünf Jahren Haft. Seit vergangenem Herbst schon im italienischen Strafgesetzbuch der Tatbestand der "unrechtmäßigen Verbreitung von KI-generierten oder manipulierten Inhalten". Als strafverschärfend gilt zusätzlich der "hinterlistige Einsatz von KI".
Denn neben einer Schauspielerin in Deutschland, Aktivistinnen und Verkäuferinnen auf Vinted ist auch die italienische Ministerpräsidentin Giorgia Meloni selbst Opfer sogenannter Deepfakes geworden. Manipulierte Aufnahmen von Meloni wurden auf einer Pornoplattform geteilt.