Finden Sie uns
Werbung

TikTok startet Deepfake-Tool für öffentliche Personen gegen Desinformation

Teilen Kommentare Euronews bei Google hinzufügen
Quelle: AP Photo
Quelle: AP Photo -  Copyright  Copyright 2018 The Associated Press. All rights reserved
Copyright Copyright 2018 The Associated Press. All rights reserved
Von Jonathan Benton
Zuerst veröffentlicht am
Teilen Close Button

Soziales Netzwerk setzt Funktion „Likeness Detection“ ein, um Politikern bei der Flut von Desinformation im Netz zu helfen.

TikTok hat am Freitag angekündigt, eine neue Wahlfunktion namens „Likeness Detection“ auszurollen. Sie soll Kreatoren helfen, KI-generierte Inhalte zu finden und zu markieren, die auf der Plattform ihr Aussehen nutzen. Das Unternehmen will damit KI-generierte Desinformation eindämmen.

WERBUNG
WERBUNG

Das Werkzeug richtet sich vor allem an öffentliche Personen, etwa Regierungsmitglieder, Politiker und Accounts politischer Parteien. Sie sollen KI-Inhalte erkennen und melden können, die ihr Bild ohne Zustimmung verwenden.

Die Einführung fällt in eine Phase, in der Europa bereits mit einer Welle von KI-getriebener Desinformation und Deepfake-Kampagnen zu kämpfen hat, die Wahlprozesse stören. Da in den nächsten zwölf Monaten in neun weiteren europäischen Ländern Wahlen anstehen, könnte das Werkzeug eine wichtige Rolle spielen.

Berechtigte Nutzer können sich registrieren, indem sie ihre Identität über einen vertrauenswürdigen Drittpartner verifizieren. Sie werden anschließend benachrichtigt, wenn Inhalte oder Accounts auf TikTok ihr Aussehen nutzen könnten, und können diese direkt im Tool prüfen.

Danach können Nutzer problematische Inhalte direkt an die Sicherheitsteams von TikTok melden, die sie bewerten und gegebenenfalls Maßnahmen ergreifen.

Die EU hat am 2. August im Rahmen des AI Act schrittweise Transparenzregeln für Künstliche Intelligenz eingeführt. Dazu gehört die Pflicht, Deepfakes und andere KI-generierte Inhalte zu kennzeichnen.

TikTok hat in den vergangenen Jahren versucht, Deepfakes einzudämmen. So müssen Inhaltsersteller auch realistisch wirkende KI-Bilder, Audio- und Videoinhalte kennzeichnen, wie es der AI Act vorsieht.

KI-generierte Inhalte erkennen

Das Unternehmen hat zudem ein neues Transparenzwerkzeug gestartet, mit dem Nutzer prüfen können, ob Inhalte mit den Kreativfunktionen der Plattform erstellt oder bearbeitet wurden.

Das Tool „Identify AI-Generated Content (Quelle auf Englisch)“ ist laut TikTok für alle kostenlos nutzbar, auch für Menschen ohne Konto.

Die Plattform erlaubt es Nutzern, ein Bild oder Video hochzuladen, um zu prüfen, ob es mit den eigenen KI-Tools von TikTok oder mit Apps des Mutterkonzerns ByteDance wie CapCut, Dreamina, Hypic und Pippit erstellt oder bearbeitet wurde.

Unterstützt werden viele Formate, darunter gängige wie JPEG, PNG und MP4. Die Dateigröße ist auf 20 Megabyte pro Bild und 100 Megabyte pro Video oder Audio begrenzt.

Das Werkzeug sucht nach zwei Hinweisen darauf, dass Inhalte KI-generiert sind: Metadaten, die TikTok- und ByteDance-Apps hinzufügen, und unsichtbare Wasserzeichen, die direkt in die Inhalte eingebettet sind und sich schwer entfernen lassen.

Das Unternehmen betont, dass das Tool alle hochgeladenen Inhalte sofort nach der Prüfung löscht. Die Dateien werden nach Angaben von TikTok nicht zum Training von KI-Modellen verwendet.

TikTok warnt Nutzer jedoch, dass das Werkzeug nur erkennt, ob Inhalte mit den eigenen Tools oder Apps von ByteDance bearbeitet oder erstellt wurden. Es ist daher kein zuverlässiges Mittel, um jede Art von KI-Inhalt aufzuspüren.

Zu den Barrierefreiheitskürzeln springen
Teilen Kommentare Euronews bei Google hinzufügen

Zum selben Thema