Südkoreanische Behörden wollen problematische KI-Werbung künftig deutlich strenger prüfen und rasch entfernen. Bei Verstößen drohen hohe Bußgelder.
Südkorea führt ab dem kommenden Jahr eine Kennzeichnungspflicht für mit Künstlicher Intelligenz erstellte Werbung ein. Ziel ist, irreführende Kampagnen einzudämmen, in denen erfundene Experten oder per Deepfake manipulierte Promis Lebensmittel oder Pharma-Produkte in sozialen Netzwerken anpreisen.
Nach einer von Premierminister Kim Min-seok geleiteten Sitzung am Mittwoch kündigten die Behörden an, problematische KI-Werbung stärker zu prüfen und schneller zu löschen. Zudem sollen spürbare Bußgelder kommen. Begründung: Die Risiken für Verbraucher steigen, besonders für ältere Menschen, die KI-Inhalte schwer erkennen.
Lee Dong-hoon, Direktor für Wirtschafts- und Finanzpolitik im Amt für Regierungskoordinierung, sagte in einem Briefing, solche Anzeigen „stören die Marktordnung“. „Jetzt ist rasches Handeln essenziell.“
„Wer KI-generierte Fotos oder Videos erstellt, bearbeitet und veröffentlicht, muss sie als KI-generiert kennzeichnen. Nutzer der Plattform dürfen diese Kennzeichnungen nicht entfernen oder manipulieren“, sagte er.
KI-Werbung mit digital erfundenen Experten oder Deepfake-Videos und -Audios von Prominenten ist allgegenwärtig. Sie wirbt für alles Mögliche, von Abnehm-Pillen und Kosmetik bis hin zu illegalen Glücksspielseiten, auf den südkoreanischen Bereichen von YouTube, Facebook und anderen sozialen Netzwerken.
Die Regierung will das Telekommunikationsgesetz und weitere einschlägige Gesetze überarbeiten. So sollen die Kennzeichnungspflicht, stärkere Kontrollen und Sanktionsmaßnahmen Anfang 2026 in Kraft treten. Plattformbetreiber werden mit in die Pflicht genommen: Sie müssen sicherstellen, dass Werbekunden die Regeln einhalten, sagte Lee.
KI treibt die Flut falscher Werbung
Behörden berichten, dass die Kontrolle immer schwerer fällt. Die Zahl falscher Anzeigen, befeuert durch KI, wächst rasant.
Das Ministerium für Lebens- und Arzneimittelsicherheit identifizierte 2024 mehr als 96.700 illegale Online-Anzeigen für Lebensmittel und Pharma-Produkte und bis September dieses Jahres 68.950. 2023 waren es rund 59.000.
Das Problem greift auch auf Bereiche wie private Bildung, Kosmetik und illegale Glücksspielangebote über. Die Korea Consumer Agency und andere Aufseher kommen kaum hinterher, teilte das Amt für Regierungskoordinierung mit.
Neben irreführender Werbung und Falschinformationen kämpft Südkorea auch mit sexualisierter Gewalt, die durch KI und andere digitale Technologien ermöglicht wird. Ein Gericht in Seoul verurteilte vergangenen Monat einen dreiunddreißigjährigen Mann zu lebenslanger Haft. Er betrieb ein Erpressungsnetzwerk im Netz und missbrauchte oder ausbeutete mehr als 200 Opfer, darunter viele Minderjährige, die mit Deepfakes und anderen manipulierten sexuellen Bildern und Videos bedroht wurden.
Die Behörden wollen im nächsten Jahr die Geldbußen erhöhen und strafverschärfende Sanktionen einführen. So soll die Erstellung falscher KI-generierter Werbung unattraktiv werden. Wer wissentlich falsche oder erfundene Informationen online oder über andere Telekommunikationsnetze verbreitet, könnte für Schäden bis zum Fünffachen des entstandenen Verlusts haftbar gemacht werden.
Außerdem sollen die Überwachung und die Entfernung schädlicher Inhalte schneller werden. Geplant sind Prüfungen binnen 24 Stunden und ein Notverfahren, um gefährliche Anzeigen zu blockieren, noch bevor die Prüfung abgeschlossen ist. Die Überwachungsfähigkeiten des Ministeriums für Lebens- und Arzneimittelsicherheit und der Korea Consumer Agency werden ausgebaut. Mit KI, versteht sich.
Trotz Risiken wächst Südkoreas Liebe zur KI
Premierminister Kim, Seouls zweithöchster Regierungsvertreter hinter Präsident Lee Jae Myung, sagte während der Sitzung, es sei entscheidend, „die Nebenwirkungen neuer Technologien zu minimieren“, während das Land in das „KI-Zeitalter“ eintritt.
Die Pläne zur Kennzeichnung von KI-generierter Werbung wurden bekannt, während Lee in einem separaten Treffen mit Spitzen der Wirtschaft die KI-Ambitionen seiner Regierung bekräftigte. Er versprach nationale Anstrengungen, um Südkoreas Fähigkeiten bei fortgeschrittenen Computerchips zu stärken, die den globalen KI-Wettlauf antreiben.
Die Regierung plant mehr Forschungs- und Entwicklungsausgaben für KI-spezifische Chips und andere fortgeschrittene Halbleiter. Zudem sollen die Chip-Standorte über die Metropolregionen rund um die Hauptstadt Seoul hinaus in die südlichen Regionen ausgeweitet werden.
Südkoreanische Chiphersteller, darunter Samsung Electronics und SK Hynix, kamen im vergangenen Jahr gemeinsam auf mehr als 65 Prozent des weltweiten Markts für Speicherchips.