Das EU-KI-Gesetz galt bisher vor allem für Hochrisikosysteme und Technikkonzerne. Ab diesem Monat greifen neue Transparenzregeln, die auch einzelne Kreative, Freelancer und Alltagsnutzer erfassen.
Neue Transparenzregeln nach Artikel 50 des Gesetzes gelten seit dem zweiten August. Wer KI‑generierte Inhalte für den EU‑Markt erstellt, veröffentlicht oder einsetzt, hat nun zusätzliche Pflichten – sonst drohen Bußgelder in Millionenhöhe.
WERBUNG
WERBUNG
Bisher drehten sich die Diskussionen zur Einhaltung des KI‑Gesetzes vor allem um Hochrisikosysteme und große Unternehmen. Nach der Sommerpause landen die neuen Transparenzregeln der EU für KI‑Systeme und KI‑generierte Inhalte jedoch auf der To-do-Liste vieler Personen und Firmen innerhalb und außerhalb der EU.
Die neuen Regeln, die seit dem zweiten August 2026 gelten, erfassen eine breite Gruppe von Akteuren – natürliche Personen ebenso wie Unternehmen, Medienhäuser, Nichtregierungsorganisationen, Designerinnen und Designer, Werbeagenturen und viele mehr.
Die Pflichten gelten nicht nur für Akteure mit Sitz in der EU, sondern auch für Anbieter außerhalb, sobald ihre Systeme oder Inhalte im EU‑Markt zum Einsatz kommen.
Ob ein Dienst kostenpflichtig oder kostenlos ist, spielt keine Rolle.
Für rein private Nutzung, Forschungs- und wissenschaftliche Zwecke, Open‑Source‑Systeme sowie künstlerische, kreative oder satirische Inhalte gelten teilweise Ausnahmen oder erleichterte Vorgaben. Betroffene sollten die Leitlinien trotzdem ernst nehmen und prüfen, welche Abläufe, Produkte und Inhalte künftig gekennzeichnet werden müssen, um mögliche Strafen zu vermeiden.
Anbieter und Anwender, die sich nicht an die neuen Regeln halten, müssen mit Geldbußen von bis zu 15 Millionen Euro oder bis zu drei Prozent des weltweiten Jahresumsatzes rechnen. EU‑Institutionen können mit bis zu 750 000 Euro belegt werden.
Vier zentrale Transparenzpflichten für KI‑Systeme und KI‑Inhalte
Die Leitlinien erläutern Artikel 50 des KI‑Gesetzes. Er legt Transparenzpflichten für vier große Gruppen fest.
Artikel 50 Absatz eins betrifft KI‑Systeme, die direkt mit natürlichen Personen interagieren. Anbieter müssen diese Systeme so gestalten, dass Menschen erkennen, dass sie mit einem KI‑System kommunizieren.
Artikel 50 Absatz zwei regelt KI‑Systeme, die synthetische Bild‑, Video‑, Audio- oder Textinhalte erzeugen oder verändern. Anbieter sollen Ausgaben der KI in einem maschinenlesbaren, eindeutig erkennbaren Format kennzeichnen.
Artikel 50 Absatz drei betrifft KI‑Systeme zur Emotionserkennung und biometrischen Erkennung. Hier müssen Anwender natürliche Personen informieren, dass sie einem KI‑System ausgesetzt sind.
Artikel 50 Absatz vier betrifft KI‑Systeme, die Deepfakes oder Texte zu „Angelegenheiten von öffentlichem Interesse“ erzeugen, verändern oder veröffentlichen. Anwender müssen offenlegen, dass der Inhalt von einer KI erzeugt, verstärkt oder anderweitig manipuliert wurde.
Chatbots, Agenten und Bots
Damit für ein KI‑System Pflichten nach Artikel 50 gelten, muss es der Definition der EU‑Kommission entsprechen: Das System interagiert mit natürlichen Personen, es ist ausdrücklich für diese Interaktion konzipiert und tritt direkt mit ihnen in Kontakt – in Echtzeit oder nahezu in Echtzeit.
Das betrifft etwa sprachgesteuerte Assistenten, Chatbots, KI‑Hotlines, digitale Begleiter, KI‑Avatare, Roboter, KI‑Bots, Coding‑Agenten und andere KI‑Assistenten. Sie alle fallen unter Artikel 50 und müssen die Vorgaben der Kommission einhalten.
Autorinnen und Autoren, Designer, Influencer und Podcaster
Eine neue Faustregel lautet: Alle KI‑generierten oder deutlich von KI verbesserten Inhalte sollten gekennzeichnet werden – egal ob Audio, Video, Bild, Text oder Deepfake, insbesondere bei Themen von „öffentlichem Interesse“.
Zwar gibt es Ausnahmen oder mildere Vorgaben, wenn Inhalte nur mit Hilfe von KI bearbeitet und der ursprüngliche Input nicht wesentlich verändert wurden oder eine gründliche menschliche Redaktion stattgefunden hat. Doch die Grenze, ab wann eine „wesentliche Änderung“ vorliegt, bleibt unscharf.
Auch die redaktionelle Kontrolle sollte substanziell sein. Reine Korrekturen kleiner Grammatik- oder Rechtschreibfehler reichen nicht. Eine klar benannte Person muss die volle Verantwortung für die veröffentlichten Inhalte übernehmen.
Für Schriftstellerinnen, Autoren und Blogger gilt: KI‑generierte Textzusammenfassungen, komplette Texte oder Paraphrasen, die Stil, Struktur oder Aussage verändern, brauchen einen Hinweis.
Enthält ein KI‑Text Informationen zu „Angelegenheiten von öffentlichem Interesse“ – etwa öffentliche Verwaltung und Dienste, Justiz und Strafverfolgung, Grundrechte, öffentliche Sicherheit, Gesundheit, Umweltschutz, Verbrauchersicherheit, Wirtschaft und ähnliche Bereiche –, muss er ebenfalls gekennzeichnet werden.
Was nicht gekennzeichnet werden muss: kleinere Grammatik‑Korrekturen, Rechtschreibprüfung und dezente stilistische Glättung.
Für Influencerinnen und Influencer sowie Fans von Gesichts-Apps gilt: Werden Gesichter auf vorhandenen Fotos ersetzt oder das Gesicht deutlich verändert, ist ebenfalls ein Hinweis nötig.
Reine Bildbearbeitung zu privaten Zwecken fällt zwar nicht unter die Transparenzpflichten. Sobald Inhalte jedoch kommerziell genutzt werden, können die neuen EU‑Regeln greifen.
Für Grafik- und Videodesigner gilt: Alle Videos und Bilder, in denen Objekte oder Personen in vorhandenen Aufnahmen entfernt, ersetzt oder eingefügt werden, müssen gekennzeichnet werden.
Auch Inhalte, die Körperform oder Hautfarbe verändern oder extreme Aufhellungen, Abdunklungen sowie starke Farb‑ und Kontraständerungen enthalten, die Aussage, Intention oder Botschaft des Materials verschieben, brauchen eine Kennzeichnung.
KI‑Videos, die Ereignisse zeigen, die nie stattgefunden haben, benötigen ebenfalls einen Hinweis – genauso wie Bilder oder Videos, die die Darstellung von Personen, Objekten, Ereignissen oder Fakten verändern oder andere wesentliche Eingriffe enthalten.
Nicht kennzeichnungspflichtig sind allgemeine Formatierungen und Bearbeitungen, die den Inhalt nicht grundlegend verändern. Dazu zählen etwa bessere Klarheit, Zuschnitt, leichte Farb- oder Lichtkorrekturen, Schärfen, das Entfernen von Staub und Flecken, Rote‑Augen‑Korrektur, Hintergründe, Pixelierung und Unschärfe von Gesichtern, Videostabilisierung, kleinere Anpassungen der Abspielgeschwindigkeit und andere allgemeine Bearbeitungsschritte ohne starke inhaltliche Veränderung.
Für Podcaster, Audio‑Editorinnen und -Editoren sowie Radiomoderatorinnen und -moderatoren gilt: Die Synthese realistischer Sprache in der Stimme einer bestimmten Person muss gekennzeichnet werden.
Transparenzpflichten: Wer haftet in Agentur- und Arbeitsverhältnissen?
Kauft ein Unternehmen Designleistungen bei einer Werbe‑ oder Grafikagentur ein und entscheidet nicht darüber, ob und wie die Agentur KI einsetzt, liegt die Transparenzpflicht bei der Agentur – nicht beim Auftraggeber.
Auch im Arbeitsverhältnis trägt in der Regel die juristische Person die Verantwortung, nicht einzelne Beschäftigte oder sogar beauftragte Personen, die KI‑gestützte Inhalte erstellen:
(14) „Ist der Anwender eines KI‑Systems eine juristische Person, in deren Verantwortung das System genutzt wird (z. B. ein Werbeunternehmen), gelten die einzelnen Beschäftigten, die nach Weisung und unter Kontrolle dieser juristischen Person handeln (z. B. Digital‑Animatoren, Webdesigner, Content‑Creator, Journalistinnen und Journalisten), nicht als eigene Anwender dieses Systems.
Eine juristische Person bleibt Anwender, selbst wenn sie Dritte (z. B. Auftragnehmer, Freiberufler) in den Betrieb des Systems einbindet – und zwar in ihrem Auftrag sowie unter ihrer Verantwortung und Kontrolle.“
Regeln für Deepfakes
Deepfakes müssen gekennzeichnet werden, wenn sie real existierende Personen, Objekte, Orte, Organisationen oder Ereignisse nachahmen und für Menschen wie authentische, wahrheitsgetreue Darstellungen wirken könnten.
Es gibt zwar Ausnahmen für künstlerische, kreative, satirische oder fiktive Inhalte. Werden Deepfakes jedoch beruflich genutzt, sollten sie trotzdem gekennzeichnet werden.
Deepfakes realer Menschen – etwa Politikerinnen und Politiker, Prominente, Unternehmenschefs –, KI‑generierte Stimmklone oder sogar KI‑Bilder von Produktwerbung und Verpackungen, die besser aussehen als in der Realität, müssen alle klar gekennzeichnet werden.
Ausnahmen: private Nutzung, Open Source, Strafverfolgung, Wissenschaft und Forschung
Von den Transparenzpflichten ausgenommen sind Anwender, die als natürliche Personen KI für private, nicht berufliche Aktivitäten einsetzen, außerdem Wissenschaftlerinnen und Wissenschaftler, Open‑Source‑Systeme sowie Strafverfolgungsbehörden.
Handelt eine Person in eigener Verantwortung und überschneiden sich ihre privaten mit beruflichen Aktivitäten, aus denen ein wirtschaftlicher Vorteil entsteht, greifen die Transparenzpflichten jedoch voraussichtlich.
Auch im Open‑Source‑Bereich müssen Anbieter und Anwender sicherstellen, dass sie ihre jeweiligen Transparenzpflichten einhalten.
Kennzeichnungsempfehlungen
Anbieter müssen ihre KI‑Systeme so kennzeichnen, dass Maschinen die Inhalte erkennen können. Ausgaben der KI sollten in einem maschinenlesbaren Format markiert werden, damit klar ist, dass sie von einer KI erzeugt oder manipuliert wurden.
Anwender müssen KI‑generierte oder manipulierte Inhalte zusätzlich selbst klar und eindeutig kennzeichnen.
Die Leitlinien der EU‑Kommission nennen einige Kennzeichnungsmethoden, die nicht notwendig oder für sich allein genommen unzureichend sind, etwa:
- Hinweise, die nur in Allgemeinen Geschäftsbedingungen, URLs oder Dokumentation stehen
- ausschließlich maschinenlesbare Markierungen, etwa Metadaten oder Wasserzeichen, die für Nutzerinnen und Nutzer nicht sichtbar sind
- unklare oder mehrdeutige Signale (z. B. allgemeine Hinweise wie „Assistent“)
- sehr allgemeine Hinweise (z. B. „Dienste auf dieser Website nutzen KI“)
- stark technische Beschreibungen (z. B. „Dieses System nutzt LLMs“)
Dieser Beitrag wurde ursprünglich auf EU Tech Loop (Quelle auf Englisch) veröffentlicht und im Rahmen einer Syndizierungsvereinbarung auf Euronews übernommen.