Kennzeichnung synthetischer Inhalte durch KI-Systeme

Artikel 50 (2) der KI-Verordnung beschreibt die Pflicht der Anbieter, die Ausgaben von KI-Systemen, die synthetische Inhalte erzeugen, als künstlich erzeugt zu kennzeichnen.

Artikel 50 (2)

Anbieter von KI-Systemen, einschließlich KI-Systemen mit allgemeinem Verwendungszweck, die synthetische Audio-, Bild-, Video- oder Textinhalte erzeugen, stellen sicher, dass die Ausgaben des KI-Systems in einem maschinenlesbaren Format gekennzeichnet und als künstlich erzeugt oder manipuliert erkennbar sind. Die Anbieter sorgen dafür, dass – soweit technisch möglich – ihre technischen Lösungen wirksam, interoperabel, belastbar und zuverlässig sind und berücksichtigen dabei die Besonderheiten und Beschränkungen der verschiedenen Arten von Inhalten, die Umsetzungskosten und den allgemein anerkannten Stand der Technik, wie er in den einschlägigen technischen Normen zum Ausdruck kommen kann. Diese Pflicht gilt nicht, soweit die KI-Systeme eine unterstützende Funktion für die Standardbearbeitung ausführen oder die vom Betreiber bereitgestellten Eingabedaten oder deren Semantik nicht wesentlich verändern oder wenn sie zur Aufdeckung, Verhütung, Ermittlung oder Verfolgung von Straftaten gesetzlich zugelassen sind.

Erwägungsgrund 133 der KI-Verordnung hebt hervor, dass KI-Systeme, die große Mengen synthetischer Inhalte erzeugen, die von Menschen nur schwer von authentischen Inhalten zu unterscheiden sind, erhebliche Auswirkungen auf das Informationsökosystem haben können. Um Vertrauen und Integrität zu gewährleisten, sollten Anbieter solcher Systeme verpflichtet werden, technische Lösungen zu integrieren, die die Kennzeichnung in einem maschinenlesbaren Format ermöglichen. Diese Kennzeichnung soll sicherstellen, dass die Ausgabe von einem KI-System und nicht von einem Menschen erzeugt oder manipuliert wurde. Beispiele für solche Techniken sind Wasserzeichen, Metadatenidentifizierungen, kryptografische Methoden zum Nachweis der Herkunft und Authentizität des Inhalts, Protokollierungsmethoden, Fingerabdrücke oder andere Techniken. Die Wahl der Technik sollte je nach Sachlage erfolgen und den allgemein anerkannten Stand der Technik berücksichtigen.

Erwägungsgrund 134 der KI-Verordnung betont, dass Betreiber, die KI-Systeme zur Erzeugung oder Manipulation von Inhalten verwenden, die realen Personen, Gegenständen oder Ereignissen ähneln (Deepfakes), klar offenlegen müssen, dass die Inhalte künstlich erzeugt oder manipuliert wurden. Dies soll durch eine entsprechende Kennzeichnung der Ausgaben geschehen. Die Transparenzpflicht soll jedoch nicht die Meinungsfreiheit oder die Freiheit der Kunst und Wissenschaft beeinträchtigen.

Erwägungsgrund 136 der KI-Verordnung betont die Bedeutung der Transparenzpflichten für die wirksame Umsetzung der Verordnung (EU) 2022/2065, insbesondere im Hinblick auf die Verbreitung von künstlich erzeugten oder manipulierten Inhalten und deren potenzielle Auswirkungen auf demokratische Prozesse und den gesellschaftlichen Diskurs.

siehe auch

Artikel 50 → Transparenzpflichten für Anbieter und Betreiber bestimmter KI-Systeme
Legt die Transparenzpflichten für Anbieter und Betreiber bestimmter KI-Systeme fest, insbesondere hinsichtlich der Interaktion mit natürlichen Personen und der Kennzeichnung künstlich erzeugter Inhalte.

Benutzer-Werkzeuge

Webseiten-Werkzeuge

Seitenleiste

Kennzeichnung synthetischer Inhalte durch KI-Systeme

siehe auch

Seiten-Werkzeuge