Unternehmen binden vielfach KI-generierte Inhalte (Bild-, Ton-, Video- oder Textinhalte) in ihrer Werbung ein – sei es in Werbeanzeigen, auf Websites oder in Social-Media-Kanälen. Darüber hinaus ist auch der Einsatz KI-gestützter Chatbots keine Seltenheit mehr.

Die Verordnung (EU) 2024/1689 über künstliche Intelligenz (KI-VO bzw. engl. ‚Artificial Intelligence Act‘ [EU AI Act]) beinhaltet spezielle Transparenzpflichten; so müssen Betreiber unter anderem sicherstellen, dass Endnutzer erkennen können, wenn es sich um KI-Inhalte handelt bzw. sie mit einer KI interagieren (etwa bei Deepfakes oder KI-Chatbots).

Die mit KI erzeugten oder manipulierten Bild-, Ton- oder Videoinhalte müssen als solche kenntlich gemacht werden, wenn es sich dabei um ein sog. Deepfake handelt:

„… Betreiber eines KI‑Systems, das Bild-, Ton- oder Videoinhalte erzeugt oder manipuliert, die ein Deepfake sind, müssen offenlegen, dass die Inhalte künstlich erzeugt oder manipuliert wurden. …“ (Art. 50 Abs. 4 UA. 1 KI-VO)

Die mit KI erzeugten oder manipulierten Texte müssen als solche kenntlich gemacht werden, wenn diese veröffentlicht werden, um die Öffentlichkeit über Angelegenheiten von öffentlichem Interesse zu informieren:

„… Betreiber eines KI-Systems, das Text erzeugt oder manipuliert, der veröffentlicht wird, um die Öffentlichkeit über Angelegenheiten von öffentlichem Interesse zu informieren, müssen offenlegen, dass der Text künstlich erzeugt oder manipuliert wurde. …“ (Art. 50 Abs. 4 UA. 2 KI-VO)

Die Anbieter von KI‑Systemen, die für die direkte Interaktion mit natürlichen Personen bestimmt sind, haben zudem sicherzustellen, dass diese so konzipiert und entwickelt werden, dass die betreffenden natürlichen Personen informiert werden, dass sie mit einem KI‑System interagieren:

„… Die Anbieter stellen sicher, dass KI-Systeme, die für die direkte Interaktion mit natürlichen Personen bestimmt sind, so konzipiert und entwickelt werden, dass die betreffenden natürlichen Personen informiert werden, dass sie mit einem KI-System interagieren, es sei denn, dies ist aus Sicht einer angemessen informierten, aufmerksamen und verständigen natürlichen Person aufgrund der Umstände und des Kontexts der Nutzung offensichtlich. …“ (Art. 50 Abs. 1 KI-VO)

Die in Kapitel IV der KI-VO geregelten Bestimmungen zu den Transparenzpflichten für Anbieter und Betreiber bestimmter KI-Systeme gelten ab 02.08.2026.

Die Europäische Kommission plant derzeit zwar Vereinfachungen und Klarstellungen in Bezug auf die KI-VO (sog. Digital Omnibus on AI). Hierbei werden teilweise auch Fristen verschoben. So soll für generative KI bei der technischen Pflicht der Anbieter zur maschinenlesbaren Markierung und Erkennbarkeit  eine eigene Übergangsfrist bis zum 2. Dezember 2026 gelten; die übrigen Transparenzpflichten aus Art. 50 KI-VO bleiben aber unberührt.