KI-KENNZEICHNUNGSPFLICHT: MÜSSEN SCHWEIZER UNTERNEHMEN KI-OUTPUT WIE INHALTE AUS CHATGPT, CLAUDE, COPILOT & CO. KENNZEICHNEN?
- Caroline Danner
- vor 2 Tagen
- 6 Min. Lesezeit
Seit dem Inkrafttreten des EU AI Act stellen sich viele Schweizer Unternehmen dieselbe Frage: Müssen wir KI-generierte Inhalte künftig kennzeichnen? Und wenn ja: Welche Inhalte genau, wann und wie?
Die Antwort ist komplexer als viele denken. Denn der AI Act unterscheidet zwischen den Pflichten von KI-Anbietern (z.B. OpenAI, Anthropic oder Microsoft) und den Pflichten der Unternehmen, die KI einsetzen. Zudem gelten je nach Art des Inhalts unterschiedliche Regeln.
Nachfolgend finden Sie die wichtigsten Fragen und Antworten für Schweizer Unternehmen.
Gilt der EU AI Act und die KI-Kennzeichnungspflicht überhaupt für Schweizer Unternehmen?
Ja, durchaus.
Der AI Act gilt nicht nur für Unternehmen mit Sitz in der EU. Er kann auch auf Unternehmen ausserhalb der EU anwendbar sein, wenn die Ergebnisse eines KI-Systems in der EU verwendet werden. Dies gilt sowohl für Anbieter als auch für Betreiber von KI-Systemen, wobei als Betreiber ein Unternehmen zu verstehen ist, das ein KI-System in eigener Verantwortung verwendet.
Schweizer Unternehmen sollten die Anwendbarkeit des EU AI Acts insbesondere dann genauer prüfen, wenn sie:
Inhalte für Kunden oder Märkte in der EU erstellen,
KI-generierte Inhalte in der EU veröffentlichen,
KI-Systeme betreiben, deren Ausgaben in der EU genutzt werden.
Wir haben die Anwendbarkeit des EU AI Acts für Schweizer Unternehmen hier genauer erläutert.
Muss jeder KI-generierter Inhalt gekennzeichnet werden?
Nein.
Der AI Act enthält keine allgemeine Kennzeichnungspflicht für sämtliche KI-generierten Inhalte.
Vielmehr unterscheidet der AI Act zwischen:
technischer Kennzeichnung durch den KI-Anbieter (Art. 50 Abs. 2 AI Act),
sichtbarer Kennzeichnung bestimmter Inhalte durch den Betreiber des KI-Systems (Art. 50 Abs. 4 AI Act).
Für die meisten Unternehmen ist vor allem die zweite Kategorie relevant.
Wann muss der Anbieter eines KI-Systems kennzeichnen?
Anbieter von generativen KI-Systemen müssen sicherstellen, dass erzeugte oder bearbeitete Texte, Bilder, Audios oder Videos technisch als KI-generiert bzw. KI-manipuliert erkennbar sind. Dies erfolgt nicht zwingend sichtbar für Menschen, sondern in maschinenlesbarer Form.
Als technische Lösungen kommen beispielsweise in Frage:
Metadaten,
digitale Signaturen,
Watermarks,
Fingerprinting-Verfahren,
andere technische Nachweise der Herkunft.
Diese Pflicht trifft grundsätzlich den Anbieter des KI-Systems – beispielsweise OpenAI, Microsoft oder Anthropic – und nicht das Unternehmen, das die KI für Marketing oder interne Zwecke verwendet.
Wann müssen Schweizer Unternehmen selbst Inhalte kennzeichnen?
Schweizer Unternehmen müssen KI-Inhalte kennzeichnen, wenn sie sogenannte Deep Fakes erstellen oder veröffentlichen. Zudem müssen in gewissen Situationen KI-Texte gekennzeichnet werden.
Wer ein KI-System nutzt, um Bild-, Audio- oder Videoinhalte zu erzeugen oder zu manipulieren, die für Menschen echt wirken können, muss offenlegen, dass der Inhalt künstlich erstellt oder verändert wurde.
Was gilt als Deep Fake?
Ein Deep Fake ist nach dem AI Act ein KI-generierter oder KI-manipulierter Bild-, Audio- oder Videoinhalt, der bestehenden Personen, Orten, Gegenständen, Organisationen oder Ereignissen ähnelt und bei Betrachtern den Eindruck erwecken kann, authentisch oder wahr zu sein.
Beispiele:
KI-generiertes Video eines Politikers, der eine Rede hält
Geklonte Stimme eines bekannten Podcasters
Werbevideo mit einer KI-generierten Person, die wie eine reale Person wirkt
KI-manipuliertes Bild eines Prominenten in einer realistisch wirkenden Situation
KI-generiertes Bild eines vermeintlich existierenden Produkts
KI-generierte Aufnahmen eines nie stattgefundenen Ereignisses
Face-Swap in einem bestehenden Foto
Video, in dem Stimme, Mimik oder Aussagen einer Person durch KI verändert werden
Eine real fotografierte Wohnung, die mittels KI virtuell möbliert wird.
Wird jede KI-Bild- oder Videobearbeitung automatisch zum Deep Fake?
Nein.
Nicht jede Nutzung von KI bei der Bearbeitung von Bildern oder Videos löst automatisch eine Kennzeichnungspflicht aus. Die Leitlinien der EU-Kommission unterscheiden ausdrücklich zwischen rein technischen Verbesserungen und inhaltlich relevanten Veränderungen.
Typischerweise nicht kennzeichnungspflichtig sind:
geringfügige Zuschnitte (Cropping)
übliche Farb- oder Helligkeitskorrekturen
Rauschunterdrückung
Formatumwandlungen
technische Komprimierungen
leichte Bildstabilisierungen
Entfernung von Staubflecken oder roten Augen
geringfügige Geschwindigkeitsanpassungen bei Videos
Diese Veränderungen dienen primär der Qualitätssicherung und verändern den Aussagegehalt des Inhalts grundsätzlich nicht.
Deutlich eher kennzeichnungspflichtig sind dagegen:
Hinzufügen oder Entfernen von Personen oder Gegenständen
Face-Swaps
Veränderung von Körperform, Stimme oder Mimik
Zusammenführen mehrerer Aufnahmen zu einem scheinbar authentischen Ereignis
Darstellung eines Ereignisses, das so nie stattgefunden hat
wesentliche Veränderungen von Aussage, Stil oder Bedeutung eines Inhalts
Als praktische Faustregel gilt:
Wird lediglich optimiert, besteht meist keine Kennzeichnungspflicht. Wird die Wahrnehmung der Realität oder die Aussage des Inhalts verändert, sollte sorgfältig geprüft werden, ob ein Deep Fake vorliegt.
Müssen KI-generierte Produktbilder gekennzeichnet werden?
Oft ja.
Wenn die Bilder realistisch wirken und bestehende Produkte, Personen oder Situationen darstellen, besteht ein erhebliches Risiko, dass sie als authentisch wahrgenommen werden.
In solchen Fällen spricht vieles dafür, dass eine Kennzeichnung erforderlich ist, insbesondere wenn die Bilder im Rahmen geschäftlicher Kommunikation veröffentlicht werden.
Müssen KI-generierte Bilder auf LinkedIn, Instagram oder der Unternehmenswebseite gekennzeichnet werden?
Wenn es sich um Deep Fakes handelt: ja.
Die Offenlegung muss für die betroffene Person klar erkennbar sein und spätestens beim ersten Kontakt mit dem Inhalt erfolgen. Die Information darf nicht erst in einem versteckten Impressum oder irgendwo in den Nutzungsbedingungen stehen.
Müssen KI-generierte Blogbeiträge gekennzeichnet werden?
Nicht zwingend. Für Texte gilt eine besondere Regelung.
Eine Kennzeichnungspflicht besteht nur dann, wenn:
der Text mit dem Zweck veröffentlicht wird, die Öffentlichkeit über Angelegenheiten von öffentlichem Interesse zu informieren,
der Text durch KI generiert oder wesentlich bearbeitet wurde,
keine menschliche Prüfung oder redaktionelle Kontrolle stattgefunden hat und
keine Person oder Organisation die redaktionelle Verantwortung übernimmt.
Was sind "Angelegenheiten von öffentlichem Interesse"?
Darunter fallen beispielsweise Inhalte zu:
Politik,
Wirtschaft,
Gesundheit,
Wissenschaft,
Umwelt,
Konsumentenschutz,
öffentlicher Sicherheit,
gesellschaftlichen Entwicklungen.
Ein KI-generierter Wetterwarnhinweis, ein Unternehmensbericht für Investoren oder ein Artikel über eine politische Entscheidung können darunterfallen.
Müssen Marketingtexte und Werbetexte gekennzeichnet werden?
In der Regel nicht.
Die Leitlinien der EU nennen ausdrücklich Werbetexte als Beispiel für Inhalte, die normalerweise nicht als Veröffentlichung über Angelegenheiten von öffentlichem Interesse gelten.
Ein KI-generierter LinkedIn-Post zur Vorstellung eines Produkts oder ein Newsletter mit Verkaufsangeboten löst daher grundsätzlich keine Kennzeichnungspflicht nach Art. 50 Abs. 4 AI Act aus.
Achtung: für Aussagen zu Gesundheit, Verbrauchersicherheit oder Nachhaltigkeit gelten z.T. Differenzierungen.
Reicht menschliche Prüfung aus, um eine Kennzeichnungspflicht bei Texten zu vermeiden?
Häufig ja.
Wenn ein Mensch den Inhalt fachlich prüft, bearbeitet und freigibt und zudem eine natürliche oder juristische Person die redaktionelle Verantwortung übernimmt, entfällt die Kennzeichnungspflicht für Texte über Angelegenheiten von öffentlichem Interesse.
Wichtig ist jedoch:
Eine reine Rechtschreibkontrolle oder ein oberflächlicher Blick genügt nicht. Die Prüfung muss inhaltlich erfolgen. Redaktionelle Verantwortung bedeutet, dass jemand die Verantwortung für den publizierten Inhalt tatsächlich übernimmt.
Müssen KI-generierte Inhalte für interne Zwecke gekennzeichnet werden?
Grundsätzlich nein.
Interne Dokumente, interne Berichte oder Inhalte, die ausschliesslich innerhalb des Unternehmens verwendet werden und nicht veröffentlicht werden, fallen regelmässig nicht unter die Kennzeichnungspflichten für veröffentlichte Texte.
Auch verschiedene reine B2B- und Industrieanwendungen sind nach den Leitlinien von den Transparenzpflichten ausgenommen, sofern die Ausgaben rein technischer Natur sind und nicht für die Öffentlichkeit bestimmt sind.
Gibt es Ausnahmen für Kunst, Satire oder Unterhaltung?
Ja.
Bei offensichtlich künstlerischen, kreativen, satirischen oder fiktionalen Werken gilt eine abgeschwächte Transparenzpflicht. Auch hier muss auf KI hingewiesen werden, allerdings in einer Form, welche die Nutzung oder den Genuss des Werks nicht beeinträchtigt.
Ein Kinofilm mit KI-generierten Spezialeffekten muss deshalb nicht zwingend laufend sichtbare Hinweise im Bild enthalten. Eine angemessene Information im Kontext des Werks kann genügen.
Ab wann gelten die Transparenzpflichten?
Die Transparenzpflichten des Art. 50 AI Act gelten grundsätzlich ab 2. August 2026.
Wie muss die KI-Kennzeichnung konkret erfolgen?
Der AI Act verlangt, dass die Offenlegung klar, eindeutig und spätestens bei der ersten Wahrnehmung erfolgt. Die konkrete Umsetzung hängt von der Art des Inhalts ab.
Die EU stellt entsprechende Symbole zur Verfügung. Die Verwendung dieser EU-Symbole ist fakultativ.
Was sollten Schweizer Unternehmen konkret tun?
Die meisten Schweizer Unternehmen sollten folgende Fragen prüfen:
Muss der EU AI Act beachtet werden?
Werden KI-generierte Bilder, Videos oder Audioinhalte veröffentlicht?
Können diese Inhalte als authentisch wahrgenommen werden?
Werden KI-generierte Texte zu Themen von öffentlichem Interesse publiziert?
Erfolgt eine echte menschliche Prüfung vor der Veröffentlichung?
Ist klar geregelt, wer die redaktionelle Verantwortung trägt?
Werden eingesetzte KI-Systeme künftig die erforderlichen technischen Kennzeichnungen unterstützen?
FAZIT:Die gute Nachricht: Es besteht keine generelle Pflicht, jeden mit ChatGPT, Copilot oder Claude erstellten Inhalt zu kennzeichnen. Die Kennzeichnungspflicht betrifft vor allem Deep Fakes sowie bestimmte KI-generierte Veröffentlichungen zu Themen von öffentlichem Interesse ohne menschliche Kontrolle. Für viele Unternehmen wird deshalb die Frage der internen Freigabe- und Review-Prozesse wichtiger sein als die eigentliche Kennzeichnung. Wer heute klare Zuständigkeiten, redaktionelle Verantwortung und einen nachvollziehbaren KI-Governance-Prozess etabliert, schafft bereits eine solide Grundlage für die Anforderungen des AI Act. |
WEITERE INFORMATIONEN:
WIE ONLAW SIE UNTERSTÜTZT:
Wir unterstützen Unternehmen bei der Umsetzung von digitalen Themen. Kontaktieren Sie uns jederzeit gerne.
Ihre Ansprechpersonen:
Caroline Danner
Rechtsanwältin & Inhaberin ONLAW
Foto by Kelly Sikkema on Unsplash.
Kommentare