Transparenzpflichten

Transparenz ist ein Grundpfeiler des EU AI Acts. Unabhängig von der Risikostufe gelten bestimmte Informations- und Kennzeichnungspflichten — besonders relevant für Unternehmen, die AI-generierte Inhalte erstellen oder Chatbots einsetzen.

Allgemeine Transparenzpflichten (Art. 50)

Chatbots und Konversations-AI

Wenn Nutzer mit einem AI-System interagieren, müssen sie informiert werden:

• ✅ Klarer Hinweis: „Sie kommunizieren mit einer KI"
• ✅ Vor oder zu Beginn der Interaktion
• ✅ In verständlicher Sprache
• ❌ Nicht versteckt in AGB oder Footer

Ausnahme: Wenn es aus dem Kontext offensichtlich ist (z. B. AI-Sprachassistent mit dem Namen „AI Assistant").

AI-generierte Inhalte

Texte, Bilder, Audio und Video, die von AI generiert wurden, müssen maschinenlesbar gekennzeichnet werden:

• Texte: Metadaten oder Wasserzeichen, die AI-Herkunft kennzeichnen
• Bilder: C2PA-Standard oder vergleichbare technische Markierung
• Audio: Hörbare oder maschinenlesbare Kennzeichnung
• Video/Deepfakes: Deutliche Kennzeichnung als AI-generiert

Emotionserkennungssysteme

Wo erlaubt (nicht am Arbeitsplatz/in Bildungseinrichtungen):

• Nutzer müssen vorab informiert werden
• Zweck der Erkennung muss angegeben werden
• Datenschutzrechtliche Einwilligung erforderlich

GPAI-Regeln (General Purpose AI)

Seit August 2025 gelten spezielle Regeln für Foundation Models und General Purpose AI:

Pflichten für alle GPAI-Anbieter

• Technische Dokumentation erstellen und aktuell halten
• Informationen für nachgelagerte Anbieter bereitstellen
• EU-Urheberrechtsrichtlinie einhalten (Opt-out-Mechanismus)
• Zusammenfassung der Trainingsdaten veröffentlichen

Zusätzliche Pflichten für GPAI mit systemischem Risiko

GPAI-Modelle mit systemischem Risiko (Training über 10^25 FLOP oder vergleichbar):

• Modell-Evaluierung: Standardisierte Tests und Red-Teaming
• Risikobewertung und -minderung: Dokumentierte Maßnahmen gegen systemische Risiken
• Incident-Reporting: Schwerwiegende Vorfälle an die EU AI-Behörde melden
• Cybersicherheit: Angemessenes Schutzniveau für Modell und Infrastruktur

Informationspflichten für Betreiber

Als Betreiber (Deployer) eines AI-Systems müssen Sie:

• Mitarbeiter informieren: Wenn AI am Arbeitsplatz eingesetzt wird
• Betroffene informieren: Wenn AI-Entscheidungen Personen betreffen
• Betriebsrat einbinden: In Deutschland gemäß BetrVG bei AI-Einführung
• Datenschutz-Folgenabschätzung: Aktualisieren, wenn AI personenbezogene Daten verarbeitet

Umsetzung in der Praxis

Praxis-Tipp: Implementieren Sie den Chatbot-Hinweis heute noch. Es ist die einfachste Compliance-Maßnahme und zeigt Ihren Kunden, dass Sie Transparenz ernst nehmen.