Der AI Act der Europäischen Union erreicht eine weitere Umsetzungsstufe: Seit Sonntag gelten zusätzliche Transparenzpflichten für bestimmte KI-Systeme und KI-generierte Inhalte. Unternehmen, die Künstliche Intelligenz entwickeln oder einsetzen, müssen neue Informations- und Kennzeichnungspflichten erfüllen. Gleichzeitig erhalten die zuständigen Behörden die Möglichkeit, Verstöße gegen diese Vorgaben zu kontrollieren und zu sanktionieren.

AI Act erweitert Transparenzanforderungen

Zu den neuen Anforderungen gehört, dass Nutzerinnen und Nutzer grundsätzlich erkennen können müssen, wenn sie mit einem KI-System kommunizieren. Anbieter generativer KI müssen künstlich erzeugte oder manipulierte Inhalte maschinenlesbar kennzeichnen, sofern entsprechende Systeme neu auf den Markt gebracht werden. Für bereits eingesetzte Systeme gilt eine Übergangsfrist bis Dezember 2026.

Folgende Regeln sind u.a. seit Sonntag verbindlich:

• KI-Chatbots müssen als KI erkennbar sein: Nutzerinnen und Nutzer müssen grundsätzlich darüber informiert werden, wenn sie mit einer KI kommunizieren.

• KI-Inhalte müssen technisch erkennbar sein: Anbieter generativer KI, die diese neu in den Markt bringen, müssen künstlich erzeugte oder manipulierte Inhalte grundsätzlich maschinenlesbar markieren. Für Systeme, die bereits im Einsatz sind, besteht eine Übergangsfrist bis Dezember 2026.

• Deepfakes müssen gekennzeichnet werden: Künstlich erzeugte oder manipulierte Bilder, Videos und Audios, die echt erscheinen können, müssen als solche offengelegt werden.

• Bestimmte KI-Texte müssen offengelegt werden: Das gilt für Texte, die die Allgemeinheit über Themen öffentlichen Interesses informieren sollen. Ausnahmen bestehen insbesondere bei einer inhaltlichen menschlichen Prüfung und redaktionellen Verantwortung.

• Emotionserkennung muss transparent sein: Betroffene müssen über den Einsatz von Systemen informiert werden, die Emotionen erkennen oder anhand biometrischer Merkmale Personen einordnen.

Verstöße können sanktioniert werden: Die zuständigen Behörden können die Einhaltung der Transparenzpflichten kontrollieren und bei Verstößen Bußgelder verhängen. Verstöße gegen die bereits geltenden Pflichten für KI-Modelle mit allgemeinem Verwendungszweck können ebenfalls ab Sonntag sanktioniert werden.

Auswirkungen für Unternehmen der Prozessindustrie

Für Unternehmen, die KI-Anwendungen in der Automatisierungs- und Prozessindustrie entwickeln oder einsetzen, gewinnen Compliance und Dokumentation weiter an Bedeutung. Besonders Anbieter generativer KI-Lösungen sollten ihre Systeme auf die neuen Kennzeichnungs- und Transparenzanforderungen überprüfen. Gleichzeitig müssen Betreiber bewerten, ob eingesetzte Anwendungen unter die neuen Offenlegungspflichten fallen.

Auch Systeme zur Emotionserkennung oder biometrischen Einordnung von Personen dürfen künftig nur unter Einhaltung zusätzlicher Transparenzvorgaben eingesetzt werden. Betroffene Personen müssen über den Einsatz solcher Technologien informiert werden.

Bitkom fordert mehr Rechtssicherheit beim AI Act

Der Digitalverband Bitkom begrüßt das Ziel eines europaweit einheitlichen Rechtsrahmens für Künstliche Intelligenz, sieht jedoch Defizite bei der praktischen Umsetzung. Nach Einschätzung des Verbands wurden zentrale Leitlinien und Auslegungshilfen erst kurz vor Inkrafttreten veröffentlicht, wodurch Unternehmen nur eingeschränkte Möglichkeiten zur Vorbereitung hatten.

Bitkom-Präsident Dr. Ralf Wintergerst fordert deshalb pragmatische Hilfestellungen der Aufsichtsbehörden, eine verhältnismäßige Durchsetzung der neuen Vorgaben sowie ein europaweit abgestimmtes Vorgehen.

Bedeutung für die digitale Transformation

Mit den neuen Vorgaben konkretisiert der AI Act die Anforderungen an Transparenz und Nachvollziehbarkeit beim Einsatz Künstlicher Intelligenz. Für Unternehmen der Prozessindustrie wird die regulatorische Einbindung von KI damit zu einem festen Bestandteil von Entwicklungs-, Dokumentations- und Compliance-Prozessen. Gleichzeitig bleiben zahlreiche Detailfragen zur praktischen Umsetzung zunächst von weiteren Leitlinien und der Aufsichtspraxis abhängig.