Um ihnen den Weg durch das Paragrafen-Dickicht zu zeigen und einen rechtssicheren Umgang mit KI zu ermöglichen, arbeiten Jurist*innen und KI-Expert*innen aus Hannover eng zusammen. Im Forschungsprojekt „AI Act-Ready“ entwickeln das IPH – Institut für Integrierte Produktion Hannover gGmbH und das IRI – Institut für Rechtsinformatik der Leibniz Universität Hannover gemeinsam einen Leitfaden, der die KI-Verordnung und die damit verbundenen Pflichten verständlich und praxisnah erklärt.

Derzeit suchen die Wissenschaftler*innen nach produzierenden Unternehmen, die KI nutzen und zum Forschungsprojekt beitragen wollen.

Von der Fertigung über die Qualitätskontrolle bis zum Vertrieb – in fast allen Unternehmensbereichen lassen sich Aufgaben mithilfe von Künstlicher Intelligenz (KI) deutlich schneller erledigen.

Unternehmen können KI beispielsweise nutzen, um Angebote zu schreiben, um die Stromkosten zu reduzieren oder die Produktqualität zu verbessern. Auch in der Ausbildung kann KI zum Einsatz kommen – etwa um Berufsanfänger*innen individuelles Feedback zu ihrer Arbeit zu geben.

All das sind keine Zukunftsvisionen, sondern aktuelle Anwendungsfälle aus Unternehmen in Niedersachsen. Doch bei allen Vorteilen bringt KI auch Risiken mit sich.

Um diese Risiken zu minimieren und sicherzustellen, dass Unternehmen verantwortungsvoll mit der Technik umgehen, hat die Europäische Union (EU) die KI-Verordnung erlassen – das erste Gesetz, das einheitliche Regeln für die KI-Nutzung festlegt.

Je höher das Risiko der KI, desto strenger die EU-Vorschriften

Die KI-Verordnung der EU teilt KI in vier verschiedene Risikoklassen ein. KI-Systeme mit unannehmbarem Risiko hat die EU komplett verboten. Dazu gehört etwa das Social Scoring, mit dem Behörden oder Unternehmen menschliches Verhalten bewerten können – etwa, indem sie den öffentlichen Raum überwachen und mithilfe von KI versuchen, Straftaten vorherzusagen und Menschen präventiv festzunehmen.

Weil derartige KI-Systeme in die Grundrechte von Menschen eingreifen, dürfen sie in der EU nicht zum Einsatz kommen. Für KI-Systeme mit hohem Risiko gelten besonders strenge Anforderungen. Als hochriskant gilt jegliche KI, die Einfluss auf Menschen hat.

Das ist beispielsweise der Fall, wenn Personalabteilungen KI nutzen, um Bewerbungen auszusortieren, oder wenn ein Hersteller von medizinischen Geräten KI nutzt, um Produktionsfehler zu erkennen.

Die KI-Verordnung verpflichtet Unternehmen unter anderem, solche Systeme unter menschliche Aufsicht zu stellen und nur hochwertige Datensätze zu verwenden, um die KI zu trainieren.
Für KI-Systeme mit mittlerem Risiko gelten besondere Transparenzverpflichtungen. Nutzer*innen müssen deutlich darauf hingewiesen werden, dass sie es beispielsweise in der Kundenberatung mit einem Chatbot statt mit einem Menschen zu tun haben.

Texte oder Bilder, die mithilfe von KI erzeugt wurden, müssen entsprechend gekennzeichnet werden – egal, ob es sich um einen Social-Media-Beitrag oder um eine mit KI geschriebene Bedienungsanleitung handelt.

Zu KI-Systemen mit minimalem Risiko zählen beispielsweise Spamfilter. Hier müssen Unternehmen keine speziellen Pflichten erfüllen – sie dürfen aber freiwillig zusätzliche Verhaltensregeln für die Nutzung aufstellen.

KI-Verordnung: Sinnvoll oder Hindernis?

„Ein verantwortungsvoller Umgang mit KI ist wichtig, die Regeln der EU sind also durchaus sinnvoll“ sagt Denise Wullfen, Wissenschaftliche Mitarbeiterin und KI-Expertin am IPH – Institut für Integrierte Produktion Hannover gGmbH. „Aber für Unternehmen ist das Regelwerk momentan noch schwer zu durchschauen.“ Die Hürde, KI zu nutzen, werde aus Angst vor Strafen noch höher – schließlich müssen Unternehmen, die gegen die KI-Verordnung verstoßen, bis zu 20 Millionen Euro Strafe zahlen. Vor allem kleine und mittlere Unternehmen (KMU) ohne eigene Rechtsabteilung hätten es momentan schwer, herauszufinden, was sie beim Einsatz von KI konkret beachten müssen, so Wullfen.

Auf die Nutzung von KI zu verzichten, um Strafen zu vermeiden, ist allerdings keine Lösung. Damit hätten Unternehmen einen großen Wettbewerbsnachteil gegenüber der Konkurrenz, die KI nutzt. Zudem müssen Unternehmen ihren Mitarbeiter*innen klare Vorgaben machen, sonst entsteht sogenannte Schatten-KI.

„Tools wie Chat-GPT gehören für viele Menschen schon so sehr zum Alltag, dass die Versuchung groß ist, sie auch im Beruf zu nutzen“, sagt Wullfen. Unternehmen können das Thema nicht ignorieren, sondern müssen die KI-Nutzung entweder klar verbieten oder aber regulieren. Für beides brauchen Unternehmen eine KI-Richtlinie.

Start eines gemeinsamem Forschungsprojekt

Um KMU die rechtssichere Nutzung von KI zu ermöglichen, hat das IPH gemeinsam mit dem Lehrstuhl für Bürgerliches Recht und IT-Recht am IRI – Institut für Rechtsinformatik der Leibniz Universität Hannover das interdisziplinäre Forschungsprojekt „AI Act-Ready“ gestartet.

Gemeinsam erarbeiten die KI-Expert*innen und Jurist*innen zwei Hilfestellungen speziell für produzierende KMU. Zum einen schreiben die Forschenden einen Leitfaden, der Unternehmen verständlich und praxisnah den Weg durch die neuen KI-Vorschriften weisen soll. Zum anderen entwickeln sie einen Software-Demonstrator.

Dieser soll Unternehmen helfen, herauszufinden, zu welcher Risikoklasse eine KI-Anwendung gehört. Außerdem zu welchen Bedingungen sie genutzt werden darf und ob sich der Einsatz trotz aller Vorgaben und Risiken lohnt. Zudem können KMU den Software-Demonstrator nutzen, um eigenständig einen Entwurf für eine unternehmensindividuelle KI-Richtlinie zu erstellen.

Mit diesen Hilfestellungen wollen die Forschenden produzierenden KMU die Angst vor der KI-Verordnung nehmen – damit das Gesetz nicht zum Hindernis für Innovationen wird, sondern einen verlässlichen Rahmen bietet, um KI rechtssicher zu nutzen und wettbewerbsfähig zu bleiben.

Gesucht: Produzierende Unternehmen, die sich am Forschungsprojekt beteiligen wollen

Für das Forschungsprojekt suchen das IPH und das IRI noch produzierende KMU, die bereits KI nutzen oder den Einsatz von KI in naher Zukunft planen. Im Projektbegleitenden Ausschuss (PA) des Forschungsprojekts erhalten sie die Gelegenheit, sich mit den KI-Expert*innen und Jurist*innen über ihre konkreten Anwendungsfälle auszutauschen und herauszufinden, was sie konkret tun müssen, um die KI-Verordnung einzuhalten.

Weitere Informationen zum Forschungsprojekt gibt es hier.