Gestern stimmte das EU-Parlament über den AI Act ab, der EU-weite Regeln zum Einsatz von Künstlicher Intelligenz schaffen soll. Damit wird der Weg frei für den Trilog des Gesetzgebungsverfahrens, in dem Europäisches Parlament, Europäische Kommission und Europäischer Rat die finale Version der Regulierung verhandeln. Dazu erklärt Bitkom-Präsident Achim Berg in einer Stellungnahme:

„Europa steht bei Künstlicher Intelligenz am Scheideweg. Jetzt entscheidet sich, ob der AI Act KI-Innovationen in Europa behindert und ihren Einsatz erschwert oder ob er Europa eine Chancenperspektive in die KI eröffnet. Mit der heutigen Abstimmung im EU-Parlament ist die Diskussion über den AI Act nicht beendet, sie tritt in ihre entscheidende Phase ein.“

Der AI Act im Detail

Der AI Act ist ein Vorschlag für ein europäisches Gesetz über Künstliche Intelligenz (KI) und das erste Gesetz über KI, das von einer großen Regulierungsbehörde verabschiedet wurde. Das Gesetz ordnet die Anwendungen von KI drei Risikokategorien zu:

1. Anwendungen und Systeme, die ein inakzeptables Risiko darstellen, wie z. B. ein staatlich betriebenes Social Scoring, wie es in China eingesetzt wird, soll verboten werden.
2. Anwendungen mit hohem Risiko, wie z. B. ein Tool zum Scannen von Lebensläufen, das eine Rangfolge von Bewerbern erstellt, unterliegen besonderen rechtlichen Anforderungen.
3. Anwendungen, die nicht ausdrücklich verboten oder als risikoreich eingestuft sind, bleiben weitgehend unreguliert.

Bitkom warnt vor möglichen Rechtsunsicherheiten

„Es muss jetzt darum gehen, auf der Zielgeraden im Gesetzgebungsverfahren die Schwächen des Vorschlags zu korrigieren. Der zugrunde gelegte risikobasierte Ansatz ist gut und richtig. Nur für den KI-Einsatz im sogenannten Hochrisiko-Bereich gelten strenge Anforderungen, die sicherstellen sollen, dass KI-Systeme sicher und vertrauenswürdig sind. Wenn aber fast jede zweite KI-Anwendung diesem Hochrisikobereich zugeordnet würde, würde das den Ansatz ad absurdum führen“, erklärte Berg in einer Pressemeldung.

Es komme jetzt darauf an, nur solche Anwendungen scharf zu regulieren, von denen in der Anwendungspraxis tatsächlich massive Gefahren und Risiken ausgehen könnten. Es müsse zudem klar und eindeutig abgegrenzt werden, für wen welche Auflagen gelten, ansonsten entsteht zusätzliche Rechtsunsicherheit. Zentral sei außerdem eine enge und rechtssichere Definition von KI selbst, aus dem AI Act darf kein Software Act werden, der alle statistischen Systeme oder sogar nahezu jegliche Software regulatorisch erfasst.

AI Act sollte sich auf vertrauenswürdige KI-Systeme konzentrieren

Der Einsatz von KI sei bereits heute durch eine Vielzahl von Vorschriften und Gesetzen erfasst, vom Datenschutz bis zum Verbraucherrecht. Deshalb gehörten zum Beispiel Fragen des Datenschutzes, des Urheberrechts sowie Regeln für Plattformen und soziale Netzwerke oder Fragen der Nachhaltigkeit nicht in den Fokus des AI Acts. Er sollte sich darauf konzentrieren, Anforderungen für den Marktzugang von sicheren und vertrauenswürdigen KI-Systemen und Produkten, in denen KI integriert ist, zu definieren.

„Die EU sollte dabei weiter wie ursprünglich geplant ausschließlich dem Leitgedanken des „New Legislative Frameworks“ folgen, das den Bürgerinnen und Bürgern zumindest indirekt durch das CE-Kennzeichen bereits bekannt ist. Die jüngsten Entwicklungen im Bereich Generative KI wie etwa ChatGPT haben darüber hinaus gezeigt, dass die technologische Entwicklung hochdynamisch verläuft. Im ersten Regulierungsvorschlag, den die EU-Kommission 2021 vorgelegt hat, spielte Generative KI noch eine untergeordnete Rolle. Wichtig ist, dass für Generative KI im AI Act Klarheit und Rechtssicherheit geschaffen wird, und zwar mit Vorgaben, die in der Praxis auch funktionieren“, so Berg weiter.

Grundsätzlich sollten die EU und die Mitgliedstaaten nicht nur abstrakte Regeln schaffen, sondern auch die richtigen Rahmenbedingungen für die erfolgreiche Entwicklung von KI und für eine praxisnahe Umsetzung der Regulierung. Zur Umsetzung des AI Acts brauche man Aufsichts- und Marktüberwachungsstrukturen ebenso wie Reallabore als Experimentier-Räume, die Unternehmen helfen, die Regulierung praxisnah und pragmatisch umzusetzen.

„Es dürfen denen, die KI in Europa voranbringen wollen, keine Steine in den Weg legen. Der AI Act darf kein KI-Verhinderungs-Act werden, er muss ein KI-Beschleunigungs-Act werden. Ziel muss sein, dass die Menschen und Unternehmen in der EU die Vorteile von KI erleben und umfassend nutzen können.“

Weitere Informationen zum AI Act gibt es unter www.artificialintelligenceact.eu.