Generic filters
Exact matches only
Search in title
Search in excerpt
Search in content
FS Logoi

VDI-Stellungnahme: Verantwortung für KI-Systeme liegt beim Menschen

Die EU-Staaten haben schärfere Regeln für Künstliche Intelligenz (KI) in der Europäischen Union beschlossen. In einer Stellungnahme betont VDI-Experte Dieter Westerkamp die Wichtigkeit der endgültigen Entscheidung und Verantwortung beim Menschen. Das sei vor allem für die ethischen Grundsätze des Ingenieurberufs unerlässlich. Die EU hat heute endgültig das KI-Gesetz („AI-Act“) verabschiedet. Damit haben die EU-Staaten erstmals […]

von | 22.05.24

Die endgültige Entscheidung und Verantwortung muss laut VDI in Menschenhand bleiben.
Foto: ipopba - stock-adobe.com

Die EU-Staaten haben schärfere Regeln für Künstliche Intelligenz (KI) in der Europäischen Union beschlossen. In einer Stellungnahme betont VDI-Experte Dieter Westerkamp die Wichtigkeit der endgültigen Entscheidung und Verantwortung beim Menschen. Das sei vor allem für die ethischen Grundsätze des Ingenieurberufs unerlässlich.

Die EU hat heute endgültig das KI-Gesetz („AI-Act“) verabschiedet. Damit haben die EU-Staaten erstmals Regeln zur Nutzung von Künstlicher Intelligenz festgelegt. Es ist das erste Gesetz dieser Art in der Welt und kann einen globalen Standard für die Regulierung von KI setzen. Ein zentraler Punkt des Gesetzes sieht vor, dass KI-Systeme möglichst transparent, nachvollziehbar und nicht diskriminierend sind.

Technische Systeme dürfen keine Verantwortung tragen

Ein wichtiger Aspekt dabei sei, dass die KI-Systeme von Menschen überwacht werden – nicht von technischen Systemen. Damit bleibt die endgültige Entscheidung und Verantwortung in Menschenhand. Dieser Punkt wird vom VDI eindeutig unterstützt.

In seinen „Ethischen Grundsätzen des Ingenieurberufs“ aus dem Jahr 2021 stellt der VDI fordernd fest: „Ingenieurinnen und Ingenieure sind sich darüber bewusst, dass bei der Delegation operativer und strategischer Unterstützungs- und Entscheidungsleistungen an autonome KI-basierte Systeme die Verantwortung letztlich beim Menschen verbleiben muss.“ Dabei geht es nicht nur um die Künstliche Intelligenz selbst. „Wir müssen die Gesamtsysteme betrachten, in denen KI genutzt wird,“ sagt Dieter Westerkamp, Bereichsleiter Technik und Gesellschaft im Verein Deutscher Ingenieure. „Daher haben wir in unseren Ethischen Grundsätzen formuliert, dass Ingenieurinnen und Ingenieure gewährleisten, dass Entscheidungen von KI-Systemen stets nachvollziehbar und plausibel sind. Sie haben darüber hinaus eine Mitverantwortung für die systemischen Wirkungen – nicht nur des entwickelten Teilsystems selbst, sondern auch für dessen Auswirkungen in einem Gesamtsystem bzw. Netzwerk.“

Der VDI hatte das Aufkommen der breiten KI-Nutzung und autonomer Systeme zum Anlass genommen, seine Ethische Grundsätze daraufhin zu überarbeiten und zu ergänzen. Die vollständigen VDI-Grundsätze stehen zum kostenfreien Download bereit:

Zu den VDI-Grundsätzen

VDI sieht Chancen der KI

Unabhängig davon sieht der VDI die großen Chancen, die Technologien auf der Basis von Künstlicher Intelligenz bieten. Der VDI müsse hier unbedingt am Ball bleiben, um zukünftig auch weiterhin auf dem Weltmarkt wettbewerbsfähige Produkte und Dienstleistungen mit integrierter KI anbieten zu können.

“Gut ist, dass wir in Deutschland im Hinblick auf die Anzahl von Patenten aktuell weltweit auf dem zweiten Platz liegen. Nun gilt es, auf dieser Basis geeignete Produkte und Dienstleistungen zu entwickeln, die das KI-Gesetz erfüllen”, so Westerkamp.

Eine weitere technische Standardisierung für KI ist notwendig. Sie werde folgen und für Transparenz in der Nutzung von KI sorgen.

Was ist der EU AI Act?

Das KI-Gesetz ist ein Vorschlag für eine europäische Verordnung über künstliche Intelligenz (KI) – die erste umfassende Verordnung über KI durch eine wichtige Regulierungsbehörde weltweit. Das Gesetz ordnet die Anwendungen von KI drei Risikokategorien zu. Erstens werden Anwendungen und Systeme verboten, die ein inakzeptables Risiko darstellen, wie z. B. ein staatlich betriebenes Social Scoring, wie es in China eingesetzt wird. Zweitens unterliegen Anwendungen mit hohem Risiko, wie z. B. ein Tool zum Scannen von Lebensläufen, das eine Rangfolge von Bewerbern erstellt, besonderen rechtlichen Anforderungen. Anwendungen, die nicht ausdrücklich verboten oder als risikoreich eingestuft sind, bleiben weitgehend unreguliert.

Weitere Informationen zum AI Act gibt es unter www.artificialintelligenceact.eu.

Jetzt Newsletter abonnieren

Brennstoff für Ihr Wissen, jede Woche in Ihrem Postfach.

Hier anmelden

Kreislaufwirtschaft: VCI und PlasticsEurope Deutschland sehen Deutschland auf gutem Weg
Kreislaufwirtschaft: VCI und PlasticsEurope Deutschland sehen Deutschland auf gutem Weg

VCI und PlasticsEurope Deutschland haben eine umfassende gemeinsame Bewertung der neuen „Nationalen Kreislaufwirtschaftsstrategie“ (NKWS) des Bundesministerium für Umwelt, Naturschutz, nukleare Sicherheit und Verbraucherschutz (BMUV) veröffentlicht. In ihrer Stellungnahme betonen die beiden Verbände die positiven Ansätze des Entwurfs von Mitte Juni, üben aber auch konkrete Kritik an den einzelnen Maßnahmen.

mehr lesen
Junge Ingenieure zieht es in die Automobil- und Rüstungsindustrie
Junge Ingenieure zieht es in die Automobil- und Rüstungsindustrie

Trotz schwächelnder Konjunktur und globaler Krisen zieht es junge Ingenieure vor allem in die Automobilindustrie. Wie eine von der Wirtschaftswoche in Auftrag gegebene Studie zeigt, sind Jobs in der Autoindustrie sehr beliebt, aber auch im Sektor Luftfahrt und Rüstung sehen viele junge Menschen gute berufliche Perspektiven.

mehr lesen
Call for Papers: Digital Business Models im atp magazin 10/2024
Call for Papers: Digital Business Models im atp magazin 10/2024

Im atp magazin 10/2024 zur SPS 2024 dreht sich alles um digitale Geschäftsmodelle. Denn die Digitalisierung unserer Industrie schreitet voran. Viele neue Technologien werden gerade auch im Bereich der Automatisierungstechnik entwickelt und propagiert. Manchmal ist allerdings noch nicht klar, ob und wie daraus ein Geschäft werden kann. Teilweise fehlen die Geschäftsmodelle oder entsprechende Erfolgsgeschichten.

mehr lesen
AUTOMATION 2024: 25. Ausgabe stand im Zeichen der KI
AUTOMATION 2024: 25. Ausgabe stand im Zeichen der KI

Wie wird Künstliche Intelligenz die Produktion von morgen verändern? Wie wird sich dabei Automation weiterentwickeln, welche Rolle spielen weitere Megatrends der Digitalisierung? Spannende Zukunftsthemen nahm die Fachwelt bei der Jubiläumsauflage des Automatisierungskongresses in den Blick. Über 350 Teilnehmende waren Anfang Juli zum 25. VDI-Kongress AUTOMATION und der parallel stattfindenden 6. VDI-Fachkonferenz Gebäudeautomation in Baden-Baden zusammengekommen.

mehr lesen

atp weekly

Der Newsletter der Branche

Ihr kostenfreier E-Mail-Newsletter für alle Belange der Automatiserung.

Sie möchten das atp magazin testen

Bestellen Sie Ihr kostenloses Probeheft

Überzeugen Sie sich selbst: Gerne senden wir Ihnen das atp magazin kostenlos und unverbindlich zur Probe!

Finance Illustration 03