Generic filters
Exact matches only
Search in title
Search in excerpt
Search in content
FS Logoi

Erklärbare KI: Forschungsprojekt XMANAI erforscht Entscheidungsprozesse

Künstliche Intelligenz (KI) findet zunehmend Eingang in industrielle Anwendungen. Doch KI agiert in weiten Teilen wie eine Blackbox: Die Berechnungen sind für Anwenderinnen und Anwender oft intransparent – mangelndes Vertrauen ist die Folge. Das Europäische Forschungsprojekt XMANAI unter Beteiligung von Fraunhofer FOKUS und weiteren 14 Partnern hat daher den Blick in die KI geöffnet und […]

von | 02.05.24

Im Projekt XMANAI wurde eine Plattform entwickelt, die den transparenten Einsatz von industrieller KI unterstützt und ihre Entscheidungsprozesse nachvollziehbar macht.
Foto: istock/ industryview

Künstliche Intelligenz (KI) findet zunehmend Eingang in industrielle Anwendungen. Doch KI agiert in weiten Teilen wie eine Blackbox: Die Berechnungen sind für Anwenderinnen und Anwender oft intransparent – mangelndes Vertrauen ist die Folge. Das Europäische Forschungsprojekt XMANAI unter Beteiligung von Fraunhofer FOKUS und weiteren 14 Partnern hat daher den Blick in die KI geöffnet und macht ihre Entscheidungsprozesse nachvollziehbar.

Ergebnisse von KI-Tools sind oft nicht nachvollziehbar

Künstliche Intelligenz hat in der industriellen Produktion das Potenzial, Fertigungsprozesse schneller, preisgünstiger und weniger fehleranfällig zu gestalten: So können Produktionsausfälle durch Wartung oder Reparatur von defekten Komponenten durch eine frühzeitige Prognose von Maschinenfehlern besser geplant werden.

Grundlage dafür bilden große Datenmengen zum Beispiel aus Sensoren zur Überwachung der Maschinen, auf deren Basis die KI zunächst trainiert wird und später die Berechnungen durchgeführt werden. Aufgrund der immensen Datenmengen und komplexen Verarbeitung sind die Ergebnisse für die Mitarbeitenden allerdings kaum nachvollziehbar. Fehlendes Vertrauen in KI-Systeme ist die Folge: Die Möglichkeiten der KI werden daher oft nicht ausgeschöpft oder Industrieunternehmen verlassen sich sogar weiterhin auf herkömmliche Vorgehensweisen, da die Entscheidungen der KI für sie nicht transparent sind.

Plattform will transparenten KI-Einsatz unterstützen

Im Projekt XMANAI, finanziert im Rahmen des Europäischen Forschungsprogramms Horizon 2020, haben 15 Forschungspartner eine Plattform entwickelt, die den transparenten Einsatz von industrieller KI unterstützt: Durch interaktive Visualisierungen wie Wissensgraphen, Datendiagramme und Erläuterungen in natürlicher Sprache können die Mitarbeitenden auch ohne vertiefte KI-Kenntnisse nachvollziehen, welche Daten und Algorithmen für die Berechnungen relevant sind und wie sie die KI beeinflussen.

Damit alle Daten dieser “erklärbaren KI” genau, aktuell und vollständig sind und somit die Verlässlichkeit der Plattform gesichert ist, hat Fraunhofer FOKUS Werkzeuge für das Datenmanagement entwickelt – von Import über die Speicherung von Daten bis hin zur (halb-)automatisierten Aufbereitung dieser Daten. Übergeordnetes Ziel ist dabei die niedrigschwellige und sichere Nutzung der vorhandenen Daten.

Ergebnisse des XMANAI-Projekts sind öffentlich zugänglich

Um die Funktionen, Darstellungen und Metriken der XMANAI-Plattform für verschiedene industrielle Anwendungsfälle zu testen, haben alle Projektpartner über eine jeweils eigene App Zugang zu den Services erhalten und konnten sie über mehrere Monate in die industrielle Fertigung integrieren. Dadurch konnte XMANAI für die speziellen Bedürfnisse und Eigenheiten der Fertigungsindustrie geprüft werden.

Eine der wichtigsten Erkenntnisse ist, dass die Plattform durch offene, standardbasierte Schnittstellen sowohl den Zugang zur KI als auch die Interoperation mit On-Premise-Umgebungen ermöglicht. XMANAI macht damit die »erklärbare KI« zum zentralen Referenzpunkt für eine transparente Datennutzung in Fertigungsprozessen. Die Ergebnisse des vierjährigen Forschungsprojekts sind über die Projektwebsite öffentlich zugänglich und fließen in die Verbesserung industrieller Software-Anwendungen ein.

Das Europäische Projekt XMANAI

Das Horizon-2020-Projekt XMANAI wurde von 1. November 2020 bis 30. April 2024 im Rahmen des Forschungsprogramms Horizon 2020 finanziert. Geleitet wird das Projekt mit insgesamt 15 europäischen Partnern aus Wirtschaft und Wissenschaft, darunter Ford und Whirlpool, vom italienischen Softwareentwicklungsunternehmen TXT e-solutions. Der Geschäftsbereich Digital Public Services (DPS) bei Fraunhofer FOKUS beteiligte sich als Partner für das Echtzeit-Datenmanagement und war wissenschaftlicher Koordinator des Projekts.

Weitere Informationen gibt es unter www.ai4manufacturing.eu.

Jetzt Newsletter abonnieren

Brennstoff für Ihr Wissen, jede Woche in Ihrem Postfach.

Hier anmelden

Kreislaufwirtschaft: VCI und PlasticsEurope Deutschland sehen Deutschland auf gutem Weg
Kreislaufwirtschaft: VCI und PlasticsEurope Deutschland sehen Deutschland auf gutem Weg

VCI und PlasticsEurope Deutschland haben eine umfassende gemeinsame Bewertung der neuen „Nationalen Kreislaufwirtschaftsstrategie“ (NKWS) des Bundesministerium für Umwelt, Naturschutz, nukleare Sicherheit und Verbraucherschutz (BMUV) veröffentlicht. In ihrer Stellungnahme betonen die beiden Verbände die positiven Ansätze des Entwurfs von Mitte Juni, üben aber auch konkrete Kritik an den einzelnen Maßnahmen.

mehr lesen
Junge Ingenieure zieht es in die Automobil- und Rüstungsindustrie
Junge Ingenieure zieht es in die Automobil- und Rüstungsindustrie

Trotz schwächelnder Konjunktur und globaler Krisen zieht es junge Ingenieure vor allem in die Automobilindustrie. Wie eine von der Wirtschaftswoche in Auftrag gegebene Studie zeigt, sind Jobs in der Autoindustrie sehr beliebt, aber auch im Sektor Luftfahrt und Rüstung sehen viele junge Menschen gute berufliche Perspektiven.

mehr lesen
Call for Papers: Digital Business Models im atp magazin 10/2024
Call for Papers: Digital Business Models im atp magazin 10/2024

Im atp magazin 10/2024 zur SPS 2024 dreht sich alles um digitale Geschäftsmodelle. Denn die Digitalisierung unserer Industrie schreitet voran. Viele neue Technologien werden gerade auch im Bereich der Automatisierungstechnik entwickelt und propagiert. Manchmal ist allerdings noch nicht klar, ob und wie daraus ein Geschäft werden kann. Teilweise fehlen die Geschäftsmodelle oder entsprechende Erfolgsgeschichten.

mehr lesen
AUTOMATION 2024: 25. Ausgabe stand im Zeichen der KI
AUTOMATION 2024: 25. Ausgabe stand im Zeichen der KI

Wie wird Künstliche Intelligenz die Produktion von morgen verändern? Wie wird sich dabei Automation weiterentwickeln, welche Rolle spielen weitere Megatrends der Digitalisierung? Spannende Zukunftsthemen nahm die Fachwelt bei der Jubiläumsauflage des Automatisierungskongresses in den Blick. Über 350 Teilnehmende waren Anfang Juli zum 25. VDI-Kongress AUTOMATION und der parallel stattfindenden 6. VDI-Fachkonferenz Gebäudeautomation in Baden-Baden zusammengekommen.

mehr lesen

atp weekly

Der Newsletter der Branche

Ihr kostenfreier E-Mail-Newsletter für alle Belange der Automatiserung.

Sie möchten das atp magazin testen

Bestellen Sie Ihr kostenloses Probeheft

Überzeugen Sie sich selbst: Gerne senden wir Ihnen das atp magazin kostenlos und unverbindlich zur Probe!

Finance Illustration 03