Generic filters
Exact matches only
Search in title
Search in excerpt
Search in content
FS Logoi

Wolfgang Ecker: „Die Möglichkeiten von Edge AI sind grenzenlos“

Die jüngsten Erfolge in der generativen KI basieren auf einem Anstieg zentral verarbeiteter Daten, größeren neuronalen Netzen und mehr Rechenkapazität. Dies wirft Fragen zu Datenschutz, Kosten und Ressourcenverbrauch auf. Daher wird parallel ein anderer Ansatz verfolgt: die Dezentralisierung von KI-Architekturen nach dem Vorbild des Edge Computing – genannt Edge AI. Das Ziel: Daten nahe am […]

von | 09.07.24

Foto: Plattform Lernende Systeme

Die jüngsten Erfolge in der generativen KI basieren auf einem Anstieg zentral verarbeiteter Daten, größeren neuronalen Netzen und mehr Rechenkapazität. Dies wirft Fragen zu Datenschutz, Kosten und Ressourcenverbrauch auf. Daher wird parallel ein anderer Ansatz verfolgt: die Dezentralisierung von KI-Architekturen nach dem Vorbild des Edge Computing – genannt Edge AI. Das Ziel: Daten nahe am Nutzenden und nicht in der Cloud verarbeiten. Wolfgang Ecker, Distinguished Engineer bei Infineon Technologies und Honorarprofessor der TU München, erklärt im Interview Vorteile, Einsatzmöglichkeiten und aktuellen Hürden von Edge AI. Er ist Co-Autor eines aktuellen Whitepapers der Plattform Lernende Systeme zum Thema.

Herr Ecker, wo liegen die größten Vorteile von Edge AI gegenüber klassischen Cloud-Ansätzen?

Lassen Sie es mich einmal so sagen: Aus technologischer Sicht ist Edge AI im Vergleich zur Cloud erst einmal eine zusätzliche technische Herausforderung. Die Berechnung der Netze muss bei Edge AI mit Milli-Watt elektrischer Leistung auskommen, bei der Cloud werden Kilo- oder Megawatt verbraucht. Auf der Kostenseite ist man bei Edge AI eher im Euro-Bereich, in der Cloud bei Tausenden und Millionen von Euro. Entsprechend müssen die KI-Recheneinheiten kleiner sein und mit weniger Strom auskommen, was nur durch besonders optimierte Netze möglich ist.

Deshalb liegen die technischen Vorteile der Edge-AI-Lösungen in der Anwendung der Technologie. Edge AI muss die Daten nicht erst an die Cloud schicken und auf eine Antwort warten, sondern kann nahe am Auftreten der Daten ausgeführt werden. Schnellere und garantierte Antworten der KI sind deshalb ebenso ein technischer Vorteil wie der Schutz der Daten, da diese nur lokal vorgehalten werden müssen. Die Anwendungen sind auch robuster, da ein Ausfall der Kommunikation mit der Cloud nicht in Betracht gezogen werden muss. Zuletzt haben Edge-AI-Anwendungen einen viel geringeren CO2-Abdruck als Anwendungen in der Cloud.

Welche Potenziale ergeben sich daraus – und wo stehen wir in Deutschland in puncto Transfer?

Die genannten Vorteile von kleinem Formfaktor, geringen Kosten, geringem Energieverbrauch, besser geschützten Daten und systemisch inhärent robusteren – da unabhängigeren – Implementierungen öffnen eine Vielzahl von Potenzialen gerade in deutschen Leitindustrien wie Automobil, Maschinenbau und Medizintechnik. Ein Beispiel ist die Vehicle-to-Vehicle-Kommunikation beim teilautonomen Fahren: Durch Sensordaten des Autos (z. B. Lidar, Kameras, Radar) sowie Verkehrsdaten, die über Kommunikationsnetze zwischen Fahrzeugen ausgetauscht werden, können lokale KI-Modelle zum Einsatz kommen, die diese eingehenden Daten zuverlässig und in Echtzeit verarbeiten und so Anomalien erkennen. Bei gefährlichen Situationen können so Warnungen kommuniziert oder gar Maßnahmen unabhängig eingeleitet werden, um einen Unfall zu vermeiden. Ein weiteres Anwendungsfeld ist die Industrierobotik: Edge AI kann hier mithilfe des föderierten Lernens so umgesetzt werden, dass Kommissionier-Roboter in der Lage sind, mit KI zu „fühlen“ und voneinander zu lernen und so auch unbekannte Objekte zuverlässig zu greifen.

Meiner Meinung nach sind die Opportunitäten der Edge AI grenzenlos. Auch wenn es bereits Erfolge vorzuweisen gibt, so nutzen wir das verfügbare Potenzial aber bei weitem noch nicht aus. Lokale Ansätze und Gräben um eigene Arbeitsgebiete verhindern eine holistische Herangehensweise. Die Gestaltung der Netze, das Trainieren der Netze, die Übersetzung der Netze und die Hardware-Architekturen zur Berechnung der Netze werden weitgehend unabhängig betrachtet. Oft werden Lösungen aus der Cloud AI angepasst statt passgenaue Edge-AI-Komplettlösungen zu erarbeiten. Eine holistische Herangehensweise aber ist notwendig, um eine leistungsstarke Edge-AI-Technik bereitzustellen. Und ebenso müssen Technik und Anwendungen gemeinsam betrachtet werden. Nur mit dem Wissen der Anwendung können die Edge-AI-Maschinen effizient gestaltet werden und im Gegenzug können nur mit dem Wissen der Leistungsfähigkeit der Edge-AI-Technik neue Anwendungen entwickelt werden.

Werden sich in absehbarer Zeit auch große Sprachmodelle “on the edge” ausführen und/oder trainieren lassen?

Wörtlich genommen denke ich, wird das nie klappen. „Große Modelle“ auf der einen Seite sowie Energie- sowie Kosten-Effizienz auf der anderen Seite passen nicht zusammen. Entscheidend wird sein, ob es klappt, die großen Sprachmodelle so zu skalieren, dass sie von Edge Devices verarbeitet werden können. Ebenso ist es wichtig, das Training so effizient zu gestalten, dass es in der Edge ausgeführt werden kann. Erste Ansätze sind bekannt, also warum soll es mit der oben dargestellten holistischen Herangehensweise nicht klappen?

Es muss aber klar gemacht werden, dass eine Edge AI-Umsetzung nie die Universalität und Leistungsfähigkeit einer Cloud AI erreichen werden. Entsprechend bergen verteilte und/oder gemischte Edge-AI-/Cloud AI-Lösungen ein weiteres großes Potenzial. Vielleicht wandern neue Edge-AI-Techniken auch zurück in die Cloud, um dort den Energiebedarf und den CO2-Abdruck zu reduzieren.

Zur Person: Wolfgang Ecker

Wolfgang Ecker ist Distinguished Engineer bei Infineon Technologies, Honorarprofessor der TU München und Mitglied der Plattform Lernende Systeme.

 

Jetzt Newsletter abonnieren

Brennstoff für Ihr Wissen, jede Woche in Ihrem Postfach.

Hier anmelden

Kreislaufwirtschaft: VCI und PlasticsEurope Deutschland sehen Deutschland auf gutem Weg
Kreislaufwirtschaft: VCI und PlasticsEurope Deutschland sehen Deutschland auf gutem Weg

VCI und PlasticsEurope Deutschland haben eine umfassende gemeinsame Bewertung der neuen „Nationalen Kreislaufwirtschaftsstrategie“ (NKWS) des Bundesministerium für Umwelt, Naturschutz, nukleare Sicherheit und Verbraucherschutz (BMUV) veröffentlicht. In ihrer Stellungnahme betonen die beiden Verbände die positiven Ansätze des Entwurfs von Mitte Juni, üben aber auch konkrete Kritik an den einzelnen Maßnahmen.

mehr lesen
Junge Ingenieure zieht es in die Automobil- und Rüstungsindustrie
Junge Ingenieure zieht es in die Automobil- und Rüstungsindustrie

Trotz schwächelnder Konjunktur und globaler Krisen zieht es junge Ingenieure vor allem in die Automobilindustrie. Wie eine von der Wirtschaftswoche in Auftrag gegebene Studie zeigt, sind Jobs in der Autoindustrie sehr beliebt, aber auch im Sektor Luftfahrt und Rüstung sehen viele junge Menschen gute berufliche Perspektiven.

mehr lesen
Call for Papers: Digital Business Models im atp magazin 10/2024
Call for Papers: Digital Business Models im atp magazin 10/2024

Im atp magazin 10/2024 zur SPS 2024 dreht sich alles um digitale Geschäftsmodelle. Denn die Digitalisierung unserer Industrie schreitet voran. Viele neue Technologien werden gerade auch im Bereich der Automatisierungstechnik entwickelt und propagiert. Manchmal ist allerdings noch nicht klar, ob und wie daraus ein Geschäft werden kann. Teilweise fehlen die Geschäftsmodelle oder entsprechende Erfolgsgeschichten.

mehr lesen
AUTOMATION 2024: 25. Ausgabe stand im Zeichen der KI
AUTOMATION 2024: 25. Ausgabe stand im Zeichen der KI

Wie wird Künstliche Intelligenz die Produktion von morgen verändern? Wie wird sich dabei Automation weiterentwickeln, welche Rolle spielen weitere Megatrends der Digitalisierung? Spannende Zukunftsthemen nahm die Fachwelt bei der Jubiläumsauflage des Automatisierungskongresses in den Blick. Über 350 Teilnehmende waren Anfang Juli zum 25. VDI-Kongress AUTOMATION und der parallel stattfindenden 6. VDI-Fachkonferenz Gebäudeautomation in Baden-Baden zusammengekommen.

mehr lesen

atp weekly

Der Newsletter der Branche

Ihr kostenfreier E-Mail-Newsletter für alle Belange der Automatiserung.

Sie möchten das atp magazin testen

Bestellen Sie Ihr kostenloses Probeheft

Überzeugen Sie sich selbst: Gerne senden wir Ihnen das atp magazin kostenlos und unverbindlich zur Probe!

Finance Illustration 03