Künstliche Intelligenz (KI) lokal auf dem Smartphone, im Fahrzeug oder Industrieroboter einzusetzen, bietet enorme Chancen für die deutsche Wirtschaft und Gesellschaft. Im Vergleich zu großen KI-Modellen, die zentral auf großen Recheninfrastrukturen betrieben werden, benötigt die sogenannte Edge AI deutlich weniger Energie, schützt die Privatsphäre sowie Daten der Nutzenden und ermöglicht zuverlässige Anwendungen in Echtzeit. Ein aktuelles Whitepaper gibt einen Überblick über Stärken und Schwächen von Edge AI und diskutiert Optionen, wie die Technologie in die Anwendung gebracht werden kann.

Deutschland hat gute Ausgangslage

Die Plattform Lernende Systeme bescheinigt Deutschland eine gute Ausgangsposition im internationalen Wettbewerb, um das Potenzial der Technologie auszuschöpfen. Allerdings stehen Forschung und Entwicklung vor technischen Herausforderungen sowie Hürden beim Transfer in die Praxis.

Mithilfe von Edge AI lässt sich der Gesundheitszustand von Patientinnen und Patienten in Echtzeit überwachen. Fahrerassistenzsysteme können blitzschnell auf Hindernisse reagieren und so die Sicherheit im Straßenverkehr erhöhen. Ziel der Technologie ist es, Daten möglichst dort zu verarbeiten und zu analysieren, wo sie entstehen, also nahe am Endgerät. Da die Daten auf diese Weise nicht über große Distanzen an Rechenzentren übertragen werden müssen, können die KI-Systeme schneller reagieren. Die Daten von Personen oder Unternehmen verbleiben sicher beim Nutzenden.

Dies eröffnet vielfältige Einsatzmöglichkeiten überall dort, wo ein Betrieb in Echtzeit wünschenswert ist, und sensible Daten verarbeitet werden, etwa Gesundheitsdaten in der Medizin oder wertvolle Unternehmensdaten. Allerdings bieten Edge AI-Systeme auf vielen Endgeräten unter Umständen mehr Angriffsflächen für Cyberattacken als ein gut geschütztes Rechenzentrum.

Kosten und Energieverbrauch von generativen KI-Modellen ist hoch

Aktuell dominieren die spektakulären generativen KI-Modelle die öffentliche Diskussion. Sie basieren auf immer größeren zentral verarbeiteten Datenmengen und immer höheren Rechenkapazitäten. Ihre Kosten und ihr Energieverbrauch sind hoch: Ein Bildgenerator benötigt beim Erstellen eines Bildes so viel Energie wie für das Aufladen eines Handyakkus notwendig ist. Edge AI muss mit einer sehr begrenzten Rechenleistung und Speicherkapazität auf dem Endgerät auskommen und daher besonders energieeffizient arbeiten. Die Autorinnen und Autoren des Whitepapers erachten diese Beschränkungen sowohl als Herausforderung für die Entwicklung als auch als Chance, da sie Treiber für ressourcenschonende KI-Innovationen seien.

Edge AI sei ein technologischer Baustein, um Herausforderungen wie den Klimawandel, digitale Souveränität oder die Energieversorgung zu bewältigen, heißt es im Whitepaper. So können Edge AI-basierte Stromzähler zu einer stabilen Versorgung mit erneuerbaren Energien beitragen. Sensoren in Recyclinganlagen können mithilfe der Technologie Wertstoffe im Abfall erkennen. Unternehmen ermöglicht Edge AI, unabhängiger von meist außereuropäischen Cloud-Anbietern zu agieren, da Datenströme an der Quelle verarbeitet werden.

Edge AI bietet geraede für Leitindustrien große Potenziale

“Die genannten Vorteile öffnen eine Vielzahl von Potenzialen gerade in deutschen Leitindustrien wie Automobil, Maschinenbau und Medizintechnik. Auch wenn es bereits Erfolge vorzuweisen gibt, so nutzen wir das verfügbare Potenzial aber bei weitem noch nicht aus. Die Gestaltung der Netze, das Trainieren der Netze, die Übersetzung der Netze und die Hardware-Architekturen zur Berechnung der Netze werden weitgehend unabhängig betrachtet. Eine holistische Herangehensweise ist notwendig, um eine leistungsstarke Edge-AI-Technik bereitzustellen“, sagt Wolfgang Ecker, Distinguished Engineer bei Infineon Technologies und Mitglied der Arbeitsgruppe Technologische Wegbereiter und Data Science der Plattform Lernende Systeme.

„Und ebenso müssen Technik und Anwendungen gemeinsam betrachtet werden. Nur mit dem Wissen der Anwendung können die Edge-AI-Maschinen effizient gestaltet werden und im Gegenzug können nur mit dem Wissen der Leistungsfähigkeit der Edge-AI-Technik neue Anwendungen entwickelt werden.“

Es fehlen Fachleute, um Edge AI auf die Straße zu bringen

Die Kombination aus technologischem Wissen, Expertise in den ansässigen Industriezweigen und Erfahrung in der Entwicklung physischer Produkte mache Deutschland und Europa zu einem idealen Standort, um das Potenzial von Edge AI auszuschöpfen, so die Autorinnen und Autoren des Whitepapers. Allerdings lassen sich die Softwarelösungen für eine bestimmte Hardware meist nicht einfach auf ein anderes Endgerät übertragen. Zudem fehlen Expertinnen und Experten für das Hardware-Design. Beides bremst den Einsatz in der Praxis.

Die Autorinnen und Autoren empfehlen, Plattformen zu entwickeln, auf denen Basisbausteine bereitgestellt werden, die je nach Bedarf an die verschiedenen Branchen angepasst werden können. Dies setzt eine entsprechende Standardisierung voraus. Auch sollte die Forschung zu ressourcenschonender Datenverarbeitung innerhalb der Grenzen der Endgeräte vorangetrieben werden.

Das vollständige Whitepaper steht zum kostenfreien Download bereit:

Weitere Informationen gibt es unter www.plattform-lernende-systeme.de.