Das Exzellenznetzwerk ELSA European Lighthouse on Secure and Safe AI (ELSA) hat in seinem ersten Jahr wichtige Weichen gestellt, um die Europäische Union zu einem Leuchtturm sicherer und vertrauenswürdiger KI zu machen. Forschung, enger Austausch mit Industrievertreter:innen, strategische Forschungsausrichtung, Politik-Beratung – das Netzwerk adressiert in allen Dimensionen die drängenden Fragen, die künstliche Intelligenz für die Gesellschaft bereithält.

„Ich bin begeistert von den Fortschritten, die wir bereits im ersten Jahr erzielt haben“, sagt Professor Dr. Mario Fritz, CISPA-Faculty und Koordinator von ELSA, beim Treffen des Konsortiums zum einjährigen Jubiläum Ende September. Dieses erste gemeinsame Jahr, in dem Expert:innen auf den Gebieten des maschinellen Lernens und der künstlichen Intelligenz ihr Wissen und ihre Erfahrung geteilt haben, ist erst der Auftakt. „Wir haben noch viel vor, um künstliche Intelligenz robuster, sicherer und vertrauenswürdiger zu machen und sie so zum Wohl der Gesellschaft einsetzen zu können“, sagt Fritz.

ChatGPT und Co. schlagen hohe Wellen

Large Language Modelle ist ein Thema, dass viele Forschende im ELSA-Netzwerk intensiv beschäftigt. Mit Veröffentlichung von ChatGPT und anderen Chatbots, wurden sie der breiten Öffentlichkeit zugänglich. Die moderne Lerntechnologie, die darin steckt, muss laut Fritz nachhaltig und sicher zum Erfolg gebracht werden.

„Wie wir gesehen haben, haben die Modelle bislang aber noch enorme Schwächen.“

Fritz und sein Team konnten im Frühjahr zusammen mit CISPA-Faculty Prof. Dr. Thorsten Holz und dem Saarbrücker IT-Unternehmen sequire technology kritische Schwachstellen aufdecken. Die Veröffentlichung ihres Papers hat unter anderem dazu geführt, dass das deutsche Bundesamt für Sicherheit in der Informationstechnik (BSI) ein ausführliches Positionspapier zu dem Thema mit dem Titel „Große KI-Sprachmodelle – Chancen und Risiken für Industrie und Behörden“ verfasste.

Aufstellung der Netzwerke

So wie in ELSA viele intelligente Köpfe ihre Kräfte bündeln, tun das auch die NoEs. Gemeinsam haben sie eine Joint Research Agenda verfasst, die aufzeigt, wie sie gemeinsam den Weg für den sicheren Einsatz künstlicher Intelligenz ebnen wollen.

ELSA fokussiert sich dabei auf drei große Herausforderungen. Hierzu zählen technisch robuste und sichere KI-Systeme sowie datenschutzfreundliches und robustes kollaboratives Lernen. Außerdem sind menschliche Kontrollmechanismen für den ethischen und sicheren Einsatz von KI zu entwickeln. Die konkreten Anwendungsfälle sind Gesundheit, autonomes Fahren, Robotik, Cybersicherheit, Medien und Dokumentenintelligenz. Das Netzwerk verfolgt dabei einen grundlegenden, transparenten und interdisziplinären Ansatz. Die im November veröffentlichte strategische Forschungsagenda gibt Interessierten eine Übersicht, wie ELSAs Arbeit an diesen Herausforderungen konkret aussehen wird.

KI sicher „auf die Straße bringen“

Um die von ELSA-Forschenden entwickelten Technologien und Methoden unter realen Bedingungen zu testen, hat ELSA 2023 eine Benchmarks-Plattform veröffentlicht. Über diese Plattform werden innerhalb des Netzwerks Daten und Metriken geteilt und sogenannte „Competitions“ zu den sechs ELSA USE-Cases veröffentlicht. Das sorgt dafür, dass das Netzwerk messbare Fortschritte erzielt und immer wieder die Forschungsaktivitäten mit realen Bedürfnissen und Anwendungen verknüpft werden.

Im Mai hat ELSA zudem kleine und mittelständische Unternehmen sowie innovative Startups aufgerufen, sich um Förderung zu bewerben und zusammen mit ELSA-Forschenden an Methoden, Benchmarks und Softwarelösungen zu arbeiten und diese in die industrielle Anwendung zu bringen. Sechs Startups wurden dazu kürzlich von einem Expert:innen-Gremium ausgewählt. Sie erhalten über ELSA jeweils rund 60.000 Euro EU-Förderung und werden zusammen mit ausgewählten Konsortiumsmitgliedern an konkreten Projekten arbeiten. Im Januar 2024 wird ELSA verkünden, welche jungen Unternehmen im Industry Call überzeugen konnten.

Auftakt geglückt

Ein Netzwerk dieser Größe aufzubauen, ist keine leichte Aufgabe. Das Jahr 2023 zeigt allerdings, dass ELSA Potential hat, die komplexen Herausforderungen moderner KI-Lösungen erfolgreich anzugehen. Konsortiumsmitglied Battista Biggio, Associate Professor an der Universität Cagliari und Mitbegründer des Cybersicherheitsunternehmens Pluribus One, sagt:

„Die Arbeit von ELSA im Bereich der sicheren KI schreitet in rasantem Tempo voran, insbesondere was das Testen, die Verifizierung und die zertifizierbare Robustheit von KI betriff.“

Doch es braucht auch politischen und gesellschaftlichen Willen, um die Sicherheit von KI-Systemen ganz oben auf die Agenda zu heben.

„Es wird derzeit viel in die Weiterentwicklung künstlicher Intelligenz investiert, mindestens genauso viel, wenn nicht sogar deutlich mehr, müsste in die Sicherheit dieser Technologien fließen“, sagt Fritz. Dazu braucht es gemeinsame Kraftanstrengungen.