Generic filters
Exact matches only
Search in title
Search in excerpt
Search in content
FS Logoi

KI-generierte Medien: Menschen erkennen kaum den Unterschied

Kategorie:
Themen: |
Autor: Theresa Graser

Die Studie zur Erkennung KI-generierter Medien lief unter der Leitung von Prof. Dr. Thorsten Holz (l.) und Dr. Lea Schönherr (m.).
Quelle: CISPA
KI-generierte Medien: Menschen erkennen kaum den Unterschied

Eine Online-Befragung zeigt, dass die meisten Menschen KI-generierte Medien nicht mehr als solche erkennen. Die Studie wurde als erste ihrer Art auf dem 45. IEEE Symposium on Security and Privacy in San Francisco präsentiert.

Die Studie entstand unter der Leitung von CISPA-Faculty Dr. Lea Schönherr und Prof. Dr. Thorsten Holz. Beteiligt waren die Ruhr-Universität Bochum, die Leibniz Universität Hannover, sowie die TU Berlin. Circa 3000 Personen aus Deutschland, China und den USA nahmen teil.

KI-generierte Medien sind Risikofaktor

Künstliche Intelligenz (KI) entwickelt sich rasant und bietet die Möglichkeit, mit nur wenigen Klicks massenhaft Bilder, Texte und Audiodateien zu generieren. Damit gehen nicht wenige Risiken einher.

„Künstlich erzeugter Content kann vielfältig missbraucht werden. Wir haben in diesem Jahr wichtige Wahlen, wie die Wahlen zum EU-Parlament oder die Präsidentschaftswahl in den USA: Da können KI-generierte Medien sehr einfach für politische Meinungsmache genutzt werden. Ich sehe darin eine große Gefahr für unsere Demokratie“, warnt Prof. Dr. Thorsten Holz.

Umso wichtiger ist es, an der automatisierten Erkennung von KI-generierten Medien zu arbeiten. Eine Aufgabe, die CISPA-Faculty Dr. Lea Schönherr als Wettlauf gegen die Zeit bezeichnet. Medien, die KI-generiert sind, würden immer schwieriger mit automatischen Methoden erkannt. Daher sei wichtig, herauszufinden, inwieweit Menschen dies einschätzen können. Zu diesem Zweck wurde die Studie ins Leben gerufen.

Täuschend echt

Die medien- und länderübergreifende Studie hat ein erstaunliches Ergebnis: Bereits jetzt ist es für Menschen sehr schwierig, wenngleich nicht unmöglich, KI-erstellte Medien von Menschengemachten zu unterscheiden. Dies gilt dabei für alle Arten von Medien – Text, Audio, und Bild. In allen drei Kategorien haben die Teilnehmenden die KI-Medien überwiegend als von Meschen erstellt eingeordnet.

„Überrascht hat uns, dass es sehr wenige Faktoren gibt, anhand derer man erklären kann, ob Menschen besser im Erkennen von KI-generierten Medien sind oder nicht. Selbst über verschiedene Altersgruppen hinweg und bei Faktoren wie Bildungshintergrund, politischer Einstellung oder Medienkompetenz, sind die Unterschiede nicht sehr signifikant“, erklärt Holz.

Verschiedene Faktoren miteinbezogen

Für die Online-Befragung wurden die Teilnehmenden zufällig einer der drei Medienkategorien (Text, Audio, Bild) zugeordnet. Die Studie lief zwischen Juni 2022 und September 2022, und die Befragten wurden mit 50% realen und 50% KI-generierten Medien konfrontiert. Dabei haben die Forschenden die in der Studie verwendeten KI-Dateien selbst generiert, die Bilder übernahmen sie aus einer existierenden Studie. Die Bilder waren fotorealistische Porträts, als Texte wurden Nachrichten gewählt und die Audio-Dateien waren Ausschnitte aus Literatur. Zur weiteren Einordnung wurden sozio-biografische Daten, das Wissen zu KI-generierten Medien sowie Faktoren wie Medienkompetenz, holistisches Denken, generelles Vertrauen, kognitive Reflexion und politische Orientierung erhoben. Nach der Datenbereinigung blieben 2.609 auszuwertende Datensätze übrig.

Basis für weiterführende Untersuchungen

Für die Cybersicherheitsforschung sind die Ergebnisse der Studie von großem Wert. Schönherr betont, wie mithilfe von KI Phishing-E-Mails und andere Online-Betrugsversuche in Zukunft so personalisiert werden könnten, dass Opfer die Fallen nicht mehr als solche erkennen. Die Studienergebnisse sollen dazu beitragen, Abwehrmechanismen für derartige Szenarien zu entwickeln.

Ferner weist das Projekt den Weg für weitere Forschung. Eine Laborstudie, bei der Teilnehmende genau erklären sollen, woran sie sie erkennen, ob etwas KI-generiert ist oder nicht, ist bereits in Planung.

Weitere Informationen gibt es hier.

atp weekly

Der Newsletter der Branche

Ihr kostenfreier E-Mail-Newsletter für alle Belange der Automatiserung.

Das könnte Sie auch interessieren:

CES-Förderpreis in Düsseldorf vergeben

Sie möchten das atp magazin testen

Bestellen Sie Ihr kostenloses Probeheft

Überzeugen Sie sich selbst: Gerne senden wir Ihnen das atp magazin kostenlos und unverbindlich zur Probe!

Finance Illustration 03