Bei der KI-Sicherheit klaffen die Einschätzung der eigenen Vorbereitung und die angenommene Erkennungsfähigkeit auseinander. Fast neun von zehn befragten Entscheidern in Deutschland halten ihre Sicherheitsteams für gut auf das Tempo der KI-Einführung vorbereitet. Gleichzeitig schätzen die Befragten, dass durchschnittlich nur 40 % des böswilligen oder unerwarteten KI-Verhaltens erkannt werden.

KI-Sicherheit benötigt Transparenz über eingesetzte Systeme

Die Zahlen stammen aus dem Report Securing the AI-Powered Enterprise. Dafür beauftragte TrendAI das Marktforschungsunternehmen SAPIO Research mit einer Befragung von 3.700 IT- und Business-Entscheidern aus 22 Ländern. Die Befragten arbeiten in Unternehmen mit mehr als 250 Beschäftigten. An der Erhebung im Februar 2026 nahmen 200 Entscheider aus Deutschland teil.

Ein Ansatzpunkt für eine bessere Erkennung von Risiken ist die Transparenz über die eingesetzten KI-Systeme. Sieben bis acht von zehn deutschen Entscheidern berichten laut Studie von einer umfassenden oder hohen Sichtbarkeit ihrer KI-Systeme. Bei einem weiteren Teil der Unternehmen ist diese Transparenz dagegen nur teilweise vorhanden oder befindet sich noch im Aufbau.

Für die Automatisierungs- und Prozessindustrie ist diese Frage auch mit der zunehmenden Einbindung von KI in betriebliche Abläufe relevant. Voraussetzung für eine systematische Überwachung ist zunächst eine vollständige Erfassung der eingesetzten Systeme und Anwendungen. Die Studie selbst macht allerdings keine Angaben dazu, welcher Anteil der deutschen Befragten aus der Prozess- oder Fertigungsindustrie stammt.

Deepfakes und Voice Cloning stellen Sicherheitskontrollen auf die Probe

Neben dem Verhalten eigener KI-Systeme untersucht die Befragung die Abwehr von Angriffen, die mithilfe künstlicher Intelligenz ermöglicht oder verstärkt werden. Bei etablierten Szenarien wie KI-gestütztem Phishing berichten sechs bis sieben von zehn deutschen Unternehmen von soliden Kontrollen.

Bei neueren Angriffsmethoden fallen die Werte niedriger aus. Nur etwa die Hälfte der Befragten verfügt demnach über getestete Kontrollen gegen Video-Deepfakes. Ein ähnliches Bild zeigt sich bei Angriffen, die Video- und Stimmimitation von Führungskräften kombinieren. Gegen Voice Cloning haben weniger als die Hälfte der Befragten getestete Sicherheitsmechanismen. Deutschland liegt beim Voice Cloning laut Studienangaben unter dem globalen Durchschnitt.

KI-Governance: IT und Business sehen unterschiedliche Hürden

Bei den Hindernissen für eine sichere KI-Einführung unterscheiden sich die Einschätzungen von IT und Business. 41 % der deutschen IT-Entscheider zählen begrenzte Sicherheits- und Datenkompetenzen zu den größten Herausforderungen. Bei den Business-Entscheidern nennen 39 % kulturelle Widerstände gegen Veränderungen als zentrale Hürde.

Damit betrifft KI-Sicherheit nicht allein technische Schutzmechanismen. Unternehmen müssen auch Zuständigkeiten, Kompetenzen und Prozesse definieren. Besonders relevant wird diese organisatorische Ebene, wenn ein auffälliges oder schädliches Verhalten eines KI-Systems bereits erkannt wurde und eine schnelle Reaktion erforderlich ist.

Agentic AI verschärft die Frage nach Eingriffsmechanismen

Mit Agentic AI gewinnt diese Frage zusätzlich an Bedeutung. KI-Agenten können Aufgaben zunehmend eigenständig bearbeiten und Aktionen ausführen. Damit stellt sich für Unternehmen die Frage, unter welchen Bedingungen ein System gestoppt oder sein Handlungsspielraum eingeschränkt werden soll.

Eine einheitliche Position dazu zeigt die Befragung nicht. Nur rund ein Drittel der Teilnehmer befürwortet uneingeschränkt einen dedizierten Kill Switch zum Abschalten von KI-Agenten. Knapp die Hälfte macht einen solchen Mechanismus vom jeweiligen Anwendungsfall abhängig.

TrendAI empfiehlt Unternehmen deshalb eine laufend aktualisierte Inventarisierung der eingesetzten KI-Systeme, den Ausbau der Erkennung von Deepfakes und Voice Cloning sowie regelmäßiges KI-spezifisches Testing und Red Teaming. Damit soll nicht nur geprüft werden, ob Sicherheitskontrollen vorhanden sind, sondern auch, ob sie unter realistischen Bedingungen funktionieren.

Fazit

Die Befragung macht einen Unterschied zwischen organisatorischer Vorbereitung und technischer Erkennungsfähigkeit sichtbar. Für Unternehmen, die KI stärker in betriebliche Prozesse integrieren, rücken damit neben klassischen Cybersecurity-Maßnahmen die Inventarisierung von KI-Systemen, kontinuierliches Testing sowie definierte Eingriffs- und Eskalationsmechanismen in den Fokus.