Seit dem Aufstieg von ChatGPT, DeepSeek und Co. ist Künstliche Intelligenz fester Bestandteil vieler Unternehmensprozesse – und rückt zunehmend ins Visier von Cyberkriminellen. Zwischen Hype, Halbwissen und realen Chancen fällt es oft schwer, den tatsächlichen KI-Einfluss auf die Cybersicherheit einzuschätzen. Ein neuer kostenfreier Leitfaden hilft dabei, Entscheidungen zu treffen.
KI-Einfluss auf Cybersecurity steigt
Das Sicherheitsteam von Sophos X-Ops hat sich in zwei aktuellen Analysen mit der Rolle von Künstlicher Intelligenz in der Cyberkriminalität auseinandergesetzt. Die Ergebnisse sind in einem umfassenden Leitfaden zusammengefasst, der Unternehmen helfen soll, Mythen zu entlarven und fundierte Entscheidungen zu treffen.
Im Report „The Dark Side of AI“ wird gezeigt, wie generative KI – etwa ChatGPT – genutzt werden kann, um mit nur geringem technischen Know-how betrügerische Websites samt gefälschten Produktbeschreibungen, Login- und Zahlungsseiten zu erstellen. Mithilfe von GPT-4 konnte Sophos demonstrieren, wie schnell und effizient solche Betrugsplattformen erstellt und skaliert werden können – inklusive Deepfake-Bildern und Texten.
„Es überrascht nicht, dass Kriminelle sich die Automatisierung durch KI zunutze machen“, sagt Ben Gelman, Senior Data Scientist bei Sophos. „Wie einst Spam-Mails den digitalen Betrug revolutionierten, eröffnet auch generative KI neue Dimensionen für Angriffe.“
Skepsis im Dark Web: Noch keine Einigkeit unter Kriminellen
Doch nicht alle Kriminellen sind überzeugt: In der zweiten Analyse „Cybercriminals can’t agree on GPTs“ untersuchte Sophos Diskussionen in vier bekannten Dark-Web-Foren. Ergebnis: Während viele über den Einsatz von LLMs für Social Engineering spekulieren, gibt es auch deutliche Zweifel an deren tatsächlicher Effektivität.
Besonders häufig diskutiert wurden kompromittierte ChatGPT-Zugänge sowie sogenannte „Jailbreaks“, mit denen Sicherheitsmechanismen der KI umgangen werden können. Einige Tools zur Malware-Erstellung wurden zwar angeboten, jedoch von der Szene oft als wirkungslos oder als Betrugsversuch eingestuft.
KI-Einfluss auf die Verteidigung: Was Unternehmen wirklich wissen müssen
Parallel dazu rückt der Einsatz von KI zur Stärkung der eigenen Cybersicherheit immer stärker in den Fokus. Zahlreiche Anbieter versprechen höhere Effizienz, geringere Kosten und weniger Abhängigkeit von Fachpersonal – gleichzeitig warnen Fachleute vor neuen Angriffsszenarien durch dieselben Technologien.
Um Unternehmen Orientierung zu geben, hat Sophos einen dritten Leitfaden veröffentlicht: „KI-gestützte Cybersicherheit: Was Unternehmen wirklich erwarten (können)“. Der Report erklärt, wie Unternehmen generative KI sinnvoll zur Abwehr von Bedrohungen nutzen können – und wo realistische Grenzen liegen. Ergänzt wird der Leitfaden durch Ergebnisse einer unabhängigen Umfrage unter 400 IT- und Sicherheitsexpert:innen, die Einblick in aktuelle Praxiserfahrungen, Bedenken und Strategien im Umgang mit KI geben.
Fazit: Zwischen Chancen und Gefahren
Künstliche Intelligenz bringt enormes Potenzial – auf beiden Seiten. Für Unternehmen bedeutet das: Jetzt ist der richtige Zeitpunkt, um sich strukturiert mit den Risiken und Möglichkeiten auseinanderzusetzen. Wer fundierte Entscheidungen trifft, kann sowohl seine Sicherheitslage verbessern als auch das volle Potenzial der Technologie ausschöpfen.
Den vollständigen Leitfaden finden Sie hier:
Weitere Informationen gibt es unter www.sophos.com.
