KI-Phishing und Deepfakes: Die neuen Betrugsmaschen im Unternehmen

Sie bekommen eine E-Mail zu einer Veranstaltung, für die Sie sich tatsächlich angemeldet haben. Absender und Logo stimmen, das Deutsch ist fehlerfrei, die Anrede persönlich. Aus Sicherheitsgründen sei das Anmeldeverfahren umgestellt worden, bitte bestätigen Sie Ihren Zugang bis Mittwoch, sonst verfalle Ihr Platz. Ein Klick, ein Passwort, erledigt.

Genau so eine Mail haben Referenten in einer Fachschulung zur Cyberkriminalität, an der wir im Oktober teilgenommen haben, live gezeigt. Sie war mit Hilfe künstlicher Intelligenz in wenigen Minuten erstellt. Und sie war so gut gemacht, dass im Raum kaum jemand einen Unterschied zur echten Einladung erkannt hätte. KI-Phishing und Deepfakes verändern gerade, wie Betrug in Unternehmen funktioniert.

Wie verändert KI die Angriffe auf Unternehmen?

Die Zahlen zeigen, dass das Thema längst in der Praxis angekommen ist. Nach einer Studie von IBM wurde rund jeder vierte böswillige Einbruch in IT-Systeme durch KI ermöglicht, und solche Fälle verursachten im Schnitt Schäden von etwa sechs Millionen US-Dollar. Für Deutschland kommt eine Studie des Bundesamts für Sicherheit in der Informationstechnik zu dem Ergebnis, dass etwa jedes sechste Unternehmen bereits mit Unterstützung von KI angegriffen wurde. Nur rund jedes zehnte Unternehmen sieht sich darauf vorbereitet.

Auffällig ist, wie schwer sich ein KI-Einsatz nachweisen lässt. Nach derselben Studie ist er nur in einem kleinen Teil der Fälle sicher bestätigt. Die tatsächliche Verbreitung dürfte also eher höher liegen. Mitte Oktober 2026 wurde zudem ein Angriff auf das digitale Rathaus der Stadt Tangerhütte in Sachsen-Anhalt bekannt, der dem Einsatz künstlicher Intelligenz zugeschrieben wird.

Die beruhigende Nachricht vorweg: KI erfindet bisher kaum neue Angriffsarten. Die Experten aus der Fachschulung waren sich einig, dass die bekannten Methoden dominieren. Sie werden aber billiger, schneller und deutlich glaubwürdiger.

Warum funktionieren die alten Warnzeichen nicht mehr?

Jahrelang lernten Mitarbeiter, Phishing an typischen Merkmalen zu erkennen: schlechtes Deutsch, eine unpersönliche Anrede, ein seltsamer Absender, ein Anlass, der nicht passt. Mit generativer KI entfallen diese Merkmale. Die Werkzeuge schreiben fehlerfrei, treffen den Tonfall der Branche und lassen sich mit öffentlich verfügbaren Informationen füttern, etwa aus Firmenwebseiten, Pressemitteilungen und Profilen in beruflichen Netzwerken.

So entstehen Nachrichten, die exakt in den Erwartungshorizont des Empfängers passen. Die Beispielmail aus der Schulung funktionierte genau deshalb: echter Anlass, vertrauter Absender, fehlerfreie Sprache, dazu Verlustangst und eine konkrete Frist. Das eigentliche Ziel war nicht die Anmeldung, sondern das Passwort, eingegeben auf einer Kopie der echten Anmeldeseite.

Sie möchten wissen, wie gut Ihr Unternehmen gegen diese neue Qualität von Angriffen abgesichert ist? Vereinbaren Sie hier einen kostenlosen Beratungstermin.

Was ist ein Deepfake-Betrug im Unternehmen?

Noch einen Schritt weiter gehen Deepfakes, also mit KI gefälschte Stimmen und Videos. Der bekannteste Fall betraf den Ingenieurkonzern Arup. Ein Mitarbeiter der Finanzabteilung in Hongkong erhielt zunächst eine verdächtige Nachricht, die angeblich aus der Führungsebene stammte. Er war misstrauisch. Dann nahm er an Videokonferenzen teil, in denen scheinbar vertraute Kollegen und Vorgesetzte saßen. Überzeugt von dieser vermeintlichen Bestätigung, überwies er insgesamt rund 25 Millionen US-Dollar. Die Personen in der Konferenz waren Fälschungen.

Der Fall zeigt etwas Wichtiges. Der Mitarbeiter hatte richtig reagiert und nachgehakt. Nur suchte er die Bestätigung im selben Kanal, den die Täter kontrollierten. Was geholfen hätte, wäre ein Rückruf über einen völlig anderen Weg gewesen, etwa die bekannte Durchwahl des Vorgesetzten.

Deepfakes treffen übrigens nicht nur Unternehmen. Wie Privatpersonen betroffen sein können und welche Versicherung bei der Löschung gefälschter Inhalte hilft, beschreiben wir im Beitrag Deepfakes: Welche Versicherung zahlt die Löschung?.

Wie nutzen Angreifer KI noch?

Neben gefälschten Inhalten setzen Täter KI vor allem in der Vorbereitung ein. Ein Krisenmanager eines IT-Sicherheitsdienstleisters berichtete in der Schulung von einem aktuellen Fall in einer Cloud-Umgebung. Die Angreifer bewegten sich dort so schnell und zielsicher, dass zunächst sogar ein Innentäter vermutet wurde. Nach der Auswertung gehen die Experten davon aus, dass KI den Tätern geholfen hat, die Umgebung in kürzester Zeit zu analysieren.

Für betroffene Unternehmen heißt das vor allem eines: Die Zeit, um einen Angriff zu bemerken und zu reagieren, wird kürzer. Umso wichtiger ist es, dass Täter gar nicht erst weit kommen und dass im Ernstfall sofort Hilfe bereitsteht.

Wie schützen Sie Ihr Team vor KI-Phishing und Deepfakes?

Die wichtigste Maßnahme ist eine Haltung: Bei Geld, Zugangsdaten und vertraulichen Informationen wird nie im selben Kanal bestätigt, über den die Anfrage kam. Eine E-Mail wird per Rückruf über eine bekannte Nummer geprüft, ein Anruf über eine zweite Person, eine Videokonferenz über einen separaten Kontakt. Manche Unternehmen vereinbaren für Notfälle zusätzlich ein Codewort, das Fälscher nicht kennen können.

Technisch bleibt die Anmeldung mit einem zweiten Faktor der wirksamste Schutz gegen gestohlene Passwörter. Dazu kommt der Tipp, Links nicht blind anzuklicken, sondern mit dem Mauszeiger darüberzufahren und die tatsächliche Adresse zu lesen, oder die Seite im Zweifel selbst über den bekannten Weg aufzurufen.

Und schließlich betrifft das Thema auch die eigene Nutzung von KI. Kundendaten, Verträge und Passwörter gehören nicht in öffentlich zugängliche KI-Werkzeuge. Ergebnisse sollten immer geprüft werden, denn KI klingt überzeugend, kann sich aber irren. Wer KI im Unternehmen einsetzt, sollte klar regeln, welche Daten verarbeitet werden dürfen.

Zahlt die Versicherung bei Deepfake-Betrug?

Das hängt davon ab, wie der Betrug zustande kam. Wurden die Täter über einen Angriff auf Ihre eigene IT aktiv, etwa über ein übernommenes Postfach, kann die Cyberversicherung für Unternehmen greifen, sofern der Tarif betrügerisch veranlasste Zahlungen einschließt. Reine Täuschungen von außen, etwa ein gefälschter Anruf oder ein Deepfake-Video ohne Eindringen in Ihre Systeme, fallen dagegen häufig in die Vertrauensschadenversicherung. Wie sich beide unterscheiden, erklären wir im Beitrag Cyber- oder Vertrauensschadenversicherung.

Häufige Fragen zu KI-Phishing und Deepfakes

Woran erkenne ich eine KI-generierte Phishing-Mail?
Oft gar nicht mehr an der Sprache. Achten Sie stattdessen auf Zeitdruck, ungewöhnliche Anfragen zu Geld oder Zugangsdaten und auf Links, deren tatsächliche Adresse nicht zur angeblichen Seite passt.

Wie erkenne ich einen Deepfake in einer Videokonferenz?
Verlassen Sie sich nicht auf Ihr Auge. Bestätigen Sie ungewöhnliche Anweisungen immer über einen zweiten, vom Gespräch getrennten Weg, etwa per Rückruf auf eine bekannte Nummer.

Hilft eine Mitarbeiterschulung gegen KI-Phishing?
Ja, wenn sie aktuell ist. Schulungen sollten nicht mehr nur auf Rechtschreibfehler achten, sondern auf Verhaltensregeln wie den Rückruf und den Umgang mit Zeitdruck.

Dürfen wir KI im Unternehmen nutzen?
Selbstverständlich, mit klaren Regeln. Sensible Daten gehören nicht in öffentlich zugängliche KI-Werkzeuge, und Ergebnisse sollten immer geprüft werden.

Fazit: Vertrauen braucht jetzt einen zweiten Kanal

Künstliche Intelligenz macht Betrug nicht neu, aber besser. Die alten Erkennungsmerkmale greifen nicht mehr zuverlässig. Was bleibt, sind einfache Regeln, die jeder im Unternehmen kennt, ein zweiter Faktor bei der Anmeldung und eine Absicherung, die Zahlungsbetrug wirklich erfasst. Wie Chef-Betrug im Detail abläuft, lesen Sie in unserem Beitrag CEO-Fraud im Unternehmen.

Als Versicherungsmakler sind wir an keine Gesellschaft gebunden und prüfen für Sie, ob Ihre bestehenden Verträge diese neuen Maschen abdecken. Kostenlos und ohne Verpflichtung. Hier vereinbaren Sie Ihren Beratungstermin. Oder rufen Sie uns an unter 040 603 1081.