Sicherheit im KI-Takt (2/3): Phishing 2.0 – wenn das Vertraute angreifbar wird

In dieser dreiteiligen Serie möchten wir euch näherbringen, 

1. welche Schwachstellen noch schneller ausgenutzt werden, 
2. wie Phishing noch „echter“ wird und
3. wie ein erfolgreicher Einbruch mit Agenten noch schneller Schaden anrichtet.

Es ist Dienstag, kurz vor dem nächsten Termin. Im Posteingang liegt eine Mail, die vertraut wirkt: Tonfall passt, Kontext passt, Dringlichkeit passt. „Bitte heute noch freigeben. Wir müssen das abschließen.“

Genau das ist der Punkt. Diese Nachricht wirkt nicht wie ein Angriff, sondern wie Alltag. Sie erzeugt Tempo, setzt auf Hilfsbereitschaft und nutzt Routinen. Und mit KI wird das zuverlässiger: Sprache, Layout und Kontext wirken professioneller, klassische Warnsignale wie schlechte Übersetzungen fallen seltener auf.

Phishing hat schon immer auf diesen Moment gezielt. Neu ist, dass der Moment häufiger gelingt, da die Fälschung unserer Identitäten mit KI immer besser gelingt. In vielen Sicherheitsdebatten ist der Klick das zentrale Ereignis. In der Praxis ist er oft nur der Start. 

In diesem Artikel geht es um den Moment der Täuschung.

Phishing 2.0: Was KI verändert – und warum das wichtig ist

Phishing hat schon immer auf einen Moment gezielt: Aufmerksamkeit kurz „kippen“ lassen, damit der nächste Schritt passiert. KI verschiebt die Erfolgswahrscheinlichkeit, weil sie zentrale Aspekte besser umsetzt: 

Profiling im Hintergrund: Der Kontext passt plötzlich

Statt generischer Massenmails werden Angriffe häufiger kontextbasiert. Das beginnt vor dem Versand:

• Öffentliche Informationen lassen sich schneller sichten und zusammenführen: Rollen, Projekte, Partner, Termine, typische Formulierungen.
• Aus ein paar Bruchstücken entsteht eine stimmige Geschichte: „Wir sind gerade in der Abnahme“, „das hängt am Angebot“, „Sie hatten doch letzte Woche mit …“ usw.

Das Ergebnis muss nicht perfekt sein, es ist oft plausibel genug, um Routineentscheidungen auszulösen.

Besseres Social Engineering: Der Ton wirkt bekannt

KI hilft nicht nur beim Schreiben, sondern beim Nachahmen: Wortwahl, Satzlänge, Struktur, sogar typische Höflichkeitsformen. All das ist mittlerweile mit wenig Aufwand zu imitieren. Deshalb müssen wir uns hinterfragen:

• Reicht ein Kommunikationskanal, um eine irreversible Aktion auszulösen?
• Gibt es Hürden, die auch dann greifen, wenn die Mail überzeugend ist?

Identitätsdiebstahl: Wenn Stimme und Video kein Beweis mehr sind

Ein weiterer Faktor betrifft die Identität selbst: Deepfakes und Voice Cloning machen es leichter, die menschliche Bestätigung zu fälschen.

Das kann so aussehen:

• Ein kurzer Anruf mit einer Stimme, die vertraut klingt: „Ja, bitte freigeben – ich bin gleich im Termin.“
• Ein kurzes Audio im Messenger, das Stress erzeugt und Nachfragen unattraktiv macht.

Gerade bei Personen, die öffentlich reden (Vorträge, Podcasts, Videos), sind Trainingsdaten oft verfügbar.

Wo Phishing wirklich weh tut 

Wirksame Ziele liegen in fast allen Unternehmen an der Schnittstelle: Zahlungen, Stammdaten, Berechtigungen, Exporte, Freigaben. Das klassische Beispiel „Bitte 20.000 € überweisen“ ist heute weniger ein reiner Aufmerksamkeitstest. Durch geeignetes Profiling, Social Engineering und Deepfakes wird diese vermeintlich offensichtliche Attacke zum echten Robustheitstest.

Bei uns sehen wir das bereits sehr konkret: Es kommen täuschend echte Rechnungsmails ins Haus, in denen angeblich ein Mitglied der Geschäftsführung das Finance-Team um Zahlung bittet – Ansprache und Rechnung wirken nahezu perfekt. Auffällig sind oft nur Details, die man leicht übersieht: ein unbekannter Lieferant und eine untypische Kontoverbindung im Ausland. Gerade wenn es um im Unternehmen übliche Beträge geht, die keine Freigabegrenzen überschreiten, sinkt die Prüfschwelle zusätzlich – und man muss wirklich sehr genau hinschauen.

Umso wichtiger ist es, genau an diesen Stellen zu schulen und die Aufmerksamkeit auf kleine Unregelmäßigkeiten zu lenken. 

Wie wir Phishing gar nicht erst „rein lassen“

Awareness heißt nicht „misstrauisch sein“. Awareness heißt: Dringlichkeit und Vertrautheit als Risikosignal erkennen– gerade dann, wenn die Nachricht gut geschrieben ist und inhaltlich passt.

Was hilft, sind klare Mechanismen, die im Alltag funktionieren:

• Vier‑Augen‑Prinzip für High‑Impact‑Aktionen: Zahlungen, Empfängerdaten ändern, Berechtigungen vergeben, große Exporte freigeben.
• Out‑of‑Band‑Bestätigung: Nicht „kurz per Mail antworten“, sondern über einen zweiten, verifizierten Kanal (Rückruf über bekannte Nummer, Ticket mit 2FA, Chat mit verifiziertem Kontakt).
• Checklisten statt Bauchgefühl: Für typische Szenarien (Zahlung, Stammdaten, Admin‑Änderung) eine kurze Standardprüfung: Absender/Domains, Kontext, Linkziel, Auffälligkeiten, zweite Freigabe.
• Schulung auf neue Täuschungen: Nicht nur „schlechte Mails erkennen“, sondern „gute“ – inklusive Telefon‑Scams und Deepfake‑Risiko (Leider gilt mittlerweile: „Auch Stimme/Video ist kein Beweis“).
• Signieren von Nachrichten und E‑Mails: Dort, wo es organisatorisch passt, kann kryptografische Signatur helfen, Authentizität und Integrität nachweisbar zu machen. Wichtig ist dabei: Signatur ist kein Ersatz für Prozesse – aber eine sinnvolle zusätzliche Hürde.

Vom Posteingang in die Systeme – in wenigen Minuten

Phishing wird nicht nur besser – es wird zuverlässiger. Und Identitätsdiebstahl erweitert das Spielfeld: Wenn Stimme und Tonfall stimmen, sinkt die Hemmschwelle für „kurz freigeben“. 

Deshalb gewinnt nicht die Organisation, die „die besten Warnhinweise“ verteilt, sondern die, die Mechanismen etabliert – alltagstauglich, zuverlässig, an allen relevanten Stellen.

Denn: Sobald ein Zugang kompromittiert ist (Passwort, Token, Session, Weiterleitung oder Prozesslücke) wird anschließend in Systemen iteriert. Das wirkt selten spektakulär, sondern besteht aus vielen kleinen Schritten wobei jeder Schritt für sich plausibel aussehen kann. Die Geschwindigkeit und Systematik machen den Unterschied, insbesondere dann, wenn Phishing so echt und personalisiert wirkt und dadurch spät erkannt wird.

Fortsetzung folgt im dritten Teil: Wenn der Agent im System ist – Schaden in Minuten statt Tagen