Social Engineering im Zeitalter generativer KI: Verhalten erfassen, nicht Awareness

Social Engineering ist die Manipulation von Menschen, damit sie Handlungen ausführen oder Informationen preisgeben, die die Sicherheit kompromittieren. Es nutzt keinen Softwarefehler aus, sondern eine Eigenschaft von Menschen — wir sind hilfsbereit, respektieren Autorität, handeln unter Zeitdruck und folgen Prozessen, selbst wenn der Prozess irgendwohin führt, wo es unsicher ist. Jahr für Jahr stellen Berichte über Sicherheitsverletzungen fest, dass die Mehrheit der Vorfälle ein menschliches Element enthält. Diese Zahl hat sich in einem Jahrzehnt kaum bewegt, und das sagt etwas darüber, wie die meisten Organisationen das Problem angegangen sind.

Dieser Artikel erschien zuerst Anfang 2024 als Überblick über Taktiken. Er wurde grundlegend überarbeitet, weil sich der Boden verschoben hat: Generative KI hat sowohl den Werkzeugkasten der Angreifer als auch die Annahmen der Verteidiger verändert.

Die Taktiken, kurz

Das Vokabular ist weiterhin nützlich, weil sich die Psychologie darunter nicht geändert hat.

Phishing — betrügerische Nachrichten, meist E-Mails, die Zugangsdaten abgreifen oder Schadsoftware ausliefern sollen. Spear-Phishing zielt mit personalisiertem Kontext auf eine bestimmte Person. Whaling zielt auf Führungskräfte.

Vishing und Smishing — dasselbe per Telefon und Textnachricht. Telefonangriffe sind besonders wirksam, weil eine Stimme Dringlichkeit und Vertrautheit erzeugt, die Text nicht erreicht.

Pretexting — ein Szenario erfinden („Ich bin vom Wirtschaftsprüfer, wir brauchen den Export bis Mittag“), das die Anfrage legitim erscheinen lässt. Der Vorwand enthält oft korrekte Details aus öffentlichen Quellen.

Baiting und Quid pro quo — etwas anbieten (eine Datei, einen Gefallen, einen Dienst) im Tausch gegen die Handlung des Ziels.

Tailgating — einer berechtigten Person physisch durch eine kontrollierte Tür folgen. Nach wie vor bemerkenswert wirksam in Organisationen, die sich für digital-first halten.

Unter all dem liegen einige wenige Überzeugungshebel, die Cialdini vor Jahrzehnten beschrieben hat: Autorität, Dringlichkeit und Knappheit, Gegenseitigkeit, soziale Bewährtheit, Sympathie und Verbindlichkeit. Ein wirksamer Angriff stapelt mehrere davon.

Was generative KI verändert hat

Ein Jahrzehnt lang lehrten Awareness-Trainings, auf Merkmale zu achten: holprige Formulierungen, falsche Logos, unpersönliche Anreden, seltsame Absenderadressen. Diese Merkmale waren ein Artefakt von Angreifern, die massenhaft in einer Sprache arbeiteten, die sie nicht beherrschten. Generative KI hat sie beseitigt.

• Sprache ist makellos und lokalisiert. Eine Spear-Phishing-E-Mail in idiomatischem Deutsch, im Tonfall des eigenen Unternehmens, kostet nichts.
• Stimmen sind klonbar. Wenige Sekunden Audio aus einem Konferenzvortrag reichen für einen Anruf, der wie die Finanzvorständin klingt. Ein 2024 vielbeachteter Fall betraf einen Mitarbeiter, der nach einer Videokonferenz, in der jeder andere Teilnehmer ein Deepfake war, eine sehr hohe Summe überwies.
• Vorwände werden automatisch recherchiert. Öffentliche Informationen — Organigramme, LinkedIn-Aktivität, Pressemitteilungen, Vergabebekanntmachungen — werden in Minuten zu einem überzeugenden Szenario zusammengestellt.
• Angriffsvolumen ist unbegrenzt. Personalisierte Angriffe waren einst hochwertigen Zielen vorbehalten. Jetzt ist jeder ein hochwertiges Ziel, weil Personalisierung kostenlos ist.

Es gibt eine zweite, leisere Veränderung auf Seiten der Verteidiger. Organisationen haben KI-Assistenten in ihre Abläufe gebracht: Coding-Agenten mit Repository-Zugriff, Support-Bots mit Kundendaten, Dokumentassistenten über internem Wissen. Das sind neue Angriffsflächen für Social Engineering. Eine Entwicklerin fügt Zugangsdaten in einen Assistenten ein, um „eine Konfiguration zu reparieren“. Ein Agent folgt einer Anweisung, die in einem manipulierten Dokument versteckt ist. Ein Support-Bot wird durch eine plausible Geschichte zur Herausgabe von Kontodaten überredet. Das Ziel der Manipulation ist nicht mehr nur der Mensch.

Warum Awareness-Trainings die Zahlen nicht bewegen

Die meisten Organisationen reagieren mit mehr Training: ein jährliches E-Learning, eine Phishing-Simulation mit Klickrate, ein Poster. Das Problem: Awareness ist nicht Verhalten. In Verhaltensassessments treffe ich regelmäßig Menschen, die jede Regel aufsagen können und trotzdem geklickt haben — weil:

• Die Nachricht im geschäftigsten Moment der Woche kam und die Anfrage zu ihrer Rolle passte.
• Die Verantwortung unklar war: Niemand war eindeutig für die Prüfung zuständig, also nahm jeder an, jemand anderes habe geprüft.
• Prüfen teuer war: Zurückrufen hieß, eine Nummer zu finden, zu warten, zu erklären, als schwierig zu gelten.
• Das Werkzeug Vorsicht bestrafte: Eine verdächtige Nachricht zu melden brauchte sechs Klicks und erzeugte keine Rückmeldung.

Nichts davon sind Wissensprobleme. Es sind Design- und Kulturprobleme — und sie sind für jede Organisation spezifisch.

Erst erfassen, dann trainieren

Mein Ansatz entlehnt sich der Human-Factors-Forschung zu sicherheitskritischen Systemen. Vor jeder Intervention steht das Verständnis des tatsächlichen Verhaltens:

1. Beobachten. Kontextuelle Beobachtung, wie Menschen mit Anfragen, Freigaben und Ausnahmen umgehen — am Arbeitsplatz, unter echter Last.
2. Interviewen. Strukturierte Gespräche darüber, wann jemand zuletzt eine Kontrolle umgangen hat und warum. Menschen sind bemerkenswert offen, wenn es um Verständnis geht und nicht um Schuld.
3. Simulieren. Kontrollierte Szenarien — E-Mail, Telefon und zunehmend KI-generierte Stimme und Video —, entworfen um die realen Prozesse der Organisation, gemessen nicht nur an der Klickrate, sondern daran, was danach geschah: Hat jemand geprüft, gemeldet, eskaliert?
4. Den Ablauf analysieren. Wo macht der Prozess selbst die unsichere Handlung zur einfachen? Welche Freigaben haben keinen Prüfschritt? Welche Werkzeuge machen Melden langsam?

Das Ergebnis ist eine Landkarte von Risikomustern mit Ursachen, und sie lautet fast nie „Die Menschen brauchen mehr Awareness“.

Den Ablauf gestalten, dann dafür trainieren

Interventionen, die die Zahlen bewegen, sehen meist so aus:

• Prüfung in den Prozess eingebaut. Änderungen von Zahlungsdaten, Zurücksetzen von Zugangsdaten und Datenexporte erfordern eine Bestätigung über einen bekannten zweiten Kanal — und der Prozess macht diese Bestätigung zu einem Schritt, nicht zu sechs.
• Explizite Verantwortung. Für jeden risikoreichen Anfragetyp ist eine Rolle für die Prüfung verantwortlich. Unklarheit ist der Freund des Angreifers.
• Melden, das sofort geht und gewürdigt wird. Ein Klick, sofortige Bestätigung, sichtbare Nachverfolgung. Menschen melden, wenn Melden billig ist und geschätzt wird.
• KI-Assistenten mit gestalteten Grenzen. Werkzeugzugriff nach dem Minimalprinzip, menschliche Bestätigung für folgenreiche Aktionen, und eine Eingabeverarbeitung, die abgerufene Dokumente als nicht vertrauenswürdig behandelt.

Das Training lehrt dann den gestalteten Ablauf — den tatsächlichen Teams, in ihrer Sprache, mit Szenarien aus ihrer Arbeit — und wird mit Folgesimulationen gemessen. Interdisziplinäre und interkulturelle Teams brauchen besondere Sorgfalt: Autorität und Direktheit werden über Kulturen hinweg unterschiedlich gelesen, und ein Szenario, das für eine Gruppe offensichtlich verdächtig ist, ist für eine andere völlig plausibel.

Die Zahl, die sich ändern sollte

Wenn Ihr Sicherheitsprogramm eine Phishing-Klickrate berichtet, ergänzen Sie zwei Kennzahlen: die Prüfrate (wie viele riskante Anfragen über einen bekannten Kanal geprüft wurden) und die Meldezeit (wie schnell ein verdächtiger Kontakt jemanden erreichte, der handeln konnte). Das sind Verhaltensweisen. Wenn sie sich verbessern, ist die Organisation resilienter — unabhängig davon, wie gut das Sprachmodell des Angreifers ist.