Trust, Risk & Governance in einer Welt mit KI
Wer Menschen angreift, muss ihr Misstrauen nicht überwinden. Es genügt die Lücke zwischen dem Vertrauen, das wir fühlen, und dem, was die Belege tragen. Ich halte Vorträge und Schulungen darüber, wie man diese Lücke sieht und kleiner macht – bei Menschen, in Teams und bei KI-Agenten.
Bei zehn Quellen mit Abhängigkeit 0,5 zählen sie wie etwa 1,8 unabhängige Quellen. Das Gefühl sagt: zehnmal bestätigt.
n_eff = n / (1 + (n − 1) · D). Die gefühlte Kurve ist illustrativ: Vertrautheit wächst mit jeder Wiederholung, Evidenz nur mit unabhängigen Ursprüngen. Eine Veranschaulichung des Modells, keine Messung.
Trust Is Engineered beschreibt Vertrauen als gerichtete Beziehung mit Belegen, Unsicherheit und Grenzen. Für Vorträge und Schulungen übersetze ich es in drei Fragen, die man am nächsten Montag stellen kann.
Das eine beschreibt, wie wir tatsächlich urteilen: mit Vertrautheit, Wiederholung, Sympathie und Zeitdruck. Das andere, was die vorhandene Evidenz trägt. Die Differenz ist die Kalibrierungslücke. Sie hat zwei Richtungen: zu viel Vertrauen öffnet Angriffen die Tür, zu viel Misstrauen kostet Zeit, Geld und Zusammenarbeit.
Ziel ist nicht mehr Misstrauen, sondern eine kleinere Lücke.
Eine neue Information verändert nicht nur eine Beziehung. Sie wandert über verbundene Menschen, Quellen und Systeme weiter. Wer Dienst B vertraut, vertraut nicht automatisch dessen Unterauftragnehmern. Gute Prozesse legen fest, wo die Wirkung endet.
Vertrauen ist nicht transitiv.
Wer fragt an? Darf er das? Ist es sachlich richtig? Eine echte Stimme beantwortet nur die erste Frage. Auch eine bekannte Kollegin oder ein hilfreicher Agent braucht einen Handlungsspielraum, der zur Handlung und ihrem möglichen Schaden passt.
Rechte folgen der Handlung, nicht der Bekanntheit.
Forschungsstand: Trust Is Engineered ist ein Forschungskonzept und eine mathematische Modellhypothese, empirisch noch nicht validiert. Drei abgeleitete Paper sind als Preprints veröffentlicht.
Drei Situationen aus Vorträgen und Übungen. Wählen Sie eine Anfrage und überlegen Sie, was Sie vor der Freigabe fragen würden.
„Bitte überweise heute noch an diese neue Bankverbindung.“
Vertrauter Absender. Zeitdruck. Geänderte Kontoverbindung.
Mögliche Prüfreaktion: Vor der Freigabe über eine Nummer zurückrufen, die Sie selbst wählen.
„Schick mir die Kundenliste. Das ist mit der Leitung abgestimmt.“
Plausible Begründung. Sensible Daten. Eine behauptete Freigabe.
Mögliche Prüfreaktion: Freigabe und Zweck unabhängig klären. Nur das Erforderliche weitergeben.
„Der Agent hat es geprüft. Er kann direkt produktiv ändern.“
Überzeugendes Ergebnis. Automatisierte Prüfung. Folgenreiche Schreibrechte.
Mögliche Prüfreaktion: Nützlichkeit je Aufgabe prüfen, Rechte eng fassen, folgenreiche Änderungen kontrolliert freigeben.
Jeder Vortrag beginnt mit einer Szene, die das Publikum kennt, und endet mit einer Regel, die es am nächsten Tag anwenden kann. Die Module lassen sich einzeln halten oder zu einer Keynote kombinieren.
Warum vertrauen wir – und wann irren wir uns?
Keynote, Führungskreise, Executive Decision Workshop
Was schützt wirklich vor Social Engineering?
Schulung für Teams, Finanz- und Personalabteilungen, Security-Awareness
Wie vertrauen wir Maschinen, ohne blind zu werden?
Agenten-Governance-Workshop, IT- und KI-Verantwortliche
20–30 Minuten je Modul
Für Konferenzen, Fachrunden und Führungskreise. Ein Modul oder mehrere als Keynote, mit Raum für Diskussion.
Konkrete Situationen aus Ihrem Alltag gemeinsam durchspielen: Rückfragen üben, Prüfreaktionen festlegen, Rollen klären.
Executive Decision Workshop: eine konkrete Freigabe Ihrer Organisation in prüfbare Regeln übersetzen. Vorgespräch, etwa 90 Minuten Workshop, kurzes Ergebnisdokument.
| Übliche Awareness | Mit dem Modell |
|---|---|
| Achte auf Rechtschreibfehler. | Achte auf die Handlung, die verlangt wird. |
| Prüfe den Absender ganz genau. | Bei Zahlungen zurückrufen, über eine Nummer, die du selbst wählst. |
| Sei misstrauisch. | Sei an wenigen festen Stellen gründlich und sonst gelassen. |
| Einmal im Jahr ein Pflichtmodul. | Benannte Prüfrollen und eine Teamnorm, die man sehen kann. |
| Erfolg heißt weniger Klicks im Test. | Erfolg heißt weniger Fehlfreigaben und weniger abgelehnte legitime Anfragen. |
Generative KI schreibt fehlerfrei; Merkmale, die einen Angreifer nichts kosten, beweisen nichts mehr. In einem randomisierten Versuch mit rund 19.500 Beschäftigten zeigte jährliches Phishing-Training keinen messbaren Effekt (Ho et al. 2025). Dass die rechte Spalte besser wirkt, ist eine Hypothese, die in Piloten geprüft wird.
Auf LinkedIn erscheint das Modell in zwölf Folgen, jeweils dienstags auf Deutsch und donnerstags auf Englisch. Jede Folge ist zugleich ein Baustein der Vorträge.
Serie auf LinkedIn folgenZusätzlich erscheint freitags um 19:11 Uhr eine deutschsprachige Reihe. Sie überträgt das Modell auf politische und öffentliche Fälle. Sie fragt, welche Evidenz eine Aussage trägt. Die Übertragung auf Politik ist nicht empirisch geprüft.
Ich bin Johannes Rumpf: Chief Governance Manager in der Versicherungswirtschaft, Problemlöser und Teilzeit-Mathelehrer.
Seit über 20 Jahren arbeite ich in IT, Banken und Versicherungen – vom Entwickler über den Systemarchitekten bis zur Governance der Informationssicherheit. Heute übersetze ich regulatorischen Druck wie ISO 27001, DORA, NIS2 und den AI Act in Kontrollen, die Teams im Alltag tatsächlich betreiben können. Ich habe ISMS-Einführungen in regulierten Finanzunternehmen verantwortet und Audits begleitet.
Im Klassenzimmer begegnet mir dieselbe Frage wie im Audit: Woran erkenne ich, ob ich einem Ergebnis trauen kann? Trust Is Engineered ist mein Versuch, darauf eine prüfbare Antwort zu geben. Ich stelle es offen zur Diskussion, weil Kritik es weiter bringt als Zustimmung.
Mathematiklehrer in Teilzeit
Fiducraft verbindet lateinisch fiducia, Vertrauen, mit englisch craft, Handwerk.
Schreiben Sie mir kurz, für wen, zu welchem Anlass und mit welcher Frage. Ich melde mich mit einem Vorschlag für Vortrag, Schulung oder Workshop.
E-Mail schreiben