Lehrfall
Wie ein KI-Vorhaben die Freigabe besteht – oder nicht, und warum beides nützt
Technisch funktioniert das System. Die Freigabekette akzeptiert das nicht als Kategorie: Die zweite Linie fragt nach Evidenz in einem Format, das das Pilotteam nie produziert hat. Diese Seite zeigt an einem durchgespielten Fall, wie diese Evidenz aussieht – und woran ein Vorhaben scheitert, das sie nicht liefern kann.
Ein konstruierter Fall, weil ein Verfahren, das nur Freigaben produziert, nichts bewiesen hat
Das Institut, die Personen und die Zahlen sind erfunden. Die Südhafen Direktbank AG gibt es nicht. Was echt ist: der Ablauf, die 23 Kontrollen, die Bewertungslogik und die Dokumentation, die dabei entsteht. Das ist ein Lehrfall, keine Kundenreferenz.
Ausgangspunkt
Eine Direktbank ohne Filialnetz baut einen Assistenten, der auch Fragen zu Verträgen und Umsätzen beantwortet. Rund 900.000 Kundinnen und Kunden, 1,4 Mio. EUR Aufbau, ein bereits kommunizierter Termin. Die Informationssicherheit wird zehn Wochen nach Projektstart eingebunden – nach der Anbieterauswahl, nach Vertragsschluss.
Befund
Am 17. Februar fragt ein Testkunde nach seiner letzten Abbuchung und bekommt einen Betrag, der einem anderen Kunden gehört. Die Filterung sitzt nach dem Retrieval: Das System ruft Fragmente über den gesamten Bestand ab und verwirft anschließend die fremden. Fremde Kundendaten verlassen den Sicherheitsbereich, bevor eine Prüfung greift.
Unterschied
Das erste Testergebnis war ein Fehler. Fehler werden behoben. Das zweite war die Architektur, und Architekturentscheidungen werden nicht behoben, sondern neu getroffen. Genau hier verläuft die Grenze zwischen „noch nicht“ und „so nicht“.
Entscheidung
4 grün, 11 gelb, 8 rot. Drei der roten Kontrollen sind keine Fristenfrage: Berechtigungsprüfung nach dem Abruf, Kundendaten bei einem Anbieter ohne EU-Verarbeitung, Löschung im verwalteten Index nicht nachweisbar. Der Vorstand beschließt: keine Freigabe. Die Vorlage nennt fünf Bedingungen für eine Neuvorlage. Vier Wochen später beginnt die Neukonzeption.
Was den Fall entschieden hat, war nicht das Urteil, sondern die Form des Urteils
„Das System ist nicht sicher“ ist eine Meinung. „ZUG-01 rot, weil die Berechtigungsprüfung erst nach dem Abruf greift, Nachweis: Testprotokoll vom 31. März“ ist überprüfbar. Wer widersprechen will, muss die Kontrolle angreifen, nicht die Person. Das ist der ganze Unterschied, und er entscheidet, ob aus einem Nein eine Sachentscheidung wird oder ein Konflikt zwischen Funktionen.
Was prüft die zweite Linie?
23 Kontrollen in sechs Domänen, jede mit Kontrollziel, Prüfhandlung in Revisionssprache, benanntem Evidenzartefakt und Normbezug zu DORA, MaRisk und DSGVO.
RAG Approval BlueprintWas geht an den Vorstand?
Eine achtteilige Freigabeakte, von der Schutzbedarfsfeststellung bis zur Entscheidungsvorlage mit Restrisikozuweisung und dokumentierter abweichender Auffassung. Für den freigegebenen Fall vollständig ausgefüllt.
Der freigegebene FallWas gilt für agentische Systeme?
Risiko-Scoring über sechs Dimensionen zu vier Kontrollintensitäten, dazu ein Gate, das seine Befunde als maschinenlesbares Build-Artefakt mit Manifest ausgibt statt als Bericht.
Agentic AI Governance ToolkitWas hier nicht steht, und warum
Das Quellenregister des Toolkits ist gegen den Primärtext des EU-Amts für Veröffentlichungen geprüft, und der Build bricht ab, sobald ein Etikett davon abweicht. Was das nicht leistet: eine Aussage darüber, ob eine Pflicht auf Ihr System zutrifft. Diese Frage beantwortet dieses Material ausdrücklich nicht.
Die aufsichtsrechtliche Tiefe gilt für deutsches und EU-Finanzaufsichtsrecht. Außerhalb dieses Bereichs sind die Kontrollzuordnungen illustrativ, nicht bindend.
Ein Werkzeugkasten, den eine Person pflegt, hat einen engeren Umfang als ein Produkt mit einem Team dahinter. Das ist die Kehrseite des engen Zuschnitts: Was drin ist, ist gepflegt.
Nichts davon ist Rechtsberatung, Zertifizierung oder eine Aussage darüber, ob ein bestimmtes System einer Norm entspricht. Diese Aussage trifft ein Institut selbst, mit seiner Rechtsfunktion.
Was Sie damit tun können
Der Lehrfall erklärt, wie eine solche Entscheidung zustande kommt. Die Instrumente, mit denen man sie selbst vorbereitet, stehen offen daneben.
Wenn Sie vor einer Freigabeentscheidung stehen und nicht sicher sind, welche Evidenz Ihr Gremium akzeptiert, ist das der richtige Zeitpunkt für ein Gespräch.
Kein Formular. Eine E-Mail reicht.
E-Mail schreiben