Inspizierbares Reasoning: wenn die Aufsicht 'zeigen Sie Ihre Arbeit' verlangt

Jedes Kreditrisiko-Team hat schon in einer Modellvalidierungssitzung gesessen, in der der Validator einen Entscheidungsbaum öffnet - einen CART oder ein Gradient-Boosted-Ensemble - und die Splits Knoten für Knoten durchgeht. Einkommen über Schwelle A: nach rechts. Beschäftigungsdauer unter Schwelle B: erneut nach rechts. Fünf Splits später landet das Modell bei einer Ausfallwahrscheinlichkeit. Der Baum ist keine Metapher; er ist ein inspizierbares Objekt. Der Validator kann auf einen Knoten zeigen, fragen, warum der Split dort platziert wurde, und den Pfad nachverfolgen, der zur finalen Zahl geführt hat. Das laufende Monitoring nach SR 11-7 ist genau auf solchen Artefakten aufgebaut.

Extended-Reasoning-Modelle erzeugen ein Artefakt derselben Form. Das Modell expandiert einen Suchbaum von Kandidaten-Zwischenschritten, bewertet sie, prunet die toten Zweige und emittiert den überlebenden Pfad als strukturierte Trace. Die Labels auf den Knoten sind andere - step.classify, step.lookup, step.compute, step.cite - aber der Audit-Move ist derselbe: den Baum öffnen, auf einen Knoten zeigen, den Pfad gehen. Die Trace ist die Arbeit, in einer Form, die der Validator lesen kann.

Die Literaturbrücke ist das Entscheidungsbaum-Audit, nicht die Cartoon-Gedankenblase. Das erste ersetzt das zweite eins zu eins.

Chain-of-Thought-Prompting (Wei et al., arXiv:2201.11903, 2022) zeigte, dass das Sprachmodell auf mehrstufigen Aufgaben deutlich genauer wird, wenn man es Zwischenschritte vor der finalen Antwort emittieren lässt. Self-Consistency (Wang et al., arXiv:2203.11171, 2022) samplete N Reasoning-Pfade und entschied die Antwort per Mehrheitsabstimmung. Tree-of-Thoughts (Yao et al., 2023) verallgemeinerte weiter: einen Suchbaum führen, in dem jeder Knoten ein partieller Reasoning-Zustand ist, per BFS oder DFS expandiert, mit einer Wert-Heuristik, die schwache Zweige prunet.

Die Reasoning-Modelle 2024-2025 industrialisieren das. OpenAIs o1 und o3 backen lange interne Berechnung ins Modell selbst - Reasoning-Token, die vor der sichtbaren Antwort generiert werden. DeepSeek R1 liefert den Reasoning-Kanal als erstklassige, separat berechnete Ausgabe. Anthropics Claude exponiert Extended-Thinking-Blöcke, die die Anwendung rendern oder zusammenfassen kann. In allen drei Fällen ist das nutzerseitig sichtbare Artefakt eine strukturierte Trace: eine Sequenz (oder ein Baum) typisierter Schritte mit Token-Zahlen, Zweig-Scores und Pruning-Entscheidungen.

Wichtige Einordnung, und der Grund, warum dieser Artikel sie ausbuchstabiert: das Modell denkt nicht. Das Modell emittiert eine Trace. Die Trace ist mit der finalen Antwort korreliert, sie ist nicht deren deterministische Ursache, und die Anbieter selbst warnen, dass emittierte Rationale Post-hoc-Rationalisierungen enthalten können. Behandeln Sie die Trace als inspizierbares Artefakt unter SR 11-7 - ein Audit-Objekt, das parallel zur Ausgabe erzeugt wird, nützlich für Validierung und Challenge - nicht als inneren Monolog des Modells. Diese Unterscheidung ist überhaupt erst das, was die Trace für regulierte Arbeit nutzbar macht. Das Modell, sein Reasoning-Kanal und die Audit-Pipeline laufen alle innerhalb des Haus-Perimeters; DORA Art. 28-30 gilt für den Inferenz-Stack selbst, nicht für eine Blackbox-API auf fremder GPU. Die Daten bleiben im Haus.

EU AI Act Anhang IV Abschnitt 2 verlangt, dass die Modelllogik und die Annahmen hinter jeder Hochrisiko-KI-Ausgabe nachvollziehbar sind. Die unabhängige Validierung nach SR 11-7 verlangt, dass ein zweites Team in der Lage ist, herauszufordern, wie ein Modell zu einer Antwort gekommen ist. Beide Regime setzen voraus, dass das Audit-Objekt existiert. Bei einem nicht-reasoning Sprachmodell tut es das nicht - das Modell emittiert eine Antwort, und der Rest ist verloren. Bei einem Reasoning-Modell ist die Trace das Audit-Objekt: typisierte Schritte, Zweig-Scores, die Verzweigungspunkte, an denen das Modell einen Kandidaten expandiert und einen anderen verworfen hat.

Operativ zählt das am meisten für die langsamen, verteidigungsfähigen Workstreams - IC-Memos, die eine Compliance-Prüfung überstehen müssen, Geeignetheits-Narrative, Model-Risk-Dokumentation, regulatorische Antworten. Die Trace erlaubt einem menschlichen Validator, die Schritte zu gehen und jeden einzelnen vor der Veröffentlichung herauszufordern. Der helle Pfad durch den Baum wird zur Zitatkette; die geprunten Zweige bleiben bei niedriger Opazität sichtbar als Beleg dafür, was das System erwogen und verworfen hat.

EU AI Act Anhang IV Abschnitt 2(b) nennt 'die Beschreibung der eingesetzten Algorithmen und etwaiger Optimierungsalgorithmen', Abschnitt 2(g) nennt 'die vorhersehbaren Risiken und die Minderungsmaßnahmen'. SR 11-7 verlangt nachvollziehbare Logik und unabhängige Validierung. Beide Regime sind einfacher zu erfüllen, wenn das Modell selbst ein inspizierbares Artefakt liefert, als wenn der Validator es reverse-engineeren muss.

Paaren Sie das mit DORA: weil das Reasoning-Modell innerhalb des Haus-Perimeters läuft, bleiben die Trace, die Prompts, die sie erzeugt haben, und die Daten, die das Modell konsultiert hat, alle innerhalb der kontrollierten Grenze. Das Drittparteienrisiko-Register für diese Fähigkeit ist kurz. Das Artefakt wird zusammen mit dem Run-Record aufbewahrt, mit dem Run-Hash signiert und steht dem Validator zur Verfügung, ohne dass ein Round-Trip zu einer fremden API nötig wäre.

Beschreiben Sie das Modell nicht als 'denkend', 'entscheidend' oder 'sich-durch-etwas-räsonierend'. Das Modell emittiert eine Trace. Die Trace ist strukturierter Text, der von einem Transformer erzeugt wird; sie ist keine innere Kognition, und sie als solche zu präsentieren löst in unter zehn Sekunden den KI-Geschwätz-Filter bei jedem institutionellen Käufer aus. Die Anthropomorphisierung der Trace verdeckt zudem den eigentlichen Audit-Move - die Trace ist nützlich, weil sie inspizierbar ist, nicht weil sie ein Fenster in einen Geist wäre.

Visualisieren Sie die Trace nicht als leuchtende Hirnformen, Sparkles oder pulsierende Gedankenblasen. Rendern Sie sie als Baum typisierter Schritte mit Token-Zahlen und Konfidenz-Scores, genauso wie ein Kreditrisiko-Team einen CART rendert. Zeigen Sie die geprunten Zweige bei 20 Prozent Opazität; das ist der Such- und Pruning-Mechanismus, sichtbar gemacht. Reduzieren Sie Reasoning auch nicht auf einen fünfstufigen Chevron-Flow - das ist die McKinsey-'agentic workflow'-Folie, und sie verdeckt den strukturellen Punkt, dass Reasoning ein Baum ist, keine Pipeline.

Verwechseln Sie Reasoning nicht mit Retrieval. Chain-of-Thought ist Reasoning-Tiefe; RAG ist Wissensbreite. Sie sind orthogonal, oft kombiniert, nie Substitute. Und vermarkten Sie Reasoning nicht als 'das Modell ist genauer', ohne den Preis zu nennen: Reasoning-Token werden abgerechnet, Traces verbrauchen Kontext, und das richtige Design für jeden Workflow ist die kürzeste Trace, die die Validierung noch besteht.