Der Flugschreiber für KI-Agenten

Was hat Ihr KI-Agent tatsächlich getan?

Jeder Prompt. Jeder Tool-Aufruf. Jede Antwort.Festgehalten als prüfbarer Nachweis. Und wo etwas fehlt, wird es mitgezählt.

  • Beobachtet nur, greift nie ein
  • Läuft komplett in Ihrem Netz
  • Die Schlüssel bleiben bei Ihnen
  • Hash-Kette, signierte Prüfpunkte
Pilot anfragen
Unterstützt
  • Anthropic
  • OpenAI
  • Azure OpenAI
  • LangGraph
Vorfall, Audit oder Untersuchung:

Entscheidend ist, was der Agent wirklich getan hat.

Die letzte Antwort allein klärt selten etwas. Jeder Schritt dazwischen muss belegt sein.

Incident Response

Nachvollziehen, wie der Agent kompromittiert wurde: welche Eingabe ihn erreicht hat, welche Tools er aufgerufen hat, was das System verlassen hat.

Interne Revision

Belege für jeden Befund: was geschehen ist, in einer Aufzeichnung, deren Integrität sich prüfen lässt.

IT-Forensik

Zeigen, was welche Aktion ausgelöst hat, Schritt für Schritt vom ersten Prompt bis zum letzten Tool-Aufruf.

41,7 % bei reiner Ausgabeprüfung übersehen

Datenschutzverstöße in Multi-Agenten-Systemen mit LLMs, gemessen über 4.979 Ausführungsverläufe.

Quelle: AgentLeak-Benchmark, El Yagoubi et al., arXiv:2602.11510

Die Lücke liegt zwischen den Agenten.

Ein Teil der Abflüsse geschieht in internen Kanälen zwischen Agenten, die eine Prüfung der Endausgabe nie zu sehen bekommt. Superinspect zeichnet auch diese Kanäle auf.

Beobachtet den Agenten, lenkt ihn nie.

Aufzeichnen. Versiegeln. Berichten.

Jeder Schritt hinterlässt etwas Prüfbares: das Ereignis, die Kette, den Befund.

Schritt 1

Aufzeichnen

Prompts, abgerufene Inhalte, Tool-Aufrufe, Speicheroperationen und Modellantworten werden zur Laufzeit erfasst.

Schritt 2

Versiegeln

Die Aufzeichnung wird nur fortgeschrieben und per Hash verkettet. Signierte Prüfpunkte landen an einem getrennten Ort, die Schlüssel bleiben bei Ihnen. Manipulationen vor dem letzten signierten Prüfpunkt werden erkannt.

Schritt 3

Berichten

Jeder Befund, etwa eine Prompt Injection, personenbezogene Daten oder ein Richtlinienverstoß, verweist auf das genaue aufgezeichnete Ereignis und auf eine benannte Anforderung aus EU AI Act, ISO/IEC 42001, NIST AI RMF oder den OWASP Top 10 für LLM-Anwendungen.

Gemessen, nicht versprochen.

Vier Messungen, jede mit ihrem Geltungsbereich.

Ergebnisse des Prototyps auf öffentlichen Benchmarks und in einem Testaufbau. Der Hinweis unter jeder Zahl gehört zu ihr.

35 von 35Prompt-Injection-Angriffe erkannt, 0 Fehlalarme bei 126 harmlosen TextenErkennung von Prompt Injection in den Eingaben eines Agenten. Heuristischer Detektor, eine Angriffsvorlage.AgentDojo-Benchmark
6 von 6internen Agentenkanälen: personenbezogene Daten gefundenErkennung in internen Kanälen zwischen Agenten. Kleine Stichprobe.AgentLeak-Benchmark
0,03 msAufzeichnungs-Overhead: Median pro Aufruf (0,02 ms ohne)Mediane Zeit pro Aufruf mit und ohne Aufzeichnung. Testaufbau, abhängig von der Hardware.Superinspect-Testaufbau
4.000 von 4.000Ereignissen mit 8 parallelen Prozessen geschrieben, Kette verifiziertSchreiben unter Last, Kette anschließend geprüft. Bei Überlast werden Verluste als Nachweis gezählt.Superinspect-Lasttest
Alle drei haben ihren Platz.

Warum nicht Plattform-Logs, Observability oder Guardrails?

Superinspect ergänzt sie um unabhängige, prüfbare Nachweise.

vs. Plattform-Logs

Anbieterübergreifend, in Ihrem Netz, mit Ihren Schlüsseln

Gebaut für den Betrieb des Anbieters. Sie decken meist nur diesen einen Anbieter ab, und die Daten liegen bei ihm.

vs. Observability

Jedes Ereignis verkettet, jeder Befund zugeordnet

Gebaut für Fehlersuche und Performance, nicht als manipulationserkennbare Nachweiskette und nicht entlang von Prüfanforderungen organisiert.

vs. Guardrails

Zeichnet nur auf, greift nie ein

Sie blockieren oder verändern Anfragen und damit genau den Ablauf, den Sie später vielleicht belegen müssen. Superinspect kann parallel dazu laufen.

Die eigene Angriffsfläche bleibt klein.

Gebaut für die Sicherheitsprüfung.

Sechs Eigenschaften, die Ihr Sicherheitsteam vor einem Pilotprojekt prüfen kann.

Nur beobachten, fail-open

Blockiert oder verändert keinen Aufruf. Fällt die Aufzeichnung aus, läuft die Anwendung weiter und die Lücke wird gezählt.

Nur Lesezugriff auf Ihre Daten

Ihre Datenspeicher werden schreibgeschützt geöffnet. Ein Schreibversuch scheitert schon an der Datenbank selbst.

Nachweise nur für den Eigentümer

Nachweisdateien samt ihren Nebendateien sind nur für ihren Eigentümer lesbar.

Nie der Wert selbst

Befunde halten fest, was wo gefunden wurde, aber nie eine Kopie des sensiblen Werts.

Lokales Dashboard

Standardmäßig nur über localhost erreichbar. Es lädt kein JavaScript und nichts von außen.

Festgeschriebene Abhängigkeiten

Per Hash fixiert, auf bekannte Schwachstellen geprüft und erst nach 14‑tägiger Wartezeit übernommen.

Das Sicherheitsmodell ist direkt beim Code dokumentiert, jeder Punkt oben lässt sich im Pilotprojekt prüfen.

Kurz beantwortet.

Fragen vor dem Pilotprojekt.

Was hier offen bleibt, fragen Sie gern direkt in Ihrer Pilotanfrage.

Wie läuft ein Pilot ab?

Sie wählen eine KI-Anwendung aus. Vorab werden drei Prüffragen vereinbart, die der Pilot beantworten soll. Zum Beispiel: Sind personenbezogene Daten unerwartet in den Ablauf gelangt oder haben ihn verlassen? Hat der Agent Tools außerhalb der Richtlinie genutzt? Wurden gelöschte Daten tatsächlich aus dem Speicher entfernt? Am Ende erhalten Sie einen Nachweisbericht. Jeder Befund darin verweist auf das aufgezeichnete Ereignis und auf die zugehörige Anforderung.

Kann Superinspect den laufenden Betrieb stören?

Es ist darauf ausgelegt, genau das nicht zu tun: Es beobachtet nur und arbeitet fail-open. Der gemessene Aufzeichnungs-Overhead liegt im Median bei 0,03 ms pro Aufruf (0,02 ms ohne), gemessen in einem Testaufbau.

Verlassen Daten unser Netz?

Nein. Superinspect selbst sendet nichts nach außen und läuft vollständig in Ihrem Netz.

Belegt Superinspect, dass wir den EU AI Act einhalten?

Nein. Superinspect liefert Nachweise: Jeder Befund verweist auf das aufgezeichnete Ereignis und auf eine benannte Anforderung. Ob eine Anforderung erfüllt ist, beurteilen Ihre Prüferinnen und Prüfer.

Welche Systeme werden unterstützt?

Anthropic, OpenAI, Azure OpenAI und LangGraph. Außerdem kann Superinspect Sitzungen aus Claude Code und OpenAI Codex importieren; der Codex-Import ist experimentell. Die Erkennung personenbezogener Daten ist bisher auf englische Texte abgestimmt, Deutsch ist in Entwicklung.

Der Pilot

Eine Anwendung, drei Fragen, ein Bericht.

Ein Pilot prüft, ob die Nachweise Ihnen nützen, nicht, ob Sie alle Vorgaben erfüllen.

Pilot anfragen

Eine kurze E-Mail an kontakt@superinspect.de genügt: welche KI-Anwendung, und welche Frage Sie beantwortet haben möchten.