KI-Festival 2026 · Hands-on Workshop

Vier Agenten. Eine Lieferung.
Und du hast die Kontrolle.

Du übernimmst den Kontrollraum eines Multi-Agent-Systems für eine temperaturkritische Pharma-Sendung. Entscheide zunächst selbst – und prüfe danach, ob Traces, Evidenz und Guardrails deine Einschätzung bestätigen. Beobachten. Erkennen. Eingreifen.

3 interaktive Runs Claim-level Evidence Chain Human Gate mit Vier-Augen-Prinzip
Das Szenario

Sendung #4711: Insulin nach Singapur.
Die Lage entscheidet sich erst im Run.

Du bist Supply-Chain-Manager im Pharma-Logistik-Team. Dein Monitoring-Board zeigt die aktiven Sendungen – und eine davon verlangt gleich deine Entscheidung. Du tippst die Frage, die dein Multi-Agent-System in Gang setzt:

Vier spezialisierte Agenten gehen an die Arbeit:

Orchestrator

Der Dirigent

Zerlegt die Anfrage, delegiert an die Spezialisten und führt die Ergebnisse zur Entscheidung zusammen.

delegate()synthesize()
§
Agent 1 · Dokumente

Der Anwalt

Untersucht Lieferverträge und Incoterms: Welche Bedingungen gelten für diese Sendung wirklich?

read_contract()
Agent 2 · Live-Daten

Der Scout

Prüft Wetterdaten und operative Terminal-Signale getrennt – inklusive Quelle und Aktualität.

get_weather()terminal_feed()
Agent 3 · Aktion

Der Macher

Leitet Eskalationen und Folgehandlungen ein – Umbuchung, Kundeninfo, Versicherungsmeldung.

rebook_air_freight()notify_customer()
Live-Showcase

Der Kontrollraum

Drei Szenarien, ein System. Steuere den Run Schritt für Schritt - jeder Span im Trace ist anklickbar und zeigt Input und Output. Links MLflow, rechts Blue Guardrails, und am Ende entscheidest: du.

Akt 1 · Beobachten Akt 2 · Erkennen Akt 3 · Eingreifen
Spoilerfreie Auswahl – die Auflösung folgt erst nach deiner Einschätzung
Leertaste Schritt · A Auto · 1–3 Szenario
Wähle ein Szenario.
– Konsole bereit. Szenario wählen, dann „Schritt →" oder „Auto abspielen". –
Live-Topologie · Hub & Spoke Orchestrator § Anwalt · Dokumente Scout · Live-Daten Macher · Aktion
Evidence Chain

Wie wird aus einer Quelle eine echte Aktion?

Die Kette bleibt neutral, bis der Claim gegen die Quelle geprüft wurde.

Wartet auf Run
1 · Quelle
2 · Claim
3 · Live-Signal
4 · Ableitung
5 · Aktion
Tracing & Observability
Akt 1 · Beobachten
Noch kein Run. Jeder Agenten-Schritt erscheint hier als Span – anklickbar für Input & Output.
Spans
0
Tokens
0
Kosten
0,000 €
Flags
0
Blue Guardrails Halluzinations-Detektion
Akt 2 · Erkennen
Wartet auf Traces … Jede Agenten-Antwort wird claim-für-claim gegen den Input-Kontext (den Vertrag) geprüft.
Human-in-the-Loop Gate
Akt 3 · Eingreifen
Kein Freigabe-Antrag. Monitoring ist on the loop; vor kritischen Aktionen wird der Mensch in the loop geholt.
Deine RolleSupply Chain Manager
Persönliches Limit10 000 €

Vier-Augen-Prinzip: zweite Freigabe erforderlich

Der Betrag liegt über dem persönlichen Limit. Die Ausführung bleibt blockiert, bis ein Supply Chain Director bestätigt.

On the loop: laufend beobachten. In the loop: vor der Aktion aktiv entscheiden.
Dein Entscheidungsprofil

Run abgeschlossen

Finale Entscheidung
Begründung
Beide 18 000-€-Runs absolviert.

Jetzt wird sichtbar, warum nicht die Aktion, sondern ihre Evidenzlage entscheidet.

Das echte System dahinter · Hands-on

Vier Agenten. Ein Trace-Baum.

Oben im Kontrollraum klickst du durch die Choreografie – hier steht das echte System dahinter: Im Live-Pfad für Szenario B orchestriert pi die Agenten, OpenTelemetry zeichnet jeden Schritt auf, Blue Guardrails prüft kritische Claims und Mailentwürfe gegen die Quellen, das Gate hält Aktionen an – und MLflow macht den gesamten Ablauf sichtbar.

Ein Request · drei Ebenen

Der Run läuft in pi. Die Extension beobachtet alles – und hält nur dort an, wo es kritisch wird.

run-b-4711 · live trace
01 Runtime pi.dev · ein Prozess
Anfrage Szenario B „Lieferung retten“
Orchestrator pi-Hauptsession delegate
anwaltread_contract
scoutget_weather
macherrebook_air_freight
Kritischer Tool-Call rebook_air_freight 18 000 € · approval_required
02 Extension supply-chain.ts
Die Extension sitzt quer über dem gesamten Run.

Sie ist kein weiterer Agent, sondern registriert Lifecycle-Hooks im selben Prozess.

session / agentOpenTelemetry-Spans erzeugen
llm / toolModell, Token und Latenz erfassen
tool_callBlue-Guardrails-Check + Gate-Stopp
03–06 Observe & Control parallel zum Run
03 Observability

MLflow bekommt den Trace-Baum

OTLP bedeutet OpenTelemetry Protocol: ein offenes Trace-Format. Die Spans werden direkt an den nativen MLflow-Ingest geschickt – ohne separaten Collector.

OTLP → /v1/traces
04 Issue Detection

Blue Guardrails prüft separat per REST

BG erhält nicht den OTLP-Trace: Bei Umbuchungen geht die Begründung, bei Kundeninfos der echte Mailentwurf plus Basis zusammen mit Vertrag, Wetter-, Warnungs- und Terminalkontext an die Issue Detection.

POST /v1/evaluate
05 Live-Kontrolle

Gate-UI auf :8765

Label, Erklärung sowie Evaluation-/Conversation-ID kommen mit dem blockierten Tool-Call zum FastAPI-Gate. Die Conversation bleibt mit store=true im BG-Dashboard sichtbar.

POST :8765/api/requests
06 Human Gate

Die Antwort löst den blockierten Run

✓ genehmigen✕ ablehnen

Die Entscheidung geht an den wartenden tool_call zurück. Danach läuft das Tool – oder der Agent plant neu. Gleichzeitig landet human_gate_decision als Assessment im Trace.

BG-Verdict + Freigabe oder Ablehnung zurück in denselben Run · Audit-Trail über run_id, evaluation_id und conversation_id
Ein Agent = eine Datei
---
name: anwalt
tools: read_contract
model: deepseek/deepseek-v4-flash
---
Du bist der Anwalt …
Nenne IMMER den einschlägigen Paragraphen
und den konkreten Grenzwert.
Prompt-Version ist Deploy-Artefakt: v12 fabriziert, v13 korrigiert – dieselbe Rolle, eine Zeile Unterschied.
Ein Run = ein Baum · MLflow Trace (Szenario B, echt)
orchestrator.run          run-b-… · Szenario B
├─ anwalt.run             deepseek-v4-flash
│  ├─ read_contract       contract_4711.pdf
│  └─ llm.request         1 842 tok
├─ macher.run             deepseek-v4-flash
│  └─ rebook_air_freight  ⏸ GATE · 18 000 €
└─ assessment             human_gate_decision = rejected
Subagenten-Sessions erzeugen eigene Teilbäume – korreliert über die run_id.
Ein Run hat zwei sichtbare Seiten: oben handelt das Agentensystem, darunter beobachten und kontrollieren Extension, MLflow und Human Gate – verbunden über dieselbe run_id.
Warum das Governance ist

Drei Akte, drei Fähigkeiten – Grundlage für einen kontrollierbaren Produktivbetrieb.

Autonomie ohne Aufsicht ist keine Effizienz, sondern ein Risiko mit guter Laune. Der Showcase zeigt eine zentrale Governance-Kette für agentische Systeme – ergänzt um Rollen, Limits, Datenqualität, Security und Betriebsprozesse:

Akt 1 · Beobachten

Jeder Schritt ein Span

Ohne Tracing ist ein Multi-Agent-System eine Blackbox aus LLM-Calls. Verschachtelte Traces zeigen, wer wann was mit welchen Argumenten getan hat – inklusive Tokens, Kosten und Latenz pro Agent.

Werkzeug: MLflow Tracing (OpenTelemetry)
Akt 2 · Erkennen

Claims gegen den Kontext

Der Anwalt-Agent klingt überzeugend – und zitiert eine Klausel, die es nicht gibt. Vor der kritischen Aktion prüft ein separater REST-Call den Claim beziehungsweise Mailentwurf gegen Vertrag und Live-Lage und markiert genau den erfundenen Satz. Ohne Prüfung potenziert sich der Fehler: falsche Schlussfolgerung → falscher Tool-Call.

Werkzeug: Blue Guardrails Issue Detection · POST /v1/evaluate
Akt 3 · Eingreifen

Das Gate vor der Aktion

Detektion allein blockt nicht. Kritische Tools pausieren den Run und verlangen menschliche Freigabe. Die Entscheidung landet als Assessment am Trace – und macht den Eingriff auditierbar.

Werkzeug: Approval-pflichtige Tool-Calls + MLflow Feedback
Detektion allein blockt nicht – erst Beobachten + Erkennen + Eingreifen macht Agenten beherrschbar.
Das Tooling dahinter

Ein Run. Zwei Kontrollpfade.

Die Agenten laufen in pi.dev. OpenTelemetry sendet den Trace-Baum per OTLP an MLflow; parallel prüft ein separater REST-Call den kritischen Claim oder Mailentwurf mit Quellenkontext bei Blue Guardrails. Beide Befunde treffen im Human-Gate zusammen.

Observability-Backend · Open Source
Das Gedächtnis des Systems: jeder Run vollständig nachvollziehbar.
  • Verschachtelte Traces über Orchestrator, Subagenten und Domain-Tools
  • Modell-, Token- und Laufzeitinformationen pro Span
  • Inputs und Outputs für Agenten- und Tool-Schritte nachvollziehbar
  • Feedback/Assessments: menschliche Entscheidungen landen am Trace
Trägt Akt 1 + Akt 3
Halluzinations-Spezialist · AI made in EU
Der Faktenprüfer: kritische Claims und Mailentwürfe gegen den vollständigen Quellenkontext.
  • Claim-level Detektion: markiert den erfundenen Satz, nicht nur die Antwort
  • Labels & Erklärungen: z. B. fabrication oder context_misattribution
  • Separater REST-Call an /v1/evaluate – kein OTLP-Trace-Fan-out
  • PlaceboBench: Fabrikation ist der häufigste Fehlertyp (34 %, n = 433, 12 LLMs)
Trägt Akt 2
Prompt-Experiment

Warum halluziniert Szenario B?

Der Unterschied zwischen Halluzination und belastbarer Antwort liegt oft in einer einzigen Prompt-Zeile. Szenario B läuft mit v12, Szenario C mit v13.

Nenne IMMER den einschlägigen Paragraphen und den konkreten Grenzwert.
Workshop-Debrief

Nicht das Selbstbewusstsein des Agenten entscheidet. Die Evidenz entscheidet.

Tracing macht Handlungen sichtbar. Guardrails prüfen Claims. Policies und menschliche Freigaben verhindern, dass ein erkannter Fehler trotzdem zur echten Aktion wird.