Welles Decision Architecture · GOVERN / TOOD 3

Decision Control for Autonomous Agents

Software beginnt, Unternehmensverpflichtungen einzugehen.

Ein entsprechend angebundener KI-Agent kann Angebote erstellen, Bestellungen auslösen, Kunden Zusagen machen, Kandidaten priorisieren oder Systeme verändern. Damit wird aus Automatisierung Delegation. Und Delegation benötigt Entscheidungsrechte.

TOOD ist als Kontrollschicht zwischen technischer Handlung und unternehmerischer Verpflichtung konzipiert. Technische Fähigkeit ist kein Mandat.

Einen Agenteneinsatz besprechen

Entwicklungsstand: Reference Architecture / Locally Verified. Lokale Prüfungen ersetzen keinen Nachweis der Integration und Durchsetzung in einem Unternehmenssystem.

TOOD Agent Control

KI-Agenten können planen, entscheiden und handeln.

Mit wachsender Autonomie steigt deshalb nicht nur ihr Nutzen, sondern auch die mögliche Wirkung einer Fehlentscheidung.

TOOD kontrolliert nicht nur, welche Aktion ein Agent ausführen darf.

TOOD prüft:

welche Verpflichtung aus der Entscheidung entsteht,
ob diese Verpflichtung vom Mandat gedeckt ist,
wo definierte Grenzen überschritten werden,
wann ein Mensch übernehmen muss,
und ob die Organisation die Entscheidung tatsächlich tragen kann.

Die mögliche Kontrollentscheidung lautet:

ALLOW
ALLOW WITH CONDITIONS
HUMAN APPROVAL
ESCALATE
STOP

Der Kern: Fähigkeit ist kein Mandat.

Nicht die Handlung ist die Kontrolleinheit.
Die Verpflichtung ist es.

Dies beschreibt die vorgesehene Kontrollarchitektur. Eine Kontrolle im Betrieb setzt die technische Integration, definierte Verantwortliche und den Nachweis der Durchsetzung voraus.

Agent Governance Review besprechen

Nicht die Handlung ist die Kontrolleinheit. Die Verpflichtung ist es.

Zehn einzeln zulässige Bestellungen können gemeinsam ein Budget überschreiten. Eine Kundenzusage kann Lieferung, Kapazität und Haftung binden. Deshalb reicht es nicht, nur den einzelnen Werkzeugaufruf zu erlauben.

Evidence → Decision → Obligation → Mandate → Execution

Evidence
Welche Quelle belegt die Grundlage? Was ist Annahme, was fehlt oder ist veraltet?
Decision
Welche konkrete Entscheidung steht an? Welche Alternativen und wirtschaftlichen Folgen sind relevant?
Obligation
Welche Zusage, Zahlung, Leistung oder Folgewirkung entsteht – auch zusammen mit bestehenden Verpflichtungen?
Mandate
Wer darf diese Verpflichtung innerhalb welcher Grenzen eingehen? Wer trägt sie mit welchen Mitteln?
Execution
Erst nach der erforderlichen Freigabe ausführen; Ergebnis, Abweichung und Eingriff dokumentieren.

Die Verpflichtung wird vor der Ausführung geprüft. Eine Entscheidung im Prüfprozess ist dabei noch keine Erlaubnis zum Handeln. Freigabe, Eingriff und spätere Wirkungskontrolle bleiben ausdrücklich zugeordnet.

Fünf Ergebnisse. Eindeutige Folgen für die Ausführung.

ALLOW

Ausführen innerhalb eines gültigen Mandats, wenn alle erforderlichen Prüfungen erfüllt sind.

ALLOW WITH CONDITIONS

Nur unter ausdrücklich festgelegten und vor Ausführung überprüften Bedingungen ausführen.

HUMAN APPROVAL

Auf Freigabe einer benannten, berechtigten Person warten. Bis dahin keine Ausführung.

ESCALATE

Unklaren oder widersprüchlichen Auftrag an die zuständige Instanz geben; die betroffene Aktion bleibt angehalten.

STOP

Die betroffene Aktion unterbinden. Ein Wiederanlauf braucht geklärte Voraussetzungen und die dafür vorgesehene Freigabe.

Ein ausgegebenes Statuswort ist noch keine Kontrolle. Der Ausführungspfad muss die Entscheidung tatsächlich erzwingen; ohne gültige Freigabe darf die betroffene Aktion nicht stattfinden.

Illustratives Beispiel · Einkauf

Die Bestellung liegt im Limit. Die Verpflichtung vielleicht nicht.

Ein Agent soll Material nachbestellen. Die einzelne Bestellung unterschreitet sein Limit, mehrere offene Bestellungen beanspruchen jedoch dasselbe Budget. Gleichzeitig ist die aktuelle Liefermenge nicht verlässlich belegt.

Der Prüfweg betrachtet deshalb den Quellenstand, die Summe bestehender Zusagen, die neue Zahlungspflicht und das dafür erteilte Mandat. Bis die Grundlage und die Zuständigkeit geklärt sind, bleibt die Ausführung angehalten. Ob HUMAN APPROVAL, ESCALATE oder STOP gilt, richtet sich nach den zuvor vereinbarten Regeln.

So wird sichtbar, welche Freigabe benötigt wird und welche Verpflichtung tatsächlich eingegangen würde. Das Beispiel zeigt die Logik; es belegt keine bereits implementierte Integration.

Ein konkreter Agent. Ein klar begrenzter Kontrollauftrag.

Wir klären mit Ihnen einen vorgesehenen Agenteneinsatz: erlaubte Aktionen, entstehende Verpflichtungen, wirtschaftliche Grenzen, menschliche Freigaben und Stop-Regeln. SOA LUMEN ergänzt die Frage, wer Ausnahmen, Prüfung und Betrieb tatsächlich tragen kann.

Mandats- und Verantwortungsübersicht mit benannten Entscheidern.
Prüfregeln mit den fünf Ausgängen und eindeutigen Ausführungsbedingungen.
Nachweisanforderungen und Testszenarien für Freigabe, Eskalation, Stop und Wiederanlauf.

Technische Integration und Betrieb werden mit Ihrer IT oder einem gesondert beauftragten Umsetzungspartner vereinbart. Erst Tests am tatsächlichen Ausführungspfad können belegen, dass Regeln auch bei Fehlern oder geänderten Voraussetzungen greifen. Der Agent Governance Review kostet 7.900 € netto und dauert typischerweise 2–3 Wochen. Umfang, Informationszugang und Mitwirkung werden vor Beginn vereinbart; technische Integration und Betrieb sind nicht enthalten.

Agent Governance Review ansehen