Autonome vs. assistive Agents
Nicht jeder AI Agent muss vollautonom agieren. Die richtige Autonomie-Stufe zu wählen, ist eine der wichtigsten Architektur-Entscheidungen — und hat direkte Auswirkungen auf Risiko, Kosten und Akzeptanz.
Die 5 Autonomie-Stufen
| Stufe | Bezeichnung | Beschreibung | Beispiel |
|---|
| 1 | Informierend | Agent liefert Informationen, Mensch entscheidet und handelt | Recherche-Assistent |
| 2 | Vorschlagend | Agent empfiehlt Aktionen, Mensch bestätigt | E-Mail-Entwurfs-Agent |
| 3 | Delegierend | Agent handelt, aber Mensch kann jederzeit eingreifen | Termin-Scheduling-Agent |
| 4 | Autonom mit Oversight | Agent handelt eigenständig, meldet Ergebnisse | Daten-Monitoring-Agent |
| 5 | Vollautonom | Agent handelt ohne menschliche Intervention | Algorithmischer Trading-Agent |
Entscheidungsfreiheit richtig dosieren
Die Autonomie-Stufe hängt von drei Faktoren ab:
1. Reversibilität
- Hoch reversibel (Stufe 3–5 möglich): E-Mail-Entwurf, Kalender-Eintrag, Report-Erstellung
- Schwer reversibel (max. Stufe 2–3): Vertragsversand, Bestellung, Personalentscheidung
- Irreversibel (max. Stufe 1–2): Löschung von Daten, Finanztransaktionen, rechtliche Erklärungen
2. Fehlerkosten
Was kostet ein Fehler? Je höher die potenziellen Kosten, desto niedriger sollte die Autonomie-Stufe sein:
- Niedrig: Falsche Meeting-Zusammenfassung → Stufe 4–5 OK
- Mittel: Falscher Preis im Angebot → max. Stufe 3
- Hoch: Fehlerhafte Compliance-Einschätzung → max. Stufe 1–2
3. Vorhersagbarkeit
- Strukturierte Aufgaben (klare Regeln, wenig Varianz): Höhere Autonomie möglich
- Unstrukturierte Aufgaben (viel Kontext, Ermessensspielraum): Niedrigere Autonomie empfohlen
Risiken hoher Autonomie
Höhere Autonomie bringt spezifische Risiken:
- Halluzinationen in Aktionen: Der Agent handelt auf Basis falscher Informationen.
- Goal Drift: Der Agent optimiert für ein Ziel, das sich vom ursprünglichen Zweck entfernt hat.
- Kaskadenfehler: Ein Fehler in Schritt 1 wird durch autonome Folgeschritte verstärkt.
- Verantwortungslücke: Wer haftet, wenn ein autonomer Agent einen Fehler macht?
- Kontrollverlust: Ab Stufe 4 ist menschliche Intervention zeitkritisch.
Praxis-Empfehlung: Schrittweise hochfahren
Starten Sie jedes Agent-Projekt auf Stufe 2 (vorschlagend):
- Woche 1–4: Agent arbeitet auf Stufe 2 — alle Vorschläge werden manuell geprüft
- Monat 2–3: Daten sammeln — Wie oft sind die Vorschläge korrekt? Wo sind die Fehler?
- Ab Monat 4: Schrittweise auf Stufe 3 erhöhen — aber nur für validierte Teilbereiche
- Stufe 4–5: Nur wenn Fehlerquote unter 1 % liegt und Monitoring aktiv ist
Merke: Autonomie ist kein Feature, das man einschaltet. Es ist ein Vertrauenslevel, das man sich verdient.