Human-in-the-Loop

Human-in-the-Loop beschreibt ein Zusammenspiel, bei dem eine KI oder eine Automation die Arbeit vorbereitet und ein Mensch an festgelegten Stellen prüft, ergänzt oder entscheidet. Das Gegenstück ist die vollautomatische Verarbeitung ohne menschlichen Blick.

Wo der Mensch entscheiden sollte

Nicht jeder Schritt braucht eine Freigabe, sonst ist die Zeitersparnis weg. Sinnvoll ist sie dort, wo ein Fehler teuer oder nicht rückgängig zu machen ist: beim Versand an Kunden, bei rechtlich relevanten Angaben, beim endgültigen Löschen. Eine Notiz oder Aufgabe darf eine KI dagegen direkt anlegen, wenn sie sich jederzeit ändern lässt.

Warum das bei KI wichtig ist

Sprachmodelle können sich irren und dabei überzeugend klingen, siehe KI-Halluzination. Der EU AI Act verlangt für Hochrisiko-Systeme ausdrücklich menschliche Aufsicht. Auch außerhalb davon ist Human-in-the-Loop die einfachste Antwort auf die Frage, wer am Ende verantwortlich ist.

So setzt propgen das um

Interaktive Automationen öffnen nach einer gespeicherten Aktion das vorbefüllte Formular, den letzten Klick macht der Mensch, siehe Interaktive Automatisierungen. Im Workflow Manager stellt der Schritt Entscheidung eine Frage und wartet auf die Antwort. Beim Auslesen von Ausweisen übernimmt propgen nur, was Du anhakst, und endgültig gelöscht wird nach DSGVO nur nach Bestätigung durch eine berechtigte Person in der App.