Glossar
Human in the Loop
Auch: Mensch in der Schleife
Ein Ablauf, bei dem ein Mensch an definierten Stellen bestätigt, korrigiert oder ablehnt, bevor eine Aktion wirksam wird.
Sinnvoll ist die Bestätigung dort, wo eine Entscheidung Geld bewegt, nach außen wirkt oder sich nicht zurücknehmen lässt. Alles andere zu bestätigen ermüdet und führt zum Durchwinken.
Nebenbei entsteht die wertvollste Datenquelle, die ein solches System hat: die Korrekturen. Sie zeigen, wo das Modell zuverlässig ist und wo nicht.
Woran Sie es erkennen
- Eine Fehlentscheidung wäre teuer oder nicht rücknehmbar.
- Das Modell ist gut, aber nicht in jedem Fall.
- Ein Bereich soll dem System erst noch vertrauen lernen.
Häufig gefragt
Wie kommt man von Prüfung zu Automatik?
Über Sicherheitswerte. Alles unterhalb einer Schwelle geht zur Prüfung, alles darüber läuft durch. Wenn die geprüften Fälle über Wochen zu 98 Prozent bestätigt werden, kann die Schwelle sinken. Ohne diese Zahlen bleibt die Prüfung für immer.