Alle Begriffe

Glossar

Guardrails

Auch: Leitplanken

Technische Grenzen um ein Sprachmodell herum, die festlegen, was hinein darf, was heraus darf und was es auslösen kann.

Leitplanken sitzen an drei Stellen: vor dem Modell, etwa beim Prüfen der Eingabe, hinter dem Modell beim Prüfen der Ausgabe, und um die Werkzeuge herum, die es aufrufen darf.

Der wirksamste Teil ist der dritte. Was ein Modell sagt, lässt sich korrigieren. Was es auslöst, nicht mehr.