Alle Begriffe
Glossar
Reranking
Auch: Nachsortierung
Ein zweiter Schritt in der Suche: Die ersten Treffer werden von einem genaueren Modell neu sortiert, bevor sie ans Sprachmodell gehen.
Die schnelle Vektorsuche liefert zwanzig ungefähr passende Abschnitte. Ein Reranker bewertet diese zwanzig genauer und schickt die besten fünf weiter.
Das kostet wenig, weil nur eine kleine Menge genau bewertet wird, und hebt die Trefferqualität oft deutlich.
Woran Sie es erkennen
- Die richtige Antwort ist unter den Treffern, aber weit hinten.
- Es werden viele Ausschnitte mitgegeben, die Qualität steigt nicht.
- Die Kosten je Anfrage sollen sinken.
Häufig gefragt
Lohnt sich der zusätzliche Schritt?
Fast immer. Zwanzig Treffer grob suchen, davon die besten fünf sauber sortieren und nur die mitgeben: das verbessert die Antwort und senkt zugleich die Kosten, weil weniger Text ins Modell geht.