BM25 vs. Embeddings vs. Reranker: Search Stack im Jahr 2026
Automatische Übersetzung Dieser Artikel wurde automatisch aus der englischen Originalversion übersetzt.
Ein guter Search Stack funktioniert wie ein Trichter. Kostengünstige Methoden stellen zunächst eine breite Kandidatenmenge zusammen; teurere Methoden verfeinern später eine deutlich kleinere Menge. Probleme entstehen häufig, wenn Teams die Exact-Text-Suche durch Embeddings ersetzen, statt beide Ansätze zu kombinieren.
Beginne mit Filtern und BM25, einer leistungsfähigen Methode für Exact-Text-Ranking. Ergänze Dense Retrieval, um semantische Treffer zu finden, und führe beide Ergebnislisten mit Reciprocal Rank Fusion (RRF) oder einer ähnlichen Methode zusammen. Führe für die Shortlist ein Reranking mit einem Cross-Encoder durch. Verwende ein LLM nur für eine sehr kleine finale Menge, bei der der Qualitätsgewinn die zusätzliche Latency und die zusätzlichen Kosten rechtfertigt.
Zuletzt geprüft: 10.08.2026. Der Stack wird anhand von Recall, Ranking-Gewinn, Policy-Korrektheit, p95-Latency und Kosten auf realen Query-Slices bewertet – nicht anhand einer universell gültigen Kandidatenanzahl.
Empfohlener Stack
| Stufe | Standard | Aufgabe |
|---|---|---|
| Filtering | Strukturierte Filter | Tenant, Berechtigungen, Produkt, Sprache, Zeit und Verfügbarkeit durchsetzen. |
| Lexical Retrieval | BM25 | Exakte Namen, IDs, Fehlercodes, juristische Begriffe und Tokens mit hoher Precision. |
| Dense Retrieval | Embeddings | Synonyme, Paraphrasen, unscharfe Intention und semantischen Recall. |
| Fusion | Reciprocal Rank Fusion oder gewichtete Retriever-Komposition | Sparse- und Dense-Kandidaten zusammenführen, ohne vergleichbare Scores zu unterstellen. |
| Reranking | Cross-Encoder | Eine hinsichtlich der Latency begrenzte Shortlist anhand der Query-Document-Interaktion neu ordnen. |
| Finale Precision | LLM-Reranker oder Answer Model | Nuancierte Relevanz erst auflösen, wenn die Liste klein ist. |
| Evaluation | Recall@k, nDCG, MRR, Click-Labels, Human-Labels | Nachweisen, dass jede Stufe die vorherige verbessert. |
Standards für Use Cases
| Produktoberfläche | Guter Standard | Begründung |
|---|---|---|
| Documentation Search | BM25 plus Embeddings plus Cross-Encoder | Exakte API-Namen und semantische Fragen sind gleichermaßen relevant. |
| RAG Retrieval | Hybrid Retrieval plus Reranker plus Citation Checks | Fehlende Evidenz ist meist problematischer als eine langsame Generierung. |
| Product Search | Lexical Filters plus Hybrid Retrieval plus Business Features | Verfügbarkeit, Preis, Popularität und exakte Facets sind entscheidend. |
| Support Search | Hybrid Retrieval plus Freshness und Ticket-Metadaten | Sowohl ähnliche Formulierungen als auch aktuelle Policies sind relevant. |
| Interne Knowledge Base | BM25-Baseline, anschließend Dense Retrieval aus Query-Logs | Beginne mit Messbarkeit, bevor du Model-Kosten hinzufügst. |
| Legal- oder Compliance-Suche | Lexical Baseline plus strikte Filter, anschließend vorsichtige semantische Erweiterung | False Positives und False Negatives sind beide kostspielig. |
Warum BM25 weiterhin in den Stack gehört
Embeddings finden Texte mit ähnlicher Bedeutung, ersetzen aber Exact Matching nicht zuverlässig. Fehlercodes, Funktionsnamen, Product SKUs, juristische Formulierungen und Personennamen vermitteln ihre Intention häufig durch die exakte Schreibweise. BM25 bleibt eine starke Baseline, weil es die Begriffe belohnt, die der Nutzer tatsächlich eingegeben hat.
Dense Retrieval erhöht den Recall, wenn Nutzer das exakte Vokabular nicht kennen. Die Entscheidung lautet nicht BM25 oder Embeddings. Verwende BM25 für Lexical Recall, Embeddings für Semantic Recall und Fusion, um beide zu kombinieren.
Wann ein Reranker ergänzt werden sollte
Füge einen Cross-Encoder hinzu, wenn relevante Dokumente zwar in die Kandidatenmenge gelangen, aber zu weit unten ranken. Wähle die Anzahl der Kandidaten anhand des gemessenen Recalls und der Latency; Top 50 ist ein nützliches Experiment, aber kein universell gültiger Schwellenwert.
Füge keinen LLM-Reranker vor einem Cross-Encoder hinzu, sofern die Kandidatenmenge nicht sehr klein ist. Das Relevanzurteil muss außerdem subtil genug sein, um die Kosten zu rechtfertigen. LLM-Reranking kann helfen, ist aber teurer und langsamer. Miss es im Vergleich zu einem kostengünstigeren Reranker.
Evaluationssequenz
- Label reale Queries über wichtige Intents, Sprachen, Berechtigungen und Fehlerkosten hinweg. Beginne klein und erweitere anschließend, bis Slices und Unsicherheit die Entscheidung ausreichend absichern.
- Miss BM25 allein.
- Ergänze Dense Retrieval und miss die Recall-Differenz.
- Ergänze Fusion und miss nDCG sowie Recall@k.
- Ergänze Cross-Encoder-Reranking und miss Precision@1 sowie nDCG.
- Ergänze LLM-Reranking nur, wenn es die Qualität verbessert, nachdem Kosten und Latency berücksichtigt wurden.
- Beobachte Production-Metriken: Zero-Result-Rate, Reformulation-Rate, Click-Through, Answer Correction, p95-Latency und Kosten.
Weiterführende Lektüre
- Search Ranking Stack enthält den vollständigen Implementierungsleitfaden.
- RAG Evaluation Metrics erklärt die Evaluation von Retrieval und Citations.