Cohere (reranking)

Cohere to platforma AI oferująca między innymi modele rerankingowe (Cohere Rerank), które są specjalizowanymi cross-encoderami poprawiającymi trafność wyników po wstępnym retrieval.

W pipeline RAG Cohere Rerank działa na etapie rerankingu: bi-encoder (embedding) wyciąga top 100 kandydatów, a Cohere Rerank (cross-encoder) z tej setki wybiera top 10 najbardziej trafnych. Cohere Rerank analizuje parę (query, document) jednocześnie, dzięki czemu jest znacznie precyzyjniejszy niż samo porównanie embeddingów, ale też wolniejszy – dlatego nie nadaje się do przeszukiwania milionów dokumentów.

W SEO Cohere Rerank przydaje się przy budowie wyszukiwarek semantycznych na stronach klientów i w pipeline linkowania wewnętrznego (z top 100 nearest neighbors wybrać top 10 najlepszych linków). Alternatywy to FlashRank (szybszy, mniej precyzyjny) i Jina Reranker.

W praktyce dodaj reranking do pipeline'u dopiero, gdy masz problem z precyzją top 10 wyników – przy małych zbiorach (< 1000 dokumentów) sam embedding daje wystarczająco dobre wyniki.