01 · RAG (Retrieval-Augmented Generation)
Czym jest RAG i kiedy go użyć?
RAG to sposób, w jaki model językowy odpowiada na podstawie Twoich dokumentów, a nie tylko swojej ogólnej wiedzy. Przy każdym pytaniu system najpierw wyszukuje pasujące fragmenty w bazie wiedzy firmy, a potem przekazuje je modelowi razem z pytaniem. Model odpowiada i wskazuje dokument, z którego wziął informację.
RAG sprawdza się tam, gdzie wiedza jest zapisana w tekście i często się zmienia: regulaminy, dokumentacja produktu, cenniki, procedury, historia zgłoszeń. Nowy dokument jest dostępny dla asystenta po kilku minutach, bez trenowania modelu.
- 1
Źródła
PDF-y, Notion, Google Drive, strona www, baza danych.
- 2
Indeks
Tekst dzielimy na fragmenty i zapisujemy w bazie wektorowej.
- 3
Wyszukiwanie
Szukamy jednocześnie po słowach kluczowych i po znaczeniu.
- 4
Odpowiedź
Model odpowiada tylko z tych fragmentów i podaje źródło.