Co naprawdę oznacza to pojęcie
Retrieval Augmented Generation łączy wyszukiwanie właściwych źródeł z generowaniem odpowiedzi przez model.
Jak wygląda w praktyce
RAG najpierw wyszukuje fragmenty źródeł, a następnie przekazuje je modelowi, który tworzy odpowiedź; jakość zależy więc od obu etapów.
Najważniejsza decyzja przed wdrożeniem
Dokumenty trzeba dzielić zgodnie ze strukturą, opisać metadanymi, kontrolować dostęp i aktualizować bez pozostawiania starych wersji w indeksie.
Jak sprawdzić, czy rozwiązanie działa
Mierz trafność wyszukiwania, pokrycie odpowiedzi źródłami, świeżość, cytowania i zachowanie, gdy właściwego dokumentu nie ma. Wynik należy porównać z ustaloną wersją bazową i analizować osobno dla prostych spraw, trudnych wyjątków oraz przypadków wymagających człowieka. Praktyczny test RAG powinien mieć właściciela, datę przeglądu i zapisany przykład wyniku, którego zespół nie zaakceptuje.
Podejście PAR HOUSE Agency
Pracę z RAG zaczynamy od procesu, a nie od demonstracji narzędzia. Dokumenty trzeba dzielić zgodnie ze strukturą, opisać metadanymi, kontrolować dostęp i aktualizować bez pozostawiania starych wersji w indeksie. Następnie budujemy mały, mierzalny zakres, zapisujemy założenia i dopiero po kontroli jakości rozszerzamy zastosowanie.