Čo je RAG?
RAG prepája vyhľadávanie v externých zdrojoch s generovaním odpovede jazykovým modelom. Systém vyberie relevantné pasáže a vloží ich do kontextu. Model tak môže využívať aktuálne firemné informácie bez toho, aby sa ich natrvalo naučil trénovaním.
Zdroje a príprava údajov
Znalostná vrstva obsahuje schválené dokumenty s jasným vlastníkom, dátumom a verziou. Obsah sa čistí, delí na zmysluplné časti a dopĺňa metadátami. Rozporné alebo zastarané zdroje sa neindexujú bez predchádzajúceho rozhodnutia.
Vyhľadávanie a filtre
Dopyt môže kombinovať sémantickú podobnosť, presné výrazy a filtre podľa jazyka, produktu či oprávnení. Počet a poradie výsledkov sa ladia na skutočných otázkach. Systém musí rozpoznať aj situáciu, keď dostatočný zdroj chýba.
Odpovede a citácie
Pokyny vyžadujú, aby model vychádzal z poskytnutých podkladov a nevypĺňal medzery domnienkami. Citácie umožňujú overiť pôvod informácií a otvoriť konkrétny dokument. Odpoveď rozlišuje fakty zo zdrojov od odporúčaní systému.
Oprávnenia a hodnotenia
Vyhľadávanie rešpektuje rovnaké prístupové práva ako pôvodný systém. Vymazané dokumenty sa odstraňujú aj z indexu. Testy merajú relevantnosť, správnosť odpovedí, citácie, rýchlosť, náklady a odolnosť proti škodlivým pokynom v zdrojoch.
Prístup PAR HOUSE Agency
RAG budujeme okolo konkrétnej znalostnej základne a reálnych otázok zákazníkov či tímu. Prepájame hybridné vyhľadávanie, presné oprávnenia, citácie a monitorovanie. Agent odpovedá z aktuálnych informácií a prizná, keď zdroje nestačia.
