0
Prejsť na obsah

RAG

RAG je spôsob, akým systém pred vytvorením odpovede hľadá relevantnú informáciu v riadených zdrojoch a poskytuje ju jazykovému modelu ako kontext.

Čo je RAG

RAG spája vyhľadanie z externých zdrojov s generáciou odpovede jazykovým modelom. Systém najprv vyberá relevantné pasáže a potom ich vloží do kontextu.

Model môže pracovať s aktuálnou firemnou informáciou bez toho, aby sa neustále učila.

Zdroje a príprava údajov

Vstupujú do vrstvy znalostí schválené dokumenty s jasným majiteľom, dátumom a verziami. Obsah sa čistí, rozdeľuje na zmysluplné časti a doplňuje metadatu.

Vyhľadávanie a filtry

Otázka môže kombinovať významné podobnosti, presné slová a filtry podľa jazyka, produktu alebo oprávnenia. Počet výsledkov a poradí sa zakladá na reálnych otázkach. Systém musí tiež rozpoznať situáciu, keď chýba dostatočný zdroj.

Odpoveď a citácia

Inštrukcia vyžaduje, aby model bol založený na poskytnutých základoch a aby nevyplnil medzery domnienkou. Citácia umožňuje používateľovi overiť pôvod a otvoriť konkrétny dokument. Výstup rozlišuje fakt z zdroja od odporúčania systému.

Oprávnenie a hodnotenie

Vyhľadávanie dodržiava rovnaké práva ako pôvodný systém. Odstránený dokument zmizne z indexu. Testy meria relevantnosť pasáží, správnosť odpovede, citácie, rýchlosť, cenu a odolnosť voči škodlivým inštrukciám ukrytým v zdroji.

Prístup PAR HOUSE Agency

RAG budujeme na konkrétnej báze vedomostí a skutočných otázkach zákazníkov alebo tímu, spájajeme hybridné vyhľadávanie, presné oprávnenie, citácie a monitorovanie, agent zodpovedá na aktuálne informácie a bezpečne priznáva, keď zdroj nestačí.