0
Přejít na obsah

RAG

RAG je způsob, při kterém systém před vytvořením odpovědi vyhledá relevantní informace v řízených zdrojích a poskytne je jazykovému modelu jako kontext.

Co je RAG

RAG propojuje vyhledávání v externích zdrojích s generováním odpovědi jazykovým modelem. Systém nejdříve vybere relevantní pasáže a následně je vloží do kontextu.

Model tak může pracovat s aktuálními firemními informacemi bez jejich trvalého učení.

Zdroje a příprava dat

Do znalostní vrstvy vstupují schválené dokumenty s jasným vlastníkem, datem a verzí. Obsah se čistí, dělí na smysluplné části a doplňuje metadaty. Rozporné nebo zastaralé zdroje se neindexují bez rozhodnutí.

Vyhledávání a filtry

Dotaz může kombinovat významovou podobnost, přesná slova a filtry podle jazyka, produktu nebo oprávnění. Počet výsledků a pořadí se ladí na reálných otázkách. Systém musí poznat také situaci, kdy dostatečný zdroj chybí.

Odpověď a citace

Instrukce žádá model, aby vycházel z poskytnutých podkladů a nevyplňoval mezery domněnkou. Citace umožní uživateli ověřit původ a otevřít konkrétní dokument. Výstup rozlišuje fakt ze zdroje od doporučení systému.

Oprávnění a evaluace

Vyhledávání respektuje stejná práva jako původní systém. Odstraněný dokument mizí také z indexu. Testy měří relevanci pasáží, správnost odpovědi, citace, rychlost, cenu a odolnost proti škodlivé instrukci ukryté ve zdroji.

Přístup PAR HOUSE Agency

RAG stavíme kolem konkrétní znalostní báze a skutečných dotazů zákazníků nebo týmu. Propojujeme hybridní vyhledávání, přesná oprávnění, citace a monitoring. Agent odpovídá z aktuálních informací a bezpečně přizná, když zdroj nestačí.