Čo téma znamená v praxi
Fine Tuning mení správanie modelu dodatočným trénovaním, zatiaľ čo RAG poskytuje aktuálne znalosti počas tvorby odpovede.
Kedy riešenie skutočne pomáha
Najväčší zmysel má, keď výber vychádza z druhu znalostí: RAG poskytuje aktuálne zdroje a fine tuning mení spôsob správania modelu. Použitie má vychádzať z konkrétneho problému, nie iba z dostupnosti novej funkcie.
Ako pripraviť zavedenie
Kvalita riešenia závisí od kvality údajov, spôsobu ich rozdelenia a kontroly prístupu. Treba určiť zdroj pravdy, frekvenciu aktualizácií, verzovanie a postup odstraňovania informácií, ktoré stratili platnosť. V praxi je vhodné najprv overiť kvalitný prompt a RAG a fine tuning zvažovať až pri stabilných príkladoch, pri ktorých nemožno dosiahnuť výsledok jednoduchšou metódou.
Hranica, ktorú nemožno prehliadnuť
Fine tuning nie je spoľahlivou databázou faktov a RAG neopraví nekvalitné dokumenty ani nepresné vyhľadávanie. Pred spustením preto treba určiť osobu zodpovednú za rozhodnutie, pravidlá eskalácie a spôsob bezpečného zastavenia riešenia.
Ako overiť výsledok
V tomto prípade treba merať správnosť odpovedí, citácie, náklady na aktualizáciu, stabilitu formátu a kvalitu po zmene dokumentov alebo modelu. Výsledok treba porovnávať s predchádzajúcim spôsobom práce, osobitne pre bežné prípady a náročné výnimky.
