Co téma znamená v praxi
Fine tuning mění chování modelu dodatečným trénováním, zatímco RAG dodává aktuální znalosti při vytváření odpovědi.
Kdy řešení skutečně pomáhá
Největší smysl má, když volba vychází z typu znalostí: RAG poskytuje aktuální zdroje a fine tuning mění chování modelu. Použití má vycházet z konkrétního problému, nikoli jen z dostupnosti nové funkce.
Jak připravit zavedení
Kvalita řešení závisí na kvalitě dat, jejich rozdělení a řízení přístupu. Je třeba určit autoritativní zdroj, četnost aktualizací, verzování a postup odstraňování neplatných informací. V praxi je vhodné nejprve vyzkoušet dobrý prompt a RAG a fine tuning zvážit až při stabilních příkladech požadovaného chování, kterého nelze dosáhnout jednodušší metodou.
Hranice, kterou nelze přehlédnout
Fine tuning není spolehlivou databází faktů a RAG nenapraví špatné dokumenty ani nepřesné vyhledávání. Před spuštěním je proto potřeba určit odpovědnou osobu pro rozhodování, pravidla eskalace a způsob bezpečného zastavení řešení.
Jak ověřit výsledek
V tomto případě je třeba měřit správnost odpovědí, citace, náklady na aktualizace, stabilitu formátu a kvalitu po změně dokumentů nebo modelu. Výsledek je třeba porovnávat s předchozím způsobem práce, zvlášť pro běžné případy a složité výjimky.
