Čo téma znamená v praxi
Halucinácia vzniká, keď model vytvorí dôveryhodne znejúcu informáciu bez dostatočnej opory v údajoch alebo zdrojoch.
Kedy riešenie skutočne pomáha
Najväčší zmysel má, keď sa odpoveď modelu týka faktov, dokumentov alebo údajov, ktorých správnosť možno porovnať so zdrojom. Použitie má vychádzať z konkrétneho problému, nie iba z dostupnosti novej funkcie.
Ako pripraviť zavedenie
Bezpečnosť treba testovať na náročných a zámerne pripravených príkladoch. Model nesmie samostatne rozširovať svoje oprávnenia a dôverné údaje majú byť oddelené od obsahu pochádzajúceho zvonka. V praxi je vhodné vyžadovať citáciu konkrétneho úryvku, obmedziť odpoveď na dostupné údaje a neisté prípady odovzdávať človeku.
Hranica, ktorú nemožno prehliadnuť
Väčšia istota tónu neznamená väčšiu pravdivosť a model môže spojiť pravdivé prvky do nesprávneho záveru. Pred spustením preto treba určiť osobu zodpovednú za rozhodnutie, pravidlá eskalácie a spôsob bezpečného zastavenia riešenia.
Ako overiť výsledok
V tomto prípade treba merať podiel tvrdení podložených zdrojom, kritické chyby, správne odmietnutia a čas potrebný na overenie. Výsledok treba porovnávať s predchádzajúcim spôsobom práce, osobitne pre bežné prípady a náročné výnimky.
