Čo je agentická AI
Agentická AI je prístup, pri ktorom systém neplní iba jeden izolovaný pokyn. Dostane cieľ, rozdelí ho na kroky, hodnotí priebežné výsledky a rozhoduje, čo urobiť ďalej v stanovených hraniciach. Vyššia samostatnosť neznamená neobmedzenú slobodu: každý proces potrebuje pravidlá, oprávnenia a osobu zodpovednú za následky.
Plánovanie a priebežné rozhodovanie
Systém môže vyhľadať informácie, porovnať možnosti, použiť nástroj a podľa výsledku upraviť plán. Jednotlivé kroky musia zostať dohľadateľné. Ak chýbajú údaje alebo vznikne konflikt, agent nesmie pokračovať iba na základe odhadu.
Hranice samostatnosti
Pred nasadením sa určí maximálny počet krokov, čas, rozpočet a dostupné nástroje. Rozhodnutia s právnym, finančným alebo zákazníckym dosahom vyžadujú schválenie. Systém sa musí vedieť bezpečne zastaviť a vysvetliť dôvod.
Slučky a hromadenie chýb
Malá chyba v prvom kroku môže ovplyvniť celý plán. Agent môže opakovať neúčinnú akciu alebo nesprávne vyhodnotiť vlastný výsledok. Preto sa kontrolujú priebežné stavy, limity a možnosť návratu k poslednému správnemu bodu.
Ako hodnotiť celý proces
Rozhodujú dosiahnutie cieľa, správnosť krokov, počet zásahov človeka, náklady a čas obnovenia kontroly. Jedna dobre napísaná odpoveď nedokazuje fungovanie celej cesty. Testy zahŕňajú aj výnimky a zlyhania nástrojov.
Prístup PAR HOUSE Agency
Agentické procesy navrhujeme ako riadené systémy s jasným vlastníkom. Začíname krátkou cestou, merateľným cieľom a bezpečným schvaľovaním. Ďalšiu samostatnosť pridávame až po stabilizácii krokov, ktorých priebeh vieme vysvetliť.
