Co je agentní AI
Agentní AI je přístup, při kterém systém neplní jen jeden izolovaný pokyn. Dostane cíl, rozloží jej na kroky, vyhodnocuje průběžné výsledky a rozhoduje, co udělat dál v předem stanovených hranicích.
Vyšší samostatnost neznamená neomezenou volnost. Každý proces potřebuje pravidla, oprávnění a osobu odpovědnou za následky.
Plánování a průběžné rozhodování
Systém může hledat informace, porovnat možnosti, použít nástroj a podle výsledku plán upravit. Jednotlivé kroky musí zůstat dohledatelné. Pokud chybí data nebo se objeví konflikt, agent nesmí pokračovat pouze na základě odhadu.
Hranice samostatnosti
Před nasazením se určí maximální počet kroků, čas, rozpočet a rozsah nástrojů. Rozhodnutí s právním, finančním nebo zákaznickým dopadem vyžadují schválení. Systém musí umět bezpečně zastavit a vysvětlit důvod.
Rizika smyček a kumulace chyb
Malá chyba v prvním kroku se může promítnout do celého plánu. Agent může opakovat neúčinnou akci nebo nesprávně vyhodnotit vlastní výsledek. Proto se kontrolují mezistavy, limity a možnost návratu k poslednímu správnému bodu.
Jak hodnotit celý proces
Rozhodující je dokončení cíle, správnost kroků, počet zásahů člověka, náklady a doba obnovení kontroly. Jedna dobře napsaná odpověď není důkazem, že funguje celá cesta. Testy zahrnují i výjimky a selhání nástrojů.
Přístup PAR HOUSE Agency
Agentní procesy navrhujeme jako řízené systémy s jasným vlastníkem. Začínáme s krátkou cestou, měřitelným cílem a bezpečným schvalováním. Další samostatnost přidáváme až poté, co jsou kroky stabilní a vysvětlitelné.
