Co jsou Guardrails
Guardrails jsou technická a procesní pravidla, která určují, jaké údaje smí systém AI přijmout, jak může odpovědět a které akce může vykonat. Nejde o jednu filtraci zakázaných slov, ale o soubor kontrol před zpracováním, během rozhodování, při použití nástroje a před předáním výsledku.
Dobré zabezpečení omezuje škodu a současně zachovává užitečnost služby.
Ochrana vstupu a znalostí
Vstup se kontroluje proti citlivým údajům, pokusům o změnu instrukcí a nebezpečným požadavkům. Vyhledávání znalostí respektuje roli uživatele, účel relace a oprávnění ke konkrétním dokumentům. Obsah z webu, e mailu nebo přílohy se považuje za data, ne za nadřazený pokyn pro agenta.
Odpověď a odborné hranice
Systém rozpoznává témata, u kterých má odpovědět pouze z ověřeného zdroje, vyžádat doplnění nebo předat případ člověku. U kliniky nesmí vytvořit individuální zdravotní doporučení bez oprávněného odborníka. U parfému, šperku nebo služby nesmí vymyslet vlastnost, cenu ani dostupnost.
Nástroje a závazné akce
Každý nástroj dostává nejmenší potřebné oprávnění. Čtení je oddělené od změny, odeslání, rezervace, nákupu a mazání. Před závaznou akcí uživatel vidí cíl, cenu, měnu a důsledek a vědomě ji potvrdí. Opakování požadavku nesmí vytvořit dvojí platbu nebo dvě rezervace.
Testování a provozní dohled
Testy pokrývají přímé i nepřímé obcházení pravidel, více jazyků, konflikt zdrojů, neúplná data a několik zdánlivě bezpečných kroků vedoucích k rizikovému výsledku. Měří se škodlivé průchody, falešné blokace, rychlost eskalace a dopad na dokončení úlohy. Incident má vlastníka a dohledatelnou historii.
Přístup PAR HOUSE Agency
Guardrails navrhujeme podle konkrétní cesty zákazníka a hodnoty možné chyby. Agent pro zdraví, kliniku nebo e-Commerce premium dostává přesně vymezené zdroje, nástroje a hranice. Bezpečnost průběžně ověřujeme na reálných scénářích, aby klient získal rychlou pomoc bez skrytého rizika pro data, pověst a obchod.
