Čo znamená Human in the Loop?
Human in the Loop začleňuje ľudské rozhodnutia do vybraných krokov procesu AI. Človek môže overiť vstup, schváliť návrh, vyriešiť výnimku alebo prevziať komunikáciu. Neznamená to ručnú kontrolu každého bezpečného rutinného kroku.
Kontrolné body podľa rizika
Schválenie sa vyžaduje tam, kde chyba môže poškodiť človeka, financie, práva alebo povesť. Nízkorizikové prípady môžu pri splnení pravidiel prejsť automaticky. Prahy vychádzajú z hodnotení a pri chýbajúcich údajoch sú prísnejšie.
Rozhranie a kontext rozhodnutia
Kontrolujúci vidí zdroj, návrh, dôvod eskalácie a povolené akcie na jednom mieste. Nemusí znovu vyhľadávať celú históriu. Rozhranie umožňuje výsledok opraviť, odmietnuť alebo požiadať o ďalšie informácie bez obchádzania procesu.
Roly, front a prevádzka
Prípad sa pridelí osobe s primeranou kompetenciou a určí sa priorita aj časový limit. Pri nedostupnosti je pripravený bezpečný náhradný postup a naliehavé výnimky majú jasnú eskaláciu. Audit zaznamenáva rozhodnutia, verzie pravidiel a zmeny vykonané človekom.
Spätná väzba a meranie
Opravy sa kategorizujú a využívajú na hodnotenie promptov, modelu, údajov aj rozhrania. Sleduje sa podiel eskalácií, správnosť, čas vybavenia a zhoda medzi kontrolujúcimi. Citlivá spätná väzba sa nepoužíva na trénovanie bez schváleného účelu.
Prístup PAR HOUSE Agency
Ľudskú kontrolu navrhujeme ako súčasť architektúry agenta. Pri klinikách, zdravotných službách a značkách s vysokou hodnotou objednávok systém včas odovzdáva citlivé prípady špecialistom. IIGOS spája front, oprávnenia, kontext a audit s prevádzkovými údajmi.
