Čo téma znamená v praxi
Human in the Loop znamená plánovanú účasť človeka pri kontrole, schvaľovaní alebo preberaní rozhodnutí prijímaných s pomocou AI.
Kedy riešenie skutočne pomáha
Najväčší zmysel má, keď sú dôsledky rozhodnutia závažnejšie, než umožňuje miera istoty modelu, alebo keď rozhodnutie vyžaduje zodpovednosť, ktorú nemožno preniesť na systém. Použitie má vychádzať z konkrétneho problému, nie iba z dostupnosti novej funkcie.
Ako pripraviť zavedenie
Firma potrebuje register použití AI, zodpovedné osoby, úrovne rizika a pravidlá eskalácie. Kontrola má byť primeraná vplyvu rozhodnutia na klienta, zamestnanca, financie a povesť. V praxi je vhodné určiť presný okamih kontroly, ukázať človeku údaje a odôvodnenie a umožniť mu výsledok skutočne zmeniť alebo odmietnuť.
Hranica, ktorú nemožno prehliadnuť
Formálne schvaľovanie stoviek podobných rozhodnutí nie je dohľadom, ak osoba nemá čas ani informácie potrebné na posúdenie. Pred spustením preto treba určiť osobu zodpovednú za rozhodnutie, pravidlá eskalácie a spôsob bezpečného zastavenia riešenia.
Ako overiť výsledok
V tomto prípade treba merať frekvenciu zmien rozhodnutí, čas kontroly, chyby zachytené pred vznikom následkov, preťaženie hodnotiteľov a kvalitu eskalácií. Výsledok treba porovnávať s predchádzajúcim spôsobom práce, osobitne pre bežné prípady a náročné výnimky.
