Co téma znamená v praxi
Human in the Loop znamená plánované zapojení člověka do kontroly, schvalování nebo přebírání rozhodnutí podporovaných AI.
Kdy řešení skutečně pomáhá
Největší smysl má, když závažnost následků rozhodnutí převyšuje jistotu modelu nebo rozhodnutí vyžaduje odpovědnost, kterou nelze přenést na systém. Použití má vycházet z konkrétního problému, nikoli jen z dostupnosti nové funkce.
Jak připravit zavedení
Firma potřebuje registr použití AI, odpovědné osoby, úrovně rizika a pravidla eskalace. Kontrola má odpovídat dopadu rozhodnutí na zákazníka, zaměstnance, finance a pověst. V praxi je vhodné určit přesný okamžik kontroly, ukázat člověku data i odůvodnění a umožnit skutečnou změnu nebo odmítnutí výsledku.
Hranice, kterou nelze přehlédnout
Hlavním rizikem je, že formální schvalování stovek podobných rozhodnutí není dohledem, pokud člověk nemá čas ani informace potřebné k posouzení. Před spuštěním je proto potřeba určit odpovědnou osobu pro rozhodování, pravidla eskalace a způsob bezpečného zastavení řešení.
Jak ověřit výsledek
V tomto případě je třeba měřit četnost změn rozhodnutí, dobu kontroly, chyby zachycené před vznikem následků, přetížení hodnotitelů a kvalitu eskalací. Výsledek je třeba porovnávat s předchozím způsobem práce, zvlášť pro běžné případy a složité výjimky.
