Co je human in the loop
Human in the loop vkládá lidské rozhodnutí do vybraných částí procesu AI. Člověk může ověřit vstup, schválit návrh, vyřešit výjimku nebo převzít komunikaci.
Neznamená to ruční kontrolu každého bezpečného rutinního kroku.
Body kontroly podle rizika
Schválení se vyžaduje tam, kde chyba může poškodit člověka, finance, práva nebo reputaci. Nízkorizikové případy mohou projít automaticky při splnění pravidel. Prahy vycházejí z evaluací a jsou přísnější při chybějících datech.
Rozhraní a kontext pro rozhodnutí
Kontrolor vidí zdroj, návrh, důvod eskalace a povolené akce na jednom místě. Nemusí znovu hledat celou historii. Rozhraní umožňuje opravit výstup, odmítnout jej nebo požádat o další informaci bez obcházení procesu.
Role, fronta a provoz
Případ dostává osobu s odpovídající kompetencí, prioritou a časovým limitem. Nedostupnost má bezpečný fallback a naléhavé výjimky jasnou eskalaci. Audit zaznamenává rozhodnutí, verzi pravidla a změny provedené člověkem.
Zpětná vazba a měření
Opravy se kategorizují a používají k evaluaci promptu, modelu, dat i rozhraní. Sleduje se podíl eskalací, správnost, doba vyřízení a shoda mezi kontrolory. Citlivá zpětná vazba se nepoužívá k učení bez schváleného účelu.
Přístup PAR HOUSE Agency
Lidskou kontrolu navrhujeme jako součást architektury agenta, ne jako nouzové tlačítko přidané později. V komunikaci klinik, zdravotních služeb a značek s vysoce hodnotnou objednávkou systém včas předává citlivý případ specialistovi. IIGOS spojuje frontu, oprávnění, kontext a audit s provozními daty.
