Co téma znamená v praxi
AI Act zavádí povinnosti podle role firmy, druhu systému a úrovně rizika, včetně požadavků na transparentnost a kompetence personálu.
Kdy řešení skutečně pomáhá
Největší smysl má, když firma umí určit roli systému, úroveň rizika a odpovědnost subjektů v celém řetězci. Použití má vycházet z konkrétního problému, nikoli jen z dostupnosti nové funkce.
Jak připravit zavedení
Nejprve je třeba určit roli firmy a způsob použití systému. Dokumentace má zahrnovat dodavatele, data, příjemce, rizika, lidský dohled, informování uživatele a postup reakce na problém. V praxi je vhodné vést registr použití AI, dokumentovat data a dohled a ověřit povinnosti konkrétního případu s právníkem.
Hranice, kterou nelze přehlédnout
Samotné prohlášení dodavatele nezbavuje firmu používající systém povinnosti posoudit jeho vliv na lidi. Před spuštěním je proto potřeba určit odpovědnou osobu pro rozhodování, pravidla eskalace a způsob bezpečného zastavení řešení.
Jak ověřit výsledek
V tomto případě je třeba měřit úplnost dokumentace, včasnost hodnocení, incidenty, účinnost dohledu a soulad skutečného použití s popsaným účelem. Výsledek je třeba porovnávat s předchozím způsobem práce, zvlášť pro běžné případy a složité výjimky.
