Co je AI Act
AI Act je nařízení Evropské unie, které upravuje vývoj, uvádění na trh a používání systémů umělé inteligence. Vychází z rizika konkrétního použití, proto se povinnosti liší podle účelu systému, role organizace a možného dopadu na lidi.
Obecné tvrzení, že firma používá AI, nestačí. Rozhodující je konkrétní funkce, data, rozhodnutí a kontext nasazení.
Role organizace a účel systému
Firma může být poskytovatelem, nasazujícím subjektem, dovozcem nebo distributorem a pro každý systém může mít jinou roli. Inventář uvádí dodavatele, uživatele, zamýšlený účel, dotčené osoby, zdroje dat a proces, který systém ovlivňuje.
Přístup založený na riziku
Nejdříve se určuje, do jaké oblasti použití systém patří a jaké následky může mít chyba nebo zneužití. Zakázané postupy, vysoce rizikové systémy, transparentnost a obecné modely mají odlišné požadavky. Klasifikace se přezkoumává při každé významné změně funkce.
Dokumentace a lidský dohled
Organizace udržuje popis účelu, dodavatele, dat, omezení, testů a odpovědností. Dohled člověka není pouhé formální potvrzení. Odpovědná osoba musí rozumět výstupu, mít dostatek informací a skutečnou možnost systém zastavit nebo rozhodnutí změnit.
Kompetence, změny a incidenty
Lidé potřebují znalosti odpovídající své roli a riziku procesu. Sledují se změny modelu, nástrojů, dat i způsobu použití. Incidenty, stížnosti a neočekávané výsledky se zaznamenávají, vyhodnocují a promítají do pravidel a školení.
Přístup PAR HOUSE Agency
Začínáme přehledem reálných systémů a toků dat, nikoli univerzálním formulářem. Pomáháme popsat účel, odpovědnost, dohled a kontrolní body a propojujeme požadavky s praktickým návrhem produktu. Právní posouzení zůstává u kvalifikovaného specialisty.
