Čo je AI Act
AI Act je nariadenie Európskej únie, ktoré upravuje vývoj, uvádzanie na trh a používanie systémov umelej inteligencie. Vychádza z rizika konkrétneho použitia, preto sa povinnosti líšia podľa účelu systému, úlohy organizácie a možného vplyvu na ľudí. Všeobecné tvrdenie, že firma používa AI, nestačí: rozhodujú konkrétne funkcie, údaje, rozhodnutia a kontext nasadenia.
Úloha organizácie a účel systému
Firma môže byť poskytovateľom, nasadzujúcim subjektom, dovozcom alebo distribútorom a pri každom systéme môže mať inú úlohu. Inventár uvádza dodávateľa, používateľov, zamýšľaný účel, dotknuté osoby, zdroje údajov a proces, ktorý systém ovplyvňuje.
Prístup založený na riziku
Najprv sa určuje oblasť použitia systému a možné následky chyby alebo zneužitia. Zakázané praktiky, vysokorizikové systémy, transparentnosť a modely AI na všeobecné účely majú odlišné požiadavky. Klasifikácia sa preskúmava pri každej významnej zmene funkcií.
Dokumentácia a ľudský dohľad
Organizácia udržiava opis účelu, dodávateľa, údajov, obmedzení, testov a zodpovedností. Ľudský dohľad nie je iba formálne potvrdenie. Zodpovedná osoba musí rozumieť výstupu, mať dostatok informácií a skutočnú možnosť zastaviť systém alebo zmeniť rozhodnutie.
Kompetencie, zmeny a incidenty
Ľudia potrebujú znalosti primerané svojej úlohe a riziku procesu. Sledujú sa zmeny modelu, nástrojov, údajov aj spôsobu použitia. Incidenty, sťažnosti a neočakávané výsledky sa zaznamenávajú, vyhodnocujú a premietajú do pravidiel a školení.
Prístup PAR HOUSE Agency
Začíname prehľadom skutočných systémov a tokov údajov, nie univerzálnym formulárom. Pomáhame opísať účel, zodpovednosť, dohľad a kontrolné body a prepájame požiadavky s praktickým návrhom produktu. Právne posúdenie zostáva úlohou kvalifikovaného odborníka.
