Mi az AI Act?
Az AI Act az Európai Unió rendelete a mesterségesintelligencia-rendszerek fejlesztéséről, forgalomba hozataláról és használatáról. A konkrét felhasználás kockázatából indul ki, ezért a kötelezettségek a rendszer céljától, a szervezet szerepétől és az emberekre gyakorolt lehetséges hatásoktól függnek. Nem elegendő annyit állítani, hogy egy vállalat MI-t használ: a konkrét funkciók, adatok, döntések és az alkalmazás körülményei számítanak.
A szervezet szerepe és a rendszer célja
Egy vállalat lehet szolgáltató, alkalmazó, importőr vagy forgalmazó, és rendszerenként eltérő szerepet tölthet be. A nyilvántartás tartalmazza a beszállítót, a felhasználókat, a tervezett célt, az érintett személyeket, az adatforrásokat és a rendszer által befolyásolt folyamatot.
Kockázatalapú megközelítés
Először az alkalmazási területet és a hibák vagy visszaélések lehetséges következményeit kell meghatározni. A tiltott gyakorlatokra, a nagy kockázatú rendszerekre, az átláthatóságra és az általános célú MI-modellekre eltérő követelmények vonatkoznak. A besorolást minden jelentős funkcióváltozásnál felül kell vizsgálni.
Dokumentáció és emberi felügyelet
A szervezet dokumentálja a célt, a beszállítót, az adatokat, a korlátokat, a teszteket és a felelősségi köröket. Az emberi felügyelet nem puszta formális jóváhagyás. A felelős személynek értenie kell az eredményt, elegendő információval kell rendelkeznie, és ténylegesen képesnek kell lennie a rendszer leállítására vagy a döntés megváltoztatására.
Kompetenciák, változások és incidensek
A munkatársaknak a szerepükhöz és a folyamat kockázataihoz illő ismeretekre van szükségük. Követni kell a modell, az eszközök, az adatok és a felhasználási mód változásait. Az incidenseket, panaszokat és váratlan eredményeket rögzíteni és értékelni kell, a tanulságokat pedig be kell építeni a szabályokba és a képzésbe.
A PAR HOUSE Agency megközelítése
A valódi rendszerek és adatfolyamok áttekintésével kezdünk, nem egy általános űrlappal. Segítünk leírni a célt, a felelősséget, a felügyeletet és az ellenőrzési pontokat, és összekapcsoljuk a követelményeket a gyakorlati terméktervezéssel. A jogi értékelés képzett szakember feladata marad.
