Co téma znamená v praxi
Bezpečné používání AI vyžaduje klasifikaci dat, omezení přístupu, volbu vhodných podmínek služby a kontrolu toho, co vstupuje do modelu.
Kdy řešení skutečně pomáhá
Největší smysl má, když zaměstnanci vědí, které třídy dat mohou předávat konkrétní službě a za jakým účelem. Použití má vycházet z konkrétního problému, nikoli jen z dostupnosti nové funkce.
Jak připravit zavedení
Bezpečnost je třeba testovat na obtížných a záměrně upravených příkladech. Model nesmí sám rozšiřovat svá oprávnění a důvěrná data mají být oddělena od externího obsahu. V praxi je vhodné klasifikovat data, vypnout zbytečné logování, odstraňovat identifikátory a zpřístupnit modely přes řízený firemní účet.
Hranice, kterou nelze přehlédnout
Vkládání smluv, zákaznických dat nebo obchodního tajemství do osobních účtů může obejít veškeré firemní zabezpečení. Před spuštěním je proto potřeba určit odpovědnou osobu pro rozhodování, pravidla eskalace a způsob bezpečného zastavení řešení.
Jak ověřit výsledek
V tomto případě je třeba měřit porušení pravidel, rozsah dat v logách, počet výjimek, dobu odstranění dat a používání schválených nástrojů. Výsledek je třeba porovnávat s předchozím způsobem práce, zvlášť pro běžné případy a složité výjimky.
