Qu’est-ce que l’AI Act ?
L’AI Act est un règlement de l’Union européenne encadrant le développement, la mise sur le marché et l’utilisation des systèmes d’intelligence artificielle. Les obligations dépendent du risque lié à l’usage concret, de la finalité du système, du rôle de l’organisation et des effets possibles sur les personnes. Dire simplement qu’une entreprise utilise l’IA ne suffit pas : les fonctions, les données, les décisions et le contexte de déploiement sont déterminants.
Rôle de l’organisation et finalité du système
Une entreprise peut être fournisseur, déployeur, importateur ou distributeur, avec un rôle différent pour chaque système. L’inventaire précise le fournisseur, les utilisateurs, la finalité prévue, les personnes concernées, les sources de données et le processus influencé par le système.
Une approche fondée sur les risques
Il faut d’abord identifier le domaine d’utilisation du système et les conséquences possibles d’une erreur ou d’un abus. Les pratiques interdites, les systèmes à haut risque, la transparence et les modèles d’IA à usage général relèvent d’exigences différentes. La classification est réexaminée après toute modification importante des fonctions.
Documentation et contrôle humain
L’organisation tient à jour une description de la finalité, du fournisseur, des données, des limites, des tests et des responsabilités. Le contrôle humain ne se résume pas à une validation formelle. La personne responsable doit comprendre le résultat, disposer d’informations suffisantes et pouvoir réellement arrêter le système ou modifier une décision.
Compétences, changements et incidents
Les personnes ont besoin de connaissances adaptées à leur rôle et aux risques du processus. Les changements du modèle, des outils, des données et des usages sont suivis. Les incidents, les plaintes et les résultats inattendus sont consignés et analysés afin d’améliorer les règles et la formation.
L’approche de PAR HOUSE Agency
Nous partons d’un inventaire des systèmes et des flux de données réels, plutôt que d’un formulaire universel. Nous aidons à décrire la finalité, les responsabilités, le contrôle humain et les points de vérification, en reliant les exigences à la conception concrète du produit. L’évaluation juridique reste du ressort d’un spécialiste qualifié.
