Ce qu'est le Guardrails
Les gardails sont des règles techniques et procédurales qui déterminent les données que le système AI peut recevoir, comment il peut répondre et quelles actions il peut faire. Ce n'est pas une seule filtration de mots interdits, mais un ensemble de contrôles avant le traitement, lors de la prise de décision, lors de l'utilisation de l'instrument et avant la transmission du résultat.
Une bonne sécurité réduit les dommages tout en préservant la utilité du service.
Protection de l'accès et des connaissances
L'entrée est contrôlée contre les données sensibles, les tentatives de modification des instructions et les exigences dangereuses. La recherche de connaissances respecte le rôle de l'utilisateur, le but de la relation et les autorisations pour les documents spécifiques. Le contenu du site, de l'e-mail ou de l'annexe est considéré comme une date et non comme une instruction préalable pour l'agent.
Réponse et limites de compétence
Le système reconnaît les sujets auxquels il doit répondre uniquement à partir d'une source vérifiée, demander une complémentation ou transmettre un cas à un humain. Il ne doit pas créer de recommandation médicale individuelle sans expert compétent. Pour le parfum, les bijoux ou les services, il ne doit pas exiger la propriété, le prix ou l'accessibilité.
Instruments et actions contraignantes
Chaque instrument reçoit le moindre permis nécessaire, la lecture séparée de l'édition, de l'expédition, de la réservation, de l'achat et de la suppression. Avant une action obligatoire, l'utilisateur voit l'objectif, le prix, la devise et les conséquences et les confirme consciemment. La répétition de la demande ne doit pas entraîner un double paiement ou deux réservations.
Test et surveillance opérationnelle
Les tests couvrent les contournements directs et indirects des règles, les multiples langues, les conflits de ressources, des données incomplètes et plusieurs mesures apparemment sûres menant à un résultat à risque. On mesure les passages nocifs, les faux blocs, la vitesse d'escalade et l'impact sur la finition de la tâche.
Accès à l'accès
Nous proposons des gardails en fonction du parcours du client et de la valeur des erreurs possibles. Un agent de santé, de clinique ou de commerce électronique prime est doté de ressources, d'outils et de limites précises. Nous vérifions la sécurité en permanence dans des scénarios réels pour que le client puisse obtenir une aide rapide sans risque caché pour les données, la réputation et le commerce.
