Ce qu'est l'humain dans le loop
Human in the loop met les décisions humaines dans des parties choisies du processus AI. On peut vérifier l'entrée, approuver la proposition, résoudre une exception ou prendre en charge la communication.
Cela ne signifie pas contrôler manuellement chaque étape routinière sûre.
Points de contrôle par risque
L'approbation est requise lorsque l'erreur peut nuire à une personne, à ses finances, à ses droits ou à sa réputation. Les cas à faible risque peuvent être automatiquement réglés en respectant les règles.
L'interface et le contexte de la décision
L'inspecteur voit la source, la proposition, le motif de l'escalade et l'action autorisée dans un seul endroit, il n'a pas besoin de revoir l'histoire entière. La corde permet de corriger, de refuser ou de demander plus d'informations sans contourner le processus.
Rôle, front et circulation
Le cas est donné à une personne ayant les compétences, la priorité et le temps requis, l'inadmissibilité a un retour en arrière sûr et une escalade claire, à des exceptions urgences. L'audit enregistre les décisions, les versions de la règle et les modifications apportées par l'homme.
Retour à la liaison et à la mesure
Les corrections sont classées et utilisées pour évaluer le prompt, le modèle, les données et l'interface. On observe la proportion d'escalade, la précision, le temps de mise en place et la conformité entre les contrôleurs. Les données sensibles ne doivent pas être utilisées pour l'apprentissage sans objectif approuvé.
Accès à l'accès
Nous proposons le contrôle humain comme une partie de l'architecture de l'agent, pas comme un bouton d'urgence ajouté plus tard. Dans la communication entre cliniques, services de santé et marques avec des commandes de haute valeur, le système transmet le cas sensible à un spécialiste en temps opportun. Il est possible de faire appel à des données de référence pour les informations relatives aux données de référence.
