Ce qui est agent AI
L'agent AI est une approche dans laquelle le système ne remplit pas une seule commande isolée. Il obtient un objectif, le décompose en étapes, évalue les résultats en cours et décide de ce qu'il doit faire dans les limites préétablies.
Une autonomie supérieure ne signifie pas une liberté sans limites.
Planification et prise de décision en cours
Le système peut rechercher des informations, comparer les possibilités, utiliser un outil et modifier le plan en fonction des résultats. Si les données sont manquantes ou si un conflit survient, l'agent ne peut pas poursuivre uniquement sur la base d'une estimation.
Limits de l'indépendance
Avant le déploiement, le nombre maximum d'étapes, le temps, le budget et la portée des instruments sont fixés. Les décisions ayant des effets juridiques, financiers ou clientels doivent être approuvées.
Risque de boucle et accumulation d'erreurs
Une petite erreur dans la première étape peut se traduire par un plan complet. L'agent peut répéter une action inefficace ou évaluer mal son propre résultat. C'est pourquoi les intervalles, les limites et la possibilité de revenir au dernier point correct sont vérifiés.
Comment évaluer le processus
Ce qui compte, c'est la finalisation de l'objectif, la précision des mesures, le nombre d'interventions humaines, le coût et le temps de rétablissement du contrôle. Une réponse bien écrite n'est pas une preuve que tout fonctionne.
Accès à l'accès
Nous concevons les processus d'agent comme des systèmes contrôlés avec un propriétaire clair, en commençant par un chemin court, un objectif mesurable et une approbation sûre. Nous ne pouvons ajouter d'autonomie qu'après que les étapes soient stables et explicatives.
