Trois questions à poser sur chaque agent IA déployé

Une erreur humaine touche un cas. Une erreur d'agent touche tous les cas qu'il a traités avant que quelqu'un regarde : le même défaut, répété au volume de l'agent. C'est la force de l'IA, qui déploie une solution partout à la fois, et c'est son exposition. Trois questions permettent de faire le point sur n'importe quel agent en production.

1. Que fait-il réellement ?

Comparez ce que l'agent était autorisé à faire avec ce qu'il fait en production, à partir des journaux et des traces d'exécution, pas du document de conception. La dérive de périmètre est la norme : un nouvel outil connecté, une consigne modifiée, un modèle mis à jour. La question utile est de savoir si quelqu'un la surveille.

2. Vaut-il ce qu'il coûte ?

Additionnez le vrai coût d'exploitation : calcul, supervision humaine et nettoyage des incidents. Comparez-le au coût réellement évité, puis revoyez à la main un échantillon de résultats par rapport à ce qu'un humain aurait produit. L'analyse de rentabilité d'il y a six mois n'est pas un chiffre actuel.

3. Jusqu'où une erreur peut-elle aller ?

Estimez combien de cas l'agent touche, la gravité de chacun (réversible ou non, courant ou critique), et le temps qu'il faudrait à un humain pour s'en apercevoir. C'est la question RTO/RPO appliquée à un agent : combien peut aller de travers, et à quelle vitesse peut-on l'arrêter ?

Puis comparez les contrôles au risque

Validations avant action, déploiement progressif, revue par échantillonnage, interrupteur d'arrêt testé, responsable nommé : vérifiez que ces contrôles correspondent à ce que le rayon d'impact exige, et pas seulement à ce qui était commode à construire. Notre tableau de bord d'audit, à télécharger, vous aide à consigner les réponses et à les refaire chaque trimestre.