Agents IA en entreprise : les garde-fous avant la production

La démo s'est bien passée. L'agent répond juste, vite, et la direction est enthousiaste. Vient la vraie question : peut-on le mettre devant 80 salariés, ou devant des clients, lundi matin ? Un agent IA en entreprise n'est pas un prototype qu'on partage. C'est un outil qui parle au nom de votre société. Voici les garde-fous que nous posons avant toute mise en production, et ce qu'ils vous coûtent : peu, si on y pense avant.

Un périmètre étroit et des sources contrôlées

Le premier garde-fou est une décision, pas un réglage. Un agent fait une chose : répondre aux questions RH, suivre les commandes, préparer les comptes rendus. Il ne "sait pas tout". Un périmètre étroit rend l'agent testable, et rend ses erreurs visibles.

Les sources vont avec. On liste celles qui sont autorisées (telle bibliothèque SharePoint, telle table Dataverse, tel site interne) et on interdit le reste. Un agent Copilot Studio ne répond qu'à partir de ce qu'on lui a donné ; par défaut, on lui coupe l'accès au web public. Et on lui écrit noir sur blanc ce qu'il fait quand il ne sait pas : il le dit, et il renvoie vers une personne.

Des droits hérités et un journal des réponses

L'agent n'a jamais plus de droits que la personne qui lui parle. Avec l'authentification Microsoft, il cherche avec les droits de l'utilisateur connecté : un dossier fermé pour vous l'est aussi pour l'agent quand c'est vous qui posez la question. Ce réglage se vérifie avant la mise en service avec deux comptes de test aux droits différents.

Ensuite, tout se journalise. Copilot Studio conserve les transcriptions des conversations dans votre environnement Dataverse : qui a demandé quoi, ce que l'agent a répondu, quelle source il a utilisée. Ce journal sert à trois choses : comprendre une mauvaise réponse, prouver ce qui a été dit en cas de litige, et alimenter la revue mensuelle. Fixez sa durée de conservation dès le départ, il contient souvent des données personnelles, et limitez sa lecture à deux ou trois personnes nommées : un journal ouvert à tous est une fuite qui attend son heure.

Une validation humaine sur les actions

Il y a deux familles d'agents. Ceux qui lisent et répondent, et ceux qui agissent : créer une commande, envoyer un mail à un client, modifier une fiche, déclencher un paiement. La règle que nous appliquons : toute action qui écrit, envoie ou engage passe par une validation humaine, avec un circuit d'approbation Power Automate qui garde la trace de qui a validé.

Concrètement, on démarre en lecture seule. On ajoute une action à la fois, chacune avec son approbation, et on ne retire l'approbation que sur une action précise, après des semaines de résultats propres, sur décision écrite. Un agent qui envoie des mails sans relecture est une belle démo et un vrai risque.

Tests réels, revue mensuelle, bouton d'arrêt

Avant la mise en service, l'agent passe un examen sur des questions réelles, puis une revue mensuelle relit ce qu'il n'a pas su répondre : ce protocole, jeu de questions, seuil de réussite et rendez-vous mensuel, est détaillé dans notre article sur l'agent RH connecté à SharePoint. C'est l'étape "tests et mise en service" de notre méthode, elle ne se saute pas, et la revue mensuelle est un des livrables de notre maintenance Power Platform quand le client préfère nous la confier.

Enfin, le bouton d'arrêt. Quelqu'un doit pouvoir retirer l'agent en cinq minutes, sans ticket ni développeur : dépublier l'agent dans Copilot Studio, désactiver le flux derrière. Ce quelqu'un a un nom, un remplaçant, et la procédure tient sur une page. Faites-la exécuter une fois avant la mise en service, montre en main : on découvre souvent que le flux continue de tourner ou que l'agent reste visible dans Teams pendant des heures.

RGPD, données personnelles et responsabilité

Un agent manipule des données personnelles dès qu'un salarié lui parle de sa situation. Les principes du RGPD s'appliquent tels quels : ne collecter que ce qui est utile, fixer une durée de conservation au journal, informer les utilisateurs de ce qui est enregistré, et inscrire le traitement dans votre registre. Si l'agent touche à des données sensibles ou à des situations individuelles, faites une analyse d'impact avec votre délégué à la protection des données ou votre conseil.

Les règles européennes sur l'IA évoluent et visent en priorité les usages qui touchent les salariés : avant de mettre un agent au contact des équipes RH, demandez à votre conseil si votre cas est concerné. Un agent qui explique une procédure sans rien décider est bien moins exposé qu'un outil qui trie des candidatures ou note des salariés. Raison de plus pour tenir le périmètre étroit et documenté.

Qui est responsable ? Votre entreprise. Ni Microsoft, qui fournit la plateforme, ni votre prestataire, qui construit l'agent selon vos consignes. C'est pourquoi chaque agent a chez nous un propriétaire métier nommé, qui valide les sources, lit la revue mensuelle et tient le bouton d'arrêt. Un agent sans propriétaire est un agent qu'on retirera dans l'urgence, un jour.

Pour un premier agent, notre article par où commencer avec Copilot Studio aide à choisir le périmètre, et notre offre de réalisation au forfait livre ces garde-fous avec l'agent. Pour un agent existant qu'on hésite à ouvrir, un cadrage court passe ces garde-fous en revue et rend la liste précise de ce qui manque.