Se rendre au contenu

Garde-fous des agents IA : avant de leur confier vos outils

ERP, e-mails, serveur, paiements : neuf règles pour qu'un agent IA agisse sans jamais faire ce qui ne se rattrape pas.
15 novembre 2026 par
Garde-fous des agents IA : avant de leur confier vos outils
Federico Solutions, Myrko Federico

Dans mon article sur le shadow AI, je conseillais de donner à vos équipes un outil d'IA approuvé plutôt que d'interdire. L'étape suivante arrive vite : laisser cet outil agir, lire vos e-mails, écrire dans l'ERP, lancer des commandes, préparer des paiements. Avant de confier des outils à un agent IA, posez des garde-fous : neuf règles simples, qui ne dépendent pas du modèle choisi.

L'essentiel

  • Un agent IA ne se contente pas de répondre : il agit, avec les droits que vous lui donnez. L'OWASP, référence de la sécurité applicative, classe cette « agentivité excessive » parmi les dix risques majeurs des applications d'IA.
  • L'injection de prompt, c'est-à-dire des instructions cachées dans un e-mail, une page ou un PDF que l'agent lit, n'a pas de parade infaillible. L'OWASP et Anthropic l'écrivent noir sur blanc.
  • La question utile pour un dirigeant : cette action se rattrape-t-elle ? L'humain valide tout ce qui ne se rattrape pas.
  • Neuf garde-fous suffisent pour démarrer, et aucun ne demande d'outil coûteux.

Garde-fous d'un agent IA : de la réponse à l'action

Un assistant qui répond se trompe sur une page ; un agent qui agit se trompe dans votre comptabilité. L'OWASP nomme ce risque Excessive Agency dans son Top 10 2025 des applications de modèles de langage : une action dommageable déclenchée par une sortie inattendue, ambiguë ou manipulée du modèle. Il en donne trois causes : trop de fonctions, trop de permissions, trop d'autonomie. Dans l'édition 2026, annoncée en septembre, ce risque monte à la troisième place. L'OWASP a aussi publié, en décembre 2025, un Top 10 propre aux applications agentiques.

Le danger ne vient pas seulement d'une erreur du modèle. Il vient aussi de ce qu'il lit. L'OWASP appelle « injection indirecte » le cas où l'agent lit un contenu externe, site ou fichier, qui contient des instructions, et les suit. Et il reconnaît qu'on ne sait pas s'il existe une méthode infaillible pour l'empêcher. Anthropic a publié en novembre 2025 ses mesures sur un agent qui navigue sur le web : face à un attaquant qui essaie cent variantes, environ 1 % des attaques réussissent encore avec ses meilleures protections. L'éditeur y voit lui-même « un risque significatif ».

Réversible ou irréversible : la seule question qui compte

Pour décider ce qu'un agent peut faire seul, une seule question : peut-on revenir en arrière ?

  • ERP. Un brouillon se supprime ; une facture validée ou une écriture lettrée, beaucoup moins. L'agent lit et prépare, une personne valide. Je détaille ce cas dans Sécurité MCP.
  • E-mail. Lire et rédiger un brouillon se rattrape ; un envoi, jamais. L'agent prépare, vous envoyez.
  • Serveur et shell. Lister des fichiers se rattrape ; supprimer ou reconfigurer, pas toujours. Les commandes courantes sur une liste, tout le reste sur approbation.
  • Paiements. Un virement parti ne revient pas. L'agent prépare l'ordre, un humain le signe dans l'e-banking, toujours.

Pour les systèmes d'IA à haut risque, le règlement européen sur l'IA exige que la personne chargée du contrôle puisse « interrompre le système au moyen d'un bouton d'arrêt » (art. 14). Un agent de bureau n'entre en principe pas dans cette catégorie, mais le principe vaut d'être repris.

Les neuf garde-fous

  • Droits minimaux. Un compte au nom de l'agent, limité aux outils et aux données de sa tâche. Ce qu'il ne doit pas faire, il ne doit pas pouvoir le faire : l'autorisation se vérifie dans le logiciel visé, pas dans le jugement du modèle.
  • Agents séparés. Celui qui lit le web ou les e-mails n'a ni l'ERP, ni le shell, ni les paiements.
  • Contenus lus tenus pour suspects. Un e-mail, une facture en PDF ou une page web peuvent contenir des ordres. Aucune action irréversible ne doit découler d'un contenu externe sans relecture humaine.
  • Essai à blanc. L'agent simule, montre ce qui changerait, puis annule. À défaut, il présente la liste exacte des modifications prévues.
  • Sauvegarde avant écriture. Une copie restaurable avant chaque lot de modifications. Et archiver plutôt que supprimer : un déplacement se défait, une suppression non.
  • Accord humain explicite pour l'irréversible. Envoi, paiement, suppression, écriture dans un système externe. L'accord porte sur des objets nommés, pas sur « fais le ménage ».
  • Journal. Chaque action laisse une trace : qui, quand, quoi, avec quel résultat.
  • Budget plafonné. Un agent qui boucle consomme sans limite. L'OWASP parle de « consommation non bornée » : plafonds, quotas et délais d'expiration.
  • Arrêt d'urgence. Savoir couper l'agent et révoquer ses accès en quelques minutes, et l'avoir essayé une fois.

Sous le capot : pour votre informaticien

La distinction qui compte : une barrière technique contre une simple consigne donnée au modèle.

  • Le prompt système n'est pas un contrôle d'accès. Refuser un outil à un agent qui garde un shell ne l'empêche pas d'appeler la même API par curl. La documentation de Claude Code le précise : une règle de refus porte sur la commande telle qu'elle est écrite ; pour un vrai blocage réseau, il faut le bac à sable.
  • Isolation. Un conteneur ou une machine virtuelle par agent exposé au contenu externe : système de fichiers en lecture seule, sortie réseau filtrée par liste de domaines, aucun secret monté.
  • Identités. Une clé d'API par agent et par usage, des droits restreints côté serveur : rôle limité dans l'ERP, jeton OAuth à portée réduite, compte de messagerie sans droit d'envoi pour l'agent qui lit. Révocation scriptée.
  • Approbations en échec fermé. Sans réponse humaine, c'est un refus. OpenAI recommande de garder les approbations d'outils actives, lectures comprises, pour tout outil MCP.
  • Séparer données et instructions. Le contenu non fiable passe dans le message utilisateur, jamais dans les instructions système, et des sorties structurées (schéma JSON) relient les étapes, ce qui ferme un canal de contrebande.
  • Journal hors de portée de l'agent. Centralisé, en ajout seul : l'agent ne doit pas pouvoir effacer ses traces. Alerte sur un volume d'actions anormal.
  • Budget et coupure. Plafond de dépense par clé chez le fournisseur, nombre maximal de tours par tâche, délai d'expiration, et une procédure d'arrêt (service stoppé, clés révoquées) testée.
  • Cadre. Le NIST AI RMF (gouverner, cartographier, mesurer, gérer) et son profil IA générative donnent une trame reconnue.

Ce que j'en ai appris

Mes règles maison sont nées d'incidents, pas de la théorie : jamais d'écriture sans sauvegarde, rien d'irréversible sans un accord explicite, archiver plutôt que supprimer. Pendant ma migration d'ERP, un premier test de synchronisation a effacé quatre événements de mon agenda.

Pour ma comptabilité tenue avec un agent IA, rien n'est écrit sans un essai à blanc ni sans mon accord : l'agent rédige un plan, le joue à blanc, je relis, puis il l'exécute après une sauvegarde de la base. Avec mon ancien assistant OpenClaw, j'avais séparé les agents selon la confiance, et appris qu'interdire l'outil web à un agent qui garde un shell ne bloque rien. Aujourd'hui, mes agents sur serveur appliquent les mêmes principes. Le budget fait partie de la sécurité : voyez Coût API IA.

Par où commencer

1. Faire l'inventaire des actions

Pour chaque outil que vous voulez confier à un agent, listez ce qu'il pourrait y faire, et marquez ce qui ne se rattrape pas.

2. Démarrer en lecture et en brouillon

Les premières semaines, l'agent lit, résume et prépare ; vous exécutez. Vous voyez où il se trompe, sans risque.

3. Ouvrir une action à la fois, avec ses garde-fous

Essai à blanc, sauvegarde, accord, journal et plafond pour chaque nouvelle action. Et testez l'arrêt d'urgence avant d'en avoir besoin.

Questions fréquentes

Mon fournisseur d'IA ne me protège-t-il pas déjà ?

Il réduit le risque, il ne le supprime pas : Anthropic mesure encore environ 1 % d'attaques réussies dans ses tests de navigation. Le dernier rempart reste les droits de l'agent.

Valider chaque action, cela n'annule-t-il pas le gain de temps ?

Non, si vous ne validez que l'irréversible. L'agent fait seul le travail répétitif et vous présente un lot à approuver en une fois.

Ces garde-fous sont-ils obligatoires ?

Le règlement européen sur l'IA impose un contrôle humain aux systèmes à haut risque. Dès que l'agent traite des données personnelles, la loi sur la protection des données s'applique, comme je l'explique dans nLPD et IA.

Pour aller plus loin

Je mets en place des agents IA avec ces garde-fous dès le départ, sur une infrastructure que vous contrôlez. Les guides de mon serveur IA détaillent la pile technique. Pour en parler sur votre cas : un appel découverte de 20 minutes.

Les guides pas à pas

Pour poser ces garde-fous sur un serveur que vous contrôlez, mon guide n° 6 (39 CHF) décrit des agents aux permissions séparées, des conteneurs isolés pour ceux qui lisent du contenu externe et des approbations avant toute exécution ; mon guide n° 3 (39 CHF) range clés et mots de passe dans un coffre-fort et des fichiers chiffrés, pour qu'aucun secret ne reste en clair. Tous deux font partie du Pack des guides (149 CHF), une stack complète, documentée et testée en production.

Sources

Photo de couverture : Flygklubben / Wikimedia Commons, licence CC BY-SA 4.0.

Tags : garde-fous IA, agents IA, injection de prompt, sécurité, OWASP, AI Act, PME

Relier Odoo et kSuite d'Infomaniak : mail, agenda, contacts
Ce que j'ai réellement branché entre mon Odoo auto-hébergé et kSuite, ce qui marche au quotidien, et les limites.