Dans mon article sur le shadow AI, je conseillais de donner à vos équipes un outil d'IA approuvé plutôt que d'interdire. L'étape suivante arrive vite : laisser cet outil agir, lire vos e-mails, écrire dans l'ERP, lancer des commandes, préparer des paiements. Avant de confier des outils à un agent IA, posez des garde-fous : neuf règles simples, qui ne dépendent pas du modèle choisi.
L'essentiel
- Un agent IA ne se contente pas de répondre : il agit, avec les droits que vous lui donnez. L'OWASP, référence de la sécurité applicative, classe cette « agentivité excessive » parmi les dix risques majeurs des applications d'IA.
- L'injection de prompt, c'est-à-dire des instructions cachées dans un e-mail, une page ou un PDF que l'agent lit, n'a pas de parade infaillible. L'OWASP et Anthropic l'écrivent noir sur blanc.
- La question utile pour un dirigeant : cette action se rattrape-t-elle ? L'humain valide tout ce qui ne se rattrape pas.
- Neuf garde-fous suffisent pour démarrer, et aucun ne demande d'outil coûteux.
Garde-fous d'un agent IA : de la réponse à l'action
Un assistant qui répond se trompe sur une page ; un agent qui agit se trompe dans votre comptabilité. L'OWASP nomme ce risque Excessive Agency dans son Top 10 2025 des applications de modèles de langage : une action dommageable déclenchée par une sortie inattendue, ambiguë ou manipulée du modèle. Il en donne trois causes : trop de fonctions, trop de permissions, trop d'autonomie. Dans l'édition 2026, annoncée en septembre, ce risque monte à la troisième place. L'OWASP a aussi publié, en décembre 2025, un Top 10 propre aux applications agentiques.
Le danger ne vient pas seulement d'une erreur du modèle. Il vient aussi de ce qu'il lit. L'OWASP appelle « injection indirecte » le cas où l'agent lit un contenu externe, site ou fichier, qui contient des instructions, et les suit. Et il reconnaît qu'on ne sait pas s'il existe une méthode infaillible pour l'empêcher. Anthropic a publié en novembre 2025 ses mesures sur un agent qui navigue sur le web : face à un attaquant qui essaie cent variantes, environ 1 % des attaques réussissent encore avec ses meilleures protections. L'éditeur y voit lui-même « un risque significatif ».
Réversible ou irréversible : la seule question qui compte
Pour décider ce qu'un agent peut faire seul, une seule question : peut-on revenir en arrière ?
- ERP. Un brouillon se supprime ; une facture validée ou une écriture lettrée, beaucoup moins. L'agent lit et prépare, une personne valide. Je détaille ce cas dans Sécurité MCP.
- E-mail. Lire et rédiger un brouillon se rattrape ; un envoi, jamais. L'agent prépare, vous envoyez.
- Serveur et shell. Lister des fichiers se rattrape ; supprimer ou reconfigurer, pas toujours. Les commandes courantes sur une liste, tout le reste sur approbation.
- Paiements. Un virement parti ne revient pas. L'agent prépare l'ordre, un humain le signe dans l'e-banking, toujours.
Pour les systèmes d'IA à haut risque, le règlement européen sur l'IA exige que la personne chargée du contrôle puisse « interrompre le système au moyen d'un bouton d'arrêt » (art. 14). Un agent de bureau n'entre en principe pas dans cette catégorie, mais le principe vaut d'être repris.
Les neuf garde-fous
- Droits minimaux. Un compte au nom de l'agent, limité aux outils et aux données de sa tâche. Ce qu'il ne doit pas faire, il ne doit pas pouvoir le faire : l'autorisation se vérifie dans le logiciel visé, pas dans le jugement du modèle.
- Agents séparés. Celui qui lit le web ou les e-mails n'a ni l'ERP, ni le shell, ni les paiements.
- Contenus lus tenus pour suspects. Un e-mail, une facture en PDF ou une page web peuvent contenir des ordres. Aucune action irréversible ne doit découler d'un contenu externe sans relecture humaine.
- Essai à blanc. L'agent simule, montre ce qui changerait, puis annule. À défaut, il présente la liste exacte des modifications prévues.
- Sauvegarde avant écriture. Une copie restaurable avant chaque lot de modifications. Et archiver plutôt que supprimer : un déplacement se défait, une suppression non.
- Accord humain explicite pour l'irréversible. Envoi, paiement, suppression, écriture dans un système externe. L'accord porte sur des objets nommés, pas sur « fais le ménage ».
- Journal. Chaque action laisse une trace : qui, quand, quoi, avec quel résultat.
- Budget plafonné. Un agent qui boucle consomme sans limite. L'OWASP parle de « consommation non bornée » : plafonds, quotas et délais d'expiration.
- Arrêt d'urgence. Savoir couper l'agent et révoquer ses accès en quelques minutes, et l'avoir essayé une fois.
Sous le capot : pour votre informaticien
La distinction qui compte : une barrière technique contre une simple consigne donnée au modèle.
- Le prompt système n'est pas un contrôle d'accès. Refuser un outil à un agent qui garde un shell ne l'empêche pas d'appeler la même API par curl. La documentation de Claude Code le précise : une règle de refus porte sur la commande telle qu'elle est écrite ; pour un vrai blocage réseau, il faut le bac à sable.
- Isolation. Un conteneur ou une machine virtuelle par agent exposé au contenu externe : système de fichiers en lecture seule, sortie réseau filtrée par liste de domaines, aucun secret monté.
- Identités. Une clé d'API par agent et par usage, des droits restreints côté serveur : rôle limité dans l'ERP, jeton OAuth à portée réduite, compte de messagerie sans droit d'envoi pour l'agent qui lit. Révocation scriptée.
- Approbations en échec fermé. Sans réponse humaine, c'est un refus. OpenAI recommande de garder les approbations d'outils actives, lectures comprises, pour tout outil MCP.
- Séparer données et instructions. Le contenu non fiable passe dans le message utilisateur, jamais dans les instructions système, et des sorties structurées (schéma JSON) relient les étapes, ce qui ferme un canal de contrebande.
- Journal hors de portée de l'agent. Centralisé, en ajout seul : l'agent ne doit pas pouvoir effacer ses traces. Alerte sur un volume d'actions anormal.
- Budget et coupure. Plafond de dépense par clé chez le fournisseur, nombre maximal de tours par tâche, délai d'expiration, et une procédure d'arrêt (service stoppé, clés révoquées) testée.
- Cadre. Le NIST AI RMF (gouverner, cartographier, mesurer, gérer) et son profil IA générative donnent une trame reconnue.
Ce que j'en ai appris
Mes règles maison sont nées d'incidents, pas de la théorie : jamais d'écriture sans sauvegarde, rien d'irréversible sans un accord explicite, archiver plutôt que supprimer. Pendant ma migration d'ERP, un premier test de synchronisation a effacé quatre événements de mon agenda.
Pour ma comptabilité tenue avec un agent IA, rien n'est écrit sans un essai à blanc ni sans mon accord : l'agent rédige un plan, le joue à blanc, je relis, puis il l'exécute après une sauvegarde de la base. Avec mon ancien assistant OpenClaw, j'avais séparé les agents selon la confiance, et appris qu'interdire l'outil web à un agent qui garde un shell ne bloque rien. Aujourd'hui, mes agents sur serveur appliquent les mêmes principes. Le budget fait partie de la sécurité : voyez Coût API IA.
Par où commencer
1. Faire l'inventaire des actions
Pour chaque outil que vous voulez confier à un agent, listez ce qu'il pourrait y faire, et marquez ce qui ne se rattrape pas.
2. Démarrer en lecture et en brouillon
Les premières semaines, l'agent lit, résume et prépare ; vous exécutez. Vous voyez où il se trompe, sans risque.
3. Ouvrir une action à la fois, avec ses garde-fous
Essai à blanc, sauvegarde, accord, journal et plafond pour chaque nouvelle action. Et testez l'arrêt d'urgence avant d'en avoir besoin.
Questions fréquentes
Mon fournisseur d'IA ne me protège-t-il pas déjà ?
Il réduit le risque, il ne le supprime pas : Anthropic mesure encore environ 1 % d'attaques réussies dans ses tests de navigation. Le dernier rempart reste les droits de l'agent.
Valider chaque action, cela n'annule-t-il pas le gain de temps ?
Non, si vous ne validez que l'irréversible. L'agent fait seul le travail répétitif et vous présente un lot à approuver en une fois.
Ces garde-fous sont-ils obligatoires ?
Le règlement européen sur l'IA impose un contrôle humain aux systèmes à haut risque. Dès que l'agent traite des données personnelles, la loi sur la protection des données s'applique, comme je l'explique dans nLPD et IA.
Pour aller plus loin
Je mets en place des agents IA avec ces garde-fous dès le départ, sur une infrastructure que vous contrôlez. Les guides de mon serveur IA détaillent la pile technique. Pour en parler sur votre cas : un appel découverte de 20 minutes.
Les guides pas à pas
Pour poser ces garde-fous sur un serveur que vous contrôlez, mon guide n° 6 (39 CHF) décrit des agents aux permissions séparées, des conteneurs isolés pour ceux qui lisent du contenu externe et des approbations avant toute exécution ; mon guide n° 3 (39 CHF) range clés et mots de passe dans un coffre-fort et des fichiers chiffrés, pour qu'aucun secret ne reste en clair. Tous deux font partie du Pack des guides (149 CHF), une stack complète, documentée et testée en production.
Sources
- LLM06:2025 Excessive Agency, OWASP GenAI Security Project, consulté le 15 novembre 2026
- LLM01:2025 Prompt Injection, OWASP GenAI Security Project, consulté le 15 novembre 2026
- LLM10:2025 Unbounded Consumption, OWASP GenAI Security Project, consulté le 15 novembre 2026
- OWASP GenAI Security Project Unveils 2026 Top 10 for LLM Applications, OWASP, 1er septembre 2026
- OWASP Top 10 for Agentic Applications for 2026, OWASP, 9 décembre 2025
- Mitigating the risk of prompt injections in browser use, Anthropic, 24 novembre 2025
- Safety in building agents, OpenAI, consulté le 15 novembre 2026
- Claude Code: Security, Anthropic, consulté le 15 novembre 2026
- AI Risk Management Framework (AI RMF 1.0) et profil IA générative (NIST AI 600-1), NIST, 26 janvier 2023 et 26 juillet 2024
- Règlement (UE) 2024/1689 sur l'intelligence artificielle, art. 14, Union européenne, 13 juin 2024
Photo de couverture : Flygklubben / Wikimedia Commons, licence CC BY-SA 4.0.
Tags : garde-fous IA, agents IA, injection de prompt, sécurité, OWASP, AI Act, PME