En bref
Arrêtez d’abord l’agent : mettez-le en pause ou révoquez ses clés, pour qu’il ne répète pas l’erreur. Lisez ensuite dans le journal tout ce qu’il a fait, annulez ce qui peut l’être, prévenez les personnes concernées, notez ce qui s’est passé, et changez la règle qui l’a permis, le plus souvent en faisant attendre cette action l’approbation d’une personne la prochaine fois.
Votre première heure
Choisissez ce qui s’est passé. Cochez chaque étape au fur et à mesure ; l’ordre compte.
Ce qui s’est passé
La première heure, dans l’ordre
L’ordre compte : un agent qui tourne encore peut répéter une erreur pendant que vous lisez la première.
- Arrêter : mettez l’agent en pause ou révoquez ses clés. Ne déboguez pas un agent qui tourne.
- Regarder : lisez dans le journal tout ce qu’il a fait, pas seulement l’erreur remarquée.
- Annuler ce qui peut l’être ; certaines choses, comme un remboursement ou un e-mail envoyé, ne peuvent pas l’être.
- Prévenir : les personnes concernées et votre équipe, avec des mots simples.
- Consigner : ce qui s’est passé, quand, ce que vous avez fait et ce que cela a coûté.
- Changer la règle : décidez quelle action aurait dû attendre une personne.
Pourquoi c’est arrivé, le plus souvent
Les erreurs d’agents ne se ressemblent jamais tout à fait, mais les causes se répètent.
- La clé pouvait faire plus que ce dont la tâche avait besoin.
- Une instruction cachée dans un e-mail, un ticket ou une page web a orienté l’agent.
- Rien ne se trouvait entre la proposition et le changement : aucune approbation.
- Personne ne lisait son journal, alors une petite erreur s’est répétée.
Éviter la prochaine
La plupart des incidents d’agents ont une cause commune : l’agent pouvait agir seul. Séparez proposer et exécuter, pour que les changements risqués attendent une personne ; donnez à chaque agent seulement l’accès dont sa tâche a besoin ; et gardez les clés là où les agents peuvent s’en servir sans en garder de copie.
Check-list
Prêt avant que cela arrive
- Vous savez mettre chaque agent en pause en une étape.
- Vous pouvez révoquer les clés de chaque agent à un seul endroit.
- Chaque action d’un agent est journalisée.
- Les actions irréversibles attendent une personne.
- Chaque agent a une personne responsable.
Comment MoltenRock évite la cause habituelle
Dans MoltenRock Connect, les changements dans Stripe, Cloudflare et GitHub attendent votre approbation : un agent ne peut pas les faire seul. Dans MoltenRock, les clés sont remises agent par agent, et chaque remise est journalisée.
- Approuver les actions d’un agent IAL’agent propose ; rien ne change sans votre approbation.
- Un journal des agents IACe que chaque agent a demandé, et quand.
- Remboursements Stripe avec Claude CodeDes remboursements qui attendent votre Touch ID.
- S’entraîner à déciderUne formation gratuite pour repérer une mauvaise proposition avant de l’approuver.
Questions
Faut-il éteindre l’agent pour de bon ?
Pas forcément. La plupart des incidents viennent d’une action qui aurait dû demander une approbation. Corrigez cela, et l’agent est plus sûr qu’avant.
Devons-nous le signaler ?
Cela dépend de ce qui s’est passé et de l’endroit où vous êtes ; les données personnelles et les paiements peuvent entraîner des obligations. Demandez à quelqu’un qui connaît vos obligations.
Qui doit être responsable d’un agent ?
La personne responsable du système où il travaille : la facturation, le site, le code. Elle fixe ses règles et lit son journal.
Autres guides
- Une IA privée et sûre pour les entreprises : guide pratique
- Une politique simple contre l’IA fantôme pour les petites entreprises
- IA et secret professionnel : guide pratique pour cabinets et fiduciaires
- L’humain dans la boucle, expliqué : quand un agent IA doit demander d’abord
- Agents IA et argent : guide des remboursements et des litiges
- Laisser l’IA modifier votre Cloudflare, en toute sécurité
- Hygiène des secrets pour agents IA : OpenClaw, Hermes et vos clés d’API
- Le tri des e-mails par l’IA, sans droit d’envoi
- Une politique d’agents IA en cinq minutes
- 10 questions avant qu’un outil d’IA accède à vos comptes
- Solutions →