Guide · Incidents

Quand un agent IA se trompe

Tôt ou tard, un agent remboursera la mauvaise commande, supprimera la mauvaise fiche ou enverra le mauvais e-mail. Ce que vous faites dans la première heure décide si cela reste une anecdote ou devient un incident.

Mis à jour en novembre 2026

En bref

Arrêtez d’abord l’agent : mettez-le en pause ou révoquez ses clés, pour qu’il ne répète pas l’erreur. Lisez ensuite dans le journal tout ce qu’il a fait, annulez ce qui peut l’être, prévenez les personnes concernées, notez ce qui s’est passé, et changez la règle qui l’a permis, le plus souvent en faisant attendre cette action l’approbation d’une personne la prochaine fois.

Votre première heure

Choisissez ce qui s’est passé. Cochez chaque étape au fur et à mesure ; l’ordre compte.

Ce qui s’est passé

La première heure, dans l’ordre

L’ordre compte : un agent qui tourne encore peut répéter une erreur pendant que vous lisez la première.

  • Arrêter : mettez l’agent en pause ou révoquez ses clés. Ne déboguez pas un agent qui tourne.
  • Regarder : lisez dans le journal tout ce qu’il a fait, pas seulement l’erreur remarquée.
  • Annuler ce qui peut l’être ; certaines choses, comme un remboursement ou un e-mail envoyé, ne peuvent pas l’être.
  • Prévenir : les personnes concernées et votre équipe, avec des mots simples.
  • Consigner : ce qui s’est passé, quand, ce que vous avez fait et ce que cela a coûté.
  • Changer la règle : décidez quelle action aurait dû attendre une personne.

Pourquoi c’est arrivé, le plus souvent

Les erreurs d’agents ne se ressemblent jamais tout à fait, mais les causes se répètent.

  • La clé pouvait faire plus que ce dont la tâche avait besoin.
  • Une instruction cachée dans un e-mail, un ticket ou une page web a orienté l’agent.
  • Rien ne se trouvait entre la proposition et le changement : aucune approbation.
  • Personne ne lisait son journal, alors une petite erreur s’est répétée.

Éviter la prochaine

La plupart des incidents d’agents ont une cause commune : l’agent pouvait agir seul. Séparez proposer et exécuter, pour que les changements risqués attendent une personne ; donnez à chaque agent seulement l’accès dont sa tâche a besoin ; et gardez les clés là où les agents peuvent s’en servir sans en garder de copie.

Check-list

Prêt avant que cela arrive

  • Vous savez mettre chaque agent en pause en une étape.
  • Vous pouvez révoquer les clés de chaque agent à un seul endroit.
  • Chaque action d’un agent est journalisée.
  • Les actions irréversibles attendent une personne.
  • Chaque agent a une personne responsable.

Comment MoltenRock évite la cause habituelle

Dans MoltenRock Connect, les changements dans Stripe, Cloudflare et GitHub attendent votre approbation : un agent ne peut pas les faire seul. Dans MoltenRock, les clés sont remises agent par agent, et chaque remise est journalisée.

Questions

Faut-il éteindre l’agent pour de bon ?

Pas forcément. La plupart des incidents viennent d’une action qui aurait dû demander une approbation. Corrigez cela, et l’agent est plus sûr qu’avant.

Devons-nous le signaler ?

Cela dépend de ce qui s’est passé et de l’endroit où vous êtes ; les données personnelles et les paiements peuvent entraîner des obligations. Demandez à quelqu’un qui connaît vos obligations.

Qui doit être responsable d’un agent ?

La personne responsable du système où il travaille : la facturation, le site, le code. Elle fixe ses règles et lit son journal.

Autres guides