Quand un système d'IA dérape en public

À quoi ça ressemble

Un chatbot qui promet un remboursement que rien ne prévoit, et la capture d'écran circule. Un modèle de tri qui écarte systématiquement un profil, et quelqu'un l'a mesuré. Une fuite de données par une intégration IA que personne n'avait cartographiée. Le point commun : le moment où l'incident devient public ne vous appartient plus. Ce qui vous appartient encore, c'est la qualité de votre réponse.

Les premières 48 heures

Trois gestes, dans l'ordre. Confiner : le système concerné est isolé ou dégradé en mode contrôlé, pas débranché en panique. Comprendre : qu'a fait le système, sur quelles données, depuis quand, pour combien d'utilisateurs. C'est ici que les journaux et la traçabilité construits avant l'incident valent leur poids. Documenter : chaque décision prise est datée et écrite, parce que le récit que vous pourrez faire dans un mois dépend des notes que vous prenez aujourd'hui.

Ce qu'il ne faut surtout pas faire

Nier ce qui est démontrable : la capture d'écran gagnera. Patcher en silence en espérant que personne ne demande : si l'incident est notifiable, le silence devient la deuxième faute, plus grave que la première. Et toucher aux journaux : rien ne transforme un incident technique en affaire comme des traces qui disparaissent.

Ce qui se prépare avant

Un incident bien géré se joue avant l'incident. Un registre des systèmes tenu à jour. Des responsabilités portées par des personnes nommées, pas par un comité théorique. Un canal de décision qui fonctionne un samedi soir. Et quelqu'un qui a déjà vu ça, joignable en heures. C'est exactement ce qu'un retainer d'incident achète : pas de la panique en urgence, de la préparation en avance.

Et pour vous ?

Une conversation d'une heure suffit à situer votre cas. Elle n'engage à rien, sinon à savoir où vous en êtes.

Commencer la conversation