Le mode dégradé des produits IA : rester utile sans inventer

Un produit classique affiche souvent une erreur lorsque son service principal tombe. Un produit IA peut échouer de manière plus trompeuse : il répond encore, mais sans la bonne source, avec une mémoire périmée ou après l'échec silencieux d'un outil. Le mode dégradé doit donc traiter la disponibilité et la qualité de la décision.

Les six causes à prévoir

1. Modèle indisponible ou trop lent.
2. Source absente, ancienne ou contradictoire.
3. Outil externe en erreur.
4. Permission insuffisante ou retirée.
5. Sortie non conforme aux règles.
6. Confiance trop faible pour l'impact attendu.

Ces situations ne demandent pas toutes la même réponse.

Les cinq réponses du produit

Limiter

Fournir uniquement la partie vérifiable. Le produit peut, par exemple, afficher les données disponibles sans générer une recommandation qu'elles ne soutiennent plus.

Demander

Poser une question ciblée lorsqu'une donnée manque ou qu'une ambiguïté change la décision.

Mettre en attente

Conserver le contexte, annoncer un délai et attribuer la reprise à un responsable lorsque la dépendance devrait revenir.

Transférer

Passer à une personne avec les sources, les tentatives, l'erreur et l'action attendue. Un transfert sans contexte déplace seulement le coût.

Suspendre

Ne pas agir lorsque le risque ou l'irréversibilité dépasse ce qui est autorisé. Dire « je ne peux pas vérifier » est une fonction de sûreté.

Construire le canevas de dégradation

Pour chaque capacité, documentez :

• la condition nominale ;
• le signal qui indique qu'elle n'est plus remplie ;
• l'action encore autorisée ;
• le message visible par l'utilisateur ;
• les données à conserver pour reprendre ;
• le responsable et le délai ;
• le signal de retour à la normale ;
• le critère d'arrêt complet.

Ce canevas doit rester proche du produit et de l'exploitation, pas dans un document oublié.

Éviter les faux replis

Changer automatiquement de modèle peut améliorer la disponibilité, mais ce n'est pas toujours un mode dégradé sûr. Le modèle de secours peut avoir d'autres capacités, règles de traitement ou comportements. Il doit être évalué sur la tâche et identifié dans la trace.

De même, utiliser une donnée en cache sans afficher sa date crée une apparence de continuité au prix de la vérité.

Tester comme un scénario utilisateur

Coupez volontairement une source, retirez une permission, injectez une réponse non conforme et ralentissez une intégration. Vérifiez ensuite :

• que le produit détecte réellement la condition ;
• que le message ne promet pas le mode nominal ;
• qu'aucune action interdite ne part ;
• que le contexte utile est conservé ;
• que la reprise ne duplique pas l'action ;
• qu'une personne peut comprendre l'incident.

Mesurer la qualité du repli

Suivez la fréquence par cause, le temps passé en mode dégradé, les actions évitées, le délai de reprise, les doubles exécutions et les dégradations détectées après coup. Ajoutez une métrique métier : dossiers réellement résolus ou utilisateurs ayant pu poursuivre.

Fait, inférence et hypothèse

Fait direct : une réponse techniquement produite peut rester incorrecte ou non autorisée.

Inférence : un mode dégradé explicite protège mieux la confiance qu'une fluidité artificielle.

Hypothèse à tester : annoncer clairement une capacité limitée réduit moins la rétention qu'une réponse erronée découverte plus tard.

FAQ

Un fallback vers un autre modèle suffit-il ?

Non. Il faut vérifier la compatibilité, les permissions, la qualité et l'effet métier, puis rendre le changement observable.

Le mode manuel est-il toujours disponible ?

Seulement si une personne, un délai et un contexte de reprise ont été prévus. Sinon, « passer en manuel » est une promesse vide.

Faut-il avertir l'utilisateur à chaque dégradation ?

Lorsqu'elle modifie la qualité, la fraîcheur, le délai ou l'autorité du résultat, l'information doit être visible et proportionnée.

Prochaine étape

Remplissez le canevas mode dégradé pour votre capacité IA la plus importante, puis testez une panne cette semaine. Pour une revue du scénario et de la reprise, écrivez à contact@yumea.fr avec l'objet « MODE DÉGRADÉ ».