Assister, recommander ou décider : choisir le bon niveau de délégation à l'IA

Beaucoup de projets IA débattent du modèle avant de définir le pouvoir confié au système. Pourtant, la même qualité de prédiction peut être acceptable pour préparer un dossier et dangereuse pour exécuter une décision. Le niveau de délégation doit être un choix produit explicite.

Niveau 1 : assister

Le système recherche, résume, classe ou prépare. Une personne reste à l'origine de la décision et voit les éléments nécessaires pour la prendre.

Exemples : synthétiser des notes, extraire des informations, préparer un brouillon, proposer une checklist. C'est souvent le meilleur point de départ lorsqu'une équipe apprend encore la tâche et les erreurs possibles.

Niveau 2 : recommander

Le système compare plusieurs options et en privilégie une. L'humain valide, mais la recommandation influence fortement son attention.

Ce niveau exige davantage que la génération d'une réponse : alternatives visibles, raisons, sources, incertitudes et risque d'automatisation passive. Une validation en un clic n'est pas nécessairement une supervision réelle.

Niveau 3 : décider sous condition

Le système choisit ou agit dans un cadre borné : montant maximal, catégorie autorisée, seuil de confiance, population exclue ou action réversible. Les exceptions sont transférées.

L'autonomie repose ici sur des règles versionnées et observables. Elle doit être retirée lorsque les données, les permissions ou les performances sortent du cadre.

Niveau 4 : décider avec effet important

L'agent déclenche une action sensible ou difficile à annuler. Ce niveau demande une justification particulière, des contrôles indépendants et un recours robuste. Dans de nombreux cas, il ne faut simplement pas l'automatiser.

Le fait qu'une action soit techniquement possible ne crée pas une raison légitime de la déléguer.

La matrice de décision

Évaluez six dimensions :

1. Impact sur une personne, une somme, un droit ou une relation.
2. Réversibilité réelle de l'action.
3. Qualité des preuves et fraîcheur des sources.
4. Détectabilité de l'erreur avant qu'elle produise un dommage.
5. Recours disponible et délai de correction.
6. Maturité des évaluations sur des cas représentatifs.

Impact faible, forte réversibilité et erreur visible favorisent l'assistance ou une autonomie bornée. Impact élevé, faible réversibilité ou erreur tardive ramènent vers la recommandation contrôlée ou l'humain.

Monter l'échelle par la preuve

Ne passez pas directement du prototype à l'exécution autonome. Une progression saine peut suivre quatre étapes :

• mode observation : l'IA produit sans influencer l'action ;
• mode assistance : son travail est utilisé et corrigé ;
• mode recommandation : les décisions et résultats sont comparés ;
• autonomie bornée : seuls les cas répondant aux critères sont exécutés.

Chaque étape doit avoir une métrique, un nombre minimum de cas et un critère de retour en arrière.

Mesurer la qualité de la délégation

Ne mesurez pas uniquement l'exactitude du modèle. Suivez aussi le taux de correction, les validations automatiques, les actions annulées, le temps réellement gagné, les exceptions, les recours et le résultat métier.

Une autonomie qui réduit le temps de traitement mais augmente les reprises ou les dommages ne crée pas de productivité.

Fait, inférence et hypothèse

Fait direct : le risque dépend de l'usage et de l'effet de la sortie, pas seulement du modèle utilisé.

Inférence : une échelle explicite de délégation facilite le dialogue entre produit, métier, technique et conformité.

Hypothèse à tester : commencer par l'assistance produit plus vite une base d'erreurs réelles et permet d'automatiser ensuite les bons cas.

FAQ

Une validation humaine signifie-t-elle que l'IA ne décide pas ?

Pas toujours. Si l'interface pousse fortement une option et que la validation est routinière, l'influence du système peut être quasi décisionnelle.

Quand autoriser l'action automatique ?

Lorsque le périmètre est borné, les erreurs détectables, l'action réversible, les permissions claires et les évaluations suffisamment représentatives.

Peut-on réduire l'autonomie après le lancement ?

Oui, et cette possibilité doit être conçue avant le lancement avec des seuils et un mécanisme de retrait.

Prochaine étape

Positionnez chaque fonction IA sur la matrice de délégation et choisissez celle dont le pouvoir réel est aujourd'hui ambigu. Pour une revue du niveau d'autonomie et des preuves attendues, écrivez à contact@yumea.fr avec l'objet « DÉLÉGATION IA ».