Quand une personne et l’IA divergent : clarifier la décision contestée

Un système d’IA recommande de reporter un lancement prévu. La responsable considère la date réaliste. Les deux évaluations semblent plausibles. Il manque une procédure pour résoudre leur divergence. Demander une nouvelle réponse générée peut laisser l’organisation avec trois avis et la même décision en suspens.

Je traiterais ce désaccord comme un travail à réaliser : quelle affirmation précise sépare les deux évaluations et quelle information pourrait le résoudre ? La séquence qui suit est ma propre proposition organisationnelle. Elle concerne des décisions administratives et économiques délimitées. Elle ne constitue pas une procédure validée pour le diagnostic ou le traitement. L’exemple suivi d’un service d’une entreprise de technologies médicales est fictif.

Ce que la recherche apporte à l’intervention

En 2021, Buçinca et ses collègues ont présenté une expérience portant sur 199 participants inclus dans l’analyse. La tâche consistait à remplacer des ingrédients alimentaires, avec une assistance d’IA simulée. Des dispositifs exigeant une réflexion autonome ont réduit l’acceptation de recommandations incorrectes par rapport à une simple aide explicative, sans la supprimer. Certaines variantes particulièrement efficaces ont reçu des appréciations moins favorables. Le résultat concerne ce cadre expérimental et ne démontre aucun bénéfice pour la sécurité clinique. [1]

Poursabzi-Sangdeh et ses collègues ont mené quatre expériences préenregistrées réunissant 3 800 personnes qui estimaient des prix d’appartements. Une plus grande transparence du modèle améliorait parfois la compréhension de ses prédictions, mais pouvait gêner la correction d’erreurs importantes dans des cas inhabituels. Un message ciblé sur la possibilité de valeurs atypiques a modifié ce résultat dans la quatrième expérience. Le travail, publié en 2021, n’étudie pas les explications produites par les modèles de langage actuels. [2]

Ces résultats délimités me conduisent à une question de conception : comment rendre le point contesté assez clair pour que la personne responsable puisse l’examiner ? La quantité de texte à l’écran est, à elle seule, une mesure peu convaincante. La séquence proposée doit être essayée dans chaque organisation et adaptée pour que la charge de travail reste proportionnée.

1. Formuler le désaccord en une phrase

Dans l’exemple fictif, un service prépare la mise en place d’un espace documentaire interne. L’IA résume des documents de projet autorisés et recommande un report parce que la formation n’aurait pas eu lieu. La responsable du projet se souvient d’une séance achevée. Le désaccord vérifiable est le suivant : la formation requise pour ce lancement a-t-elle été achevée à la date convenue ?

Cette formulation précise l’objet, la condition et la date. Elle évite qu’un débat sur les capacités générales de l’IA se substitue à la vérification particulière. Les personnes peuvent parler de groupes différents. Une autre version de la formation peut s’appliquer. Il peut manquer un document au système. Chaque possibilité appelle une prochaine étape différente.

2. Consigner les fondements de l’évaluation humaine

Avant de générer d’autres explications, la responsable du projet note brièvement les fondements de son évaluation : date d’invitation, groupe de participants dont elle se souvient et justificatif d’achèvement supposé. Son incertitude figure aussi dans la note. Se souvenir d’une séance ne démontre pas, par exemple, la présence de tout le monde. La note rend visibles les éléments de sa propre position qui doivent ensuite être confirmés ou corrigés.

Pour un cas courant, une phrase peut suffire. Une décision aux conséquences plus importantes peut nécessiter une seconde personne responsable. L’essentiel est de donner un objet clair à la vérification supplémentaire. Exiger de longues explications pour chaque petite différence créerait un travail considérable, dont le bénéfice devrait d’abord être démontré.

3. Vérifier indépendamment les informations faisant autorité

Dans cet exemple, le justificatif de formation validé est ouvert depuis l’espace interne connu. La vérification porte sur le groupe concerné, la version de la formation et la date. Un emplacement fourni par l’IA peut servir de piste de recherche ; son existence et son contenu doivent être vérifiés indépendamment. Les droits d’accès existants s’appliquent. Résoudre un désaccord ne justifie pas le transfert de documents protégés vers un système supplémentaire non autorisé.

Le document montre que la responsable se souvient correctement de la formation du premier groupe. Un deuxième groupe a depuis été ajouté au périmètre du lancement. Son justificatif d’achèvement manque. Les deux affirmations initiales étaient trop générales. La décision pertinente concerne désormais le périmètre du lancement et la condition encore non remplie pour ce groupe.

4. Distinguer les faits établis de la décision

Établir un fait ne résout souvent qu’une partie d’une décision. Le service pourrait maintenir la date pour le premier groupe, intégrer le second plus tard ou reporter l’ensemble du lancement. L’acceptabilité d’une option dépend des interdépendances, des engagements et des exigences internes applicables. Cette appréciation reste du ressort de la fonction responsable.

La personne qui décide consigne donc deux énoncés brefs : ce qui a été établi, puis l’action qui en découle avec sa justification. Avec d’autres éléments, la même démarche pourrait confirmer la recommandation initiale de l’IA. Son objectif est une décision argumentée. Un taux élevé de corrections humaines ne démontrerait pas davantage la qualité, à lui seul, qu’un taux élevé d’accord.

5. Accepter qu’une information manquante reste un résultat

Il arrive que le document décisif soit introuvable. Identifiez la condition non résolue, la personne capable de la clarifier et un moment adapté pour la prochaine décision. Si une décision s’impose plus tôt, les responsabilités désignées et les règles de gestion de l’incertitude s’appliquent. Une autre formulation générée ne peut pas fournir l’information manquante.

Je traiterais d’abord une affirmation telle que « Je suis certain à 95 % » comme un élément de la réponse également. Un tel chiffre mérite un poids dans la décision seulement si son origine est comprise et si son lien avec l’exactitude réelle a été vérifié sur des cas comparables évalués indépendamment. C’est la règle d’évaluation que je propose. Les deux études citées ne mesurent pas l’étalonnage de la confiance des modèles de langage actuels.

6. Consigner la cause pour les prochains cas

Après la décision, une courte indication de cause suffit dans cet exemple : le périmètre du lancement variait entre les documents. Cela diffère d’une source manquante, d’une synthèse inexacte ou d’un souvenir humain devenu obsolète. Distinguer ces possibilités aide à choisir une modification appropriée. Une formation supplémentaire contribuerait peu, par exemple, à résoudre directement des périmètres de projet contradictoires.

Pour les cas récurrents, l’organisation peut recueillir quelques éléments autorisés : type de désaccord, base de vérification, décision, incertitude restante et travaux de suivi nécessaires. Cette collecte exige des règles de conservation définies et un accès limité. Les informations personnelles ou les secrets d’affaires n’y ont leur place que si leur traitement à cette fin a été autorisé. Une description abstraite du type d’erreur suffit souvent.

Une courte fiche pour le prochain cas

La fiche peut comporter six rubriques : affirmation contestée, raisonnement humain, informations faisant autorité, faits établis, décision assumée et modification nécessaire. Elle reste vide jusqu’à ce qu’un désaccord réel justifie son utilisation. Elle doit faciliter la vérification et peut être raccourcie ou affinée après de premiers essais autorisés.

Ce qui m’intéresse particulièrement est la possibilité d’apprentissage pour l’organisation. Un désaccord correctement résolu peut révéler des termes imprécis, des sources manquantes ou des responsabilités floues. L’examen du cas particulier rend ces différences visibles. Une réponse d’IA préoccupante peut alors devenir une raison traçable d’améliorer la base commune des décisions.