17 Septembre 2026 À 16:15
En principe, l’intelligence artificielle est censée nous faire gagner du temps. Elle livre sa réponse en quelques secondes, là où il aurait fallu parcourir un dossier, croiser des données ou relire plusieurs documents. Mais le travail ne s’arrête pas toujours là. Lorsqu’il ne comprend pas comment la machine est arrivée à sa conclusion, le salarié vérifie les informations, refait les calculs ou sollicite un second avis. Une partie du temps gagné est alors aussitôt reperdue.
Ce réflexe est courant. Selon le rapport «Data and AI Impact Report: The New Economics of Trust», publié par SAS à partir d’une étude menée avec IDC auprès de 2.699 décideurs dans 28 pays, 79% des organisations modifient ou annulent les recommandations de l’IA dans plus d’un cas sur dix. Près d’une sur trois intervient même dans plus de 30% des décisions.
On pourrait y voir la conséquence d’une technologie qui commet encore trop d’erreurs. L’étude raconte autre chose. La première raison qui pousse les utilisateurs à reprendre la main n’est pas l’inexactitude du résultat, citée par 14,8% des répondants. C’est l’absence d’explication, qui arrive largement en tête avec 34,5%.
L’IA peut donc donner la bonne réponse et échouer malgré tout. Car entre obtenir un résultat et accepter d’agir sur sa base, il reste une étape décisive: comprendre. Pourquoi cette demande de crédit a-t-elle été refusée ? Sur quels éléments repose cette hausse de prime d’assurance ? Pourquoi tel dossier a-t-il été signalé comme risqué ? Lorsque le système ne montre pas son raisonnement, l’utilisateur hésite. Et plus la décision est lourde de conséquences, plus cette hésitation est légitime.
«Une IA peut être fiable, mais pas forcément digne de confiance», résume un directeur informatique d’une collectivité locale américaine interrogé dans le cadre de l’étude. Si son fonctionnement reste opaque, poursuit-il en substance, impossible de savoir ce qui se passe dans la «boîte noire».
Le manque d’explication n’est pas le seul motif de défiance. Dans 25,6% des cas, les utilisateurs interviennent parce que la recommandation ne tient pas suffisamment compte du contexte. La machine a peut-être correctement traité les informations disponibles. Elle ignore simplement un changement récent, une situation particulière ou une exception que seul connaît le professionnel chargé du dossier.
Réunis, ces deux motifs, à savoir le manque d’explication et la mauvaise prise en compte du contexte, pèsent bien plus lourd que les erreurs factuelles. Le problème se situe donc moins dans la capacité de l’IA à produire une réponse que dans son aptitude à produire une réponse utilisable.
Dans une banque, il peut participer à l’examen d’un dossier de crédit ou à la détection d’une opération suspecte. Chez un assureur, il peut intervenir dans le traitement d’un sinistre. Dans les sciences de la vie, il peut contribuer à sélectionner des patients pour un essai clinique. Dans l’administration, il peut aider à évaluer l’éligibilité à une prestation. Le potentiel est immense et le risque aussi.
L’enquête de SAS évalue à 76% le niveau de confiance accordé à l’IA générative. Il tombe à 66% lorsqu’il s’agit d’une IA capable d’agir. Dix points se perdent au moment où la machine passe de la suggestion à la décision.
Ce recul n’empêche pas les déploiements. Près de 89% des personnes interrogées indiquent que leurs agents d’IA jouent déjà un rôle dans la prise de décision, qu’ils se contentent d’éclairer le choix d’un humain ou qu’ils agissent de manière plus autonome.
Les entreprises se trouvent ainsi dans une situation inconfortable. Elles confient davantage de responsabilités à des systèmes auxquels leurs collaborateurs ne font encore qu’imparfaitement confiance.
Pour se protéger, elles multiplient les contrôles humains. La prudence est compréhensible, parfois indispensable. Mais si chaque recommandation doit être décortiquée, vérifiée puis validée, le gain attendu se réduit rapidement. L’entreprise paie l’outil, puis mobilise ses salariés pour refaire une partie de son travail.
À terme, un autre risque apparaît: celui d’une IA officiellement adoptée, mais discrètement tenue à distance. Elle reste installée, les projets pilotes continuent d’être présentés, pourtant les équipes ne lui confient que des tâches sans grand enjeu. L’investissement existe. La transformation du travail, beaucoup moins.
La confiance ne dépend pas seulement du modèle utilisé. Elle se joue bien avant, dans la manière dont l’entreprise gère ses données.
Sur ce terrain, la marge de progression reste considérable. Seules 17,5% des organisations interrogées estiment disposer d’une infrastructure de données pleinement optimisée. Les autres utilisent encore des informations parfois dispersées, incomplètes ou difficiles à retracer.
Or une IA ne peut expliquer une décision que si elle sait sur quelles données celle-ci repose. Lorsque l’origine des informations est incertaine, la vérification devient laborieuse. Qui a introduit cette donnée ? À quelle date a-t-elle été actualisée ? A-t-elle été corrigée depuis ? Le modèle a-t-il travaillé sur la bonne version ?
Une responsable du secteur des sciences de la vie raconte qu’il a fallu près d’un an à son organisation pour rendre ses données suffisamment fiables. Avant ce travail, reconnaît-elle, les résultats produits par l’IA ne pouvaient pas inspirer confiance.
Les organisations les plus avancées ont pris le problème à la base. Celles dont les données sont optimisées sont six fois plus nombreuses à imposer des outils de contrôle de leur qualité sur chaque projet d’IA. Elles sont également six fois plus susceptibles d’exiger des mécanismes d’explication et cinq fois plus nombreuses à surveiller leurs modèles de manière continue.
Ce sont des travaux peu visibles. Nettoyer des bases de données, suivre leur origine ou organiser des contrôles ne produit pas le même effet qu’une démonstration spectaculaire. C’est pourtant ce qui permet ensuite de laisser l’IA travailler sans placer un salarié derrière chacune de ses décisions.
Beaucoup d’entreprises ont commencé par le plus accessible: rédiger une politique d’utilisation responsable, attribuer les responsabilités et prévoir des audits.
Sur le papier, le cadre se renforce, contrairement au chantier technique qui avance moins vite. Parmi les cinq dimensions étudiées, l’explicabilité et l’équité sont celles qui ont le moins progressé. Ce sont pourtant elles qui cristallisent les réticences des utilisateurs.
Le décalage n’a rien de surprenant. Une charte peut être rédigée en quelques semaines. Rendre les décisions compréhensibles suppose de revoir les données, les modèles et parfois l’interface elle-même. L’explication doit apparaître au moment où le salarié en a besoin, dans des termes qu’il peut exploiter. Elle ne peut pas rester enfouie dans une documentation technique.
Les entreprises les plus avancées ne se limitent pas à publier des règles. Elles les font vivre. Selon le rapport, 85% des organisations les mieux classées forment l’ensemble de leurs collaborateurs à leur politique d’IA responsable. Elles contrôlent leurs modèles en continu et disposent d’équipes de gouvernance capables d’intervenir lorsqu’un système sort du cadre fixé.
Ce fonctionnement peut sembler lourd. Les résultats de l’étude suggèrent l’inverse: savoir précisément ce qui est autorisé, dans quelles limites et sous la responsabilité de qui permet d’éviter les blocages tardifs. Le contrôle devient alors un moyen d’aller plus vite sans avancer à l’aveugle.
Le contraste financier est net. Parmi les organisations les mieux notées en matière de fiabilité de l’IA, 62% déclarent obtenir au moins deux dollars de retour pour chaque dollar investi. Cette proportion tombe à 4% chez les moins avancées. Les premières sont ainsi quinze fois plus susceptibles de faire état d’un rendement élevé.
Elles ne disposent pas nécessairement de modèles radicalement différents. Elles choisissent mieux les usages, suivent leurs résultats et ferment plus rapidement les projets qui ne tiennent pas leurs promesses. Surtout, elles semblent avoir compris qu’un outil peu utilisé, systématiquement corrigé ou cantonné aux démonstrations ne peut pas produire beaucoup de valeur.
La taille n’explique pas tout. Les petites et moyennes organisations affichent un score de fiabilité presque identique à celui des grandes entreprises: 61,9 sur 100, contre 62. Elles ont moins souvent une équipe spécialisée dans les risques liés à l’IA, mais compensent parfois par des circuits de décision plus courts et des responsabilités plus lisibles.
Les résultats doivent toutefois être interprétés avec précaution. L’étude, publiée par SAS avec l’appui d’IDC, repose sur les déclarations des décideurs interrogés. Elle établit un lien fort entre la qualité de l’encadrement et le rendement de l’IA, sans démontrer que la première explique à elle seule le second. Les entreprises les mieux organisées disposent souvent de compétences et de moyens qui jouent aussi sur leurs performances.
Reste un coût que les budgets consacrés à l’IA font rarement apparaître: celui des décisions revérifiées, des dossiers repris et des outils que les équipes renoncent peu à peu à utiliser. L’erreur se voit lorsqu’elle survient. La méfiance, elle, s’installe sans bruit et présente la facture un peu plus tard.