La recommandation est claire. L’argumentation paraît solide. La conclusion tient parfaitement sur une page.
Puis une question simple arrive : quelle hypothèse soutient réellement cette recommandation ?
Le silence s’installe.
L’IA a peut-être fourni un excellent travail. Elle a pu comparer davantage d’informations, faire apparaître d’autres options et donner une forme précise à des idées dispersées.
Le problème n’est pas sa présence.
Il commence lorsque la réponse paraît plus solide que la compréhension que l’entreprise en a.
La réponse est là. L’explication ne l’est pas encore.
Une réponse fluide n’est pas encore une explication
En 2002, Leonid Rozenblit et Frank Keil ont étudié la manière dont des personnes évaluaient leur compréhension de mécanismes familiers. La demande d’une explication détaillée révélait souvent des lacunes que la première estimation ne montrait pas.
Leur étude ne portait ni sur l’IA ni sur les entreprises. Elle ne démontre donc rien sur l’usage organisationnel d’un modèle. Elle offre toutefois un miroir utile : ce qui paraît familier et plausible n’est pas toujours réellement explicable.
L’IA peut rendre cette frontière moins visible. Elle structure des idées partielles, complète les transitions et formule une réponse qui semble achevée.
Une formulation aboutie ne constitue pas encore une compréhension partagée.
L’IA peut élargir le raisonnement
Bien utilisée, l’IA permet d’examiner davantage d’options, de comparer des sources, de formuler une objection et de tester une hypothèse sous plusieurs angles.
C’est un gain réel.
Sa valeur ne réside pas uniquement dans la rapidité de la réponse. Elle réside aussi dans la qualité des questions qu’elle permet d’ouvrir.
La réponse doit donc rester vérifiable, modifiable et transférable à un autre contexte. Une formulation convaincante ne doit pas fermer une réflexion que l’entreprise doit encore mener.
La propriété se révèle lorsque le cas change
Le premier cas montre rarement si le raisonnement appartient vraiment à l’entreprise. Le suivant le montre.
Que se passe-t-il lorsqu’une source devient incertaine ? Lorsqu’une exception apparaît ? Lorsqu’un responsable conteste la recommandation ?
L’entreprise peut-elle identifier l’hypothèse concernée et adapter sa décision ?
Si seul le résultat peut être reproduit, la dépendance reste invisible. Si le raisonnement peut être reconstruit, l’IA devient une extension durable de la capacité de l’entreprise.
L’explication doit rester dans l’entreprise
Il ne s’agit pas d’accéder au raisonnement interne d’un modèle. Il s’agit de conserver une base de décision propre à l’entreprise.
Cinq questions permettent de la vérifier :
- Quelles sources soutiennent la réponse ?
- Quelles hypothèses ont été posées ?
- Où se trouvent les limites et les exceptions ?
- Qui peut contester la recommandation avec la compétence nécessaire ?
- Quel changement rendrait la réponse invalide ?
Une entreprise capable d’y répondre n’utilise pas moins l’IA. Elle l’utilise avec davantage de maîtrise.
Une réponse appartient à l’entreprise lorsqu’elle peut en vérifier le fondement et le modifier.
Patrick Thole, Disruption Dynamics, Zurich
disruption-dynamics.ch