Oui, mais… Eloge de la nuance à l’âge des certitudes artificielles

Voici donc quelques détours autour d’idées qui me semblent plus complexes qu’elles n’en ont l’air. C’est une invitation, peut-être, à cultiver cet esprit critique dont on nous somme à chaque carrefour Linkedin et qui est sans doute l’une des injonctions les plus paradoxales de notre époque ! 

Après tout, l’esprit critique ne naît-il pas précisément du doute, de la friction, de ce vide temporaire qui nous oblige à chercher, hésiter, nous tromper et reformuler nos questions ? De tout ce qui sépare habituellement une question de sa réponse ? Or c’est précisément cette distance que les IA génératives tendent à réduire. 

Bref, il nous reste à comprendre ce qu’il advient de ces détours intellectuels dont nous avons longtemps fait l’expérience sans toujours en percevoir la valeur…

« L’IA va révolutionner l’apprentissage parce que chacun aura un tuteur de poche, comme Aristote pour Alexandre Le Grand »

Oui, la plasticité des IA, leur disponibilité permanente et leur capacité à s’adapter au niveau de chacun vont très probablement transformer l’éducation. Mais cette comparaison avec Aristote et Alexandre, souvent reprise dans la Silicon Valley, oublie plusieurs nuances importantes…

D’abord, Alexandre n’était pas seul avec Aristote. Il recevait son enseignement à Miéza aux côtés d’autres jeunes aristocrates macédoniens qui deviendront plus tard ses compagnons et ses généraux. Son apprentissage passait donc aussi par la confrontation à ses pairs.

Ensuite, Aristote ne connaissait pas seulement l’élève Alexandre. Il connaissait la personne. Une grande partie de la transmission passe par cette connaissance fine de l’autre, nourrie par la présence, les interactions et tout ce que le langage ne dit pas…

Enfin, l’enseignement n’est pas qu’un transfert d’information, c’est une forme de spectacle. On se souvient d’un professeur pour sa passion, son enthousiasme, sa façon d’occuper l’espace ou de faire exister une idée. Une leçon est souvent autant une expérience qu’un contenu.

Avoir un tuteur de poche est sans doute une avancée considérable. Mais si l’on pousse la comparaison avec Aristote jusqu’au bout, il faut aussi se demander comment reproduire l’altérité, la relation humaine avec le maître et la dimension incarnée de la transmission…. 

“Les IA génératives sont complaisantes. Mais il suffit de créer plusieurs agents qui débattent entre eux pour corriger ce problème.”

On a beaucoup reproché aux IA conversationnelles leur tendance à vouloir plaire, le sycophantisme. Le fameux : « Vous avez entièrement raison… ». Les plus malins ont alors expliqué qu’il suffisait de mieux paramétrer ses prompts. Puis est arrivée la mode des agents : un critique, un contradicteur, un avocat du diable, un expert métier. Objectif : recréer artificiellement les vertus de la contradiction et de la diversité des points de vue.

Dans une certaine mesure, cela fonctionne. Le sycophantisme est lié à la structure du prompt où l’IA cherche à valider l’utilisateur. Briser cette dynamique force un agent à chercher activement les failles via le débat ou le Red Teaming, une méthode d’une efficacité redoutable pour limiter des hallucinations, corriger des bugs, etc.

Mais cette approche repose sur une hypothèse implicite beaucoup plus lourde : la contradiction produit automatiquement de l’altérité. Or, demander à cinq agents issus du même modèle de débattre revient à réunir cinq personnes qui lisent les mêmes livres, fréquentent les mêmes écoles et partagent les mêmes angles morts. Elles se contredisent sur la forme et se corrigent sur la logique factuelle, mais elles ne font pas émerger une véritable pensée différente.

Pour cela, il faudrait faire dialoguer des modèles issus de socles culturels, linguistiques et cognitifs radicaux et distincts. Or, aujourd’hui, les grands modèles de langage restent développés dans un cadre technologique homogène (les grands modèles occidentaux en tout cas), nourris par des corpus qui reflètent globalement les mêmes références.

En résumé, les systèmes multi-agents apportent une contradiction procédurale intéressante. Ils réduisent souvent la complaisance et améliorent la robustesse d’un raisonnement. En revanche, ils ne recréent pas nécessairement la richesse de l’altérité. Car il existe une différence profonde entre faire varier les perspectives au sein d’une même matrice et faire varier les mondes dont ces points de vue sont issus.

« Le langage est le langage. »

L’une des raisons pour lesquelles les IA génératives nous impressionnent autant est qu’elles manipulent le langage avec beaucoup d’aisance. À force de les voir manier les mots comme nous, nous finissons par les anthropomorphiser et par croire qu’elles font avec le langage la même chose que nous.

Or cette idée confond deux usages très différents de la parole. 

Une partie du langage sert à décrire le monde. Dire qu’il pleut, expliquer une théorie ou raconter un événement relève de cette fonction descriptive. C’est précisément là que les modèles de langage excellent.

Pourtant, une autre partie du langage ne décrit pas le monde, elle le transforme.

Lorsque quelqu’un dit « je promets », « je démissionne », « je vous pardonne » ou « je vous déclare mari et femme », Il accomplit un acte ; Il modifie une relation, crée une obligation, engage sa responsabilité ou celle d’une institution. (C’est ce que Johan Austin appelait « la performativité » du langage NDLR)

Autrement dit, une IA peut produire une promesse sans promettre, ou un mariage sans marier personne. Et l’on en revient peut-être à une idée plus fondamentale que les IA pourraient bien nous rappeler : le véritable pouvoir des mots ne réside pas toujours dans ce qu’ils décrivent. Il réside parfois dans ce qu’ils engagent.

👉 Voir tous les billets de Marie Dollé sur sa newsletter substack « In bed with Tech »

 👉 Pour acheter son livre