La domination par l’IA

À propos de : Dominique Boullier, Déshumanités numériques, Armand Colin

L’ouvrage de Dominique Boullier porte sur le décalage entre l’accélération technologique et la capacité de nos sociétés à en comprendre et à en réguler les effets. Dix mois après sa parution le temps s’est déjà rétréci et les grands modèles de langage (LLM) ont fait de nouveaux sauts de géant. L’auteur montre ainsi que les humains ne sont plus en mesure de suivre les avancées technologiques en cours. Sa lecture n’en devient alors que plus urgente.

Boullier, éminent sociologue et linguiste, professeur émérite à Sciences Po (CEE), peut être qualifié de technophile critique et de pédagogue aux solutions constructives. Il entre en résonance avec certaines des interrogations de son ancien collègue Bruno Latour, et du philosophe Bernard Stiegler. Si, pour résumer à grands traits, Stiegler tentait de comprendre l’impact de la technique sur l’humain et Latour de cartographier les associations qui constituent le social, Boullier, quant à lui, regarde ce que le monde numérique contemporain (les réseaux sociaux et l’IA) fait aux individus, aux collectifs et surtout aux sciences sociales et aux chercheurs qui les pensent. Le titre nous le révèle crûment : ce nouveau monde numérique menace de nous « déshumaniser ».

De la « suzeraineté » des plateformes face à l’État de droit

Dès l’introduction, Boullier révèle avoir été dépassé par les sauts technologiques, le rachat de Twitter par E. Musk, l’irruption de ChatGPT, ainsi que par la guerre hybride déployée sur le continent européen alors qu’il souhaitait simplement rééditer son manuel Sociologie du numérique (Armand Colin, 2019). Dans ce contexte d’accélération du temps et de la pensée menant à une « désorientation collective » (p. 14), l’auteur tente alors de suspendre ce temps pour permettre au cerveau humain de comprendre ce qui est en train de lui arriver.

Boullier rend intelligible, pour un public francophone, comment les usages des algorithmes de recommandation tendent à standardiser nos pratiques et nos goûts, comment l’attention humaine est captée pour être monétisée, comment l’expérience humaine est appauvrie dans un monde dominé par les technologies numériques qui nous fragmentent socialement et cognitivement. [1] Il décrit aussi, dans la lignée de S. Zuboff – qu’il cite beaucoup – l’emprise grandissante des infrastructures privées qui organisent l’accès à l’information, la production de connaissances, la captation de l’attention et une partie de la délibération publique. [2] Ainsi, les plateformes aujourd’hui refusent le cadre international en cherchant à s’affranchir des territoires, des cultures juridiques et surtout de toute souveraineté politique.

L’objectif central de cet ouvrage est de tenter de comprendre ce que nos capacités de penser, de juger, de créer, d’agir – voire notre poésie – deviennent lorsque les infrastructures techniques, le capitalisme financier dérégulé, les modèles probabilistes de l’IA et l’économie de l’attention dominent. Comment l’homme peut-il rester acteur de son devenir ? Comment peut-il aussi être protégé par des États qui ne savent pas réguler de tels acteurs privés transnationaux car qui ils échappent à leur sphère et dominent avec une puissance considérable et irresponsable ?

Boullier décrit comment cette culture anarcho-libertarienne, hostile à toute régulation, impose des monopoles puissants qui viennent « vassaliser » les États de droit (p. 46). « C’est alors », écrit-il « que l’on mesure que le capitalisme possède une dynamique de domination qui va non seulement contre la démocratie, mais même contre le marché lui-même et la règle supposée vitale de la concurrence » (p. 52).

De la dégénérescence de la connaissance humaine

Plus grave encore, l’humain n’est pas capable de mesurer la complexité de cet écosystème numérique grandissant et est dérouté par sa propagation trop rapide. Si les réseaux sociaux venaient déjà dégrader les liens humains, les effets épistémiques, cognitifs et civilisationnels de l’IA générative viennent, quant à eux, nous dégrader de façon durable.

Alors que les réseaux sociaux, nous volaient notre temps de focalisation et d’attention (p. 177), l’IA participe encore davantage de notre déshumanisation. Boullier dissèque, pour des lecteurs dont certains sont béotiens en la matière, comment l’IA vient révolutionner nos façons de penser la connaissance. Si l’« IA symbolique » qu’il défend reposait sur des règles, des logiques, et des représentations explicites des connaissances, l’« IA générative » (qui prolonge en quelque sorte la logique connexionniste) vient véritablement heurter l’apprentissage humain de ce qui constitue le savoir. Les grands modèles de langage contemporains reposent sur des réseaux neuronaux qui apprennent des régularités statistiques dans d’immenses corpus afin de générer de nouveaux contenus à partir de distributions de probabilités apprises dans les données. Boullier insiste bien sur le fait que ces systèmes ne « connaissent » pas au sens où ils posséderaient un ensemble explicite de propositions vraies et de règles raisonnées. De fait, ils produisent des résultats à partir de régularités apprises dans les données (p. 67-70).

Boullier vient alors nous rappeler que l’approche probabiliste des LLM – lorsqu’elle devient LA procédure d’établissement des connaissances – risque d’aboutir à des aberrations en termes d’éthique et d’intégrité scientifique (p. 76) voire à une « faillite générale dans le gouvernement des infrastructures de connaissances » à l’échelle mondiale (p. 82).

Pourquoi ? Tout simplement parce que des réponses plausibles ne sont pas équivalentes à des connaissances établies, et surtout parce que l’IA générative vient sournoisement retirer tout désir d’exploration et de dynamique d’apprentissage. Le désir humain d’apprendre repose sur l’exploration, sur le fait de se perdre et d’explorer des voies sans issue, sur l’expérience du vrai et du faux, sur le temps qu’il faut au cerveau humain pour construire du sens, en somme sur l’« autonomie de jugement » qui consiste à « penser, décider et faire ». Avec l’IA générative, l’homme devient dépendant de la machine, il abdique doucement sa cognition et le fait d’être agent de son savoir (p. 85).

Enfin, l’IA homogénéise le savoir, quitte à l’écraser dans une certaine horizontalité, alors que la vitalité de la connaissance humaine repose en partie sur les différences culturelles, linguistiques et sur la pluralité de points de vue (p. 81).

Ainsi la question n’est donc pas seulement que l’IA répond trop rapidement – approximativement souvent – et selon des probabilités mais, qu’en plus, elle vient modifier en profondeur la manière dont le cerveau humain apprend. Pourtant Boullier tout en dressant un tableau « alarmant » considère que ce constat peut être « porteur de pistes alternatives » (p. 15) et pense qu’une « vision et une volonté politique » peuvent s’interposer (p. 66), notamment au niveau européen. On veut le croire.

Réhumaniser le numérique ?

Les solutions consistent à ralentir la viralité et les propagations suscitant les réactions les plus rapides, que ce soit les indicateurs de vanité (vanity metrics) tels que le nombre de vues, de mentions “J’aime” ou de partages et les mécanismes de partage ou de retransmission des contenus, l’interdiction du scrolling automatique dont le défilement devient compulsif, le contrôle des formats courts et des formats susceptibles de provoquer des perturbations psychiques et des conduites addictives et la distinction claire entre contenus publicitaires et informatifs pour remettre en cause le modèle publicitaire prédateur (pp. 191-194). Pour Boullier, il faut de façon urgente faire évoluer les plateformes vers un statut de média avec responsabilité éditoriale et juridique, mettre à disposition de l’utilisateur des tableaux de bord et seuils d’alerte sur le temps, la fréquence et les usages et développer l’open source, l’intelligence collective et des formes de contrôle social autonome et collectif (sur le modèle Wikipédia). En somme, l’auteur prône « une refonte, un reset de toute l’architecture des réseaux sociaux » (p. 196).

Si Boullier a le mérite de tenter de proposer des solutions, on s’interroge sur le fait qu’il revienne souvent sur Wikipédia/Wikimedia comme contre-modèle. Certes, la collaboration comme modèle alternatif est une possibilité. Mais il s’agit d’un dispositif encyclopédique collaboratif qui n’est pas sans faille. Aussi peut-il véritablement servir de modèle général pour des infrastructures d’IA, des réseaux sociaux et des plateformes commerciales dont les fonctions et les incitations sont très différentes ?

Il faut mentionner une autre tension : si Boullier appelle l’usager à reprendre le contrôle de ses pratiques, comment faire reposer une partie de la solution sur l’autocontrôle individuel lorsque les plateformes sont précisément conçues, selon ses propres termes, pour lui « ôter tout esprit de contrôle et de délibération » (pp. 156-157).

Boullier a aussi un diagnostic parfois trop homogène de l’IA générative (à partir de la p. 145 notamment), où il insiste sur un espace informationnel saturé de productions génératives. Il faut reconnaître ce risque sans pourtant y assimiler tous les usages. Les LLM peuvent aussi, dans certains usages et sous réserve de vérification, produire des synthèses moins politiquement orientées que certaines sources d’information émanant de réseaux sociaux. Un bon résumé IA sur une situation sensible sera toujours plus modéré qu’une chaîne You Tube, un podcast ou un blog idéologiquement orienté. Certaines voix de chercheurs – certes isolées – s’élèvent aujourd’hui dans ce sens. [3]

L’approche pédagogique de Boullier repose enfin sur des répétitions et sur de l’autocitation d’ouvrages, d’articles, de communications et de rapports. [4] Cela n’est pas un problème en soi mais pour qui a lu ses précédents travaux, le propos peut parfois sembler redondant.

Cependant, la discussion centrale manquante dans l’ouvrage est liée au fait que Boullier appréhende encore principalement l’IA générative comme une machine probabiliste de production de contenus que l’humain peut encore saisir. Pourtant, les travaux récents sur l’IA dite « agentique », les mises en garde Geoffrey Hinton [5] (« parrain de l’intelligence artificielle » et prix Nobel de physique 2024) sur les capacités propres aux intelligences numériques et, certains travaux comme le scénario AI 2027 [6], déplacent déjà la question vers des systèmes susceptibles de planifier, d’agir et de partager leurs apprentissages selon des modalités dont le fonctionnement devient difficilement interprétable par l’humain. Pour Hinton, ces nouvelles IA ont un apprentissage distribué au sein de réseaux neuronaux dont les représentations internes ne sont pas entièrement intelligibles pour leurs concepteurs. Finalement, le problème de Boullier est peut-être que son anthropocentrisme critique demeure « classique ». Il se demande tout ce que les technologies font perdre à l’homme mais que se passe-t-il lorsque l’homme ne comprend plus le mode de raisonnement et d’action du système auquel il délègue ces capacités ? On entre alors dans une autre configuration anthropologique, où la question n’est plus seulement celle de la déshumanisation par perte de capacités humaines, mais celle de la coexistence avec des systèmes dont les modes d’apprentissage, de raisonnement et d’action rendent l’humain aveugle et dépendant, voire esclave.

Conclusion : Rester humain envers et contre tout

Ainsi, la force de ce petit ouvrage est avant tout de résumer point par point la « bascule civilisationnelle » (p. 204) qui a eu lieu depuis 2010, ainsi que l’accélération qui nous bouscule depuis 2022. L’ouvrage met en lumière l’enjeu social, voire anthropologique, urgent qui est que le risque de notre déshumanisation tient à la perte de nos capacités. Si le diagnostic est alarmant, il n’en est pas moins essentiel pour nous secouer et rendre toute action politique et collective à nouveau pensable.
Au-delà des réserves évoquées, le livre fournit enfin au lectorat francophone un cadre sociologique cohérent reliant infrastructures, économie politique, cognition, attention et État de droit. Et il réussit à faire tout cela avec beaucoup de respect pour le lecteur, d’attention à sa compréhension et, finalement, d’humanité dans un monde qui en vient à en oublier le sens.