Surveiller et prédire

par Sébastien Broca
, le 7 mars 2019

Une nouvelle ère du capitalisme s’est ouverte, où les entreprises cherchent par tous les moyens à connaître, prévoir et modifier les comportements des individus. S. Zuboff signale les menaces qui en résultent pour l’autonomie individuelle et la souveraineté démocratique.

Depuis la parution d’un premier article en 2013 dans le Frankfurter Allgemeine Zeitung, Shoshana Zuboff, professeur émérite à la Harvard Business School, a popularisé la notion de « capitalisme de surveillance », aussi bien dans le monde académique que chez les défenseurs des libertés numériques. Ce syntagme désigne la nouvelle forme de capitalisme créée par les grandes entreprises de la Silicon Valley, et plus particulièrement par Google et Facebook, dont les revenus dépendent de la récolte et de l’analyse de nos données. L’analyse de ce phénomène économico-social est au centre d’un ouvrage volumineux et ambitieux, paru aux États-Unis le 15 janvier 2019 et déjà largement commenté [1]. S. Zuboff y entremêle, dans une prose vigoureuse et roborative, une histoire, une théorie et une critique de la direction empruntée par l’accumulation capitaliste.

Une histoire du « capitalisme de surveillance »

Selon S. Zuboff, le « capitalisme de surveillance » est né chez Google. En 2001, l’entreprise se trouve dans une situation difficile. Malgré le succès auprès des utilisateurs de son moteur de recherche, elle n’a toujours pas trouvé de modèle économique rentable et les investisseurs commencent à s’impatienter. En s’inspirant des idées de l’économiste Hal Varian, Google décide alors d’utiliser les données et les méta-données fournies par ses utilisateurs pour proposer aux annonceurs un ciblage publicitaire centré sur les individus. Cette décision va à l’encontre des réserves que les fondateurs de l’entreprise, Sergey Brin et Larry Page, ont jusqu’alors manifestées vis-à-vis de la publicité. Mais les investisseurs ne vont pas attendre éternellement les profits et L. Page n’a aucune envie de devenir un nouveau Nikola Tesla, cet ingénieur génial qui mourut sans jamais avoir tiré profit de ses inventions. De plus, Google dispose d’énormes gisements de données et de compétences scientifiques hors-norme pour convertir celles-ci en prédictions sur les individus susceptibles de cliquer sur les publicités proposées. Google invente ainsi le « capitalisme de surveillance ». Entre 2000 et 2004, ses revenus augmentent de 3590 % !

Ce modèle gagne ensuite d’autres grands acteurs de l’économie numérique. Sous l’impulsion de Sheryl Sandberg, transfuge de Google, Facebook devient à partir de 2008 un géant de la publicité. La firme de Mark Zuckerberg tire parti de l’actif unique que constitue sa connaissance approfondie des liens de chaque individu : le « social graph ». Elle invente aussi de nombreuses manières d’augmenter et d’affiner sa récolte de données, par exemple avec l’introduction du bouton « Like » en avril 2010. À partir de 2014, Microsoft se convertit également au « capitalisme de surveillance » avec le développement de l’assistant vocal Cortana, véritable aspirateur à données, et l’acquisition du réseau social professionnel Linkedin, fort de ses 450 millions d’utilisateurs. Amazon suit de près, avec son assistant vocal Alexa, de même que les géants américains des télécoms : Verizon, AT&T et Comcast.

Né dans le monde numérique, le « capitalisme de surveillance » s’étend aussi au monde « réel ». À mesure que les individus sont géo-localisés, que leurs processus physiologiques sont mesurés, que leurs émotions sont inférées, que les villes se parent de milliers de capteurs et que les maisons se peuplent d’ « objets intelligents », la totalité du monde est transformée en données. Le « capitalisme de surveillance » gagne alors de nouveaux secteurs comme l’assurance, la finance, la santé, ou le commerce de détail. L’exemple des assurances automobiles est l’un des plus frappants. Dès lors que le comportement au volant de chaque conducteur peut être précisément mesuré, il devient possible de calculer les risques au plus juste, d’individualiser les conditions d’assurance, voire de modifier ces conditions en temps réel en fonction des données de conduite recueillies. Pour les compagnies d’assurance, ces dispositifs ont vocation à encourager certains comportements au volant, à réduire l’incertitude et à… assurer leurs profits.

Un autre exemple éclairant est celui de Pokémon Go. Incubé chez Google, ce jeu est selon S. Zuboff le rêve de tout « capitaliste de surveillance ». Il permet de récolter des données sur des espaces publics et privés, intérieurs et extérieurs. L’aspect ludique s’avère surtout extraordinairement efficace pour favoriser certains comportements chez les joueurs : les pousser, par exemple à se rendre dans un commerce ayant conclu un partenariat avec l’entreprise éditrice du jeu. De fait, celle-ci a rapidement passé des accords avec McDonald’s et Starbucks pour leur amener des consommateurs potentiels. Ce modèle économique des « endroits sponsorisés » fonctionne à la manière du modèle publicitaire de Google. Les entreprises clientes paient un « coût par visite », de la même manière que les annonceurs paient à Google un « coût par clic » (p. 316).

Une théorie critique du « capitalisme de surveillance »

À partir de cette histoire des vingt années écoulées, S. Zuboff propose une théorie générale du « capitalisme de surveillance ». Tout part de la transformation de l’expérience humaine en « données comportementales », grâce aux technologies numériques. Pour l’auteur, il y a là un acte originaire de dépossession : les acteurs du « capitalisme de surveillance » s’approprient notre expérience en l’extrayant des « espaces non-marchands de la vie quotidienne » (p. 139). Dès lors qu’elles ne servent pas uniquement à améliorer le service fourni, ces données constituent un « surplus comportemental ». Elles sont la matière première permettant de fabriquer, par l’intermédiaire de procédures algorithmiques, des « produits prédictifs », dont la valeur vient de ce qu’ils anticipent des comportements futurs : probabilité pour un individu de cliquer sur une publicité, d’avoir un accident de voiture, etc. Le « capitalisme de surveillance » est ainsi le processus qui transforme nos comportements présents en prédictions monnayées de nos comportements futurs.

La valeur marchande des produits prédictifs est étroitement corrélée à leur degré de certitude. Pour l’acheteur de ces produits, plus la certitude est élevée, plus le profit est assuré. L’assurance qu’un utilisateur cliquera sur une publicité est préférable à une probabilité élevée, elle-même préférable à une probabilité faible, etc. La logique d’accumulation du « capitalisme de surveillance » tend ainsi vers la recherche de la certitude. Or le moyen le plus sûr de prédire l’avenir reste de le fabriquer, en modelant le comportement des individus. Insensiblement, la fabrication de « produits prédictifs » se mue ainsi en construction de dispositifs de modification comportementale, comme dans Pokémon Go où les joueurs sont poussés à se rendre dans des endroits précis. Le destin du « capitalisme de surveillance » est donc de se transformer en un capitalisme de modification des comportements, bien au-delà des frontières de l’économie numérique.

Ce sont ces dispositifs de manipulation comportementale qui se trouvent au cœur de la critique de S. Zuboff, plus que la « surveillance » au sens strict. Cette critique est déployée en référence aux valeurs fondamentales du libéralisme politique : l’autonomie individuelle et la souveraineté démocratique. L’auteur insiste ainsi sur la manière dont le « capitalisme de surveillance » met en péril les différentes conquêtes associées à l’émergence historique de l’individu : le respect de l’intériorité, la vie privée, mais aussi la volonté libre, l’auto-détermination et le droit à décider de notre avenir. Le « capitalisme de surveillance » apparaît finalement comme une nouvelle forme de « tyrannie » (p. 513), qui oblitère la délibération politique et détruit l’autonomie individuelle par la manipulation et l’instrumentalisation de nos comportements.

L’originalité de l’ouvrage est d’articuler cette critique, exposée dans les termes classiques du libéralisme, à l’économie politique exposée plus haut, soit à un type d’analyse d’ordinaire plutôt associé à la critique de tradition marxiste. La perte de l’autonomie individuelle et l’érosion de la démocratie sont ainsi abordées comme les conséquences de la logique d’accumulation propre au « capitalisme de surveillance ». S. Zuboff est en revanche plus évasive sur les moyens de répondre à ces menaces, même si elle se prononce pour que des lois interrompent « la transformation illégitime de l’expérience humaine en données comportementales » (p. 344). Le caractère un peu imprécis de ses préconisations s’explique, me semble-t-il, par ce qu’elle passe sous silence.

Un capitalisme comme les autres

L’analyse de S. Zuboff est presque exclusivement centrée sur les relations entre les entreprises du « capitalisme de surveillance » et leurs utilisateurs. Ces derniers ne sont, selon elle, ni des consommateurs (ils ne paient pas les services de Google ou de Facebook), ni des travailleurs (« ils ne font pas fonctionner les moyens de production », p. 69). Ils sont des sources de données et les objets des dispositifs de modification comportementale. En bref, le « capitalisme de surveillance » est fondé sur la dépossession de l’expérience, non sur l’exploitation du travail.

Cette thèse explique pourquoi les questions relatives au travail et à l’emploi sont quasi absentes de l’ouvrage. Les entreprises du « capitalisme de surveillance » produisent pourtant des biens et des services qui nécessitent énormément de travail : celui de leurs salariés, évidemment, mais aussi tout un travail externalisé ou pris en charge par les utilisateurs, depuis la production des contenus mis en ligne sur les réseaux sociaux jusqu’à l’entraînement des programmes d’intelligence artificielle [2]. De tout cela, il n’est guère question dans l’ouvrage, pas plus que n’est abordée la production des marchandises dont les « produits prédictifs » ont in fine vocation à assurer l’écoulement. L’existence de la publicité ciblée, pour ne prendre que cet exemple, suppose pourtant l’existence préalable des marchandises dont elle fait la promotion !

Ces remarques pointent vers une ambiguïté plus fondamentale, qui concerne le périmètre exact de la notion de « capitalisme de surveillance ». S’agit-il d’un sous-secteur de l’économie numérique centré sur l’exploitation des données ? De l’économie numérique dans son ensemble ? De l’ensemble du capitalisme actuel ? L’ouvrage contient des arguments à l’appui de chacune de ces propositions. L’auteur privilégie toutefois la troisième, comme en attestent les comparaisons récurrentes entre Google et Ford. Ainsi, de la même manière que le constructeur automobile aurait inventé le capitalisme du XXe siècle – le « capitalisme managérial fondé sur la consommation de masse » (p. 63) – Google aurait inventé le capitalisme du XXIe siècle. Il y aurait là une bifurcation historique majeure, qui briserait les formes anciennes de réciprocité entre les entreprises et les consommateurs.

Cette thèse sur l’émergence d’un « nouveau capitalisme » peine à être solidement argumentée. L’un des défauts de l’ouvrage est en effet de ne jamais discuter sérieusement les tentatives théoriques, anciennes ou plus récentes, de périodiser l’histoire du capitalisme pour distinguer des variétés de celui-ci. Ce manque conduit l’auteur à exagérer la nouveauté des dispositifs qui visent à modifier les comportements à des fins marchandes. Les entreprises ont en effet compris depuis longtemps qu’il leur était indispensable, pour gagner des parts de marché et assurer leur profitabilité, de manipuler les masses grâce à la publicité ou à tout autre moyen disponible. Il suffit de relire les écrits d’Edward Bernays, fondateur de l’industrie moderne des relations publiques, pour s’apercevoir que ce projet existe déjà dans les années 1920 et que ses implications en matière d’autonomie individuelle sont déjà parfaitement claires ! À l’époque, E. Bernays décrit les consommateurs soumis à la propagande des marques comme déterminés « par des influences extérieures qui contrôlent [leurs] pensées à [leur] insu ». Ils sont, selon lui, « comme mus par un bouton sur lequel on aurait appuyé » [3]...

Il semble dès lors plus cohérent d’aborder le « capitalisme de surveillance » comme un approfondissement de ce qui existait déjà que comme une rupture. Et si le problème fondamental réside dans la tendance des entreprises à vouloir altérer les comportements individuels, la conclusion qui s’impose est que ce n’est guère nouveau ! Le « capitalisme de surveillance » ne fait que perfectionner, grâce aux big data et aux outils algorithmiques, une logique qui lui préexiste. Le contenu normatif de la critique de S. Zuboff devrait donc la conduire à une critique plus générale du capitalisme. Cette critique ne vient jamais. Obnubilée par sa volonté de démontrer que le « capitalisme de surveillance » est une perversion du capitalisme, S. Zuboff ne voit pas qu’il en est avant tout une incarnation.

Les limites du « comportementalisme radical »

On peut finalement se demander si la critique proposée dans l’ouvrage ne se trompe pas en partie de cible. Dans la troisième partie, le « capitalisme de surveillance » est présenté comme la mise en application du « comportementalisme radical » jadis prôné par le psychologue B.F. Skinner, qui proposait de modeler les comportements des masses grâce à de nouvelles technologies comportementales. Selon S. Zuboff, ce projet d’ingénierie sociale est aujourd’hui réactivé par les nouvelles possibilités de mise en données du monde. Sous l’appellation de « physique sociale », le chercheur du MIT Alex Pentland s’efforce ainsi de modéliser, prévoir et modifier les comportements humains. Il estime en effet que les données comportementales « racontent une histoire de nos vies plus exacte que tout ce que nous pouvons choisir de révéler sur nous-mêmes » (cité p. 422) et prétend parvenir à « une explication mathématique des raisons pour lesquelles la société réagit comme elle le fait » (cité p. 434). L’une des entreprises qu’il a créées se vante même de pouvoir « expliquer et prédire n’importe quel type de comportement humain » (cité p. 425).

Que ce type de discours exerce une certaine fascination dans la Silicon Valley ne fait pas de doute, mais faut-il vraiment y voir, comme le fait S. Zuboff, une description exacte du « capitalisme de surveillance » ? C’est oublier que l’économie numérique est une économie de la promesse où, pour convaincre les investisseurs, il vaut mieux promettre trop que pas assez. C’est surtout donner à ces discours un crédit qu’ils sont loin de mériter, tant leur naïveté positiviste ne peut que frapper quiconque a une culture minimale en sciences humaines. S. Zuboff valide pourtant les proclamations d’A. Pentland, dans le mouvement même où elle critique leurs implications sociales et politiques. Elle est, elle aussi, persuadée que les big data offrent une connaissance exhaustive du monde social et que les entreprises de l’économie numérique « en savent plus sur vous que ce que vous savez sur vous-mêmes » (p. 285) [4]. Elle soutient ainsi que B.F. Skinner et A. Pentland disent la vérité du « capitalisme de surveillance », alors qu’ils ne font qu’en formuler l’idéologie.

Cette méprise explique le ton souvent emphatique de l’ouvrage, ainsi que l’idée maintes fois énoncée selon laquelle « la nature humaine » serait en péril. Évaluer l’efficacité réelle des technologies de prédiction et de manipulation inciterait sans doute à un peu plus de mesure. Cela conduirait surtout à compléter l’analyse de S. Zuboff, voire à juger différemment des principales menaces portées par le « capitalisme de surveillance ». Plus que le risque d’une disparition complète de l’individu auto-déterminé, il faudrait alors étudier la précarisation du travail, les nouveaux effets de stratification sociale [5] et les injustices économiques propres à la situation actuelle. C’est ce que S. Zuboff ne fait pas et ce qui empêche The Age of Surveillance Capitalism, malgré ses thèses stimulantes, de totalement convaincre.

Shoshana Zuboff, The Age of Surveillance Capitalism. The Fight for a Human Future at the New Frontier of Power, Public Affairs, 2019.

[1] Parmi les nombreuses recensions déjà parues en anglais, on citera : Nicholas Carr, «  Thieves of Experience : How Google and Facebook Corrupted Capitalism  », Los Angeles Review of Books, 15 janvier 2019  ; Evgeny Morozov, «  Capitalism’s New Clothes  », The Baffler, 4 février 2019.

[2] Sur ce sujet, voir Antonio A. Casilli, En attendant les robots, Paris, Seuil, 2019.

[3] Edward Bernays, Propaganda. Comment manipuler l’opinion en démocratie, La Découverte, Paris, 2007, p. 62 et 68.

[4] Les travaux d’Antoinette Rouvroy, tout en présentant des similitudes importantes avec ceux de S. Zuboff, insistent précisément sur la manière dont le «  comportementalisme numérique  » ne parvient jamais à saisir tout ce qui constitue la vie des individus.

[5] Cf. Marion Fourcade et Kieran Healy, «  Classification Situations : Life-Chances in the Neoliberal Era  », Accounting, Organizations, and Society, vol. 38, p. 559–572.