Nous ne sommes pas le produit. Nous sommes la matière première
À partir d’un article publié en 2013, Zuboff a popularisé le concept de capitalisme de surveillance, « surveillance capitalism », un nouvel ordre économique qui utilise l’expérience humaine comme matière première pour générer des données comportementales. Certaines données sont utilisées pour améliorer des produits ou des services, mais le reste est considéré comme « un surplus comportemental détenu par les sociétés de surveillance capitalistes elles-mêmes ». Ces produits sont négociés sur ce que Shoshana Zuboff appelle des « marchés à terme comportementaux ».
« Quand le produit est gratuit, le produit c’est vous », dit le cliché. Mais la vérité est que nous ne sommes pas le produit, nous sommes « les objets dont est extraite une matière première que Google exproprie pour l’utiliser dans ses usines de prédiction ». Les prédictions sur nos comportements sont les produits. « Vous êtes le cadavre abandonné. Le produit est ce qui est fabriqué avec le surplus qu’ils ont arraché à leur vie », prévient Shoshana Zuboff.
Nous sommes « des exilés de notre propre conduite » parce que nous n’avons aucun accès ou contrôle sur la connaissance qui nous a été enlevée ; personne ne nous a inclus dans les questions sur le partage des connaissances : « Qui sait ? Qui décide ? Qui décide qui décide ? »
Le monstre l’a fait, et non pas victor frankenstein
Le capitalisme de surveillance a été inventé par les humains à un moment donné de l’histoire. Google, le pionnier d’un nouveau capitalisme – comme l’étaient autrefois Ford et General Motors – est devenu l’espoir que « le capitalisme informationnel agirait comme une force sociale libératrice et démocratique ». Mais en 2000, la récession des dotcoms a fourni à Google la justification de se lancer dans le secteur de la publicité.
À partir de là, le capitalisme de surveillance a construit des bastions : le néolibéralisme, qui faisait appel aux droits de la liberté d’expression ; « l’exceptionnalisme de la surveillance », après les attentats du 11 septembre ; les « affinités électives » avec le pouvoir politique, qui ont découvert l’utilité de ces sociétés dans les processus électoraux ; les « portes tournantes des politiciens et des managers entre Washington et la Silicon Valley » ; le financement des groupes de pression ; et le maintien « d’une campagne systématique de soft power sous forme d’influence culturelle et de recrutement ».
Quand quelque chose est sans précédent, il est plus facile de normaliser l’anormal, de succomber à la « dictature » du « il n’y a pas d’alternative ». Zuboff appelle ce phénomène « l’idéologie de l’inévitabilisme », qui génère résignation et sentiment d’impuissance. Mais l’inévitabilité technologique – le déterminisme technologique – n’existe pas. Le capitalisme de surveillance n’est pas une technologie, mais une forme de marché qui « imprègne la technologie » et « la met en action ». Le monstre de Frankenstein a commis des atrocités, mais c’est le jeune scientifique Victor Frankenstein qui l’a créé et qui plus tard n’a pris aucune responsabilité pour sa créature, la laissant à son sort.
L’une des analogies les plus précises que l’on puisse trouver dans la littérature est peut-être le début de The Grapes of Wrath de John Steinbeck, où un employé de banque dit au fermier qui est sur le point d’être expulsé : « La banque est plus que des hommes. Remarquez que tous les hommes de la banque détestent ce que fait la banque, mais la banque le fait toujours. La banque, c’est bien plus que des hommes, croyez-moi. C’est le monstre. Les hommes l’ont créé, mais ils ne peuvent pas le contrôler. »
À lire également : Henry David Thoreau : réflexion sur la dissidence
Les déclarations et le modèle de conquête
En 1492, Colomb met en pratique un « modèle de conquête » composé de trois phases. Pour justifier une invasion, des mesures sont d’abord inventées en langage juridique. Puis « une déclaration est formulée qui revendique certains droits territoriaux » et, enfin, « un établissement humain est fondé pour légitimer et institutionnaliser la conquête ». Selon les théories du philosophe John Searle, une déclaration est un « acte de parole » avec lequel nous créons une nouvelle réalité là où rien n’existait auparavant.
Pour Shoshana Zuboff, six déclarations seraient impliquées dans le schéma de conquête de Google. La plus importante serait : « Nous déclarons que l’expérience humaine est une matière première qui peut être prélevée librement. Sur la base de cette déclaration, nous pouvons ignorer toute considération des droits, des intérêts des individus, ou de leur connaissance ou compréhension d’une telle appropriation. »
Comme exemple du cycle de dépossession, Zuboff analyse le cas de Street View. Je me souviens de l’enthousiasme avec lequel nous avons accueilli l’arrivée de la « Google car » dans la rue de l’institut où je travaille. Bientôt, sur internet, tout le monde a pu voir un enseignant derrière le portail de l’immeuble, et d’autres camarades de classe quittant l’institut pour aller déjeuner. Personne ne leur avait demandé la permission d’utiliser leur image. Nous ne sommes pas indignés non plus ; pour nous, c’était amusant et inévitable. Nous ne savions pas que nous participions à la première phase de la dépossession : « l’incursion dans un espace non protégé ».
Un autre exemple que Zuboff dissèque est le jeu Pokémon GO, qui est né de Google Maps. Pokémon Go « a généré des sources continues de surplus comportemental ». À l’été 2016, nous avons vu des groupes d’adolescents courir dans les rues ; ils s’arrêtaient à un moment donné et criaient : « Compris ! » Que se passait-il? C’était quelque chose de tellement anormal qu’on a fini par le considérer comme normal.
La deuxième phase du cycle de dépossession est l’accoutumance. Les enquêtes sur les institutions démocratiques et l’élaboration de nouvelles lois sont des processus si lents que les capitalistes de la surveillance poursuivent leurs pratiques à grande vitesse. Dans la troisième phase, les entreprises procèdent à des modifications superficielles, de légers liftings qui leur permettent de passer, sans problèmes majeurs, à la phase quatre, la redirection : « la migration qui fait que ces plateformes deviennent successivement et progressivement des sources numériques de données, vigilantes qui surveillent le vrai monde.
Le concept de rendu-conversion engloberait l’ensemble des opérations par lesquelles s’effectue la dépossession, la conversion de l’expérience en données. On parle de « smart home », d’« internet des objets », on achète des appareils sophistiqués – comme le robot nettoyeur – qui fournissent des informations via les applications que l’on installe sur nos mobiles. Notre corps fait aussi l’objet d’opérations d’abandon-conversion : depuis notre téléphone, avec des données de localisation, avec des bracelets d’activité, ou avec des applications innocentes comme celles pour le contrôle du diabète. Facebook dit qu’il peut déjà détecter les visages presque de la même manière qu’un être humain le ferait ; et détecte également nos émotions.
Le marionnettaire qui tire les cordes : d’Orwell à Skinner
Le capitalisme de surveillance est le marionnettiste qui tire les ficelles de l’appareil numérique, cette marionnette que Zuboff appelle « le Big Other ». Et l’instrumentalisme serait une sorte de pouvoir qui se définirait comme « l’instrumentation et l’instrumentalisation du comportement aux fins de sa modification, sa prédiction, sa monétisation et son contrôle ».
Il n’y a pas de précédents à ce phénomène, mais il y a des précédents d’actions inédites sur de nouvelles formes de pouvoir, comme ce fut le cas avec le totalitarisme, un projet politique qui « en convergence avec l’économie » a découvert « des moyens de dominer et de terroriser les êtres humains de l’intérieur », a écrit Hannah Arendt. L’instrumentalisme est un projet de marché « en convergence avec le numérique », qui « s’opère par le biais de la modification des comportements ».
Shoshana Zuboff analyse l’essence du capitalisme de surveillance à partir de deux romans : Walden Two (1948), du comportementaliste radical B.F. Skinner, et 1984 (1949) de George Orwell. Beaucoup identifient la situation actuelle avec le roman 1984, dans lequel Orwell décrivait le totalitarisme comme « l’insistance implacable sur la possession absolue » de l’être humain, « de l’intérieur de lui-même ». Pourtant, c’est « l’utopie » que Skinner a créée dans Walden Two qui pourrait se matérialiser si le pouvoir « instrumental » continue de croître. Dans Walden Two, « l’ingénierie comportementale », la technologie du comportement, a créé une société heureuse et égalitaire. Peu importait que les habitants de Walden Deux ne connaissaient pas les ressorts qui actionnaient les cordes. D’autre part, pour Skinner, la démocratie était un système politique qui trompait avec une fausse illusion de liberté et entravait le domaine de la science.
Avec le pouvoir instrumental, l’expérience humaine est réduite à des « comportements observables mesurables ». Mais l’instrumentalisme est indifférent à ce que signifie cette expérience. Zuboff appelle cette façon de connaître « l’indifférence radicale ».
À lire également : Mouseland, le pays des souris
Vers la « communauté mondiale »
Pouvoir rester connecté est le « but social » adopté par les capitalistes de la surveillance. Et pourtant, la confiance sociale est en baisse aux États-Unis, en Europe et dans d’autres parties du monde. Dans le même temps, de faibles niveaux de « confiance dans l’autorité légitime » sont affichés, et certains chercheurs parlent d’une « récession démocratique » mondiale. Cela crée un vide qui engendre « la confusion, l’incertitude et la méfiance ». Dans Les origines du totalitarisme, Hannah Arendt a noté que les idéologies totalitaires sont devenues « le dernier point d’appui dans un monde où personne ne peut faire confiance et rien ne peut faire confiance ».
Le gouvernement chinois promeut le développement d’un système de « réputation sociale », dont l’objectif serait de profiter de la grande quantité de données personnelles, pour améliorer le comportement des citoyens. Ici c’est l’État qui dirige les manœuvres, comme un projet politique visant la pérennisation du pouvoir. En Occident, en revanche, l’État doit négocier avec les grandes sociétés de surveillance capitalistes, qui adaptent leurs pratiques « comme un gant à la notion de progrès technologique illimité qui a dominé la pensée utopique de la fin du XVIIIe siècle à la fin du XIXe, et qui a culminé avec Marx». Ainsi, en 2017, Zuckerberg déclarait ainsi le rôle historique de Facebook dans l’établissement des fondations d’une « communauté mondiale » : « A l’avenir, la technologie va (…) nous libérer pour que nous passions plus de temps à faire ces des choses qui nous tiennent vraiment à cœur. »
Et les utilisateurs ?
Les jeux vidéo ont été le début de l’addiction aux nouvelles technologies. Facebook et les autres réseaux sociaux ont pris le relais de ce fléau qui a généré une nouvelle dépendance. L’idéologie de la faiblesse humaine, pour laquelle notre pensée est irrationnelle et incapable de détecter et de contrôler ses échecs, contraste avec la figure de ces génies et entrepreneurs héroïques, qui dirigent les entreprises du capitalisme de surveillance, et qui peuvent parler d’avenir. meilleur pour nous.
Ils en savent trop et notre ignorance joue en leur faveur. Ils savent, par exemple, ce que ça génère d’appuyer sur le bouton « J’aime » – « l’innovation la plus transcendantale de Facebook en matière d’ingénierie comportementale » -, ce shot de dopamine pour ceux qui ont publié un statut, une photo, un lien… A ce moment-là d’euphorie, une publicité pour des bottes que nous avons vues sur le site d’une marque peut apparaître sur notre mur. C’est le « harnais » dont l’objectif est de nous inciter à appuyer sur un autre bouton, le bouton « acheter ».
De nombreux jeunes et adolescents rêvent d’un avenir réussi sur les réseaux, avec des milliers de followers et des centaines de « likes ». Ils ont commencé à façonner leur personnalité et à se connaître en se regardant de l’extérieur. Et tout cela a déjà des conséquences : des troubles mentaux comme le FOMO (fear of missing out), une anxiété sociale produite par le sentiment que les autres vivent une vie meilleure que la nôtre. Ou ce qu’on a appelé « l’effet de refroidissement prolongé »: « Nous censurons et protégeons notre comportement dans le monde réel, en tenant compte de nos réseaux et d’Internet. » Dans la pièce Derrière les portes closes de Jean-Paul Sartre, le personnage de Garcin est arrivé à la conclusion que « l’enfer, c’est les autres », dans le sens où nous ne pouvons pas être nous-mêmes si les autres « regardent » constamment.
La justice comme nouvelle frontière de colonisation pour le pouvoir
« Nous avons besoin de lois qui nient toute légitimité fondamentale aux déclarations du capitalisme de surveillance et qui perturbent ses opérations les plus élémentaires », déclare Shoshana Zuboff. Aux États-Unis, c’est plus difficile en raison des interprétations juridiques du quatrième amendement. A ce titre, de nombreux espoirs sont placés sur le Règlement Général sur la Protection des Données (RGPD), entré en vigueur en mai 2018.
C’était en Espagne, en août 2011, lorsque quatre-vingt-dix citoyens ont confronté Google pour la première fois, réclamant leur « droit à l’oubli » devant l’Agence espagnole de protection des données, qui était d’accord avec eux. Google a fait appel devant la Cour suprême espagnole, qui a sélectionné l’une des quatre-vingt-dix affaires « pour soumettre à la Cour de justice de l’Union européenne (CJUE) une demande de décision préjudicielle. La CJUE a rendu en mai 2014 son arrêt favorable pour confirmer le droit à l’oubli comme l’un des principes fondamentaux du droit communautaire.
Le capitalisme de surveillance est une « force sociale profondément antidémocratique ». Rappelons-nous le cas de Cambridge Analytica, avec les campagnes de désinformation politique et de fausses nouvelles à « but lucratif », lors de la campagne du référendum sur le Brexit au Royaume-Uni, et la campagne électorale des élections présidentielles américaines en 2016. Rappelons-nous pensez à tant de fausses nouvelles qui circulent sur les réseaux sociaux. Facebook n’a-t-il pas le pouvoir de les contrôler et d’éliminer les faux profils qui les génèrent ? Êtes-vous capable de repérer une photo d’art sur une couverture de livre uniquement parce qu’elle montre le torse nu d’une femme ? Instagram peut-il seulement déduire qu’une personne risque de se suicider parce qu’elle a téléchargé une photo de paysage prise à travers une clôture de barbelés ?
À lire également : Qu’est-ce que l’effet boom-boom en marketing?
La déclaration de notre droit au temps futur
Nous sommes indignés par le capitalisme de surveillance « parce qu’il dégrade la dignité humaine » ; mais, à partir de là, il importe d’abstraire ce phénomène, de nommer les choses pour les apprivoiser.
Dans La Vie de l’Esprit, Hannah Arendt analyse la volonté comme « l’organe du futur ». Pour Shoshana Zuboff, la volonté d’écrire Surveillance Capitalism est sa « déclaration de son droit au temps futur », qui doit être considérée comme un droit humain de plus car « c’est maintenant qu’elle commence à être en danger ». Nous devons corriger ce que nous avons fait de mal, empêcher nos jeunes d’être ces fantômes du temps futur que Scrooge a vus dans le Chant de Noël de Dickens. Nous devons reconquérir l’avenir numérique en tant que « foyer pour l’humanité ». Le « refuge de chez soi » dont parlait Bachelard dans La Poétique de l’espace, comme notre manière originelle de vivre et comme une manière de donner un sens à l’expérience.
Ma fille, Carmen Huertas, spécialiste en droit et technologie, m’a appris la phrase : « Dieu pardonne et oublie, mais le web, jamais », prononcée par Viviane Reding. Au cours de l’année 2017, nous avons eu de nombreuses conversations sur le « Droit à l’oubli numérique », le sujet sur lequel elle faisait des recherches dans son mémoire de maîtrise. À l’été 2020, dans une maison de Tilburg, Carmen m’a parlé avec enthousiasme d’un livre qui n’avait pas encore été traduit en espagnol, The Age of Surveillance Capitalism : « Tu dois le lire, maman, tu vas adorer. Il traite de droit et de technologie, mais aussi de philosophie et de littérature. Regardez, il mentionne même Machado », a-t-il dit en désignant les vers du poète sur une page. Oui, nous avons droit à un temps futur, pour nous-mêmes, pour nos enfants, pour les générations futures car, comme l’écrivait Antonio Machado : « Marcheur, il n’y a pas de chemin, le chemin se fait en marchant ».