La domination des géants du numérique - Antonio Casilli sur RTS

Titre : La domination des géants du numérique
Intervenants : Antonio Casilli - Julien Magnollay
Lieu : RTS - Émission Tribu
Date : mars 2018
Durée : 25 min 50
Écouter ou télécharger le podcast ; sur le site de Antonio Casilli
Licence de la transcription : Verbatim
Illustrations : Antonio Casilli Journée Wikipédia, objet scientifique 2013 01, licence CC BY-SA 3.0 ; Logo RTS Domaine public.
NB : transcription réalisée par nos soins. Les positions exprimées sont celles des personnes qui interviennent et ne rejoignent pas forcément celles de l'April.

Description

Sur les réseaux sociaux ou sur le Web en général, nous produisons chaque jour des données qui sont revendues ensuite à des tiers. Le travail à l'heure du numérique est aussi caractérisé par une précarisation de l'emploi. Certains parlent de néocolonialisme.

Transcription

Voix Off :Tribu. Julien Magnollay.

Julien Magnollay : Bonjour et bienvenue dans Tribu. La domination des géants du numérique est de plus en plus critiquée. Il y a la question du big data sur les réseaux sociaux, sur le Web. Nous produisons chaque jour des données que Facebook, Google ou autre Amazon peuvent ensuite revendre à des tiers. Le travail, à l’heure du numérique, est aussi caractérisé par une précarisation de l’emploi, que l’on pense aux fermes à clics dans les pays défavorisés ou aux chauffeurs Uber ici. Nous parlerons de l’emprise de ces grandes boîtes de la Silicon Valley. Certains n’hésitent pas à parler de néocolonialisme, un terme qui ne convainc pas vraiment notre invité du jour. Bonjour Antonio Casilli.

Antonio Casilli : Bonjour.

Julien Magnollay : Vous êtes sociologue, enseignant en humanités numériques à Télécom ParisTech ; vous êtes auteur de notamment ces deux livres : Les liaisons numériques : vers une nouvelle sociabilité ? et aussi Qu’est-ce que le Digital Labor ?. On profite de vous attraper, parce que vous êtes de passage en Suisse, pour vous recevoir dans nos studios. Antonio Casilli, peut-être une question un peu d’actualité. On parle beaucoup de l’affaire Cambridge Analytica, donc cette société qui récupère via un test psychologique des données personnelles de 50 millions d’utilisateurs de Facebook, qui a utilisé ça en plus, après, pour des questions politiques : la campagne de Donald Trump. Vous en pensez quoi, vous ?

Antonio Casilli : Eh bien c’est une histoire fascinante. Fascinante, c’est une façon gentille de présenter ce scandale énorme qui concerne désormais Facebook, mais qui est lié à deux questions principales. La première c’est l’utilisation par des entreprises tierces, en l’occurrence c’est ce cabinet d’études qui, après, fait des utilisations de ciblage politique électoral de ces données-là, donc l’utilisation des données personnelles des usagers de Facebook. À la base c’est un problème, si vous voulez, de vie privée et de propriété des données personnelles. En plus, Cambridge Analytica, par rapport à d’autres entreprises qui font exactement la même chose et dont Facebook est parfaitement au courant, a une caractéristique : Cambridge Analytica a, par exemple, eu recours aussi à un autre service qui n’est pas Facebook, mais qui est plutôt lié à l’univers Amazon et ce service s’appelle Amazon Mechanical Turk1.

Figurez-vous que, en 2014, quand Cambridge Analytica commençait à collecter les premières données, la chose qu’elle a faite c’était de se présenter sur Amazon Mechanical Turk qui est une espèce de marché du micro travail. Les personnes peuvent réaliser des tâches très petites, très simples, qui peuvent nous paraître même des tâches, à la limite, qui pourraient être gratuites parce qu’elles sont très banales. En l’occurrence les personnes, sur Amazon Mechanical Turk, étaient invitées à se connecter à leur propre compte Facebook, télécharger une petite application, et cette petite application permettait de récupérer toutes les données personnelles, tout le graphe social. À partir de 300 000 personnes qui ont été payées 1 centime, 2 centimes chacune pour faire cette opération-là, eh bien Cambridge Analytica a créé une première cagnotte, on va dire comme ça, de données personnelles ; à partir de ça, elle a fait un effet d’avalanche, c’est-à-dire elle a commencé à se connecter aux amis et aux amis des amis et aux amis des amis des amis, à se connecter à tous ces profils et, à la fin, elle s’est retrouvée avec, certains disent entre 100 et 300 millions de profils d’utilisateurs qui, par la suite, ont pu être utilisés pour faire ce ciblage électoral qui, soi-disant, aurait permis à Donald Trump de gagner les élections présidentielles.

Julien Magnollay : C’est vrai que c’est étonnant. Il y a plusieurs applications, plusieurs programmes qui demandent de se connecter via Facebook. On se dit, peut-être naïvement, c’est pour des questions de sécurité ; Facebook est le réseau qui protège : il y a des données personnelles mais aussi des amis qui permettent de dire oui, c’est vraiment cette personne-là, mais on voit, avec ça il y a des pièges. C’est un peu, pas un cheval de Troie, mais ça peut aller plus loin que vraiment où on veut aller.

Antonio Casilli : C’est certainement un cheval de Troie. Et en plus, avec des finalités qui sont, à la base, commerciales. C’est-à-dire qu’officiellement on s’inscrit avec l’identifiant Google ou l’identifiant Facebook, tout simplement parce que Facebook et Google sont les deux principales régies publicitaires sur Internet : AdWords de Google et Audience Network de Facebook sont les régies publicitaires de ces deux plateformes. Donc à la base il y a une intention ou plutôt une finalité de revente des données personnelles à des fins de ciblage publicitaire mais, on l’a vu, il y a aussi des ciblages qui sont de nature politique. Et parfois, il ne faut pas non plus l’oublier, ces grandes plateformes revendent aux États, ou laissent que les États accèdent à nos données personnelles. Et là, on se retrouve face à une situation qui nous renvoie un peu en arrière dans le temps, en 2013, aux révélations de Edward Snowden, au moment où on s’est rendu que, en gros, ces plateformes c’était un peu open bar pour les gouvernements, parfois les gouvernements des pays qui sont les nôtres, au fond des pays industrialisés du Nord du monde et, parfois aussi, de certains pays qu’on considère un peu plus menaçants d’un point de vue géopolitique.

Julien Magnollay : Antonio Casilli, est-ce que vous avez Facebook sur votre téléphone portable ?

Antonio Casilli : Tout à fait !

Julien Magnollay : Et vous l’utilisez ?

Antonio Casilli : Oui. Bien sûr.

Julien Magnollay : Vous avez peur ?

Antonio Casilli : Constamment je suis dans une situation d’attention, prudence, de création de tout un ensemble de stratégies, de gestion de ce qu’on appellerait ma présence en ligne.

Julien Magnollay : Donc quoi ? Vous changez de téléphone portable tous les jours ? Vous changez l’adresse IP.

Antonio Casilli : Écoutez, il y a plusieurs manières d’envisager la question de base qui est, en gros, la question que Lénine peut se poser : que faire ? Et donc, que faire dans cette situation-là ? Tout simplement on a ou la possibilité d’opter pour la décroissance, c’est-à-dire de chercher à limiter ses usages et donc, finalement, à ne pas être présent. Malheureusement cette tactique, à mon sens, a une difficulté ou une faiblesse. C’est la faiblesse que, même si je ne suis pas sur Facebook, Facebook sait quelque chose sur moi-même. Je vous donne un exemple très simple : Facebook crée ce qu’on appelle des profils fantômes pour chacun d’entre nous. Même les personnes qui ne sont pas inscrites ont déjà un profil fantôme. Ça correspond à quoi ? Eh bien, ça correspondant tout simplement à quelqu’un qui, par exemple, ne s’appelle pas avec votre nom et prénom, c’est-à-dire celui qui est inscrit dans votre document d’identité – ça peut être tout simplement x –, mais, surprise, est déjà connecté à des personnes qui peut-être font partie de votre entourage, peut-être votre mère, peut-être votre collègue, qui sont, eux, sur Facebook, donc tout simplement dans le graphe social. Ça fait que la personne qui est votre collègue, la personne qui est le membre de votre famille, est connectée à un profil x qui, surprise, est le vôtre. Et donc, au moment où vous vous inscrivez, Facebook sait déjà de vous que vous êtes membre de telle famille et collègue de telle personne et justement vous suggère, d’entrée, de vous connecter à des profils qu’elle sait déjà être plus ou moins liés à votre milieu social.

Donc face à ça, quelle est la décroissance possible ? Quelle est la décélération possible ? Au contraire, je pense qu’il faut accélérer. Il faut vraiment chercher à multiplier, à brouiller, à créer ce que les Anglais appellent un effet de obfuscation, c’est-à-dire d’exagération des signaux qu’on envoie pour, finalement, chercher à tromper l’algorithme et parfois, à la limite, j’ose dire troller l’algorithme, c’est-à-dire être un peu méchant, un peu rusé et même un peu taquin.

Julien Magnollay : Sadique avec l’algorithme.

Antonio Casilli : Sadique oui, c’est encore mieux !

Julien Magnollay : En plus, en ce qui vous concerne, c’est compliqué parce que vous êtes quand même enseignant en humanités numériques, ; si vous faites complètement la déconnexion, ça va être un peu difficile d’enseigner une matière sans l’observer, sans avoir la pâte pour en parler.

Antonio Casilli : Oui. En effet, j’aurais vite un manque de matière première pour pouvoir faire mes cours.

Julien Magnollay : On parle d’exploitation, certains parlent d’exploitation du travail, de nous avec nos data, mais pas que. Il y a aussi les pays défavorisés, les fermes à clics, les choses comme ça qui se font. Certains parlent de nouveau colonialisme. Je l’ai dit en introduction, c’est un terme qui ne vous plaît pas beaucoup. Pourquoi ?

Antonio Casilli : Oui. En effet, je ne suis pas fan de l’idée de l’utilisation du terme colonialisme pour la simple et bonne raison que, tout en partageant l’analyse liée à l’exploitation non seulement des usagers lambda de grandes plateformes comme Facebook et comme Google et évidemment, aussi encore partageant l’analyse qui consiste à dire qu’il y a des effets globaux donc de mise au travail et de sous-rémunération de personnes qui sont situées dans des pays en voie de développement ; donc sur ça je suis d’accord. Par contre, j’ai tendance à utiliser avec beaucoup de prudence le mot colonialisme parce que c’est un mot chargé d’histoire et, à la limite, on est face au risque de le banaliser, de le galvauder, de le rendre moins efficace, finalement de le dé-historiciser. Ça veut dire quoi ? Ça veut dire, tout simplement, qu’on a une certaine tendance, aujourd’hui, à utiliser ce mot sans prendre en compte le fait que c’est un mot qui, justement, est lié à certains pays qui ont été colonialistes vis-à-vis d’autres pays et donc, finalement, par exemple les personnes qui utilisent aujourd’hui le mot colonialisme ou qui s’insurgent contre le colonialisme des GAFAM, donc Google, Facebook, Amazon, qui seraient en train de bouffer notre économie, de ravager nos esprits et ainsi de suite, les personnes qui s’insurgent contre cela, très souvent ce sont des personnes qui viennent des pays mêmes qui étaient, il y a peu, les pays colonisateurs.

Julien Magnollay : Mais est-ce l’un n’empêche pas l’autre ? Est-ce que l’un empêche vraiment l’autre dans le sens qu’on peut être effectivement occidentaux et colonisés par d’autres occidentaux ?

Antonio Casilli : C’est correct. En effet, je suis d’accord avec ça. Et je pense que, pour cela, il faudrait non pas parler de colonialisme ou néocolonialisme pour, justement, laisser cette notion dans ce contexte précis d’histoire précise et parler plutôt, comme d’autres le font, d’un concept plus vaste qui est presque pareil du point de vue terminologique, moi je parle de colonialité. Je parle du fait que, en effet, il y a des solidarités possibles, il y a des liens possibles, entre les colonisés du Sud et les colonisés du Nord. Mais le moment où on commence à parler de colonialité, on commence à dire quelque chose de légèrement différent, de complètement différent, à la limite, du colonialisme classique, parce qu’on est en train de parler du fait qu’il y a, par exemple, un effet ou plutôt un pouvoir de ces plateformes numériques d’envahir notre vie. Donc de créer même notre propre personnalité, de l’influencer, d’influencer notre identité et, finalement, de nous rendre sujets. Sujets au sens de assujettis, asservis à leurs exigences, à leurs besoins d’exploiter nos données, à leur besoin, à la limite, de nous mettre au travail chaque jour. Et j’insiste beaucoup sur le fait que les plateformes numériques mettent au travail leurs utilisateurs, par exemple à travers un renvoi constant via des alertes, via des pastilles, via des signaux que nous recevons.

Julien Magnollay : Via des e-mails. Si on n’est pas connecté depuis quoi, un jour et demi sur Facebook, elle dit : « Ça fait longtemps, on s’ennuie de vous ; venez nous voir, venez travailler, venez à la mine ».

Antonio Casilli : « Venez regarder et venez cliquer ». C’est souvent ce que, en marketing, on appelle un call to action, donc un appel à l’action. Les pastilles et les alertes qu’on reçoit sont des formes, à la limite on pourrait dire des signaux de la subordination de l’usager à la plateforme.

Julien Magnollay : Nous parlons de la domination des géants du Web et des conséquences sur notre vie privée et sur le travail avec vous Antonio Casilli. On vous retrouve juste après Deva Mahal.

[Musique]

Julien Magnollay : Snicks. C’était Deva Mahal. On vous retrouve, Antonio Casilli, nous parlons donc de la domination des géants du Web, avec vous ce matin. J’ai lu dans un article de Télérama que vous plaidez désormais pour un tournant décolonial numérique. Expliquez-nous !

Antonio Casilli : Un tournant décolonial numérique veut dire qu’il faut tout d’abord reconnaître qu’il y a cet effet de colonisation et de colonialité plutôt, voilà, et de l’autre, aussi, se rendre compte du fait que l’Internet est basé sur vraiment un vaste système de mise au travail de masses humaines. Et ça, on l’ignore souvent. Parce que, étant donné notre point de vue et le fait que les gens comme nous sont souvent des habitants des pays de Nord du monde, nous imaginons, par exemple, que l’usage d’une plateforme comme Facebook est basé sur un effet de bénévolat : donc chacun contribue, publie les photos de ses chatons et de ses sorties en famille et, en même temps, derrière tout cela, derrière cette économie de la gratuité, il y a une énorme économie cachée qui est faite de métiers et de professionnalité invisibles. Je vous donne deux exemples très rapides : le premier ce sont les modérateurs d’une plateforme comme Facebook ou comme YouTube ; ce sont les personnes qui sont, par exemple, invitées, à chaque fois, à regarder des contenus qui sont souvent des contenus extrêmement problématiques et très violents.

Julien Magnollay : Qui ont été signalés souvent ?

Antonio Casilli : Qui ont été signalés, par nous-mêmes.

Julien Magnollay : Grâce au travail, par nous !

Antonio Casilli : Donc il y a l’effet d’enchaînement entre notre travail bénévole et le travail micro-rémunéré de ces modérateurs. Pourquoi je dis micro-rémunéré ? Parce que, souvent, leur paye est vraiment minuscule pour la simple et bonne raison qu’ils sont souvent des ressortissants de pays comme les Philippines, comme le Bangladesh, dans lesquels le niveau moyen, le salaire moyen mensuel ne dépasse pas les 50 euros. Donc du coup, effectivement, ils peuvent être payés quelques centimes par clic.

Julien Magnollay : Et c’est pour ça que, là aussi, il y a eu tout un débat en France. Certains disent : « Il faudrait monétiser », finalement faire payer ces géants du Web pour les données qu’ils collectent, nos données. C’est-à-dire, je ne sais pas, ils nous paieraient par mois ou un forfait, comme ça. Et là aussi, j’ai vu que vous n’étiez pas très d’accord. C’est parce que ça ne concerne, en gros, que nous occidentaux et puis c'est un peu occulter tout le travail qui est fait par ailleurs.

Antonio Casilli : Il y a un peu de ça. Mais disons, pour résumer, il s’agissait, en gros, d’un effet d’annonce ou d’un coup de pub, d’autres diraient, d’un think tank d’orientation libérale qui s’appelle Génération Libre2, qui avait sorti un rapport dans lequel, en gros, on disait face à la surpuissance des plateformes globales, à la Facebook et à la Google, il y a une seule solution c’est de ré-instituer une propriété privée, un droit de propriété privée, radical, de nos données personnelles. Et qui dit propriété privée, évidemment dans l’esprit de ces messieurs, eh bien dit aussi possibilité de revendre ses données personnelles.

Quelles données ? Par exemple, je peux revendre, que sais-je, toutes les données de géolocalisation de mon téléphone portable. Et donc, quelqu’un aurait accès à tous les lieux dans lesquels j’ai passé mes jours et mes semaines. Ou alors je peux revendre, aussi, des contenus que j’ai mis en ligne, donc des vidéos, des images et ainsi de suite, mais aussi des informations personnelles. Est-ce que je peux revendre, et là c’est une question beaucoup plus délicate, par exemple des données de santé ? Ou mon nom ? Est-ce que je peux revendre mon image, c’est-à-dire mon apparence physique même ? La question devient vite complexe. Donc il y a problème de base, il y a un problème, à mon sens, de légitimité de revente de ces informations qui ont vraiment trait à la personnalité de l’usager et donc à la limite, je dis comme d’autres, que le marché des données personnelles est ce qu’on appelle en économie un marché répugnant. C’est-à-dire un marché qui est problématique en soi comme vendre un organe ou, que sais-je, faire des paris sur des attaques terroristes ou sur le prochain assassinat. Ce n’est pas vraiment quelque chose de sympa comme type de marché. Et pourtant, quelqu’un peut bien le proposer.

Après, l’autre problème de base à mon sens, c’est que, si vous voulez, cette revente à la pièce des données personnelles est déjà en place. Et ça, c’est le moment où je reviens au fait que derrière la gratuité des données personnelles sur Facebook, derrière la gratuité de ces plateformes qui est toujours vendue, vous avez accès gratuit et, en plus, vous ne pouvez pas revendre ce que vous faites : ce que vous mettrez en ligne est gratuitement approprié par Mark Zuckerberg et les autres.

Derrière tout ça se cache, en réalité, une économie qui, déjà aujourd’hui, rémunère à la pièce des petites contributions. Je viens de citer les modérateurs, mais il y a aussi, par exemple, tous les ouvriers du clic qui sont les personnes qui font remonter les compteurs, les scores de réputation, les visionnages sur des tas de plateformes. Et en plus, à côté de ça, il y a aussi des applications peut-être moins connues dans certains milieux mais certainement très connues dans les milieux populaires ou chez les plus jeunes comme les étudiants qui ont toujours un peu besoin d’argent, ce sont les applications rémunératrices. Des applications qui vous permettent, par exemple en cliquant ou en regardant un certain contenu, de gagner parfois quelques centimes et parfois des bons d’achat ; et ce sont parfois des compléments de salaire qui permettent à certaines personnes d’arriver à la fin du mois.

Donc cette économie du clic, malheureusement, existe déjà, mais ses effets ne sont pas des effets de stabilisation de l’économie ou de limitation des inégalités sociales. Au contraire, l’effet de cette économie du clic qui existe déjà, c’est qu’elle creuse des inégalités qui existent et crée des classes de prolétaires du clic.

Julien Magnollay : Mais vous pensez, Antonio Casilli, qu’il est possible peut-être de revenir en arrière ? On sait qu’un des problèmes c’est le fait que ces services-là sont gratuits. Facebook le met sur sa page : c’est gratuit et ça le restera toujours. Si ça devenait payant, qu’on payait tiens, comme pour Netflix, 13 euros par mois, 13 francs par mois, est-ce qu’ils pourraient abandonner, finalement, ces data ? Mais maintenant qu’ils ont goûté, je pense qu’ils ne voudront plus lâcher ça parce que c’est tellement pratique pour la publicité notamment. Mais est-ce que ce serait possible d’instaurer du payant sur des services, pour ensuite se débarrasser de ces questions de data ?

Antonio Casilli : Oui. À la limite, pour moi, le problème n’est pas le payant ou pas payant. Je ne veux pas rentrer dans le détail. Mais en gros, ces plateformes sont caractérisées par des modèles d’affaires qu’on appelle des marchés bifaces. C’est-à-dire des marchés dans lesquels vous n’avez pas, comme dans les marchés d’antan, exclusivement un producteur et un consommateur, mais vous avez un intermédiaire, plusieurs catégories de producteurs, de consommateurs et ainsi de suite. Face à ça, comment peut-on établir les prix ? Eh bien tout simplement, on établit ces prix de manière différentielle. C’est-à-dire chaque catégorie paye quelque chose de différent. Donc finalement, Facebook est gratuit pour moi usager, du moins nominalement, mais il y a beaucoup de bémols à mettre et par contre, pour un annonceur Facebook est bien payant.

Netflix est payant pour certains et pas payant pour d’autres. Il y a toujours un effet de distribution, si vous voulez, des tarifs. Et le fait de faire payer quelqu’un ne vous assure pas, malheureusement, que ses données, que les données de tout le monde ne soient pas récupérées et finalement monétisées d’un autre côté. Il y a mille manières de monétiser ces données. Parfois on laisse, par exemple, des régies publicitaires y accéder. Parfois on prélève des commissions sur la valeur produite autour de ces données-là et donc, de ce point de vue-là, malheureusement, on n’est pas à l’abri de mauvaises surprises, même si on paye un prix d’accès à ces plateformes.

Julien Magnollay : On a parlé de colonialisme, un mot auquel vous préférez colonialité, il y a la question aussi des États. On se rend compte que ces entreprises ont déjà un capital boursier absolument énorme, ça se chiffre en milliards. Est-ce que ces grandes boîtes du numérique sont en train de remplacer les États, même dans certains services qui sont proposés ?

Antonio Casilli : Ces grandes boîtes du numérique constituent, pour les États surtout, une espèce d’attracteur d’imaginaire. C’est-à-dire qu’une personne qui rentre dans le monde de la politique aujourd’hui, en 2018, surtout les plus jeunes, ces personnes-là ont une véritable fascination vis-à-vis des modalités de fonctionnement d’une plateforme comme Facebook. Et cette fascination, ce pouvoir d’attraction, fait en sorte que très vite les politiciens d’aujourd’hui, les hommes politiques et les femmes politiques d’aujourd’hui, ont une certaine tendance à chercher à se rapprocher ou à inviter des acteurs industriels venant du secteur du numérique, à rentrer dans leur cabinet ; ou, par exemple, à acheter certains services de ces plates-formes-là. Des exemples il y en a plusieurs. Les gouvernements comme le gouvernement français qui, il y a quelques années déjà, à l’époque des attentats terroristes et de la mise en place, hélas, de certaines législations que je n’hésite pas à définir liberticides, eh bien à cette époque-là le ministre de l’Intérieur français se rendait dans la Silicon Valley pour rencontrer les principales plateformes et pour s’accorder pour avoir un accès privilégié aux données à des fins de surveillance de masse. Ça, c’est déjà une manière de faire de l’entrisme dans la Silicon Valley mais tout en laissant la Silicon Valley faire de l’entrisme au sein du gouvernement d’un pays.

Après, évidemment, vous avez aussi certains gouvernants, je pense encore une fois à certains partis politiques comme en Italie le Mouvement 5 étoiles, qui ont une forte sympathie, presque idéologique, pour les instruments du numérique ; ou pour un certain discours numérisant qui parle, par exemple, d’une citoyenneté connectée, du droit d’accès à Internet comme un droit de naissance, Internet comme une occasion de démocratie directe. Qu’est-ce que ça veut dire ? Ça veut dire qu’un mouvement ou plutôt un parti, soyons sincères, comme le Mouvement 5 étoiles, très vite se transforme en parti plateforme, qui est basé sur une véritable plateforme qui s’appelle Rousseau3 et qui est un outil de gouvernance des adhérents, des inscrits, des membres de ce parti et, finalement, des électeurs.

Julien Magnollay : Donc une certaine fascination des États et du monde politique pour ce monde numérique. Merci beaucoup Antonio d’être venu nous voir ce matin. Je rappelle vous êtes sociologue enseignant en humanités numériques à Télécom ParisTech et auteur notamment de ces livres : Les liaisons numériques : vers une nouvelle sociabilité ? et Qu’est-ce que le Digital Labor ?. Bonne suite de journée.

Antonio Casilli : Merci.

Julien Magnollay : Merci beaucoup… [Remerciements d'usage]

• 1. Amazon Mechanical Turk
• 2. Génération Libre
• 3. Rousseau - Piattaforma del Movimento 5 Stelle - En italien