Surveillance et note sociale en Chine - Décryptualité du 19 mars 2018

Titre : Décryptualité du 19 mars 2018
Intervenants : Luc - Nicolas - Magali - Manu
Lieu : Studio d'enregistrement April
Date : mars 2018
Durée : 14 min
Écouter ou télécharger le podcast
Revue de presse pour la semaine 11 de l'année 2018
Licence de la transcription : Verbatim
Illustration : John Seung-Hwan Shin - Wikimedia Commons - Licence CC Attribution 3.0 Unported
NB : transcription réalisée par nos soins. Les positions exprimées sont celles des intervenants et ne rejoignent pas forcément celles de l'April.

Transcription

Luc : Décryptualité.

Nico : Le podcast qui décrypte l’actualité des libertés numériques.

Luc : Semaine 11. Salut Manu.

Manu : Salut Nico.

Luc : Salut Mag.

Mag : Salut Luc.

Luc : Eh bien sommaire, ne perdons pas de temps.

Manu : Ne perdons pas de temps. Alors c’était une bonne semaine, sept articles principaux.

Mag : Contrepoints, « Anarchie, cypherpunk et liberté : les racines philosophiques du bitcoin », par Yorick de Mombynes.

Manu : Très intéressant. Allez jeter un œil parce que ça parle, justement, d’un point de vue un peu novateur sur la monnaie, l’anarchie ; c’est toujours fun.

Mag : Developpez.com, « L’UE voudrait exiger que les plateformes filtrent le contenu téléchargé pour éviter des violations de copyright », par Stéphane Le Calme.

Manu : Ça touche tout le monde, notamment les codeurs, parce que eh bien oui, quitte à bloquer les contenus qui sont échangés sur Internet, autant bloquer tous les contenus qui sont échangés sur Internet à moins de montrer qu’on n’a pas violé le copyright de ces chers ayants droit.

Luc : Coupables par défaut !

Manu : Exactement.

Mag : Ouais, c’est ridicule quoi ! ouest-france.fr, « Vire. À la découverte des logiciels libres avec Vire’GUL », par Sébastien Brêteau.

Manu : Alors là, ils ont vraiment de la chance ! C’est un GUL comme on les aime parce que la ville de Vire, ils ont profité de l’occasion, c’est bien joué, pour s’appeler Vire’GUL.

Luc : Ah, rusé. Je n’avais pas compris.

Mag : Les Echos, « Darknet : Brève histoire du grand méchant web », par Marc Lionti.

Manu : Intéressant. Ça parle de trois couches d’Internet. Moi je ne l’avais pas vu comme ça : le Web peu profond, accessible à tout le monde ; le Web profond et le Web sombre. Là attention, quand vous allez là-dedans, ça va être dangereux.

Nico : Il y a du Marianas Web ou pas ?

Manu : Du quoi ? Du ?

Nico : Du Marianas Web ?

Manu : Marianas Web. Ah oui, c’est encore plus profond. Oui, les profondeurs ultimes.

Mag : Libération, « Bercy attaque Apple et Google sur les pratiques de leurs magasins d’applications », par Christophe Alix.

Manu : C’était, on pourrait dire, la grosse semaine là-dessus ; ça parlait bien du ministère qui se réveille enfin et qui dit : « Il y a de l’argent à récupérer, des taxes et des amendes, parce que les grands GAFA profitent de leur position, ils en abusent, clairement, notamment sur les stores d’applications de téléphones portables. »

Mag : J’ai hâte de voir ça ! FIGARO, « Mounir Mahjoubi: « Je suis contre toute propriété et vente des données personnelles », par Elsa Trujillo.

Manu : Ça fait du bien d’entendre ça et il ne veut pas qu’on patrimonialise les données personnelles.

Luc : Bravo !

Manu : Ouais, j’ai hésité, j’ai eu peur. Donc c’est un sujet qui avait déjà été abordé. C’est une proposition de dire quand vous partagez sur Facebook, Facebook doit vous donner de l’argent en échange de ce que vous avez partagé. L’idée n’est pas fondamentalement idiote, sauf quand on creuse un petit peu et là on se rend compte que ça crée quand même beaucoup trop de problèmes.

Mag : C’est totalement utopique ! Tu imagines Facebook qui nous donne de la tune ?

Manu : Dans ce sens-là, oui.

Luc : Pour moi ce n’est pas utopique, au contraire, parce que ça pose de façon irrémédiable que tes données sont une marchandise, donc que tu es une marchandise.

Mag : Dans ce cas-là Facebook va arrêter de nous faire un compte en France pour ne pas avoir à payer les Français qui vont suivre ça.

Manu : Ça aurait ce genre de conséquences. Encore que, va savoir ! Simplement ils ouvriraient un marché, ils te paieraient plus cher que d’autres réseaux sociaux peut-être. Peut-être qu’ils s’en sortiraient, t’inquiète !

Mag : Je n’y crois pas ! usine-digitale.fr, « Sept mesures de Terra Nova pour stimuler l’économie collaborative » par Christophe Bys.

Manu : L’économie collaborative, ce sont les Uber et autres Airbnb.

Luc : Il y a des trucs plus sympas quand même.

Manu : Oui, mais c’est clairement ce genre de choses qu’ils ont en tête et, justement, ils ne veulent pas arrêter ce genre de choses. Ils ne veulent pas, non plus, que ça continue dans le même sens, on ne va pas dire esclavagisme mais dans un sens un petit peu pourri des fois, et donc ils mettent en avant des …

Luc : L’idée est l’évasion fiscale.

Manu : Oui, il y a pas mal de choses. Je n’ai pas lu c’est tout un rapport, je n’ai pas été jeter un œil. Ces sept propositions, je ne pourrais pas vous les lister, mais il y a des gens qui réfléchissent. C’est vrai qu’on est dans un mouvement en ce moment, donc l’économie collaborative il faut la prendre à bras le corps.

Mag : Et du coup on parle de quoi ce soir, Luc ?

Luc : On va parler du futur, de l’avenir radieux qui nous attend.

Manu : Et qui vient de ?

Luc : Et qui vient de Chine, avec des choses qui sont expérimentées depuis un petit moment et qui sont annoncées pour 2020, si je ne me trompe pas. Ce modèle est un modèle de société, en quelque sorte, puisqu’en Chine il y a eu une annonce récemment, enfin récente, pour mettre en place un système de notation sociale et que chaque habitant ait une note qui permet de savoir si c’est un bon citoyen, ou pas.

Nico : Il faut savoir, quand même, que la Chine a un fonctionnement assez bizarre par rapport à nous, on n’a pas l’habitude de ça dans nos contrées occidentales. Mais en fait, ils utilisent déjà des applications où tout ce que vous faites au quotidien est noté. C’est WeChat1 et Alipay2 qui sont un mélange entre Carte bleue, un site de rencontre, des réseaux sociaux, enfin tout passe par ce truc-là et tout ce que vous faites est noté, scruté et autres. Du coup, si vous n’avez pas des bonnes notes, eh bien vous avez des prêts à la consommation qui sont plus chers ou moins d’accès au logement.

Mag : Ou vous ne pouvez plus prendre le train et l’avion.

Nico : Et voilà ! Et c’est ce qu’ils ont annoncé, c’est qu’en 2020, si vous avez des mauvaises notes, eh bien vous ne pouvez plus voyager.

Manu : Ça a l’air d’être plus ambitieux que ça. Ils appellent ça la note sociale, en tout cas c’est comme ça que ça a été traduit en français, et ça a l’air d’ambitionner de mesurer tout ce qui peut être mesurable chez les citoyens, y compris les petites choses de tous les jours : si tu as jeté un papier par terre, que quelqu’un l’a remarqué, eh bien ta note sociale va diminuer.

Mag : Donc en gros, ça encourage la délation ?

Manu : La délation, non, pas forcément, des caméras partout.

Mag : D’accord ! C’est carrément la surveillance de masse.

Luc : À fond, à fond. C’est qu’en fait il y a plusieurs choses, parce que la Chine va dans ce sens-là. Il faut se rappeler qu'Internet, avant ils tapaient très fort dessus parce que pour eux c’était un danger ; et on voit comment, en quelques années, finalement ils ont complètement inversé la problématique et ils ont fait d’Internet un outil de surveillance et de contrôle assez fabuleux. Donc il y a eu ces dernières années des expérimentations de notation, locales, à droite, à gauche en Chine, avec des notes mais là plutôt menées par les pouvoirs publics. Et il y a ces entreprises bien sûr, main dans la main.

Manu : En lien avec le pouvoir.

Luc : Avec le gouvernement, qui offrent tout plein de choses et notamment le paiement par téléphone portable. Ça c’est le nouveau truc à la mode qui va nous arriver dans pas très longtemps.

Mag : C’est déjà le cas. Moi j’ai déjà des clients qui me payent avec leur téléphone.

Nico : Il y a les Apple Pay ou autres qui sont arrivés, effectivement, en France.

Manu : Et c’est beaucoup le cas en Scandinavie.

Luc : Et en Chine, dans les grandes villes, ils sont hyper en pointe parce que ça permet de contrôler encore mieux ce qu’on fait. Il y a ce que disait Nicolas sur le réseau social : on sait qui est en relation avec qui. Les paiements : on sait où on a été, qu’est-ce qu’on a acheté, en quelle quantité, etc. Il y a plein d’autres choses puisqu’on va retrouver même d’autres indications à l’intérieur de l’application.

Manu : Ils ont l’air de parler du fait que si tu as répandu des mauvaises nouvelles, par exemple sur Internet, ça va baisser ta note sociale. Le fait que tu as parlé de quelqu’un de manière négative, ça peut baisser ta note sociale.

Mag : Mais alors du coup, qui est-ce qui surveille ça et qui est-ce qui va gérer les notes ?

Luc : Pourquoi tu veux savoir ?

[Rires]

Luc : Ça va faire baisser ta note sociale.

Nico : Sur ce qui existe déjà su Alipay ou WeChat, ce sont les uns les autres, en fait, qui se notent à chaque fois qu’on fait quelque chose. C’est un peu, aujourd’hui, comme sur eBay, Amazon ou sur Uber : on laisse une note à la fin pour dire comment ça s’est passé ou autres. Donc c’est le fait d’être bon payeur ou mauvais payeur ; d’être bon acheteur ou bon vendeur et tous ces petits trucs-là, en fait, qui vont faire qu’on va avoir certains accès, ou pas. Par exemple, c’est noté sur 10 sur WeChat, si on a en dessous de 7, eh bien on va devoir payer une caution dans les hôtels alors que si on est au-dessus on ne la paiera pas. Donc ce sont déjà des choses qui sont faites et la note sociale, là-bas, est très mise en avant et si on en dessous de 7 on a vraiment des problèmes si on est en Chine.

Luc : Et, en plus de ça, ils récupèrent des données, notamment du gouvernement. Par exemple, ils ont récupéré toutes les données des gens qui ont triché aux examens. Donc ils ont une base de données, officielle, de tous les gens qui se sont fait choper en train de tricher. Paf ! Ça, ça peut être entré et faire baisser la note.

Manu : Toutes les amendes que tu as reçues dans ta vie.

Luc : Les amendes. Les amendes non payées, ils ont un fichier sur les amendes non payées.

Manu : C’est le minimum !

Mag : Qui est-ce qui gère toutes ces données ?

Nico : C’est en Chine donc le gouvernement là-bas est un peu tout puissant.

Manu : En gros, ils vont agréger tout ce qu’ils peuvent agréger et ensuite ce serait comme une note de bac qui serait un compromis de toutes ces différentes mesures. Donc ils vont mettre un poids, ils vont peut-être mettre des importances à certaines notes ; ils vont en ressortir cette note sociale et, de cette note sociale, ensuite, ils vont essayer de mettre des comportements, enfin d’orienter les comportements.

Luc : Il y a un autre critère qui est très important, qu’on n’a pas mentionné, c’est qui tu fréquentes. C’est-à-dire que la note sociale des gens avec qui tu es en relation influe sur ta propre note sociale.

Mag : Mais c’est tragique en fait, on est surveillés constamment sur tout ce qu’on fait !

Manu : C’est en Chine ! C’est en Chine ! Tu abuses ! C’est en Chine !

Luc : Ça n’arrivera jamais chez nous !

Manu : Ça n’arrivera jamais, jamais !

Mag : C’est bien parti pour !

Luc : En fait, on a déjà plein de notations. Ce qu’il y a c’est qu’elles ne sont pas agrégées dans un seul et même système.

Manu : Et elles n’ont pas d’effets, parce qu’on n’en a pas beaucoup parlé, mais elles n’ont pas d’effets sur ta vie de tous les jours autant que ça en aurait en Chine

Nico : Elles ont des effets. Par exemple si vous êtes mauvais payeur sur eBay eh bien vous n’allez pas pouvoir payer ou vous allez avoir des achats refusés.

Manu : Et si tu as une mauvaise note pour Uber tu pourrais ne pas être pris par les chauffeurs Uber.

Nico : Ne pas être pris. Du coup c’est limité aux services sur lesquels vous êtes mal noté, alors que là on parle vraiment d’une note globale et c’est l’intégralité de tous les services de votre vie courante qui vont devenir...

Manu : Avec un impact sur tout.

Luc : Les banques ont un système de notation de tous leurs clients. On est tous notés par nos banques comme étant comme ou moins viables. On rappelle, c’est une histoire que j’aime bien : Facebook avait déposé un brevet pour vendre des services aux banques pour qu’elles puissent savoir si notre réseau de relations sont des bons payeurs et donc déduire si on sera un bon payeur ou pas. J’ai appris d’ailleurs que depuis ils ont fait marche arrière là-dessus en disant « on n’autorisera pas les banques à surveiller le réseau de relations ». Après ils peuvent changer d’avis encore, mais la logique est là.

Manu : Il y a plus simple. Il suffit que tu te bases, probablement, sur le quartier dans lequel tu es, tu peux déjà en déduire tellement de choses pour une banque.

Luc : Oui, mais toi tu peux être dans un beau quartier et puis fréquenter des gens un peu louches ou des choses comme ça. Et après je ne sais pas, tu es adepte des substances illégales, tu as quelques amis un peu louches ou des choses comme ça.

Manu : En tout cas, pour arriver au fait qu’on a déjà plein de notes de plein de manières différentes et ces notes ont déjà des impacts dans nos vies. C’est juste que l’agrégation de ces notes et son usage de manière massive va avoir des impacts encore plus intéressants. Intéressant parce qu’il y a des conséquences quoi !

Luc : D’autant plus que le gouvernement maintenant veut, par exemple, interdire aussi aux gens qui ont une trop mauvaise note de se déplacer.

Manu : Voilà. C’est ça parmi les conséquences c’était de ne pas pouvoir prendre l’avion.

Nico : Ou le train.

Manu : Ou le train, donc de ne pas pouvoir répandre le mauvais comportement que tu as eu autour de toi.

Mag : Moi ça me fait penser à un livre de Michel Foucault qui s’appelle Surveiller et punir.

Manu : Non ! Non ! D’habitude c’est Luc qui en parle.

[Rires]

Mag : Justement, je lui tends une grande perche, là.

Luc : Oui. À fond ! Si vous aimez bien les livres un peu intellos, lisez ce bouquin, c’est absolument éclairant par rapport à la situation. C’est difficile à résumer en quelques minutes, mais il y a cette idée chez Foucault qui est que la principale invention de la modernité, donc à la sortie de l’Ancien régime, c’est un mode de pouvoir où on va s’intéresser aux individus plutôt qu’aux groupes et tout découper en micros comportements ; tout est évalué — donc là on retrouve nos principes de notation — pour diriger les gens et dire c’est comme ça qu’on se conduit, etc., en parlant de toutes ces institutions disciplinaires que peuvent être la caserne, l’hôpital, l’école, la prison et ce genre de choses. Et on est à fond, à fond là-dedans avec peut-être cette particularité qu’on a un chiffre qui est censé tout résumer. Ça veut dire que l’individu cesse d’être multicritères, il est bon ou mauvais, enfin plus ou moins bon ou plus ou moins mauvais, mais on le met sur une échelle. Et ça c’est quand même assez particulier.

Manu : Et à hauteur de plus d’un milliard de personnes, ça peut avoir des résultats de notation qui sont vraiment incroyables.

Luc : On retrouve aussi la logique de création de groupes homogènes ; ça c’est déjà avec le côté commercial : par exemple, pour prendre une première classe, il faut avoir le niveau de note nécessaire. Donc ce n’est pas simplement avoir les moyens de se le payer. Donc si on est considéré comme un sale con, eh bien on ne veut pas de toi en première classe. Du coup, il n’y a que des gens du bon milieu qui vont se retrouver dans les endroits qui comptent ou les trucs confortables, etc.

Nico : Après, il y a aussi toutes les dérives du système. Par exemple, les gens qui risquent d’être assez aisés ou autres, auront sûrement les moyens de s’acheter leur note en mettant des petits pots de vin à droite, à gauche, pour obtenir des meilleurs résultats.

Manu : Ou en faisant effacer les mauvaises actions d’une certaine manière.

Nico : En faisant effacer. Généralement, ceux qui n’auront pas les moyens vont rester stagner dans le bas, parce qu’ils n’auront pas le droit à l’erreur, alors que ceux qui seront plus riches auront les moyens, les pouvoirs, les relations, arriveront à sortir la tête du panier.

Mag : Du coup, ça me fait penser à un deuxième livre, je suis désolée, mon côté libraire qui sort, La Zone du Dehors, d’Alain Damasio.

Nico : C’est vrai que ce bouquin est énorme. Et ça résume assez bien la situation où chacun est classé. Là c’est carrément son nom ; c’est même son identité qui disparaît en fonction de ses performances. Et le bouquin est juste énorme à lire et c’est vrai que la société qui en résulte est quand même assez spéciale.

Manu : Moi je voudrais faire remarquer que tout cela n’est pas si nouveau que cela. Tout cela c’est juste la continuation de la notion de réputation. Vous étiez dans un village il y a encore peu de temps, et ça existe encore, bien sûr, la réputation qui se traîne derrière eh bien ça fait votre vie.

Luc : Oui, mais il y a une différence considérable c’est que dans une relation de village tu connais à peu près les règles ; tu es dans un rapport de pouvoir — alors évidemment, un notable va avoir plus de poids que toi, etc. —, mais tu es dans des relations interpersonnelles et tu es dans un système où tu peux jouer à droite, à gauche, etc. Dans ce système-là tu as un État, donc quelque chose qui est invisible, qui te voit mais que tu ne vois pas en retour et qui t’évalue sur des critères que tu ne connais pas. Et on retombe sur les discussions qu’on a pu avoir sur APB, les affectations post-bac, il y a des critères d’évaluation et on ne les connaît pas donc, du coup, ça devient arbitraire. C’est le fameux Code is law : ce qu’il y en dans le code définit ce qu’on va faire. L’autre truc que je trouve assez angoissant là-dedans c’est, qu’en plus de ça, il peut parfaitement y avoir des trucs complètement faux, l’important c’est que le pouvoir y croit.

Manu : Et les citoyens !

Luc : Et les citoyens. Du coup tu peux imaginer un système avec des tas de données, ce qu’on appelle le big data, etc., et qui sort des conneries, mais dès lors que c’est considéré comme bien ça devient auto-réalisateur puisque de toutes façons tu vas être enfermé, verrouillé, bloqué ; tu ne feras pas d’études, tu n’achèteras un bel appartement, tu resteras dans un quartier pourri, tu ne pourras pas changer.

Manu : Tu ne sortiras pas avec quelqu’un qui a une note intéressante.

Luc : Personne ne voudra te voir parce qu’on sait que tu as une note toute pourrie.

Manu : Et que ça va faire baisser l’ensemble à tout le monde.

Luc : Voilà, tout à fait. Du coup, le système va réaliser ce qu’il est censé mesurer et donc créer de lui-même sa propre réalité.

Manu : Rebelote : même chose que la réputation. Tout ce que tu viens de dire, ça se retrouve dans la notion de réputation. Dans un village ou ailleurs tu ne sais pas forcément comment tu es noté, eh bien non, il ne manquerait plus que ça ! Les relations interpersonnelles que nenni ! Parce que les gens te jugent sans que tu les connaisses forcément.

Luc : Il peut y avoir une cabale contre toi.

Manu : Et tu peux avoir vraiment des choses atroces et là, dis-toi qu’en Chine ils ont le Parti communiste qui a des tentacules un peu partout et tu peux en faire partie. C’est un parti gigantesque avec une grosse partie de la population, mine de rien, dans le Parti ; c’est idéal. Et donc il y a moyen d’influer sur le système par ce biais-là ou en tout cas d’essayer.

Luc : Donc prenons notre carte, c’est ça ta conclusion ?

Manu : Exactement ! En tout cas là-bas, je pense que pour survivre c’est peut-être nécessaire.

Nico : Maintenant c’est mal barré, parce qu’ils viennent quand même d’avoir un nouveau président à vie.

Mag : Il n’est pas à vie, ils ont juste enlevé la limitation de deux mandats. Donc il va pouvoir faire son deuxième tranquillement et peut-être le troisième, le quatrième, le cinquième et ainsi de suite.

Manu : Il n’a que 65 ans, donc il a de l’espoir. Et ce n’est pas le seul qui vient d’être réélu.

Luc : Ah ! Qui ça ?

Manu : Poutine, ce week-end.

Luc : Poutine ce n’est pas une réélection, c’est une formalité ! Très bien. Merci à vous trois.

Manu : À la semaine prochaine.

Mag : Salut !

Nico : Salut ! Bonne semaine à tous.

• 1. WeChat
• 2. Alipay