Comment se fabriquent les fake news - Antonio Casilli - L'instant M

Titre : Comment se fabriquent les fake news ?
Intervenants : Antonio Casilli, Sonia Devillers
Lieu : France Inter
Date : 8 juin 2018
Durée : 18 min
Site de l'émission
Écouter ou télécharger le podcast
Licence de la transcription : Verbatim
Illustration : Left click on a mouse, Cdang and Fabien1309. Licence Creative Commons CC BY-SA 3.0
NB : transcription réalisée par nos soins, fidèle aux propos des intervenant·e·s mais rendant le discours fluide.
Les positions exprimées sont celles des personnes qui interviennent et ne rejoignent pas nécessairement celles de l'April, qui ne sera en aucun cas tenue responsable de leurs propos.

Transcription

Voix off : Il est 9 heures 40 sur France Inter et c’est le dernier Instant M de la semaine.

Sonia Devillers : Le vote de la loi contre la manipulation de l’information s’est embourbé cette nuit à l’Assemblée nationale. Pas d’adoption en première lecture. La majorité aurait sous-estimé les assauts de la France insoumise, du Front National et des Républicains qui hurlent à la mort de la liberté d’expression. « Cette loi les empoisonnent », écrit l’Obs ce matin. Pourtant, dans son édito, Le Monde la juge « délibérément inefficace pour qu’elle ne soit pas justement dangereuse ». Après La Matinale de France Inter, ce matin L’instant M vous propose de creuser le sujet. Nous ne discuterons pas forcément confiance ou vérité, mais focus, c’est ce que nous vous proposons sur ces armées de l’ombre payées pour répandre des fausses nouvelles. Nous vous racontons comment ce système est complètement artificiel.

Voix off : L’instant M Sonia Devillers sur France Inter.

Sonia Devillers : Bonjour à vous Antonio Casilli.

Antonio Casilli : Bonjour.

Sonia Devillers : Sociologue du Web, spécialiste des usages du numérique, maître de conférence à Télécom Paris Tech. Qu’est-ce que c’est Télécom Paris tech ?

Antonio Casilli : C’est l’ancienne École nationale supérieure des télécommunications, grande école française.

Sonia Devillers : Grande école française, et également chercheur à l’EHESS [École des hautes études en sciences sociales]. Je vous propose d’abord un petit coup d’œil sur l’actualité des médias. D’ailleurs je vais vous demander éventuellement de nous aider à comprendre les mécaniques dont je vais vous parler dans un instant et ensuite nous plongeons dans ce débat national sur les fake news.

Voix off : Coup d’arrêt, hier, net et brutal pour Buzzfeed France. Décision totalement inattendue de son actionnaire américain en difficulté financière. Ce site – une équipe de quatorze personnes – avait développé une ligne éditoriale très nouvelle et très remuante. Au départ des classements rigolos et anecdotiques partagés à gogo sur les réseaux sociaux et puis, en France comme aux États-Unis, un deuxième fil, d’info celui-là, recrutant des journalistes d’investigation capés. Scoops et révélations, je vous en cite quelques-uns : le restaurant L’Avenue refusant les clients arabes, enquête sur les candidats aux législatives du Front National et leurs activités numériques, actes de violence commis par Jean-Michel Baylet, ancien ministre, à l’encontre d’une collaboratrice… Bref pour tout ça, tout ce que je vous ai dit, fin de partie.

Sonia Devillers : Antonio Casilli, il y a peut-être quelque chose qu’on peut expliquer aux auditeurs, c’est-à-dire que ces médias numériques sont extrêmement dépendants en termes d’audience et du coup, économiquement parlant, des réseaux sociaux, puisque ce sont les réseaux sociaux, et principalement Facebook, qui diffusent, qui disséminent leurs contenus.

Antonio Casilli : En effet. Il s’agit d’une manière de faire média et de faire information, qui est basée sur la circulation, sur la répétition et sur le partage. Ce sont des aspects qui sont cruciaux pour comprendre que le contenu est important mais le contenu n’est que le coup d’envoi de quelque chose qui est un processus beaucoup plus vaste, qui est basé sur la participation des publics. De ce point de vue là, si vous enlevez la caisse de résonance représentée par une plateforme comme Facebook, qui est une plateforme univers, qui a une ambition à remplacer l’Internet en tant que tel, vous vous retrouvez dans des situations comme celle dans laquelle se retrouve aujourd’hui BuzzFeed1 et d’autres médias de ce type dans la mesure où Facebook, au début de l’année, a décidé de changer radicalement son algorithme de classification des informations pour se concentrer, pour se recentrer sur ce qu’ils appellent les liens forts. Finalement de faire apparaître dans vos news feed, sur vos murs, plutôt des contenus qui viennent de vos connaissances, amis, membres de votre famille, et c’est pour ça que vous voyez peut-être davantage de vos connaissances et collègues ou alors plutôt votre grand-mère qui parle de ses chatons, et un peu moins de médias classiques qui sont considérés comme des liens faibles. Vous n’avez pas un lien direct avec Le Monde ou avec BuzzFeed en l’occurrence. Évidemment, si vous êtes un média traditionnel, en plus ancré papier ou écran comme ceux qu’on connaît partout en France et dans le monde, vous avez une base qui ne change pas malgré les changements de l’algorithme de Facebook.

Sonia Devillers : C’est ça. Mais quand vous êtes un pur média numérique toute nouvelle génération comme l’est BuzzFeed, alors pour le coup on en souffre et on en souffre directement.

Antonio Casilli : Vous êtes dépendant de l’algorithme et du modèle d’affaires de Facebook.

Sonia Devillers : Et du modèle d’affaires de Facebook. Voilà, un dernier mot quand même Antonio, cher Antonio, tous les jeudis nous invitons les auditeurs de France Inter à jouer, vous vous n’avez pas le droit de jouer, c’est notre madeleine. Cette semaine figurez-vous qu’on vous offre avec l’INA [Institut national de l'audiovisuel] un an d’abonnement à Ina Premium. Alors Ina Premium c’est le site professionnel de l’INA auquel vous aurez complètement accès, c’est une mine d’or d’archives sans limite de durée. Vous pourrez tout voir, même les longs métrages et les séries de l’ORTF. Une seule adresse : linstantm@radiofrance.com. Voici ma question : Comment s’appelait l’ancêtre de La caméra cachée ?

[Extrait sonore concernant la première émission de La caméra cachée qui se termine par « une truite qu'elle n'a pas. »]

Sonia Devillers : « Une truite qu'elle n'a pas », je trouve ça génial. Comment s’appelait cette première émission de La caméra cachée à la télévision ? linstantm-@-radiofrance.com. Bonne chance à vous tous et un grand merci à toute l’équipe de L’instant M qui m’a accompagnée cette semaine : Anne-Cécile Perrin à la réalisation, Marion Philipppe et Redouane Tella qui ont préparé les émissions et Stéphane Beaujat qui est à la technique ce matin.

Voix off : L’instant M sur France Inter.

Sonia Devillers : Antonio Casilli, contrairement à ce qu’on dit, la diffusion des fake news n’est pas le fait d’une horde de colporteurs numériques qui répandent librement des fausses nouvelles et qui le font par conviction. Ça c’est très important, c’est l’un des axes majeurs de vos écrits récents et de vos recherches. Vous, ce qui vous intéresse, c’est la façon dont Google, dont Facebook, dont Twitter sélectionnent l’information. Alors on va commencer par ça parce que c’est très important d’expliquer comment fonctionnent ces régies publicitaires qui collectent des données personnelles. Les données personnelles c’est nos historiques de navigation, c’est nos listes d’amis, c’est notre localisation géographique, c’est les photos qu’on like, c'est les vidéos qu’on a regardées, etc. Pour collecter un maximum de données, ces plateformes, et donc leurs régies, ont besoin qu’on reste un maximum de temps chez elles et qu’on consomme un maximum de contenus, peu importe la nature de ces contenus !

Antonio Casilli : Exactement. Il faut que les contenus soient attachants, compelling comme disent les Anglais, c’est-à-dire qu’ils attirent votre attention et qu’ils vous obligent à rester scotché à votre écran ou à votre mobile. Après évidemment, qu’il s’agisse d’un animal merveilleux qui fait des choses sympas, donc votre chaton qui joue du piano, ou alors qu’il s’agisse de quelque chose d’extrêmement problématique comme de la fausse information orientée propagande politique, il n’y a pas en principe de différence pour les plateformes qui sont agnostiques du point de vue des contenus. Évidemment elles sont aussi sensibles aux actions en justice et au tollé médiatique. Donc évidemment elles ne vont pas faire passer n’importe quoi. Il y a donc énormément de sélection de contenus, il y a de la modération de contenus, il y a des armées de modérateurs, qui sont souvent des personnes qui sont très mal payées qui se trouvent aux Philippines ou en Inde et qui regardent à longueur de journée des contenus problématiques. Tout cela fait partie d’un énorme modèle d’affaires qui est basé évidemment sur la collecte de données et sur l’appariement algorithmique des données. Il faut expliquer rapidement de quoi il s’agit. En gros il faut croiser les données d’une manière intelligente pour, d’une part, proposer de l’information sélectionnée d’une certaine manière : par exemple si je saisis une requête dans le moteur de recherche Google il faut que la page qui s’affiche ensuite soit significative, soit d'importance pertinente pour moi. Donc ça, si vous voulez, c’est le service de façade. Derrière il y a évidemment un autre service assuré par les grandes plateformes, qui est un service d’appariement entre des consommateurs – même si ça se discute qu’ils soient complètement des consommateurs – et des annonceurs.

Sonia Devillers : Et des annonceurs, des marques.

Antonio Casilli : De ce point de vue-là, rien de différent par rapport à certains médias traditionnels de nature commerciale, les journaux gratuits que vous voyez sont basés sur le même principe. Mais, en même temps, la question est que sur les médias numériques et sur les grandes plateformes numériques cela devient vraiment quelque chose dont les conséquences sont inattendues, parfois il y a des effets pervers, il y a des effets de complication…

Sonia Devillers : C’est extrêmement intéressant parce qu’on voit bien que la logique est quand même une logique de rupture par rapport à la presse traditionnelle, c’est-à-dire on a besoin que vous restiez le plus longtemps possible sur Facebook, on a besoin que vous restiez le plus longtemps possible sur YouTube, on a besoin que vous restiez pour mieux vous connaître, pour mieux vous dessiner, etc. Ça c’est quand même extrêmement important…

Antonio Casilli : Est-ce si différent ? Par rapport à la télévision, par rapport aux médias du siècle passé.

Sonia Devillers : À la durée d’écoute en radio.

Antonio Casilli : Voilà, par exemple. La différence, je dirais, est surtout dans le rôle du spectateur, des publics, on va dire comme ça, qui cessent d’être des publics passifs et qui deviennent des audiences actives qui doivent cliquer, qui doivent partager, qui doivent commenter, qui doivent qualifier l’information. Et finalement, la qualification de l’information devient la partie la plus problématique, la plus difficile à contrôler.

Sonia Devillers : Justement on y vient, je vous propose d’aller en Macédoine, une région du monde qui a énormément fait parler d’elle puisque c’est une région du monde qui a été bassin de production et de conception de fake news. On va voir pourquoi, là encore une fois c’est exactement ce que je vous disais tout à l’heure en introduction, pas de militantisme, pas de conviction, juste un intérêt économique.

Voix off d’un traducteur : Certains de mes étudiants ont compris qu’ils pouvaient faire de l’argent avec la politique. Ça s’est répandu comme une traînée de poudre. Aujourd’hui, quatre de mes étudiants sont millionnaires. Beaucoup d’entre eux investissent, ils ont pu faire des emprunts à la banque pour développer leur page. Je pense que le président Donald Trump est un personnage intéressant. Il veut tout, tout le temps : ambition, ego, argent, puissance… l’american way. Et parfois il va même mentir sur son succès pour aller au degré supérieur.

Sonia Devillers : C’est-à-dire qu’avant de légiférer sur les fake news, Antonio Casilli, il faut en comprendre la logique. Et là on voit bien qu’il n’y a pas de logique politique, il n’y a pas de volonté de propagande, il n’y a pas de volonté de déstabilisation de l’opinion. Il y a volonté de se faire de l’argent. Là !

Antonio Casilli : Entendons-nous bien. Quelque part il y a une volonté de déstabiliser le panorama politique. Après, évidemment, on passe par les petites mains de cette information et de cette manipulation de l’information. Qui sont ces petites mains ? Il s’agit parfois de jeunes en rupture scolaire qui ont besoin de faire de l’argent rapidement et dont les perspectives d’emploi sont extrêmement limitées — c’est le cas de la Macédoine —, qui se sont adonnés à cette activité de production de mèmes. Les mèmes ce sont des images choc, accompagnées parfois de messages tout à fait problématiques, parfois très chargés de contenus racistes, sexistes et ainsi de suite.

Sonia Devillers : Des contenus compelling, comme vous disiez, sticky, c’est-à-dire qui vous scotchent à l’écran.

Antonio Casilli : Qui scotchent à l’écran ; c’est certain. Parce que même si je ne suis pas d’accord et surtout si je ne suis pas d’accord je vais peut-être partager l’information parce que je suis scandalisé, parce que je suis heurté, parce que je suis insulté. Donc du coup, double circulation : circulation par les personnes qui adhèrent au message, donc les racistes et les sexistes de service, et de l’autre côté, par contre par les personnes, qui censurent. C'est ce qui fait le succès, en termes de clics, de plateformes comme Facebook.

Sonia Devillers : C’est extrêmement intéressant parce qu’on voit bien qu’il y a là un bassin de production de fake news et que ce bassin de production n’est ni libre ni inspiré politiquement. Il est là et il est fait pour gagner de l’argent.
Maintenant on va aller de l’autre côté de l’ordinateur. Qui clique ? Je vous emmène dans une usine du côté du Sri Lanka.

Voix off d’un traducteur : Notre formule basique coûte entre 100 et 200 dollars. Et cela inclut les like sur Facebook. Le principal sera Facebook, après Twitter, Instagram et YouTube.
—Combien de temps vous faut-il pour obtenir 2000 likes ?
—Cela prendra environ deux semaines. Nous allons créer des profils avec des noms français, de personnes françaises, et ensuite nous allons utiliser ces profils pour faire des commentaires sur votre page, pour que ça semble plus vrai.

Sonia Devillers : Il y a une part d’artifice dans la diffusion et l’ampleur que prend la diffusion des fakes news et ça, peu de gens le savent, Antonio Casilli. Ça s’achète la diffusion d’une fake news ! On parle beaucoup de la crédulité du public. On parle très peu de ce que vous vous décrivez très bien dans vos articles ; ça s’achète, ça se paye !

Antonio Casilli : C’est-à-dire les fermes à clics. Les fermes à clics sont des usines qui parfois ont vraiment pignon sur rue et parfois il s’agit de millions de personnes qui se connectent depuis chez eux.

Sonia Devillers : Dans quels pays ?

Antonio Casilli : Il s’agit souvent de pays qu’on définit comme émergents ou en voie de développement, à faibles revenus, dans lesquels, en gros, les perspectives d’emplois et surtout le salaire moyen est très limité, parfois on parle de 130 dollars, l’équivalent de 130 dollars par mois, dans lesquels, évidemment, il devient intéressant de travailler dans ces fermes à clics, dont le principe, si vous êtes un travailleur, est celui du travail à la pièce. La pièce veut dire que chaque clic est rémunéré. Mais entendons-nous bien…

Sonia Devillers : Quelques centimes.

Antonio Casilli : Même moins que ça.

Sonia Devillers : Même moins !

Antonio Casilli : Personnellement j’ai été témoin de certaines fermes à clics qui payaient 0,0006 centime par clic.

Sonia Devillers : Alors on est au Bangladesh, au Pakistan, au Népal, au Sri Lanka, en Inde au Kenya, à Madagascar et il faut savoir que tout s’achète : les commentaires, les partages, les retweets, des faux followers même, par exemple qui suivraient votre compte Twitter, des messages haineux ça s’achète, des messages diffamatoires aussi, faire augmenter le visionnage d’une vidéo aussi, créer des profils qui s’abonnent à des profils d’extrême droite xénophobe aussi, ça s’achète. C’est extrêmement intéressant et vous citez une enquête qui aurait révélé que Trump aurait acheté 60 % des fans de sa page Facebook aux Philippines.

Antonio Casilli : Pas seulement aux Philippines ; de manière assez ironique, une bonne partie de ces faux fans de la page Facebook de Trump venait du Mexique. Ce qui est absolument paradoxal si on pense à l’énormité des choses que Trump a pu débiter contre les Mexicains, comme cette idée selon laquelle il va obliger le Mexique à payer son mur. De ce point de vue-là on se trouve dans une situation de travailleurs du clic qui travaillent contre leur propre intérêt.

Sonia Devillers : Contre leur propre intérêt. Justement j’ai deux questions pour vous, Antonio Casilli. Comment on peut décrire un système aussi artificiel qui n’est qu’une grande machine économique et comprendre qu’au bout du compte il y a une modification bien réelle de l’opinion, primo ? Et secundo, est-ce que les lois sur lesquelles on travaille en France, mais pas seulement en France, prennent en compte cette dimension-là ?

Antonio Casilli : Pour la décrire malheureusement il faut tout simplement s’adonner à un travail de recherche beaucoup plus poussé que celui qu’on mène aujourd’hui. Personnellement je fais partie d’un volet de la recherche scientifique en sciences sociales qui insiste sur le fait qu’il faut regarder ce qu’on appelle le digital labor, c’est-à-dire le travail numérique, le travail du clic. Ça se discute à l’intérieur de la discipline et à l’intérieur de nos disciplines, parce que tout le monde n’est pas d’accord. Certains continuent d’insister sur le fait que non, il s’agit de consommateurs, il ne faut pas regarder les conditions de travail de ces personnes à l’autre bout du monde.

Sonia Devillers : Est-ce que c’est pris en compte ça, par les autorités, par les gouvernements, par les députés, par l’Assemblée nationale ? Cette dimension-là ?

Antonio Casilli : Pas dans cette loi, pas dans la loi sur la manipulation de l’information qui est basée sur une certaine vision seulement du monde politique et de la circulation de l’information, mais aussi des infrastructures numériques que sont les plateformes, qui n’est pas du tout capable d’envisager la circulation comme un phénomène artificiel. En gros, si vous regardez ce qui est écrit dans le texte de la loi qui a été débattue hier, c’est marqué qu’on peut passer par le juge des référés quand on a eu à faire à une circulation massive et automatique d’informations. Normalement ceci veut dire que le législateur cherche à bloquer les bots, c’est-à-dire des robots.

Sonia Devillers : On n'en parle pas des robots !

Antonio Casilli : La réalité c’est que ces robots-là ne constituent qu’une partie un peu automatisée de certaines campagnes qui sont, par contre, des campagnes menées par des êtres humains qui font semblant d’être des robots, qui font semblant d’être d’autres humains. C’est une longue histoire mais grosso modo, derrière, il y a toujours une ferme à clics et quelque part une boîte qui fait du travail à la pièce au Sri Lanka, aux Philippines ou à Madagascar.

Sonia Devillers : Donc on est en train de passer complètement à côté, en fait, du nerf de la guerre ?

Antonio Casilli : Il y a évidemment le risque que la loi soit inefficace, comme d’autres lois qui ont cherché à certifier l’information sur Internet ; je pense à la loi 2007 qui instituait la Haute Autorité de santé et, par la même occasion, le label Health Online pour les sites qui parlaient de santé. Quelques années après on a complètement laissé tomber cette initiative et on risque de se retrouver dans cette situation.
Aec notre loi sur les fake news, on a plutôt le risque de faire le jeu de l’ennemi, si l’ennemi est celui qui cherche à partager la fausse information. Pourquoi ? Parce que si on commence à monter à chaque fois un cas qui passe devant la justice autour d’une fausse information, on réplique la fausse information et donc on crée une deuxième news, une troisième news qui cherchent à déjouer la première, ce qui fait une caisse de résonance énorme et qui fait évidemment le jeu même de cette fausse information qui, je le répète est basée sur la copie, est basée sur la répétition.

Sonia Devillers : Bien sûr. Merci beaucoup Antonio Casilli, parce que voilà des dimensions qu’on a peu entendues dans le débat public et qui, à mon avis, peuvent éclairer la réflexion et les prochaines discussions. Merci beaucoup à vous.

Antonio Casilli : Merci.

• 1. BuzzFeed