Souveraineté numérique, la douche froide - Tariq Krim et Bernard Benhamou - Thinkerview

Titre : Souveraineté numérique, la douche froide ?
Intervenants : Tariq Krim - Bernard Benhamou - Sky
Lieu : Thinkerview
Date : 17 juillet 2020
Durée : 2 h 20 min 21
Visualiser la vidéo ici ou ici
Licence de la transcription : Verbatim
Illustration : captures d'écran de la vidéo - Licence Creative Commons Attribution Pas d’Utilisation Commerciale Partage dans les Mêmes Conditions 4.0 International,licence de toutes les interviews de Thinkerview.
NB : transcription réalisée par nos soins, fidèle aux propos des intervenant·e·s mais rendant le discours fluide.
Les positions exprimées sont celles des personnes qui interviennent et ne rejoignent pas nécessairement celles de l'April, qui ne sera en aucun cas tenue responsable de leurs propos.

Transcription

Sky : Messieurs, bonsoir.

Tariq Krim : Bonsoir.

Bernard Benhamou : Bonsoir.

Sky : Nous vous recevons pour une chaîne internet qui s’appelle Thinkerview. Nous sommes en direct. Est-ce que vous pouvez vous présenter succinctement, on va commencer par Tariq.

Tariq Krim : Tariq Krim. Je suis entrepreneur dans le Web. J’ai eu plusieurs carrières. J’ai démarré très tôt en informatique, c’était ma passion. Je suis parti dans la Silicon Valley et je suis revenu en France où j’ai monté plusieurs boîtes. En ce moment, je m’intéresse essentiellement aux questions de souveraineté numérique.

Sky : Bernard.

Bernard Benhamou : Bernard Benhamou. Je dirige actuellement l’Institut de la souveraineté numérique1. Après avoir été à de nombreuses reprises du côté obscur de la force dans différentes fonctions auprès des gouvernements successifs et toujours autour des questions numériques, d’usage du numérique, j’étais délégué interministériel [aux usages de l’Internet, Note de l'intervenant], autour des questions de régulation du numérique depuis, en gros, une vingtaine d’années. J’ai eu l’occasion de rencontrer Tariq à plusieurs reprises sur ces questions.

Sky : Merci. On a décidé de vous faire venir ce soir pour parler de souveraineté numérique, pour parler de privacy shield, pour parler de tout un tas de choses qui ont trait à notre souveraineté numérique et d’autres sujets connexes. On va commencer par Tariq.
Tariq, comment ça se passe en France la souveraineté numérique ? C’est open bar pour les sociétés américaines, pour les sociétés jordaniennes, israéliennes, pour les sociétés saoudiennes ? C’est comment ? Est-ce qu’on a, pour être tout à fait trivial, le pantalon en dessous des genoux ?

Tariq Krim : Vaste question. Je pense qu’on a un vrai problème en France c’est qu’on a l’impression qu’on n’est pas capable de faire des choses, qu’on n’est pas capable de construire ces infrastructures. Ce qui est fascinant c’est que depuis 40 ans en fait, je dirais plus, même 50 ans, je revoyais récemment un document YouTube sur le plan Calcul2 où Michel Debré parlait de la souveraineté numérique, je ne changerais pas une seule ligne.

[Problème technique]

Sky : On revient sur la souveraineté numérique et le fait qu’on essaie de courir avec le pantalon en dessous des genoux.

Tariq Krim : Ça n’a pas toujours été le cas. Ce qu’il faut comprendre c’est qu’après la Deuxième Guerre mondiale, en gros, les Américains ne veulent pas que l’Europe dispose d’une industrie informatique pour une simple raison c’est que qui dit ordinateur dit arme nucléaire, donc dissuasion. À ce moment-là on a vraiment un alignement parfait entre la vision, notamment celle du général De Gaulle, la création de la CII (Compagnie internationale pour l'informatique), de toute une infrastructure. Ce qui est d’ailleurs assez fascinant, c’est qu’à l’époque ils n’ont pas décidé de créer une boîte, mais de regrouper un ensemble de boîtes autour d’un projet, donc construire des calculateurs. À l’époque Control Data faisait des calculateurs un peu puissants, on n’avait pas vraiment accès à ce genre de machine. On a eu cette vision qui est assez française, c’est de dire on fait nos trucs, dans notre coin – on a fait ça avec le TGV, on a fait ça avec le Minitel –, on construit nos réseaux, nos infrastructures. Et ce qui est fascinant, dans une ancienne vie j’ai passé beaucoup de temps à bidouiller des Minitels, quand on ouvre un Minitel la première chose qui est impressionnante c’est que tout est fabriqué en France, absolument tout. Les gens ne le savent pas, mais le Minitel a inspiré Steve Jobs pour le Macintosh, la poignée, le design, donc on est parti d’un modèle où on faisait tout à un modèle où on ne fait presque plus grand-chose maintenant. On veut faire le Health Data Hub3, on est obligé de passer par Microsoft ; on veut faire telle chose, des appels d’offres, on nous explique qu’on ne sait plus faire. Il y a plusieurs raisons, la première, l’expertise est là, mais les gens qui ont l’expertise ne sont jamais les gens qui décident. Ce n’était pas le cas avant on avait beaucoup d’ingénieurs, de polytechniciens, des gens un peu stricts, mais qui étaient des vrais ingénieurs, qui savaient construire, mettre en place des équipes. Maintenant on a plutôt des consultants, c'est-à-dire des gens qui font des powerpoints.

Sky : Technocrates !

Tariq Krim : Mais il y a eu des technocrates éclairés. Là on est vraiment dans le modèle où on a vu une présentation de Google, c’est super – et c’est vrai que c’est très beau – c’est ça qu’il faut faire. Alors qu’en fait, quand on construit des projets sur le long terme, par exemple le Health Data Hub, mais tout ce qu’on va faire, tout ce qui est nouveau dans le numérique, on ne le fait pas pour cinq ans, on le fait pour 20 ans, 30 ans. Quand on a fait le TGV on n’a pas dit c’est un produit qu’on va faire pour quelques années ; il y a une vision long terme, il faut donc la construire et la construire c’est difficile. Il y a deux visions : il y a la vision Uber, on clique, la voiture arrive en bas et on rentre dans la voiture et puis il y a la vision où on passe son permis de conduire, on achète sa voiture, on apprend à la conduire, c’est plus compliqué, c’est plus cher, mais c’est ce qu’on doit faire.

Sky : Bernard, ce n’est pas un peu trop tard de passer son permis de conduire, de prendre sa voiture, d’apprendre à mettre la transition dans un climat de guerre économique où tout s’accélère ?

Bernard Benhamou : On pourrait penser et je pense que ce qui est, d’une certaine manière, le constat que font beaucoup aujourd’hui c’est que, justement, une fois que la guerre est perdue autant faire alliance avec les vainqueurs. C’est une triste résignation, une molle résignation de certains, y compris au sein de l’État. Donc non, je crois que non seulement il n’est pas trop tard, mais je dirais que l’actualité des technologies, c’est-à-dire l’actualité des GAFAM pour les appeler comme ça, c’est-à-dire les grandes sociétés américaines du secteur, montre qu’on est quasiment entrés dans une crise – certains disent crise systémique, peu importe le terme – une crise de confiance à l’échelle mondiale. C’est-à-dire que maintenant Facebook est en trajectoire de collision avec un nombre infini d’acteurs aussi bien publics que privés et c’est aussi, quelque part, le cas de Google avec YouTube qui lui aussi est un accélérateur de radicalisation. Donc par définition je crois que ce modèle-là n’est pas durable, on est convaincus de ça. Mieux encore, j’entendais le mot privacy shield qui était prononcé en tout début d’émission ; c’est un plaisir de venir le lendemain de l’annulation4 d’un traité transatlantique qui était, je dirais, l’ombrelle pour 1500 ou 2000 sociétés américaines pour essayer effectivement de traiter des données des Européens aux États-Unis.
Je fais partie de ceux qui pensent qu’à terme, Tariq citait le Heatlth Data Hub, le nouveau système de rassemblement des données de santé des Français en un seul lieu à des fins de développer des systèmes d’intelligence artificielle, je pense que ces données ne peuvent pas, quoi qu’il en soit, sortir du territoire européen, peut-être pas du territoire français mais au moins européen.
À l’heure qu’il est, le fait que Microsoft puisse traiter une partie de ces données directement aux États-Unis pose un problème. On vient de voir, avec l’annulation du privacy shield, que la justice européenne considère que les données des Européens ne sont plus sécurisées correctement par rapport aux intrusions des systèmes des services de renseignement, par rapport effectivement à l’usage que peuvent en faire des sociétés. Maintenant il y a une sorte de tenaille qui est en train de s‘établir. Ce qui était quasiment inenvisageable il y a cinq ans quand justement le prédécesseur du privacy shield qui s’appelait à l’époque, pour les plus férus, le safe harbor a été annulé, personne ne pensait que le suivant serait annulé. Maintenant tout le monde est conscient que c’était quasiment inéluctable et surtout, on se rend compte à quel point on ne peut plus reproduire la chose, faire comme si de rien n’était et continuer effectivement comme si, j’allais dire, il n’y avait pas eu de scandale Snowden5, il n’y avait pas eu d’affaire Cambridge Analytica6, il n’y avait pas eu toute une série d’évènements qui font que les Européens doivent sortir de l’innocence, je dirais de la naïveté par rapport aux Américains qui faisait dire aux Européens« mieux vaut effectivement leur confier nos données, de toute manière ce sont de belles et grandes sociétés ». Non ! Aujourd’hui on se rend compte que Facebook non seulement est un acteur économiquement toxique pour son écosystème – on pourrait dire la même chose de Google –, mais que ce sont des acteurs politiquement toxiques et qui l’ont montré à plusieurs reprises. Je citerais des gens qui ne sont pas des anarcho-libertaires extrêmes, je citerais le rapport du Parlement britannique qui parle de Facebook en disant « ce sont des gangsters numériques qui subvertissent la démocratie ».
Ce propos-là intervient neuf ans après qu’une certaine Hillary Clinton dise par la voix de son conseiller, Alec Ross à l’époque, que le numérique, l’Internet, est devenu le « Che Guevara du 21e siècle » – c’était l’époque des Printemps arabes – en pensant que c’était l’outil de libération des peuples.
Aujourd’hui, on se rend compte que l’Internet peut être tout, y compris un outil d’asservissement, y compris un outil de contrôle. Nos amis chinois le montrent tous les jours [via la notation des actions de chaque individu, Note de l'intervenant] avec le crédit social, ce système orwellien de contrôle. Donc nous, Européens, qui étions entre guillemets « les mauvais élèves » du monde numérique dans le sens où nous n’avions pas notre industrie propre, avec notre Réglement européen sur les données7, avec cette volonté que l’on a justement de protéger une notion presque dépassée, surannée, qu’on appelle la vie privée, eh bien quelque part nous avions raison… [beaucoup de pays le reconnaissent aujourd’hui, Note de l'intervenant].
Donc je pense que le rebond européen pourrait prendre appui sur, en gros, notre singularité par rapport aux acteurs chinois évidemment et effectivement aussi aux acteurs américains.

Sky : Tariq, ça pose quels types de problème plus en détail le fait que nos data soient stockées aux États-Unis ou soient envoyées aux États-Unis ou peuvent être exploitées depuis les États-Unis depuis une loi extra-européenne ? Par exemple si les services secrets tombent sur nos data qu’est-ce qu’ils peuvent faire ?

Tariq Krim : Déjà, je dirais que ce qu’il faut déjà comprendre c’est que l’Internet depuis au moins 2002, c’est à peu près la date qu’on se donne de temps en temps, est un espace militarisé. C’est-à-dire qu’on prend un ordinateur, on le sort d’une boîte, on le connecte. À l’époque je crois qu’il fallait deux minutes pour qu’il soit transformé en zombie, maintenant je pense que ça ne prendrait même pas 30 secondes, peut-être même moins. Ça veut dire que le fait que l’ordinateur soit connecté, il y a des bots, des services, qui cherchent en permanence des machines à hacker automatiquement puisque comme elles ne sont pas mises à jour, elles sortent de la boite, les patchs de sécurité n’ont pas été mis, et on va les utiliser ensuite pour plein d’actions coordonnées.
En fait, l’espace d’Internet est à la fois un théâtre militaire, mais également un espace commercial qu’il faut sécuriser, donc ça pose un vrai problème parce que, finalement, ce sont les mêmes tuyaux qu’Amazon utilise pour nous vendre des chaussures et que la NSA, la CIA, USCYBERCOM (United States Cyber Command) et évidemment les services de tous les autres pays utilisent ; c'est exactement le même réseau. Donc on a ce problème c’est qu’on n’a pas su, à un moment donné, définir d’un point de vue politique, et ça Bernard l’a suivi, des règles d’usage. En gros, dans les guerres de type cyber à la différence du nucléaire où c’est le premier qui a tiré qui a perdu, dans les guerres cyber c’est l’inverse, c’est le premier qui a tiré qui a gagné. Je sais que dans les vieux magazines Wired qui est magazine californien que tout le monde connaît, il y a un auteur de science-fiction, un peu l'un des parrains du mouvement cyberpunk, qui expliquait quels sont les dix services – c’était en 1993 – qu’il faudrait faire tomber pour faire tomber les États-Unis. À l’époque l’Internet était numéro 4 parce qu’il y avait encore des grids [réseaux] privés. Aujourd’hui, évidemment, ce serait la première chose. On l’a vu hier sur Twitter. Finalement on peut hacker le compte Twitter de quelqu’un de très connu. Le plus connu d’entre eux, si c’était Donald Trump, on pourrait presque déclarer une guerre nucléaire.
Le problème qu’on a, pour revenir sur la question des services de renseignement, c’est que de toute façon l’écoute existe depuis toujours. Ce qui se fait aujourd’hui avec Google, avec les GAFAM, ce que Snowden a dévoilé, existait déjà avant, dans les années 50/60 avec d’autres projets, le projet Minaret, ce qui a donné ensuite Echelon et ensuite on a eu plein de sujets. Ce qui est nouveau aujourd’hui, c’est que ces centres de données analysent non plus les données personnelles : on oublie que des sociétés, Facebook, Google, ne travaillent plus uniquement sur les données, mais sur le comportement. En gros, il y a dix ans, « je veux savoir qui tu es pour te vendre quelque chose ». Aujourd’hui, je vais utiliser ton comportement – le nombre de fois que tu vas sur Instagram, si tu t’arrêtes quelques millisecondes sur une photo, ah tiens tu as envie de voyager ?, est-ce que tu es déprimé ?, est-ce que tu es euphorique ? – pour transformer ton comportement.
Ce qui s’est passé, c’est que la plupart des acteurs de la Valley se sont rencontrés. Nathan Myhrvold qui était le chief scientist de Microsoft, a présenté – je crois que c’est Daniel Kahneman qui avait fait la Thinking Fast and Slow – le marketing comportemental. En fait, il y avait des gens de Google, il y avait des gens d’Amazon, il y avait des gens de Facebook, la personne de Facebook qui a parfaitement compris comment utiliser ces techniques c’est Sean Parker qui était à l’époque le président de Facebook.
Ce qu’il faut savoir c’est que Facebook n’était pas très intéressé à ça jusqu’à ce que Sheryl Sandberg vienne de Google avec la vision du capitalisme de surveillance, c’est-à-dire monétiser les données à outrance, et avec cette idée qu’on peut modifier les comportements pour vendre.
Le problème que l’on a aujourd’hui c’est que quand on modifie le comportement d’un consommateur, c’est-à-dire qu’on veut le rendre dépressif parce que quand il est dépressif il va plutôt acheter des voyages, quand il est euphorique il va s’acheter des chaussures – je schématise –, mais on touche à la psyché des gens. D’une certaine manière ce qui est fascinant c’est que quand on rêve le soir, en fait notre subconscient est alimenté par toutes les images qu’on a vues dans la rue, à la télévision. Aujourd’hui une grande partie, voire la majorité des images qui sont en fait perçues par notre cerveau viennent des écrans. Ce sont des images qui ont été choisies. Ce que l’on voit sur Instagram a été choisi. Si on veut vous déprimer, on va vous montrer la photo de votre ancienne petite amie au lever et immédiatement on va changer votre caractère. Vous allez dire non ! Mais ça marche, ça marche très bien. J’avais rencontré un garçon chez Facebook [qui faisait ce genre d’experience, Note de l'intervenant], ils avaient fait des tests, ils ont arrêté, depuis lui a d’ailleurs quitté Facebook, il déprimait, il disait : « On est capable de modifier les comportements. On modifie les comportements pour le commerce, mais quand on modifie le comportement pour le commerce on modifie aussi la partie citoyenne d’une personne ».

Sky : Pour les élections.

Tariq Krim : Pour les élections.
Ce qui est fascinant c’est qu’on est aujourd’hui dans un monde qui est compliqué parce qu’on a un hyper-fragmentation algorithmique. Avant on avait la télévision, on avait 15/20 niches. Maintenant on est rentré dans des micro-niches qui targettent parfois quelques personnes. Il y a un groupe terroriste un peu d’extrême droite, je dis terroriste parce qu’ils ont tué des gens en Californie, qui s’appelle Boogaloo, je crois que tous les membres se sont rencontrés grâce à Facebook.
Donc on a construit une espèce de fragmentation algorithmique permanente, on crée des micro-niches. Ce que je pense c’est que les micro-niches créent de la médiocrité, parce qu’on est un peu le borgne au milieu d’un micro-monde d’aveugles et, en fait, on ne communique plus. Effectivement ça a construit, avec YouTube mais aussi avec Facebook, ce que j’appelle souvent la radicalisation algorithmique, c’est-à-dire qu’on travaille mentalement une personne et ces techniques qui sont des techniques de comportement, de modification comportementale, sont des techniques qui ont été inventées dans les années 60 par la CIA, par tous les services de renseignement pour modifier la psyché. Elles ont été boostées par le fait que désormais, avec le téléphone, on est seul. On va aller voter, on doit voter pour Hillary, et puis on va aux toilettes, on prend son téléphone et là on voit un truc, une fake news sur Hillary, on est énervé, on est vraiment énervé, c’est le bon moment et puis on change son vote à la dernière minute.
Ce qui a changé entre l’élection de Trump et l’élection d’Obama c’est que l’élection d’Obama c’est une élection internet alors que l’élection de Trump c’est devenu une élection sur le smartphone et le smartphone, en fait, est un appareil unique. Personne ne regarde votre téléphone, personne ne regarde ton téléphone Bernard, c’est quelque chose de privé. Donc on a cette capacité et elle a été utilisée. Les services de renseignement, à mon avis, n’osent pas faire ce genre de chose. Ils le font peut-être. Je pense honnêtement aujourd’hui que Facebook, Google et toutes ces plateformes ont moins de scrupules à utiliser ces techniques, parce que c’est du commerce, que les services de renseignement.

Sky : Il y a une porosité entre les services de renseignement et les GAFA ? Bernard.

Bernard Benhamou : C’est possible, bien sûr que si. S’il y a bien une chose que l’affaire Cambridge Analytica a bien démontrée, cette énorme affaire effectivement durant la préparation de l’élection américaine, pour ceux qui n’en auraient pas entendu parler, c’est que d’une part les données peuvent être traitées par des psychologues, spécialistes d’opérations psychologiques.

Sky : PSYOP.

Bernard Benhamou : PSYOP. On voit bien qu’il y avait plusieurs convergences, je dirais. Ce que décrit très bien Shoshana Zuboff dans son livre sur le capitalisme de surveillance, d’ailleurs je le conseille à tous vos auditeurs et spectateurs, même si, malheureusement, il n’est pas encore traduit en français, il est traduit en allemand. J’espère qu’il y aura un éditeur très bientôt, je crois que c’est le cas [il devrait être traduit à l'automne, Note de l'intervenant]. On voit bien qu’il y a une convergence entre l’activité économique qui se nourrit de la data et les activités des services de renseignement qui, c’est une tendance de ces dernières décennies, a de plus en plus été vers l'analyse de signaux technologiques plutôt que celle des signaux humains [SIGINT], donc utilise de plus en plus la data.
Comme le rappelait justement Tariq, on n’en est plus au stade d’analyser le comportement, on en est au stade de le manipuler. Pour ceux qui sont en mesure d’agir – Tariq faisait référence au fait de pouvoir changer l’état d’esprit, l’humeur d’une personne – on sait très bien que pour aller vers un vote extrême on aura plus intérêt à faire que la personne soit en colère. Une personne qui est sereine, qui est zen, à priori aura moins tendance à aller vers un vote extrême, en tout cas c’est comme ça que la chose a été analysée.
Donc oui, typiquement on sait maintenant que modifier le newsfeed sur Facebook permet de modifier l’état d’humeur des gens. On sait qu’en leur montrant, ce qu’a très bien démontré une autre spécialiste, Zeynep Tufekci, une turco-américaine, remarquable sociologue sur la radicalisation via les vidéos justement, en particulier sur YouTube, on sait effectivement que si on montre des choses de plus en plus hard, ce qu’elle dit très bien, elle dit que rien n’est jamais trop hard pour YouTube, voila ce qu’elle dit, et elle concluait un de ses articles en disant « YouTube est peut-être devenu le principal outil de radicalisation du XXe siècle », parce que justement la puissance du choix algorithmique en fonction des personnes, en allant vers des vidéos de plus en plus hard, en montrant des messages de plus en plus radicaux ! Tout à l’heure Tariq évoquait les micro-niches, c’est-à-dire les bulles informationnelles comme on les appelle. La particularité aujourd’hui c’est qu’on fait en sorte que des gens ne rentrent jamais en contact avec des idées qui les dérangent, pas simplement des idées différentes, non, des idées qui remettent en cause leur schéma de vie. Donc on crée des groupes qui ne se parlent jamais entre eux.

Sky : C’est qui « on » ?

Bernard Benhamou : Ceux qui ont intérêt à le faire, c’est-à-dire ceux qui tant d’un point de vue économique que d’un point de vue politique ont envie de faire en sorte qu’une partie de la population devienne captive par rapport à un certain type de comportement.

Sky : Ou d’idéologie.

Bernard Benhamou : Ou d’idéologie. Sachant que la consommation, ça a très bien été étudié par des publicitaires depuis plusieurs dizaines d’années [les actes de consommation peuvent révéler les convictions d'une personne, Note de l'intervenant], y compris nos actes de consommation quotidiens, anodins : la soupe Campbell qu’on voyait dans le tableau de Warhol était apparemment plutôt une soupe consommée par les Républicains, ne me demandez pas pourquoi, je n’en sais strictement rien. De même pour les voitures, je crois que certaines marques « étaient plus », entre guillemets, progressistes, démocrates, d’autres étaient plus républicaines, Chevrolet versus Ford, je crois.
On sait que l’on est capable d’agir sur le comportement des gens en fonction de toutes sortes d’informations qui nous proviennent [de leurs activités en ligne, Note de l'intervenant]. Et après, évidemment, ceux [personnes ou groupes] qui y ont intérêt pour des raisons politiques, que ce soit des puissances étrangères, que ce soit des partis politiques parfois même en collusion l’un avec l’autre puisque c’était un peu de ça dont il était question, sur la Russie en particulier ; l’affaire Stone qui vient juste de rebondir récemment était liée à des contacts répétés avec des officiels russes, des officiers du renseignement russe. On voit bien qu’aujourd’hui on a les instruments avec des moyens limités, avec des groupes de personnes limités, la célèbre agence russe, Internet Research Agency, ce sont des moyens qui ne sont pas énormes mais qui permettent d’influencer, comme on l’a vu pour Cambridge Analytica.

Sky : Agence russe privée. C’est un privé qui a des porosités avec le gouvernement. Il semblerait.

Bernard Benhamou : Oui. Il semblerait, je ne suis pas un russologue aussi distingué que certains de vos invités [Bernard Benhamou indique Tariq Krim, NdT], mais on pense effectivement qu’il y a eu une interaction de l’un par rapport à l’autre.

Sky : Ils ont laissé faire.

Bernard Benhamou : Oui. Et ce qui est amusant c’est de voir le processus. C’est-à-dire ce n’était pas « votez Trump », c’était « vous ne serez pas bien représentés par Hillary Clinton, à quoi bon aller voter ». Donc l'objectif était d'éteindre le vote démocrate, en particulier pour les Afro-Américains.
On maîtrise de mieux en mieux ces phénomènes-là et ce qui le plus inquiétant, pour revenir aux questions de souveraineté numérique, c’est que pour l’instant les États ne sont pas en mesure de faire valoir la défense de certains principes, y compris vis-à-vis de sociétés comme Facebook.

Sky : Tariq, on fait comment pour éviter l’astroturfing de nos élections ? Est-ce qu’on fait du brouhaha médiatique comme les dix dernières années, du moins les cinq dernières années, avec un gouvernement qui, excusez-moi d’être très trivial, fait sa pleureuse en disant « oh ! là, là, les Russes ils font des bêtises, ce n’est pas bien, ce n’est pas bien les Russes, ce sont des méchants les Russes ! », ou est-ce qu’on muscle un peu le cerveau de nos concitoyens ? Est-ce qu’on se donne des outils pour les repérer plus facilement ? Qu’est-ce qu’on fait ?

Tariq Krim : Il y a plusieurs sujets.

Sky : Comment on fait pour réinvestir la dialectique ? Comment on fait pour éviter que la population soit laissée aux quatre vents de toutes les propagandes ?

Tariq Krim : Il y a un vrai sujet là-dessus. Déjà on a très rarement appris la rhétorique. Aujourd’hui celui qui parle le mieux, on l’a vu avec les débats – qu’elles que soient les opinions des uns et des autres, hydroxychloroquine, etc. – on a vu avec le covid, on est sur un sujet scientifique et médical, la plupart des gens qui aimeraient en parler, qui aimeraient être présents sur les plateaux de télé, se disent je n’y comprends rien et on a même vu en parler des journalistes qui ne savaient même pas ce qu’est une courbe exponentielle, donc on était vraiment à un niveau zéro en science. La rhétorique est importante. C’est là où c’est très intéressant. Quand on voit par exemple les dissents de la Cour suprême, vous avez des gens qui défendent des points de vue opposés à leur vue mais de manière tellement brillante que vous êtes prêt à dire « il a raison » et de dire l’inverse. Donc il faudrait qu’on apprenne un peu !

Sky : Un concours d’éloquence.

Tariq Krim : Un concours d’éloquence. Voilà. Ça c’est la première chose.
La deuxième c’est qu’on a un cancer. Si vous voulez, on est passé de ce qu’on a appelé dans les années 90, les online communities, des milliers de personnes, on a connu les débuts, le WELL8 [Whole Earth 'Lectronic Link], toutes ces communautés, aux médias sociaux, des blogs, des millions d’utilisateurs à des plateformes, on a désormais des milliards d’utilisateurs. Ce dont on ne parle pas, ce dont tu parlais tout à l’heure Bernard, avec YouTube, c’est qu’aujourd’hui on est dans un monde de fast-food. Pour moi Facebook, Google, c’est le Mac Donald de la pensée. Ce qui est fascinant avec Mac Donald c’est que la recette du Big Mac c‘est la même recette quasiment dans tous les pays. Par contre, en France on prend de la viande française, de la salade française, des pommes de terre françaises. Donc on a construit un algorithme qui est finalement le même – je n’aime pas dire un algorithme, parce que je déteste les gens qui parlent des algorithmes – on a créé un ensemble d’éléments de programme qui nous permettent d’identifier, d’analyser une personne, ce sont les mêmes, simplement le substrat, donc les matières sur lesquelles on va construire un profil sont différentes. On est tous énervés pour les mêmes raisons, on est tous euphoriques pour les mêmes raisons. On a créé, en fait, un système de massification de la personnalisation, on n’a pas de système personnel.
La deuxième chose, c’est que le cancer de nos dernières années, ce qu’on appelle le behavioral microtargeting, le micro-ciblage comportemental, on vous cible en fonction de vos comportements, de vos habitudes, de ce qu’on a compris de vous, pas parce que vous vous intéressez à des céréales ou à acheter une Toyota. Le drame pour moi, la chose qui m’énerve le plus dans ces 20 dernières années, malheureusement ou heureusement je connais un peu les gens qui fabriquent ces choses chez Google, chez Facebook, les plus grands génies en mathématiques ont soit servi à détruire le système financier avec les marchés dérivés et les subprimes et aujourd’hui, la génération d’après qui normalement devrait réfléchir à d’autres sujets, en fait passe ses journées à optimiser des algorithmes pour vendre mieux des Toyota sur Facebook.
On a, en fait, un savoir-faire incroyable qui a été mis dans quelque chose qu’on pensait inviolable. Ce qui est assez incroyable dans l’histoire de Facebook c’est que un, ils l’ont su assez tôt. Alex Stamos qui était l’ancien patron de la sécurité a dit très rapidement « on a un problème », on a étouffé l’affaire. Mais surtout, ce qui s’est passé, c’est qu’ils se sont fait avoir. C’est-à-dire que d’un certain côté vous avez Facebook qui dit à son annonceur « on est capable de savoir exactement qui peut faire quoi, comment, combien de gens ont vu le clic » et dès qu’on parle des problématiques liées à la campagne « ah non, je crois qu’on n’a pas vraiment toutes des données ». Ils se sont fait avoir par des gens qui étaient bien plus malins qu’eux. Et surtout, on oublie de le dire, ce qui est génial dans la campagne de Trump, c’est que la campagne d’Hillary avait ses spécialistes en big data, etc., ils avaient fait leur sauce. L’équipe de Trump qui n’avait pas autant d’argent, d’ailleurs Brad Parscale vient apparemment, si j’ai bien compris, d’être viré par Trump, a dit aux gens de Facebook qui avaient ce qu’ils appelaient le projet Alamo – il y avait Cambridge Analytica et il y avait plein de gens, mais il y avait des gens de Facebook qui étaient « prêtés » entre guillemets par Facebook – comment on peut faire pour micro-targeter ? Donc ils l’ont fait de manière extrêmement efficace. Comme le disait Bernard, on a surtout travaillé à faire de la suppression de vote.
Cette technique, à mon avis, devrait être interdite en Europe, complètement interdite. On a les bénéfices, c’est-à-dire vendre plus de Toyota ou vendre des céréales.

Sky : Des Renault ou des Scénic.

Tariq Krim : Des Scénic et des Renault ou d’autres produits. C’est vrai que j’utilise toujours… Vendre des produits de consommation ne mérite pas de menacer la démocratie.
Je n’ai jamais de problème : les gens pensent ce qu’ils veulent ! Mais là, on sent que les gens sont manipulés par des méthodes grossières.

Sky : Pourquoi ?

Tariq Krim : Je m’explique. L’algorithme de YouTube, ce n’est pas moi qui le dit c’est Yann Le Cun qui est notre grande pointure en IA et qui a un peu vendu, il faut le dire, son âme à Facebook. Il le dit, il dit quand vous arrivez par exemple pour la première fois sur YouTube, il faut qu’au bout de cinq vidéos on soit capable de vous proposer une sixième vidéo que vous ayez envie de voir. En fait on fait un travail assez grossier et ce travail assez grossier c’est cette base, ce substrat sur lequel on va travailler ensuite. Fondamentalement on n’a jamais travaillé sur un approfondissement. Tous les algorithmes de ciblage, de micro-ciblage sont assez grossiers, c’est « on doit faire de l’argent très vite » et ça pose un problème parce qu’il n’y a aucune régulation. C’est difficile de réguler ce que vous ne voyez pas. Il y a des publicités en Angleterre sur le Brexit que le régulateur n’a jamais vues, il ne sait même pas qu’elles existent, elles ont été vues trois mois après le vote. Donc on a vrai sujet. Je sais que ça ne plaît pas beaucoup aux gens de la tech quand je dis ça, mais il faut supprimer, arrêter le microtargeting, c’est-à-dire qu’il faut revenir à la publicité classique où on fait du ciblage plus classique, un peu plus grossier, mais qui n’est pas après utilisé comme un outil.

Sky : Bernard je te redonne la parole tout de suite. Je repose une question à Tariq : est-ce qu’on peut intoxiquer, à l’échelle du particulier, l’algorithme ?

Tariq Krim : Par intoxiquer ? Juste pour bien être sûr d’avoir compris la question.

Sky : Je sais que tu es très fan des vidéos de Youtubeuses beauté, si tu regardes tes cinq premières vidéos de Youtubeuses beauté, est-ce que l’algo de YouTube – je sais que tu n’aimes pas dire l’algo – va penser que tu es fan de Youtubeuses beauté ? Est-ce que tu as compris le principe ?
Je te le fais en plus simple. Tu vas sur YouPorn, tu ne regardes que des vidéos où il y a des blacks, on ne va te proposer que des vidéos avec des blacks. Est-ce qu’il y a moyen de l’intoxiquer ?

Bernard Benhamou : De modifier le fonctionnement de l’algorithme de façon fausse, de manière à l’induire en erreur.

Sky : Exactement Bernard.

Tariq Krim : En fait il y a deux forces en ce moment, il y a deux types d’algorithmes chez Facebook. Il y a les algorithmes qui veulent intoxiquer les gens, donc qui veulent montrer tous les contenus y compris ceux qui rapportent le plus d’argent, puisque finalement c’est très neutre, c’est la bottom-line, c’est triste à dire, mais Facebook est passé d’une boîte qui était très technologique à une boîte qui est vraiment focalisée sur la monétisation. Et à côté de ça, il y a les algorithmes dits de monitoring parce que comme ils se sont fait taper sur les doigts avec Rohingyas, avec la campagne, donc ils ont créé des outils pour faire un peu la police. Donc on a ces deux algorithmes qui se battent en duel. Évidemment celui qui est là pour rapporter de l’argent marche le plus.
Est-ce qu’une personne seule peut modifier l’algorithme qui lui est imposé ? Je ne crois pas. Je ne sais pas si vous vous rappelez, à l’époque d’Echelon il y avait eu une histoire – Echelon, le système de la NSA basé sur des mots clefs – quelqu’un avait récupéré une liste de mots clefs, avait dit « on va mettre nos mots clefs dans tous les e-mails et on va saturer le réseau Echelon ». La réalité c’est qu’en fait les gens utilisaient un seul mot clef donc dès qu’il y avait un ensemble de mots clefs, évidemment le mail était ignoré, donc ça ne servait à rien.
Ce qui est très intéressant dans ces plateformes c’est que les algorithmes changent énormément avec toujours la même question : comment l’engagement est le plus fort. Si quelque chose ne marche plus c’est comme un vieux disque, on change le disque, on passe à autre chose. Et souvent, comme le disait Bernard, on va vers des choses qui sont de plus en plus ennuyeuses parce qu‘on pousse vraiment les gens aux limites de leur psyché.

Sky : Gavage.

Tariq Krim : Absolument.

Sky : Bernard.

Bernard Benhamou : Je pense que le problème c’est que là où auparavant on réfléchissait en termes de navigation sur Internet, c’est-à-dire, en gros, est-ce que justement on peut modifier son surf de manière à induire, entre guillemets, « en erreur » l’algorithme. Le problème c’est qu’aujourd’hui les données que peuvent rassembler les data brokers, ces gigantesques agrégateurs de données, viennent de sources infinies. Par exemple on a découvert, lors de l’affaire Cambridge Analytica, que Facebook accumulait des données de santé en masse y compris sur des gens qui n’étaient pas abonnés à Facebook, simplement par le biais, par le truchement des relations qu’elles avaient avec des personnes qui étaient sur Facebook et par les informations qu’on pouvait collecter d’elles au travers de leur navigation sur des pages où il y avait de scripts Facebook.
Par définition, on se rend compte aujourd’hui que la possibilité de ne pas alimenter les profils qui contiennent chez ces data brokers parfois des milliers de paramètres différents sur une personne. Le journaliste du Financial Times qui a fait une grande enquête sur eux, qui portait un titre marrant, il disait : « Ces sociétés sont devenues les étoiles de la mort de la vie privée » en reprenant la métaphore de Star Wars. Le journaliste a découvert dans son profil chez l’un d’eux, je crois que c’était Experian ou Acxiom, qu’il était à risque pour des maladies du rein, chose qu’il ne savait pas et qui lui a été confirmée par la suite par son médecin.
Je pense que le fait de se cacher [devient difficile, voire impossible, Note de l'intervenant] c’était justement le titre du bouquin de Greenwald sur Snowden, Nulle part où se cacher. Je pense qu’aujourd’hui, vu l’ampleur de ces sociétés et vu les liens qu’elles entretiennent les unes avec les autres, cela devient quasiment impossible. J’adhère totalement à l’idée que le microtargeting est toxique. Tant d’un point de vue politique que d’un point de vue sociologique, il est toxique, mais je crois qu’il faut aller plus loin. Aujourd’hui, c’est d’ailleurs ce que réclamait Elizabeth Warren, la candidate démocrate à la primaire, je crois qu’il nous faut sérieusement envisager le démantèlement de ces sociétés. Je précise que les rachats récents de WhatsApp, d’Instagram, ont été faits, je dirais, en mentant à la Commission européenne. Les économistes de la Commission avaient eu l’occasion de s’expliquer en disant « en gros, on s’est fait avoir ». Je pense qu’aujourd’hui ces rachats successifs doivent être véritablement analysés. Est-ce que l’Europe peut, à elle seule, empêcher des fusions ? Oui, ça s’est vu dans le passé. Ça s’est vu dans le passé en particulier pour les turbines d’avion, des deals avec Honeywell n’ont pas pu se faire à la demande de l’Europe entre deux sociétés américaines, au début des années 2000. [Lors du rapprochement prévu entre General Electrics/Honeywell qui aurait eu pour conséquence de créer un quasi-monopole sur les turbines d’avion. L’Europe avait alors pu bloquer cette fusion entre deux sociétés américaines, Note de l'intervenant]. Aujourd’hui empêcher Facebook de racheter sa prochaine proie pour consolider encore plus son pouvoir ce n’est pas de la science-fiction, c’est une possibilité. On en a parlé, le fait aujourd’hui ne plus pouvoir transférer les données des Européens aux États-Unis change la donne. Le magazine Fortune parlait hier d’un possible chaos pour le commerce électrique, je ne sais pas s’il faut aller aussi loin, mais de fait on voit bien qu’on est dans une période où les risques [juridiques et économiques, Note de l'intervenant] par rapport à ces sociétés peuvent venir de l’Europe. Est-ce qu’on doit continuer à faire comme si de rien n’était, comme malheureusement ça a été trop le cas dans les dernières années ? Non. Est-ce qu’on a des instruments ? Oui, et je pense que c’est un des points sur lesquels on doit absolument renouveler la doctrine, c’est qu’on n’a pas, dans la période récente, eu une doctrine de politique industrielle européenne ou française à la hauteur des enjeux. Donc quelque part on s’est, je dirais, confiés – Tariq a eu l’occasion de parler de la France qui s’est vendue aux GAFAM lors de ces 10 ou 15 dernières années.

Sky : Qui s’est vendue ou prostituée ?

Bernard Benhamou : Je ne reprendrais pas le terme, mais je dirais qu’il y a eu une sorte de complaisance et le dernier en date qui a fait encore l’objet de questions9 au gouvernement là-dessus hier, c’est effectivement le Health Data Hub, ce gigantesque agrégateur de données de santé dont même tous les spécialistes disent que c’est un cadeau infini qui vient d’être fait à Microsoft. Monsieur Didier Sicard, spécialiste de l’éthique médicale [ex-président du Comité consultatif national d’éthique], a eu l’occasion de se prononcer récemment là-dessus et beaucoup de parlementaires de tous les bords, y compris de la majorité, se sont déclarés hostiles à ce principe. On doit réfléchir autrement. On ne doit pas simplement essayer d’infléchir un tout petit peu la courbe, on doit se dire que un, nous devons créer une industrie européenne et nous en avons les cerveaux, nous en avons les secteurs, les filières. Yann Le Cun, que citait Tariq tout à l’heure, dirige le pôle d’intelligence artificielle de Facebook, mais on pourrait citer bien d’autres Français dans la Silicon Valley, ingénieurs de très haut niveau. On a largement les talents, simplement on n’a pas articulé une politique comme on l’avait fait dans les années 60/70 sur des secteurs stratégiques aussi bien dans le transport que dans l‘énergie que justement dans le calcul, dans les technologies. On ne l’a pas fait et effectivement il y a une sorte de renoncement progressif, de résignation qui s’est installée. Cette résignation n’est pas une fatalité, du tout ! Du tout.

Tariq Krim : Je peux parler ?

Sky : Permets-toi et prends ton temps.

Tariq Krim : Il y a en fait un paradoxe incroyable c’est que les deux technologies de domination du Web à la fois par la Chine et par les États-Unis ont été inventées en Europe.

Bernard Benhamou : En Europe. En France même.

Tariq Krim : Linux et le Web.

Bernard Benhamou : Et TCP/IP, c’est-à-dire la brique fondamentale de l’Internet, aux dires même de Vinton Cerf, a été élaborée, conceptualisée par un certain Louis Pouzin10, très peu connu des Français, mais qui a été l’architecte des premiers réseaux avec des datagrammes, avec le projet Cyclades, etc. Il a même été récompensé par la reine d’Angleterre pour sa contribution à la création de l’Internet. On se rend compte que nous avons laissé passer, et le Web a été inventé au CERN à Genève dans un laboratoire européen, nous n’avons rien fait de toutes ces technologies.

Tariq Krim : Ce n’est pas qu’on n’en a rien fait. Il faut voir que derrière la technologie il y a des idéologies.

Sky : J’en profite pour poser une question : les plateformes dominantes ont-elles des biais idéologiques ?

Tariq Krim : Justement, historiquement. En ce moment je reviens aux fondamentaux, à l’histoire de la technologie, se dire pourquoi on est là, pourquoi on est là avec des plateformes comme les GAFAM d’un côté et, de l’autre côté, les plateformes chinoises ? Il y a plusieurs choses.
La première c’est d’un point de vue de la technologie : on a deux visions qui se sont toujours opposées.
La première c’était l’idée que la machine sert à augmenter l’être humain, c’est une vision humaniste, c’est Douglas Engelbart11, le type qui a tout inventé, le desktop, la souris, il était à Stanford. Sa vision c’est de dire l’ordinateur, Steve jobs le disait très bien, il disait bicycle for the mind, « un vélo pour l’esprit ». C’est-à-dire que grâce à la machine on était capable de faire plus.
Et de l’autre côté, à peu près à 500 mètres plus loin à Stanford, il y avait John Mc Carthy12, l’un des inventeurs de l’intelligence artificielle, et sa vision c’était « la machine va remplacer le cerveau humain ».
Ces deux visions, en fait, sont tombées court parce qu’il a fallu attendre le Macintosh pour que la vision, on va dire de l’interface, se développe, et il a fallu attendre des années pour que la vision de l’intelligence artificielle décolle.

Sky : C’est-à-dire les pipe-lines de données pour pouvoir entraîner dans l’intelligence artificielle.

Tariq Krim : C’est ça. Et ce qui est drôle c’est que dans une conversation privée que j’avais eue avec un des deux fondateurs de Google, il le dit assez ouvertement – je ne l’ai jamais entendu le dire publiquement – que l’IA c’est quelque chose qu’ils ont découvert. Ils ont découvert, à un moment donné, qu’avec toutes les données qu’ils avaient ils pouvaient faire des choses, ça n’a jamais été quelque chose qui a été pensé. Google était plutôt dans la vision très utilitaire de l’Internet : on a une question, une réponse ; on est capable de répondre, c’était l’Internet de tout ce qui était pratique.
Ce qui s’est passé c’est que d’un point de vue de l’idéologie politique, par contre, on a trois visions : on a une vision américaine, une vision russe et une vision européenne.
La vision américaine c’est la vision des libertariens, c’est celle qui a donné finalement 30-40 ans plus tard Facebook. C’est « en tant qu’individu, l’informatique me donne le pouvoir d’être un individu ». Ce qui est curieux c’est que cette vision a été totalement effacée puisque maintenant le pouvoir d’être individu a quasiment disparu.
Pendant les années 60 c’est fascinant parce que se développe ce qu’on a appelé la cybernétique. La cybernétique se développe notamment chez les militaires parce qu’ils étaient intéressés à l’idée d’automatiser plein de choses, notamment les missiles, et en Russie il y a eu ce qu’on a appelé la cybernétique sociale. Je suis en train de découvrir des choses incroyables notamment cette personne exceptionnelle qui s’appelle Anatoly Kitov13, qui a compris très tôt que la vision de la cybernétique sociale c’était d’algorithmiser le plan quinquennal ; la Russie organisait des plans, planifiait tout, et on s’est dit « on va utiliser la machine pour organiser les gens ». En fait c’était la vision de Facebook et de Google aujourd’hui, 40 ans avant – 40 ans qu’est-ce que je dis, c’était les années 60 –, mais c’est la vision qui a été exportée ensuite en Chine et qui, à mon avis, est un des fondements idéologiques du crédit social. La technologie doit servir non pas à manipuler les gens individuellement, ce qui est le cas de Facebook, mais à construire une forme d’harmonie technologique en identifiant les mauvais et les bons comportements. En Chine on vous dit « tu ne peux pas faire ça, si tu vas tard le soir acheter une bouteille de gin ton crédit baisse ». Cette idée qu’on va gérer l’ensemble de la population, alors que la vision de Facebook est une vision plus libertarienne, c’était l’individu.
En Europe, on l’oublie, dans les années 90 il y a une vision communautaire, cette idée que la technologie doit servir à l’ensemble de la société. C’est une vision qui démarre avec le Chaos Computer Club14 en Allemagne dans les années 80. Linux c’est exactement ça, c’est on développe des choses et on les met à disposition. Je rappelle que le Web c’est « pas de pattern, pas de patent, rien, tout le monde peut l’utiliser ». Donc cette idée que nous allons créer de la technologie qui va servir au bien-être de l’ensemble.
Le problème c’est que cette vision qui est fantastique, qui est une vision…

Sky : Qui perdure !

Tariq Krim : À un moment on a dit « on est nuls, on annule, on va laisser cette vision ».
Ce qui me dérange le plus ce n’est pas tellement la question technologique, la technologie on peut toujours mettre des gens bons, mais pour faire quoi ? Aujourd’hui ce que l’Europe doit montrer, notamment sur les données, c’est comment on construit quelque chose qui est bénéfique à l’ensemble. Et ça, malheureusement, on a échoué ; on a échoué technologiquement, on a échoué idéologiquement, on a échoué politiquement. Il y a plein de raisons, on pourra en discuter, mais on a échoué, pour moi c’est le véritable échec. Et la question de la souveraineté n’est pas uniquement technologique, ce n’est pas de dire « on ne va pas héberger nos données », c’est : est-ce qu’on doit collecter les données ? Pour quoi faire ? Quel est le bénéfice à court terme, moyen terme et long terme ? Et ça c’est une conversation qu’il faut qu’on arrive à faire ouvrir.

Sky : Bernard.

Bernard Benhamou : De la même manière qu’il y a quelques années on a eu des débats sur la bioéthique qui passionnaient non seulement les parlementaires mais même les Français parce qu’effectivement ils étaient capables d’identifier les sujets sur la filiation, sur les manipulations génétiques, ils étaient très vite impliqués. Or, les débats sur les technologies sont plus compliqués à faire comprendre à un large public et pour avoir été de ceux qui ont tenté de le faire, on se rend bien compte de la difficulté, mais je crois qu’on est en train progressivement d’avoir des gens qui demandent à comprendre, étrangement. On parlait effectivement du crédit social, étrangement l’étape d’après maintenant pour le régime chinois, c’est établir une cartographie génétique totale de la population comme a pu le montrer le New-York Times il n’y a pas longtemps. On va donc passer du « crédit social » au « génome social », on va passer, pour les amateurs de science-fiction, de Minority Report à Gattaca, ou un mix des deux. C’est cette dérive que nous devons conjurer. Pourquoi nous, Européens, avons été si méfiants par rapport à la NSA ? Quand je dis nous Européens, plus précisément nos amis Allemands que nous-mêmes Français, sensibles à ces questions, parce que justement il y avait un passé de Stasi, d’écoutes, etc., et sur les manipulations génétiques parce qu’il y avait aussi une idéologie il y a 70-80 ans de ça et qui était terrible par rapport à cette notion de race supérieure, etc. On voit bien que les mécanismes de défense que nous avons développés par rapport à la vie privée n’existent pas du tout de la même manière aux États-Unis ; elle n’est pas du tout codifiée de la même manière, protégée de la même manière. Aux États-Unis, la vie privée était un droit du consommateur. Pour nous Européens c’est un droit fondamental, c’est un droit élémentaire de l’humain.
Eh bien je crois effectivement que c’est cette vision-là qu’on doit justement essayer de faire valoir. Paul Nemitz qui s’occupe des affaires juridiques de la Commission européenne disait « peut-être que la protection des données deviendra pour les années 2010/2020 ce que l’écologie a été dans les années 80 et auparavant ». Au départ, au tout début, l’écologie apparaissait comme politiquement farfelue, aujourd’hui elle apparaît comme indispensable.
De la même manière, ce qui nous paraît encore difficile parce qu’on se dit interdire le micro-ciblage, éviter effectivement ces concentrations de pouvoir infini autour de quelques sociétés américaines ou chinoises puisqu’il y a les deux maintenant, typiquement ça apparaît difficile, mais, de fait, on voit bien que c’est le seul chemin possible. Sinon c’est la tenaille sino-américaine avec d’un côté une dérive totale autour des sociétés qui accumulent les données et, de l’autre côté, un régime chinois qui accumule des outils de surveillance, de contrôle, d’ingénierie sociale, de plus en plus inquiétants. On le voit y compris sur des minorités ethniques, puisque parmi les individus qui seraient le plus directement ciblés figureront…

Sky : Les Ouïghours.

Bernard Benhamou : Exactement, les minorités ethniques et religieuses. On voit bien que là il y a, je dirais, un basculement [politique] parce que, en gros, on voit qu’il y a un risque bien au-delà de la seule sphère économique.

Sky : Je vais me faire l’avocat du diable, donc bingo, un point, c’est un truc entre nous. Le régime chinois du flicage par crédit social, ça va séduire beaucoup de politiciens.

Bernard Benhamou : Ça en séduit déjà ! C’est-à-dire qu’à l’heure actuelle ce que l’on appelle les démocraties illibérales, peu importe, sont effectivement dirigées par des individus qui ont très bien compris l’usage qu’ils pourraient faire d’un système de ce genre. Simplement il se trouve que, je dirais, la Chine a un avantage, entre guillemets, « compétitif » parce qu’elle est capable de le déployer [et de l'expérimenter, Note de l'intervenant] sur un petit peu moins d’un quart de l’humanité. C’est « un angle d’attaque » qui est infiniment plus grand. Mais que des responsables, par exemple dans les équipes de Trump et de Bolsonaro, soient fascinés par des outils de contrôle social ce n’est pas une nouveauté ! Ce n’est pas une nouveauté. Quelque part la volonté d’éteindre toute forme de contestation de manière radicale, voire violente comme ça a pu se faire ces derniers temps.

Sky : En France ?

Bernard Benhamou : En France parfois. Parfois ! Qu’il y ait une fascination technologique, qu’il y ait une forme d’ubris technologique c'est certain, et c’est d’ailleurs peut-être pour ça la raison de la complaisance dont on parlait par rapport à ces sociétés [dont font preuve certains politiques vis-à-vis des ces sociétés, Note de l'intervenant] c’est qu’il y a une forme de fascination pas simplement économique ou libérale, non, c’est aussi une fascination sur les capacités de pouvoir et d’influence [que peuvent donner ces technologies, Note de l'intervenant]. Pour un politique, avoir une influence absolue sur des individus, pour un politique je dirais modestement armé d’un point de vue moral, c’est quelque chose de très tentant.

Tariq Krim : Si je peux me permettre là-dessus, je donne toujours une anecdote. J’étais à la conférence sur l’intelligence artificielle et juste avant que notre président Emmanuel Macron.

Sky : Notre suprême leader.

Tariq Krim : Suprême leader, si tu veux, évoque le sujet, mon téléphone vibre, je prends mon téléphone et c’était une notification de Facebook pour m’annoncer ce que j’allais voir. Je me suis dit waouh !
Le problème du politique et c’est en général vrai aussi pour toute la question du numérique en France — je prends quelques instants mon ancienne casquette de vice-président du Conseil national du numérique — c’est qu'en France le numérique c’est de la comm’ ! Déjà, malheureusement, tous nos ministres ont fait Sciences Po ou HEC, si on ne fait pas ça, on n’est pas ministre et, surtout, on a une vision extrêmement communicationnelle. Donc ce sont les réseaux sociaux, le buzz, le clash. Ce qui est fascinant c’est qu’on leur donne l’illusion de ce pouvoir. Je pense que Facebook, Twitter, les deux d’ailleurs ont choisi, je crois, des énarques comme lobbyistes, mais aussi comme patrons. Ça montre qu’ils avaient très bien compris comment aborder le marché. Mais surtout il y a cette illusion du pouvoir, du nombre de followers, de la course contre la montre et, en fait, ce qu’on fait quand on est politique et qu’on diffuse des messages sur Facebook, on améliore le ranking de ces plateformes, donc en fait on améliore le microtargeting. En ayant l’impression d’avoir un acte citoyen, en tout cas un pouvoir, on oublie qu’en fait on alimente en données, en clics. Le simple fait de regarder, de ne pas regarder, de regarder 20 secondes un discours, tout ça ce sont des informations qui ne vont pas être utilisées par les partis politiques. Si on demande à tous les partis politiques français : est-ce que vous avez des informations très précises sur l’usage de vos internautes ?, ils ne savent pas, par contre Facebook a collecté toutes ces données et va s’en servir derrière pour du targeting publicitaire.
En fait on a aussi un problème essentiel c’est qu’on n’a pas compris. Je pense que tu as dû le faire, on a essayé d’expliquer aux politiques que le numérique va au-delà de la comm’, il faut comprendre l’algorithmie, il faut comprendre un certain nombre de choses assez basiques, il ne faut même pas aller dans les détails.

Sky : Tu as déjà discuté avec Cédric O ?

Tariq Krim : Non, je ne le connais pas. Je l’ai vu sur votre excellente émission.
Ce qui était intéressant avec le CNNum15, le Conseil national du numérique, c’est qu’on voyait beaucoup de politiques, on était censés normalement recevoir les lois avant qu’elles sortent, on devait donc conseiller le gouvernement, on les a quasiment toutes eues sauf la loi sur le renseignement, comme par hasard elle n’est pas passée par nous et c’est là, après, que j’ai compris. On parlait de filière numérique, c’est vrai qu’en France on a quand même une filière sur la surveillance qui est consistante à travers sur les âges. Sur les autres on n’a jamais eu de vision à long terme. C’est-à-dire que dès qu’on a un nouveau ministre ou dès qu’on a un nouveau gouvernement il y a une nouvelle dynamique. En ce moment on a la startup nation qui est plus ou moins, à mon avis, un peu arrivée à la fin.

Sky : La bullshit nation, non ?

Tariq Krim : Je suis un fan, j’ai toujours été fan des startups. Quand j’étais tout jeune j’étais fasciné par Steve Jobs, par Commodore, par toutes ces boîtes d’entrepreneurs, c’était fantastique. Et en France on a ce biais, ce travers, je ne sais pas comment dire, on institutionnalise tout. On a institutionnalisé le rap, la techno, toutes les cultures le plus underground et la startup qui est quand même un truc de rebelles à la base, de gens qui n’ont pas fait d’études, de drop-out, en France c‘est devenu l’inverse, c’est, d’une certaine manière, la continuité d’une forme d’élite sociale où on donne immédiatement à des gamins qui sortent de l’école des statuts de cadre sup. Il y a ça et puis, de l’autre côté, il y a tous les autres qui sont nés du mauvais coté de l’écran, c’est-à-dire que ce sont des pixels qui déplacent sur Deliveroo, sur Uber, et eux n’ont même pas le droit à la retraite, à des choses basiques. On a aussi construit un système qui montre ses limites.
Aux États-Unis c’est peu normal parce qu’on découvre, avec la crise du covid, que le système explose complètement, même si Amazon est en train de faire une chose assez incroyable, ils ont dit on va faire un système de e-commerce complètement covid free, on va vraiment travailler à optimiser la chaîne de développement et aujourd’hui ils profitent, en trois mois ils ont quasiment annihilé tous leurs concurrents, à part Walmart, il n’y a plus personne qui peut leur faire de la concurrence.
C’est pareil avec Netflix. On sait que le festival de Cannes s'est toujours opposé aux films qui vont passer sur Netflix, on ne les met pas, et cette année on demande à Netflix, Amazon, je ne sais qui d’autre, en streaming, de tout mettre en ligne. On a ce problème : à chaque fois on veut, d’un point de vue politique, avancer dans une direction, donc là la startup nation. Avec Hollande ce n’est pas clair. Je pense que Sarkozy ne savait pas trop, c’était les débuts, mais à l’époque de Hollande on savait pour Snowden, on savait pour les plateformes.

Sky : Pourquoi ? Parce que Axelle Lemaire.

Tariq Krim : Elle, mais Fleur Pellerin aussi. Les deux, en fait, ont eu, je ne veux pas dire un double discours, il fallait dire qu’on fait les choses et en même temps, en coulisses, on a laissé la fameuse ligne rouge dont on parlait, c’est-à-dire des choses qui n’auraient pas dû être faites.
Je vais vous donner une anecdote. Son nom m’échappe, l’ancien patron de l’ANSSI16 qui est maintenant directeur technique.

Sky : Poupard.

Tariq Krim : Poupard c’est maintenant ; celui qui était juste avant lui.

Sky : Celui qui était vraiment coincé, qui se prenait pour…

Tariq Krim : Qui est maintenant à la direction de la DGSE.

Bernard Benhamou : Du renseignement français.

Sky : Il est à la direction de la DGSE lui ?

Tariq Krim : Technique, je crois, directeur technique.

Sky : Technique, heureusement !

Tariq Krim : Il y avait une réunion, on avait discuté et on a parlé de plateformes. En fait, le discours était parfaitement rodé. J’ai eu aussi une conversation avec Poupard. J’ai trouvé les deux excellents sur le discours, j’ai appris que Poupard17 était aussi excellent en crypto, c’est quelqu’un que j’ai trouvé très sympathique, qui, en plus, est vraiment une brute épaisse dans ces domaines, ce n’est pas un touriste, mais leur discours sur la question de la souveraineté, sur la question des plateformes, n’était pas un discours naïf. La première question que je leur pose à chaque fois c’est : est-ce qu’il y a des gens qui vous écoutent ? Est-ce que vous avez la moindre influence ? Aujourd’hui, moi je préférerais que quelqu’un comme Poupard soit ministre du numérique.

Sky : Juste pour l’anecdote, le précédent avant Poupard, je l’avais attrapé à l’École de Guerre, je lui avait posé une question sur les hackers, en gros il m’a dit qu’il n’en avait rien à foutre des hackers. Tu vois le niveau !
Bernard.

Bernard Benhamou : Je crois effectivement qu’il y a eu un problème d’éducation et d’accompagnement du politique par rapport à ces questions. Pour être militant dans ces domaines depuis longtemps, je vois bien les difficultés. Je rejoins l’idée que trop souvent ces technologies ont été vécues comme un outil cosmétique [par nos politiques, Note de l'intervenant]. Donc en lieu et place de mettre une coordination sur les différents sujets clefs – sécurité, éducation, culture, etc. – et d’avoir, comme ça s’est fait sous l’ère Obama, un chief technology officer, c’est-à-dire quelqu’un qui coordonne les technologies fédérales, on a à chaque fois des gens qui ont fonctionné en silos. Par définition on n’a pas une prise en main de ces questions au niveau où elles le mériteraient. Donc on a laissé, effectivement, dériver progressivement ces sujets et surtout on s’est abstenu, voire c’est devenu un mot tabou, le fait de dire « il nous faut créer des conditions de politique industrielle, enfin des actions relevant d'une réelle politique industrielle [dans le domaine des technologies, Note de l'intervenant] ». Tout à l’heure Tariq évoquait les grands entrepreneurs de la Silicon Valley, je citerais une autre économiste, Mariana Mazzucato, qui disait « il n’y a pas une seule des technologies clefs de l’iPhone qui n’ait été, de près ou de loin, financée par des crédits fédéraux américains ».

Tariq Krim : Et français, puisque pendant longtemps les puces STMicroelectronics étaient dans l'iPhone.

Sky : Même Tor18 avait été financé.

Bernard Benhamou : Bien sûr !

Sky : Pourquoi tu rigoles Tariq ? Tu rigoles pour la même chose que moi ! C’est ça ?

Bernard Benhamou : Par définition, on se rend compte que là où aux États-Unis on a créé, aidé des Elon Musk avec des contrats d’État de la NASA [pour Space X, Note de l'intervenant], on a aidé toutes les grandes entreprises à se développer avec des crédits et des commandes fédérales et locales, nous, en France, dès que l’on parle de ça c'est presque un tabou. Le mot que l’on agite maintenant c’est le Small Business Act. Small Business Act c’est l’orientation d’une partie de la commande publique, donc de l’argent du contribuable, vers des petites sociétés, des PME, ce qui se fait aux États-Unis depuis plus de 50 ans. Ce n’est pas compliqué, dès que vous en parlez vous vous heurtez à une vision quasiment dogmatique, certains diraient de l'ordolibéralisme qui est de dire « non, vous êtes en train de vous en prendre à l’équilibre du marché, donc il ne faut surtout pas ». Eh bien non, aux États-Unis cela a fonctionné. Leur interventionnisme est l'un de leurs secrets les mieux cachés. Ils essayent de mettre en avant des figures charismatiques,Jeff Bezos, Elon Musk, anciennement Steve Jobs,Bill Gates, en gommant toute l’action gouvernementale justement pour essayer de leur donner des armes le plus tôt possible pour ça [pour leur développement, ce qui a permis à ces entrepreneurs de créer des empires, Note de l'intervenant].

Tariq Krim : Je voulais juste revenir là-dessus parce que je suis absolument d’accord avec ce point.
Lors d’un débat sur le Health Data Hub, j’avais écouté notre ex-ministre du numérique, Cédric O, parler : « Mais vous imaginez, Amazon ils mettent – je crois qu’il parlait de 20 milliards – dans le cloud par an ».

Sky : Qui est le nouveau ministre ?

Tariq Krim : On ne sait pas.

Sky : 20 milliards dans le cloud.

Bernard Benhamou : Ça a d’ailleurs été repris hier par Véran.

Tariq Krim : Absolument ! « 20 milliards dans le cloud, on ne peut pas s’opposer à ça. »
Je pense que ce sont des gens qui ont une vision libérale à la française, c’est-à-dire qu’ils pensent que le marché est parfait : s’ils sont là c’est parce qu’ils sont bons. On oublie qu’on a enlevé les taxes sur le e-commerce. J’ai un copain qui a fait l‘IPO Initial Public Offering] d’Amazon il y a 20 ans, l’entrée en bourse, ils avaient levé 85 millions. Ce n’est rien ! Ils ont transformé ça en une machine de guerre incroyable. Je pense que Jeff Bezos est fondamentalement aujourd’hui l’entrepreneur vivant le plus impressionnant. Je le préfère à Elon Musk, même si je pense qu’il est très malin et très impressionnant parce qu’il a construit un empire, mais il l’a construit avec l’aide de l’État américain, avec la diplomatie américaine. Je rappelle que la diplomatie américaine demande à Twitter de ne pas mettre à jour, au moment des troubles de la révolution en Iran, le fait que l’État est derrière. Je sais que vous avez fait une émission sur le Cloud Act, mais toute la régulation et la réglementation est faite au service des boîtes américaines.
Eric Schmidt a quitté Google, maintenant il est conseiller du Pentagone, et il a publié, vous pouvez le trouver facilement sur Internet, un document PDF de 80 pages sur le risque de la Chine, puisqu’on est en guerre froide technologique avec la Chine depuis que Trump est arrivé, on l’était un peu mais là c’est un peu plus visible, et c’est fascinant quand vous lisez ce document. Je ne sais pas si quelqu’un en France aurait été capable de faire quelque chose d’aussi bon et surtout on prend conscience du fait qu’on est dans une logique où les États-Unis sont derrière toutes leurs entreprises.

Sky : Ou les entreprises américaines font partie du bras armé de la diplomatie et de la politique extérieure américaine.

Tariq Krim : Absolument. Complètement !

Sky : Est-ce que vous avez lu Raymond Aron ? Un peu ? Non !

Bernard Benhamou : En d’autres temps, oui.

Tariq Krim : Un peu moins.
Je voulais simplement dire que si ces sociétés sont là où elles sont, elles sont là parce qu’elles sont très bonnes, mais parce que la machine américaine, et c’est normal, leur a enlevé toutes les contraintes. Il y a un problème de taxes ? On vous enlève les taxes, on défiscalise.

Bernard Benhamou : Directes. Indirectes.

Sky : Et en échange on garde une petite main à l’intérieur.

Tariq Krim : J’ai posé la question à un ami qui était directeur de la sécurité chez Google, après il est allé chez The Intercept.

Sky : Il était chez The Intercept pour faire des enquêtes ?

Tariq Krim : Non. Il m’expliquait comment ça marche. En fait, chez Google, Facebook, il y a des gens embedded, donc des gens du renseignement, mais ils sont choisis par les headcheers. C’est-à-dire qu’en fait ils ne peuvent pas prendre n’importe qui, ils ont besoin d’avoir des gens habilités, mais ils ont un certain nombre de personnes qui sont là, qui ne reportent qu’au CIO [chief information officer] et qui exécutent les fameuses requêtes FISA [Foreign Intelligence Surveillance Act], les fameuses requêtes qui sont demandées pour accéder à des données, donc ils font ça. Il y a effectivement un contingent de gens. C’est un système qui est un peu limite mais qui est légal. Simplement, ce qu’ils ont fait, c’est qu’il y a des juges qu’on peut appeler à n’importe quelle heure de la journée, on peut leur demander autant de requêtes qu’on veut et ils signent, c’est quasiment automatisé, mais c’est contrôlé. En tout cas, tel qu’on me l’a expliqué, c’est officiel, plein de gens savent. Les employés ne savent pas qui c’est, évidemment, mais les patrons, donc à l’époque Larry Page, Mark Zuckerberg et les autres, savent. Je dirais que d’une certaine manière la relation entre le militaire, le renseignement et l’Internet a toujours été relativement souple !

Sky : Dis-moi, quand tu en repères un, tu gagnes un tee-shirt ou pas ?

Tariq Krim : Peut-être !

Sky : Avec marqué I spot the fed? [« J'ai repéré un agent fédéral », jeu potache à la grande convention de hackers DEFCON, NdT]

Tariq Krim : Il y a des années on est allés dans une conférence de hackers, Hacking in Progress, c’était en Hollande, organisée par le groupe de pirates qui s’appelait XS4ALL, des types fantastiques, on a rencontré plein de gens. Les gens qui faisaient partie de la NSA, parce qu’il y en avait pas mal, devaient avoir un badge orange. Il y en a plein qui n’avaient mis de badge orange, donc il fallait spotter ; à la fin ils ont tous été détectés. À l’époque on avait fait une conférence sur Echelon, un petit truc, on était une quinzaine et il y a trois types qui sont venus, un peu plus âgés et qui nous ont dit « ce n’est pas exactement comme ça ». C’était fascinant. Ce qui m’a toujours fasciné dans la NSA, un truc qui me fascine presque depuis le milieu des années 80, c’est comment on est capable d’analyser autant d’informations, de stocker autant d’informations. Si le savoir-faire de la NSA était utilisé dans les bibliothèques, c’est-à-dire dans une vision un peu plus positive ! C’est incroyable ! Il ne faut pas oublier que NeXT, qui était la boîte de Steve Jobs, dont tout le monde pensait qu’elle était morte, en fait elle vendait toutes ses machines à la CIA, à la NSA, elle n’avait pas le droit de le dire. Quand ils ont été rachetés par Apple on a fini par se rendre compte que ça fonctionnait. Des gens comme Steve Jobs vendait à ces agences. Google a eu des financements puisqu’après le 11 septembre quasiment tout l’argent est parti dans le…

Sky : Contre-terrorisme.

Tariq Krim : Contre-terrorisme et l’analyse sémantique, tous ces outils, tout le monde s’est positionné. D’ailleurs Palantir, d’une certaine manière, a un peu profité de ça. Google aussi a eu des subventions. Il se trouve que le type full discloser, le type qui a créé In-Q-Tel, le fonds…

Bernard Benhamou : Un fonds d’investissement de la CIA.

Tariq Krim : A été un de mes investisseurs quand je faisais Netvibes, c’est devenu le general partner d’Axcel, Axcel qui était l’investisseur de Facebook, de plein d’autres boîtes.
Il y a toujours eu des relations plutôt business parce que, comme vous le savez, aux États-Unis le budget du Pentagone est, je ne vais même pas dire astronomique, donc tout le monde, à commencer par les nouveaux, Palantir et les autres, ce qu’on appelle le nouveau consortium milataro-industriel, n’ont qu’une vue c’est de prendre une part du gâteau. Le projet JEDI [Joint Enterprise Defense Infrastructure] qui devait normalement revenir à Amazon et qui est arrivé à Microsoft, c’était dix milliards.

Sky : Explique ce qu’est le projet JEDI. Juste en gros.

Bernard Benhamou : En gros, ce marché technologique du Pentagone a donné lieu à un procès, ce qui est quand même assez inhabituel de la part d’un géant américain, du fait de leur exclusion manifestement dirigée contre eux par Trump, a porté plainte contre le Pentagone. Vous imaginez : une grande société porter plainte contre le Pentagone et effectivement réussir à geler le marché.

Tariq Krim : Juste pour répondre, JEDI c’était le projet de cloud du Pentagone.

Bernard Benhamou : Sur ces sujets je vous recommande l’excellent ouvrage de Shane Harris qui s’appelle @War, avec l’arobase War sur le lobby militaro-internet aux États-Unis. C’est aussi une belle description de l’histoire des liens entre les deux.
Quelque part, on a spontanément tendance à se dire que c’est mal [que les liens entre militaires et technologies sont forcément toxiques, Note de l'intervenant]. Oui et non ! Que militaires aient été historiquement avides de nouvelles technologies, c’est vrai dans tous les pays. Que les innovations, je citais tout à l’heure les innovations de l’iPhone depuis le tactile, l’intelligence artificielle, le système Siri, etc., aient d’abord été développées dans des enceintes militaires, à des fins militaires, c'est un fait. On rappellera quand même que les premières recherches sur les interfaces en réalité augmentée, étaient destinées aux systèmes militaires de visée dite « tête haute » pour les pilotes d’avion de chasse.
À partir du moment où on a des budgets qui sont hors de contrôle, comme on le voit en ce moment au point qu'on est en train de s’interroger même aux États-Unis maintenant sur le fait que ces budgets soient de hors de contrôle, le problème se pose. Mais que les militaires puissent être, dans le cadre d’une politique industrielle intelligemment conçue, à l’origine et accompagner des sociétés et des technologies dans ces domaines, en tant que tel ce n’est pas choquant. La preuve en est, on rappellera pour ceux qui auraient vécu dans une cave ces 50 dernières années, que l’Internet est né de projets menés par le Département de la Recherche militaire américaine, le DARPA.

Tariq Krim : Il y a 30 ans alors.

Bernard Benhamou : Ceci est une datation que je ne reprendrais pas. Un homme politique français a récemment écrit « il y a 30 ans naissait l’Internet », confondant la naissance du Web et celle de l’Internet.

Sky : Tariq, combien de fois on a essayé de te recruter ?

Tariq Krim : Une fois.

Sky : C’était des Français ou c’était d’autres ?

Tariq Krim : C’était des Français, quand même !

Bernard Benhamou : Quand même !

Sky : Quand même !

Tariq Krim : J’étais à San Francisco avec la personne qui m’hébergeait, un type fantastique qui a été un pionner du MP3, et on avait un serveur, d’ailleurs on avait un nom de domaine assez cool à l’époque, on avait hackers.org, qu’on a perdu.

Sky : En quelle année ?

Tariq Krim : C’était en 1996. On hébergeait le site de Dorothée. Il y a des gens qui sont venus pirater le site, qui ont réussi, ils ont trouvé un rootkit et ils ont effacé plein de choses dont tous mes mails personnels. C’est une époque où j’étais assez sensible à ces questions. À l’époque je travaillais chez Sun Microsystems, une filiale entre Sun et Thomson et les types au-dessus, il y avait Shimomura, Dan Farmer, des gens qui avaient travaillé notamment sur SATAN [Security Administrator's Tool for Analyzing Networks], donc on a essayé de faire le tracé inverse. On s’est rendu compte qu’ils étaient passés par une université au Texas. On avait fait le chemin inverse. Et je ne sais pas pourquoi ça m’a fasciné, je n’avais jamais vraiment fait ça et j’ai passé presque un mois et demi.

Sky : Vous avez trouvé ?

Tariq Krim : Oui. Je vais raconter l’histoire.
Déjà on se retrouve avec le FBI parce que dès lors que ça sort, le FBI était en fait l’équivalent, il travaillait avec Interpol, c’est devenu un truc multi-réseaux parce qu’ils avaient fait ça dans plein d’autres universités. On est venu voir les personnes avec Gilles à l’époque, on a amené les listings, ils nous posaient des questions basiques. Donc on a dit « ils ont hackés tel serveur, ils sont passés sur ce serveur, ils sont passés sur ce serveur » et la personne qui était en face de nous – on était dans une pièce avec évidemment un micro, une vitre sans tain – nous dit « je vous interromps ici, est-ce que ce qu’ils ont fait est illégal ? » À ce moment-là on entend une porte s’ouvrir, quelqu’un arrive et dit I am taking it from there, donc « je prends » et on a retrouvé. La personne était basée au Portugal mais en fait c’était un Français. À la fin je l’ai eu au téléphone, sa mère m’a donné le numéro de son dorm room je l’ai appelé. Finalement je n’ai rien fait ! Qu’est-ce que je pouvais faire ?
Par contre, une personne que je ne nommerai pas parce que malheureusement maintenant elle n’est plus avec nous, avait eu son serveur en France hacké et elle a dit « je vais porter plainte ». J’ai dit « on a tous eu 17 ans, on ne va pas le faire ». Lui si. Suite à ça, la personne qui s’occupait de ça, le policier dont le nom m’échappe maintenant, qui s’occupait de la brigade autour de ça, m’a dit « est-ce que vous voulez faire ce genre de boulot ? » Et je lui ai répondu non.

Sky : Ils ont proposé combien ?

Tariq Krim : On n’en est pas arrivé là, il m’a dit « on aurait besoin de gens comme vous, de limiers ». J’ai dit « je ne suis pas un limier. C’est juste, à un moment donné, quelque chose de personnel qui est devenu une espèce d’obsession ». En plus j’ai appris énormément. J’allais voir les gens au premier étage qui me disaient « est-ce que tu as pensé à ça ? » C’est là que j’ai découvert qu’il y a des gens sur l’Internet qui pouvaient aller deux fois plus vite que la moyenne. On était en 1996, on était vraiment au tout début. Ça m’avait fasciné, mais ce n’était pas mon sujet. J’aimais bien les questions d’intelligence économique, j’en ai parlé de temps en temps, comme ça, avec quelques personnes des services. J’ai découvert après, je me suis beaucoup intéressé à ces questions de hacking et autres et, à un moment donné, j’en ai eu marre. Je me suis rendu compte que si on reste dans ce milieu on ne peut plus vivre, donc je suis reparti sur des choses plus fun, la musique en ligne, le MP3 qui est devenu après le piratage, Napster, toute cette période.
C’était une belle époque ! C’est l’époque qui me manque beaucoup parce que ce qu’on oublie c’est qu’avant l’ordinateur c’était le nôtre, c’était notre machine, notre disque dur, nos fichiers. Il n’y avait personne pour comptabiliser le nombre de fois que j’ai écouté telle musique, ce qui peut d’ailleurs avoir une implication politique ou pas, donc on n’avait pas cette analyse, on était dans un univers où la machine nous appartenait, c’était une forme de souveraineté personnelle. Un jour on a dispersé les choses dans le cloud et des gens avaient accès à ces choses. Quand on développe — et c’est pour ça que je n’aime pas l’idée de simplifier l’algorithmie — quand on développe un projet, ce que j’ai pu faire avec Netvibes19, Jolicloud20 et d’autres choses, on a un pouvoir sur l’utilisateur. Aujourd’hui on peut faire croire à l’utilisateur ce qu’on veut sur un écran. On peut lui mentir, lui raconter des bobards, on peut le manipuler et ça, ça demande, en fait, une véritable forme d’humilité qu’on n’a pas toujours. Je pense que ce qui s’est passé chez Facebook, chez Google et chez d’autres acteurs c’est qu’ils ont, à un moment donné, pété les plombs. Ils se sont dit « on sait mieux que les autres ». Et quand vous regardez les startups, c’est fascinant, vous avez le plus souvent des gens très jeunes et c’est volontaire.
En France, quand vous êtes développeur et que vous restez développeur tard vous êtes un looser, alors qu’aux États-Unis vous êtes ce qu’on appelle un « senior développeur ». James Gosling, qui avait fait le Java, était un senior développeur. J’ai vu des gens qui ont fait des bases de données dans les années 60/70 qui sont toujours bons, leur cerveau fonctionne, ils n’avaient pas envie de manager d’autres gens, ils avaient envie de vivre de leur passion. En France on n’a pas ça malheureusement. Dès qu’on passe ce niveau, il faut qu’on devienne manager. Et là je perds un peu de fil de ce que je veux dire parce que tu me regardes !

Sky : C’était très bien !

Tariq Krim : Je voulais juste revenir là-dessus. Le contrôle. On a perdu le contrôle de sa vie numérique et c’est pour ça que maintenant je parle beaucoup, je ne sais pas si on aura le temps de parler un peu de slow Web.

Sky : Après.

Tariq Krim : On fera ça après, je vais laisser Bernard.
Ce contrôle on l’a perdu et aujourd’hui il n’y a plus aucune autorité de régulation capable de nous redonner ce contrôle.
Souvent, Bernard, tu me dis « tu es nostalgique ». Je suis nostalgique d’un temps où on pouvait aller dans les aéroports sans avoir à passer deux heures avant ou après à se poser des questions, mais je suis aussi nostalgique d’un temps où la machine était un véritable compagnon. C’était un outil de confiance. Ce qui m’a fasciné avec l’ordinateur, quand on est très jeune et on a tous découvert son premier ordinateur, c‘est que la machine ne nous ment pas, la machine fait ce qu’on lui demande. Il y a cette relation unique que l’on construit.
Aujourd’hui, quand on démarre avec son premier ordinateur, c’est en fait un iPhone, on a un outil qui est déjà par définition perverti commercialement. Je trouve ça assez triste pour la génération qui aujourd’hui découvre et qui devrait apprendre qu’un ordinateur ça se démonte, ça se décompile, ça s’analyse et c’est ça qu’il faut qu’on arrive à apprendre à la jeune génération.

Sky : Bernard.

Bernard Benhamou : Je vote entièrement cette proposition. Le principe fondateur de l’Internet c’était le principe du end to end, c’est-à-dire que toutes les machines avaient les mêmes droits, les mêmes devoirs sur le réseau, ce qu’on a appelé par la suite neutralité du Net21. Il se trouve que maintenant on a centralisé le pouvoir autour de quelques plateformes [des GAFAM, Note de l'intervenant]. Donc oui, effectivement, il s'agit d’essayer d'éviter ça. Je dirais que la traduction politique de cette volonté c’est éviter que les GAFAM ne deviennent non pas omnipotents, ce qu’ils sont déjà, mais durablement omnipotents ce qu’ils pourraient être si on n’y prend pas garde.
Je dirais que parmi les sociétés qui sont moins connues des Français, mais certainement plus connues de vos auditeurs, on parlait de Palantir tout à l’heure, le fait que les renseignements intérieurs, donc la DGSI, aient reconduit leur contrat avec une société qui a été financée, conçue avec justement In-Q-Tel, sur les crédits de la CIA et très directement mêlée à l’appareil de renseignement américain et que ce soit cette même société qui ait essayé de gérer les données covid, qui l’a d’ailleurs obtenu en Angleterre, la France a refusé.
Il faut préciser que quand Palantir s'approche des autorités…

Sky : Qu’est-ce que c’est Palantir pour les newbies [débutants] qui sont là ?

Bernard Benhamou : Palantir22 c’est la société fondée pour analyser le big data dans la lutte antiterroriste aux États-Unis. Ce sont eux qui ont été les plus à même de développer un savoir-faire unique auprès de quasiment la totalité des agences de renseignement américaines. Lorsque vous regardez la liste des clients de Palantir, vous avez le gratin du renseignement et des sphères militaires américaines. Que cette société ait été choisie par la France pour les renseignements [l'analyse des renseignements, Note de l'intervenant] antiterroristes en France c’est déjà une erreur, que le contrat ait été reconduit en est une autre. Et là encore, moi je crois que la solution essentielle c’est éviter que ce genre de chose soit possible. C’est-à-dire que ça ne pose pas question dans l’esprit d’un politique de gérer et de faire gérer des données de ce genre – comme on en a parlé pour les données de santé qui sont infiniment cruciales pour les individus surtout en période de pandémie – que ça n’ait pas levé des drapeaux rouges dans l’esprit des gens, c’est la preuve qu’il y a eu une porosité, il y a eu une complaisance, il y a eu une forme effectivement de laisser-faire et je pense qu’il y a des réponses politiques [à apporter pour que cela ne soit plus possible à l’avenir, Note de l'intervenant].
Par rapport à ces mastodontes que sont devenus les GAFAM, qui ont perverti l’esprit pionner du Web et de l’Internet en général, je pense qu’il y a des solutions politiques. Je citerais un politique, qu’on a cité parlant de toute autre chose, en fait ce n’était pas lui, c’était Mauriac, je crois, « j’aime tellement l’Allemagne que j’aimerais qu’il y en ait plusieurs ». Moi je crois que j’aime tellement les GAFAM que j’aimerais qu’ils soient divisés en tout petits morceaux. Ou, pour être précis, que ces sociétés ne puissent pas en permanence utiliser leurs muscles monopolistiques pour empêcher effectivement toute forme d’existence industrielle dans ces domaines.

Sky : Pour cela, il faut un peu de courage politique, c’est ça ?

Bernard Benhamou : Absolument ! Il faut du muscle politique. Je dirais là-dessus que plus les temps se durcissent par rapport aux questions de manipulation des opinions publiques, de radicalisation, plus les politiques qui rechignaient à positionner sur les questions industrielles, de politique industrielle, quand il est question de leur survie à court terme dans le cadre électoral, tout d’un coup ils se révèlent beaucoup plus réactifs qu’on ne l’imaginait.
Là-dessus je dirais qu’on arrive à une période où effectivement l’inaction aura une traduction politique radicale. Et c’est le cas de le dire, radicale !

Sky : Il y a trois/quatre personnes qui nous ont demandé de vous faire parler autour de Aaron Swartz23. Tariq.

Tariq Krim : Je le connaissais pas mal puisqu’on a travaillé à l’époque, quand je faisais Netvibes, il était lié à la création de RSS, le format de syndication des news. C’est quelqu’un que j’ai évidemment toujours apprécié. Il y a plusieurs choses qui sont tristes.
Un, je pense que c’est quelqu’un qui était hypersensible, quelqu’un qui avait une vision humaniste du monde. Quand on parle de MP3, de Torrent, de Big Torrent, ce qui me fascine aujourd’hui c’est que la mémoire du monde, la vraie mémoire du monde, des films, les choses introuvables – quand on est cinéphile Nextflix c’est sympa mais soit ce sont des séries Z de SF avec des scénarios qu’on a déjà vu dans les années 90, soit ce sont des films des années 90 qu’on a déjà vus 50 fois et puis, de temps en temps, il y a une ou deux perles –, mais la vraie mémoire du monde elle est en ligne, elle se cache derrière Pirate Bay, derrière de services comme cela. Lui, par rapport au savoir scientifique, il avait aussi cette vision. C’est une vision que j’ai toujours partagée, parce que je pense qu’à un moment donné dans l’humanité, à un moment t il faut au moins que la moitié du savoir soit librement accessible. Le problème qu’on a aujourd’hui c’est que les brevets et les copyrights durent de plus en plus longtemps et on produit de plus en plus de choses. En fait, d’un point de vue mathématique, le nombre de choses qui sont librement accessibles se réduit.

Bernard Benhamou : On va peut-être préciser comment il a, malheureusement, terminé.

Tariq Krim : Oui, bien sûr.
La deuxième chose c’est que je pense que le MIT, une institution qui est aussi très fortement liée aux militaires.

Sky : Au début ils ont fait les bâtards quand même.

Tariq Krim : Le MIT a mal joué, a vraiment mal joué, je pense que c’est une tâche. Il y a ça, il y a évidemment l’histoire avec Epstein et c’est une vraie tâche. L’Internet a aussi besoin de héros. C’est un vrai héros aussi parce qu’il représente la personne qui était pure et je le pense vraiment ; ce n’était pas un intime mais c’est quelqu’un avec qui j’ai discuté plusieurs fois, que j’ai vu quand j’étais aux États-Unis, qui a quand même monté Reddit, on l’oublie. C’est-à-dire qu’Alexis et toute la bande c’étaient les tchatcheurs et c’était lui, en fait, qui délivrait le truc, qui est devenu aussi un produit ; il avait cette vision pure et je pense qu’il n’aimerait pas trop ce que c’est devenu.
On a besoin de héros. On a d’un côté Snowden aussi. Il y a plein de gens. Je suis fan de The Mentor qui était le manifeste hacker et Tron aussi qui était mon hacker préféré, un Allemand qui avait cracké le GSM dans les années 90, qui était aussi une personne pure, c’était un génie qui avait vraiment le cœur pur. Lui avait cette vision du savoir technologique, l’idée que la technologie doit être au service… non pas de l’humain. Mon père me le dit toujours : « Quand tu as un talent particulier dans la vie, que tu es très bon dans un domaine, si tu ne l’utilises pas pour rendre le monde meilleur en fait tu es un peu un pauvre type ». Malheureusement beaucoup de gens sont géniaux et qui font des trucs ! Et ce n’était pas le cas de Aaron, c’était vraiment quelqu’un d’incroyable.

Sky : Bernard, comment il a terminé ?

Bernard Benhamou : Malheureusement, et c’est pour ça que je dirais que c’est un héros foudroyé, écrasé, dans son trajet, qui s’est suicidé.

Sky : Qui a été poussé au suicide.

Bernard Benhamou : Voilà ! S’est-il fait suicider ?, on ne peut pas le dire ainsi, mais on peut dire simplement qu’il a été acculé, effectivement, à cette solution extrême alors même que sincèrement tous ceux qui ont eu l’occasion de l’approcher ! Un de mes amis le connaissait très bien, un certain Larry Lessig24.

Sky : Qui a failli être juge, mais qui a refusé.

Bernard Benhamou : Voilà. Tout à l’heure Tariq parlait des commons, ces communs comme on dit maintenant en français, c’est-à-dire ce patrimoine librement accessible sur internet, Swartz y a beaucoup participé. Lessig a créé les Creative Commons25 qui ont permis justement de desserrer un peu le carcan autour du copyright américain.

Sky : Lessig était un peu le parrain d’Aaron.

Bernard Benhamou : Absolument. Il a été véritablement écrasé par son décès. Sans trahir de secret, il y a deux périodes où je l’ai vu particulièrement déprimé : d’une part après le décès de Aaron Swartz et effectivement après l’élection de Trump.
Je précise qu'à l'origine Lessig était juriste, constitutionnaliste, il est devenu un des experts de la régulation des réseaux, c’est vraiment quelqu’un de remarquable. Il a enseigné à Harvard et à Stanford. Par la suite il en a eu assez, justement du fait de l’évolution de cette industrie [sur les questions de propriété intellectuelle, Note de l'intervenant].

Sky : Il a fait une marche.

Bernard Benhamou : Il a fait ça et surtout il est allé s’occuper de lutte contre la corruption aux États-Unis, ce qui est un vaste sujet y compris dans le domaine politique, c’est-à-dire dans le financement du système politique américain.
On voit là des trajets un peu parallèles entre la pureté technologique et la volonté justement humaniste d’un Swartz et effectivement le juriste qui devient un expert de l’Internet et qui, par la suite, a besoin d’aller exprimer un autre combat [politique].
Pour être tout à fait sincère je le regrette. Sur le domaine des technologies je crois qu’il aurait pu continuer à nous apporter beaucoup, mais il est vrai que la noblesse du combat qu’il a aujourd’hui contre la corruption est tout aussi importante.

Sky : Pour résumer trivialement son histoire, Aaron a essayé de mettre le savoir du MIT en ligne. Il trouvait que c’était un peu scandaleux de payer 50 000 dollars pour ça alors que la connaissance doit être libre. Il a installé de quoi copier, mettre en ligne et ça n’a pas plu. Ensuite il a été poursuivi. Il n’était poursuivi que pour ça. Il a été poursuivi, il a claqué les millions de dollars qu’il avait pour se défendre, il en a eu marre et voilà !

Tariq Krim : Je crois qu’il est tombé sur un procureur qui était assez dur, qui n’avait pas, en fait, estimé le risque de fragilité et puis surtout, il a eu le sentiment, j’en parle par le biais d’un autre ami au MIT qui m’a parlé, il avait le sentiment d’être un peu abandonné y compris par les gens qui l’ont soutenu. Mais, en même temps, je comprends ce par quoi il est passé. On a tous été un peu des pionniers et aujourd’hui ce qu’on voit tous les jours, quand on voit ce que l’Internet devient, ce que le discours sur l’Internet devient !
Dans les années 95/96, quand l’Internet arrive en France et que les politiques ne savent pas trop, eh bien ceux-là ont souvent une vision plus juste du débat. Quand on voit aujourd’hui les débats sur la loi Avia, la loi sur le renseignement, sur le pseudonymat, c’est-à-dire qu’on revient, en fait, sur les mêmes choses et ça a un côté un peu déprimant.
Je m’étais très impliqué sur la loi DAVDSI [Droit d'auteur et droits voisins dans la société de l'information], donc la loi avant, puisqu’on avait réussi à faire sauter la loi, elle a été revotée, je me suis retrouvé convoqué par Sarkozy, sa directrice Emmanuelle Mignon à l’époque, pour essayer de parler de MP3. Quand on voit ce qui s’est passé après avec l’Hadopi [Haute autorité pour la diffusion des œuvres et la protection des droits sur Internet], on a l’impression, en fait, que ce sont des sujets qui reviennent en permanence. Je vais très honnête, parfois je ne comprends pas pourquoi. Le débat sur la haine sur Internet, le débat sur le pseudonymat, enfin l’anonymat qui apparemment revient, ce sont des faux débats. Les vrais débats c’est comment on construit des infrastructures et des outils.
Cette pandémie, donc cette crise du covid, a montré qu’en France on a un problème d’infrastructures et d’outils. J’ai appris par un ami qu’apparemment le CNED [Centre national d'études à distance] utilise une techno américaine qui s’appelle Blackboard, il est probable que les gens ne savent pas que les données sont aux États-Unis.
Si on avait des infrastructures, des outils, et qu’on dise aux gens débrouillez-vous, organisez-vous. Ce qui est incroyable avec les hôpitaux c’est que pendant que le sommet était complètement paralysé – des réunions de crise, les « powerpoint-ites », etc., l’hôpital a géré les choses, il a géré au jour le jour. Si on avait des infrastructures c’est-à-dire du haut débit, des outils et de la formation suffisante qu’on puisse donner aux gens, on pourrait, en fait, laisser les gens se débrouiller et construire quelque chose de décentralisé. Cette idée pour moi est très importante. Au lieu de faire une startup nation, il faudrait qu’on fasse une infrastructure nation, qu’on investisse l’argent que l’on a à construire une infrastructure qui soit stable, qui soit sur le long terme. J’espère qu’on parlera un peu de slow Web après, mais pour moi le rôle de l’État c’est de ralentir le temps.

Sky : On va en parler maintenant. Alors ?

Tariq Krim : Si on part du parallèle que Google est le Mac Donald de la pensée, donc il faut autre chose, il faut du bio, il faut repartir sur quelque chose. On est, en fait, ce que l’on mange. Aujourd’hui, ce qu’on consomme numériquement, c’est assez peu digeste. C’est dépression, la dépression ce sont les teen-agers. Il y avait un article qui est sorti dans The Atlantic qui était terrifiant quand on voyait les gamins qui sont en permanence sur Instagram et désormais sur Tik Tok à se comparer à une vision, une fausse vision de leurs amis, cette idée qu’on est en permanence jugé. Il faut repenser les choses. Ce qui me plaît avec le mouvement du Slow Food qui est né en 1989 en Italie, contre l’arrivée de Mac Donald à Rome, c’est comment on cultive, donc comment on fait grandir les produits, comment on les cuisine, et surtout la convivialité de les manger ensemble. Je me rappelle ces dîners que j’adore quand on dîne avec des amis et on parle trois heures, quatre heures, le dîner dure toute la nuit. Cette convivialité, finalement, doit se traduire aussi dans le logiciel. C’est-à-dire que les données que l’on fait grandir il faut déjà les minimiser, la manière dont on fait les produit et la manière dont on les sert et l’expérience doit être différente.
Le slow Web ce sont quatre idées.
La première c’est le fait qu’il y ait une transparence. Le logiciel que l’on a aujourd’hui n’est pas transparent. Quand je prends Facebook et que je like une photo, j’ai l’impression que l’action que je fais c’est liker une photo et la personne dont j’ai liké la photo va recevoir une notification « vous avez été liké par Tariq ». La réalité c’est que derrière il y a plusieurs algorithmes, notamment le EdgeRank qui va faire : « Ah ! il like plus souvent telle personne, donc je vais changer l’organisation. Ah ! j’ai analysé la photo avec une IA, il y a un chien, je vais lui vendre des croquettes pour chien. Ah ! Tiens ! Il a envie d’aller en voyage je vais analyser tel chat ». En fait, il y a peut-être 30/40 choses qui vont se faire avec une simple action. Cela n’est pas visible par l’utilisateur. Le minimum ça serait que l’on dise « l’ensemble des choses que vous voyez a été choisi par un algorithme. Elles ne sont pas là par le biais du hasard ».
La deuxième chose c’est la non-manipulation, ce qu’on disait tout à l’heure c’est qu’avec le design, ce qu’on appelle les dark patterns, l’idée d’obliger les gens à faire certaines choses, c’est un vrai problème. C’est un problème éthique, c’est un problème qui est connu, c’est d’ailleurs une chose qu’utilise de plus en plus l’État. Quand j’avais signé « contre » au référendum, j’étais opposé évidemment à la vente d’Aéroports de Paris, je me suis rendu compte qu’il fallait écrire en majuscules et il fallait utiliser l’ordre exact de sa carte d’identité, mais ce n’était pas indiqué. Quand j’ai voulu me faire rembourser ma carte Navigo, je ne sais pas si quelqu’un a réussi à se faire rembourser sa carte Navigo, j’ai vu le système et je me suis dit « si on ne veut pas faire quelque chose en ligne, qu’est-ce qui se passe le jour où il n’y a plus de bureaux physiques pour faire les choses ? »
Ce qui m’énerve avec le discours qu’on entend, « il faut mettre tout le monde sur Internet », il y a des gens qui ne sont pas sur Internet parce qu’ils ne veulent pas. Feu ma maman avait des problèmes, envoyer un e-mail à l’administration c’est quelque chose qui la stresse. Elle a besoin de voir quelqu’un qui lui dit « c’est bon », il y a un tampon, c’est fait. Il y a plein de gens qui n’acceptent cette idée que virtuellement on discute avec une autorité et les outils dont on dispose n’ont pas ça.
La troisième chose c’est le mode incognito, ce dont on parlait tout à l’heure. Quand j’avais un iPod ou un baladeur MP3, il n’y avait pas un algorithme pour me dire tu vas écouter cette chanson. Si j’ai envie d’écouter une chanson débile sous la douche tous les jours, 50 fois, je n’ai pas envie que la plateforme le sache. On doit être capable de dire « on stoppe ».
et la quatrième chose, un truc qui est assez récent, eh bien c’est simple c’est le droit de terminer une relation, le droit de dire « je pars, c’est fini ». Un copain me disait qu’apparemment, quand on veut se désabonner de Sky, l’équivalent de Canal+ en Angleterre, il faut passer une heure au téléphone avec quelqu’un. Aujourd’hui on devrait dire « au revoir ».

Sky : Et rends-moi mes données.

Tariq Krim : Efface mes données et donne-moi mes données. Mais cet acte, cette action qui est assez simple, on a l’impression d’avoir perdu. Quand quelqu’un part on a l’impression d’avoir perdu. Il faut gagner, il faut prendre le maximum à l’utilisateur.
Ça c’est la quatrième chose et ces quatre choses ce sont des conseils de design, mais je me dis que les applications, par exemple des applications comme DuckDuckGo, ce qu’on fait aujourd’hui : j’ai une petite plateforme qui est plutôt un side project, qui s’appelle Polite26. Il n’y a plus de trackeurs, c’est la plateforme telle qu’on voudrait la voir : tu as accès tes données, tu fais ton truc, ça coûte 5 euros, ça pourrait être gratuit, mais ce n’est pas le modèle. Et si tu veux partir, tu cliques, on efface tes données. Ça devrait être le modèle standard, mais ça ne l’est pas parce qu’aujourd’hui on considère que le modèle de la monétisation, du behaviouring est plus rentable parce que ce modèle est un modèle qui permet de prendre très vite à une personne, alors que l’Internet est là pour for ever.

Sky : Bernard.

Bernard Benhamou : La-dessus, sur ça, on ne peut qu’être d’accord. Je ne vais pas revenir sur le débat sur l’apparente gratuité de l’Internet qui effectivement s’est faite au détriment des utilisateurs.

Sky : Si, on aimerait bien que tu y reviennes.

Bernard Benhamou : En gros, il y a eu une période où les gens se sont dit « est-ce qu’on peut installer ce qu’on appelle maintenant un paywall, c’est-à-dire faire payer les gens pour accéder à des contenus » et le choix instinctif de tout être normal en situation d’avoir à choisir c’est effectivement de ne pas payer. Le problème c’est qu’en ne payant pas on a laissé progressivement se créer ces mégas, ces gigas bases de données, de profilage et surtout donné lieu à un business [de la gestion des données personnelles via les data brokers, Note de l'intervenant] qui est totalement opaque. Les activités de ces data brokers sont évidemment contraires à la loi européenne, au Règlement sur la protection des données, mais on n’a pas voulu analyser comme tel. Ainsi, au lendemain de l’affaire Cambridge Analytica, Mark Zuckerberg lui-même, interrogé par la très remarquable Kathy Castor, la représentante de la Floride – je vous invite tous à regarder cette vidéo, c’est un moment d’anthologie dans la maîtrise politique du sujet comme rarement on a pu le voir – eh bien Mark Zuckerberg a été obligé de dire « oui, nous allons cesser toute forme de relation avec les data brokers » parce qu’effectivement le risque de dissémination des données était devenu beaucoup trop grand.

Sky : Il transpirait ce jour-là, il était rouge.

Bernard Benhamou : Il transpirait. On voyait surtout que c’était une des pires journées de sa vie et cela se sentait. C’était une audition non pas au Sénat mais à la Chambre des représentants. Remarquable !

Tariq Krim : Alexa a pris quand même 5 ou 7 % après.

Bernard Benhamou : Voilà ! Le problème c’est que tant qu’on ne s’attaque pas au cœur, c’est-à-dire au modèle économique de ces sociétés, tant que nous restons inertes en nous lamentant sur notre virginité perdue, il ne se passe rien ! Il faut dire à un moment donné, comme l’ont dit des parlementaires dans de nombreux pays, pas uniquement en Europe, il y a un moment où ce type de comportement industriel devient [et doit être déclaré, Note de l'intervenant] toxique.
On parlait tout à l’heure des contenus radicaux et de Zeynep Tufekci, la sociologue qui parlait de la radicalisation algorithmique. Google n’est évidemment pas complice du djihadisme et des contenus les plus extrêmes qui peuvent, parfois à son insu, être présents sur sa plateforme, mais il y a une forme de convergence d’intérêts toxiques. Ce que démontre justement l’ouvrage de Tufekci c’est qu’en gros, plus vous restez longtemps, plus ça rapporte d’argent par définition, à une plateforme qui vit sur la publicité. Donc s’ils remarquent que des contenus extrêmes font que les gens restent « collés », deviennent addicts, par définition, leur algorithme aura tendance à privilégier ces contenus [dans les recommandations suivantes, Note de l'intervenant].
Tout à l’heure Tariq parlait d’Eric Schmidt l’ancien patron de Google qui écrivait il y a quelques années, en gros, que les sociétés comme la sienne avaient vocation à remplacer les États, en disant que les États sont devenus lourds, lents, incompétents, « globalement nous aurons vocation à les remplacer ». Les gens au sein des appareils d’État qui entendaient ça à l’époque souriaient. Aujourd’hui ils ne sourient plus !

Tariq Krim : Maintenant ils sont chez Google ou Facebook. L’un des cocréateurs du Patriot Act est maintenant chez Facebook !

Bernard Benhamou : Par définition, on voit bien qu’il n’est plus possible, comme par le passé, d’envisager de façon neutre le paysage industriel dans ces domaines. Si on ne comprend pas que ces sociétés sont devenues trop puissantes pour ne pas répondre à des impératifs politiques, c’est-à-dire en clair, je dirais à des impératifs démocratiques.
Regardez ce qui s’est passé à Toronto. Toronto c’est un bon exemple. Vous avez une filiale de Google à Toronto, qui s’appelait Sidewalk Labs, qui a voulu mettre en place la ville intelligente dans un des quartiers de Toronto. Ce n’est pas compliqué, ça ressemblait exactement au crédit social chinois. Quand vous regardez dans le détail, il s'agissait de systèmes de prime aux comportements vertueux et, au contraire, de sanctions pour des comportements qui ne seraient pas vertueux au sens où Google l’entendrait. Au bout d’un moment les citoyens de Toronto ont dit « nous n’avons pas voté pour le patron de Google, ce n’est pas à lui de diriger nos vies ».
Ce qui était vrai pour ce quartier de Toronto doit être vrai, je dirais au minimum pour l’Union européenne voire plus, c’est-à-dire que nous n’avons pas à laisser les sociétés qui ne répondent pas à l’intérêt général se prétendre garantes de ce même intérêt général Vous vous souvenez du slogan de Google don't be evil, « ne faites pas de mal ». À l’heure qu’il est on peut se poser sérieusement la question de savoir tout le mal qu’ont pu faire ces sociétés, Facebook la première, je dirais à quasi égalité avec Google. On ne peut pas laisser ça et je pense que là où nous nous rejoignons avec nos angles de vue différents sur la question, avec nos expériences de vie, c’est qu’à un moment donné ces questions deviennent hautement politiques.
Je citais tout à l’heure Larry Lessig qui a créé cette phrase devenue célèbre Code is Law.

Sky : Qui est un monstre, d’ailleurs.

Bernard Benhamou : C’est une personne que j’ai eu grand plaisir à faire connaître en France et en Europe. Ce n’est pas compliqué. La phrase suivante, lors d’un débat que l’on avait eu avec lui à Science Po à l’époque, c’était Architecture is Politics c’est-à-dire que l’architecture du code, un peu comme l’avait dit Eric Raymond dans son ouvrage La Cathédrale et le Bazar, que le code devient porteur de valeurs politiques.

Sky : Si on n’audite pas le code on est coincé.

Bernard Benhamou : Exactement. Ça c’est le propos d’un autre grand spécialiste de ces questions, Frank Pasquale, qui a écrit The Black Box Society, « La société boîte noire » : il nous fait auditer le code, il ne faut pas laisser les gens qui ont une vision purement économique. Tout à l’heure Tariq parlait des deux types d’algorithmes qui sont l’un censé augmenter l’interaction et l’autre censé la contrôler, on voit bien que la chose est totalement biaisée et que la main gauche qui va récupérer de la puissance marketing ne sera jamais handicapée par la main droite. C’est ce que montre Zuckerberg tous les jours dans son incapacité à réformer, je dirais, ne serait-ce que les propos de haine sur la plateforme, mais on pourrait le dire bien au-delà sur la publicité politique. Ce qu’a fait Jack Dorsey sur Twitter, Facebook s’y oppose avec la dernière des énergies, sauf à y être contraint. On a vu que même Unilever, même Coca-Cola, même les grandes marques américaines qui se sont coalisées, qui ont envisagé un boycott de la plateforme, n’arrivent pas à faire plier Facebook. Je précise, prenez vos carnets et vos crayons, je crois que c’est le 27 juillet qu’il y a la première audition de tous les patrons des GAFA par rapport à l’antitrust américain, on va effectivement voir où la chose mène. On se rend compte que même aux États-Unis la puissance cumulée, la puissance politique et économique cumulées de ces plateformes devient intolérable, ce qui avait mené en d’autres temps la fragmentation de sociétés comme AT&T à l’époque ou historiquement Exxon avec la Standard Oil.

Sky : Google a pris les devants avec Alphabet. Tariq.

Tariq Krim : J’avais deux petits points. Le premier c’est quand on dit qu’il faut réguler les algorithmes ou il faut les auditer, encore faut-il les comprendre !

Bernard Benhamou : Et ce n’est pas du tout évident !

Tariq Krim : J’ai une théorie sur ce que j’appelle les suprémacistes numériques, c’est une vision politique qui se traduit maintenant par ce que l’on appelle le néo-féodalisme, c’est la vision un peu à la mode dans la Silicon Valley, c’est de dire qu’on revient aux temps des seigneurs, le seigneur est tout puissant, il lève la dîme, mais il protège aussi, évidemment cela face à l’État-nation.
On revient au tout départ, à ce combat entre les gens qui voulaient la vision humaniste, augmenter les compétences humaines et les remplacer. Pour ces gens-là le monde est une équation mathématique qu’il faut optimiser. Quand on optimise la démocratie à la fin on arrive à un modèle dont on parlait tout à l’heure, soit ce qui a été fait à Toronto, soit ce qui se fait quotidiennement en Chine. Ça c’est un premier point.
Sur la question de casser les Big Techs, moi j’ai une vision un peu différente. Aujourd’hui, un, déjà je pense que ça ne va pas se faire parce que les États-Unis veulent conserver des puissances très importantes, mais surtout je crois que l’ensemble de ces sociétés se sont préparées à être cassées. Je donne un exemple tout bête : si demain Amazon Web Services est séparé d’Amazon, ça devient instantanément la dixième dans le top 10 des boîtes les plus profitables. Ce qui s’est passé pendant longtemps c’est que les profits qui étaient faits par Amazon Web Services – on l’oublie, mais Amazon Web Services est né du fait qu’Amazon avait des pics de connexion énormes pendant des moments très précis, Black Friday et autres, et que le reste du temps ils avaient de la puissance massive, donc ils ont décidé de la mettre à disposition des autres, notamment leur concurrent Netflix entre autres – donc pendant longtemps les profits d’Amazon, puisque c’est un web services, les gens payent pour transférer leur informatique sur le cloud donc c’est extrêmement profitable, servait à financer une chose chez Amazon : l’oxygène du e-commerce que sont les frais de livraison. On s’est retrouvé plusieurs fois avec des Black Fridays, les fameux jours où on solde, donc le jour de l’année où vous vendez le plus de produits, avec 90 % des frais de livraison qui sont offerts. Si Amazon les offre, tous les autres sont obligés de le faire et tous les autres tirent la langue. Ce qui passe maintenant avec Amazon c’est qu’ils ont une nouvelle entité qui fait de la publicité, qui est désormais numéro 3 derrière Facebook et Google aux États-Unis, qui a maintenant suffisamment d’argent pour alimenter cette stratégie d’Amazon, donc si on sépare Amazon Web Services elle va devenir une société très profitable.
Pour Facebook c’est un peu plus difficile, mais ils ont déjà commencé à réfléchir en interne à cette question de séparer les entités.
Pour Google, ce serait évident de séparer Android du moteur de recherche. Alphabet, d’une certaine manière, a été la façon de préparer ça.
La société qui est plutôt mal en point face à ça c’est Apple, c’est-à-dire que dans cinq ans, quand ils auront une entité de services qui gagnera suffisamment d’argent pour séparer le hardware, parce que Apple est avant tout une société de hardware.

Sky : Était.

Bernard Benhamou : Plus maintenant.

Tariq Krim : Était avant tout, ils commencent à l’être, d’ailleurs maintenant ils font des téléphones.

Bernard Benhamou : Les services constituent une part importante de leurs revenus aujourd'hui.

Tariq Krim : Ce qui est intéressant c’est qu’aujourd’hui ils font des téléphones pas chers, entrée de gamme, parce qu’ils vont passer dans le service. Le problème, ça c’est une chose sur laquelle la Commission européenne aurait dû travailler depuis des années, quand on vend un produit sur l’App Store, quand vous êtes une boîte et que vous faites 30 % de marge ce n’est pas mal, mais dans le monde d’Apple les 30 % vont à Apple et vous vous débrouillez avec le reste. Et on a laissé ça pendant dix ans, on a fêté les dix ans de l’App Store. Pareil avec Google. On a donc laissé quasiment un hold-up avec des bandits de grand chemin qui ont ponctionné cet argent. Apple est la société qui, à mon avis, dans cette idée où on séparerait, n’est pas encore prête ; dans cinq ans elle le sera, mais aujourd’hui elle ne l’est pas. Moi je ne crois pas que quiconque, aux États-Unis, osera toucher à ces sociétés. C’est dommage parce que le vrai sujet c’est qu’on devrait le faire non pas parce qu’on est anticapitalistes, mais parce qu’on est justement capitalistes et qu’il faut laisser de nouvelles sociétés émerger. Aujourd’hui c’est impossible, vous ne pouvez rien faire.

Bernard Benhamou : On pensait la même chose justement par rapport aux télécoms, et on avait un monopole sur les communications longue distance qui était tel qu’effectivement, à un moment donné, la question s’est posée. Je rappelle que les lois antitrust portent le nom d’antitrust aux États-Unis, Sherman Act pour les plus juristes d’entre vous, antitrust parce que la Standard Oil n’était pas une société, c’était un trust. En gros, ce que j’essaie de dire, c’est qu’aujourd’hui faire des lois antitrust spécifiques pour Google, pour Facebook est une chose possible. Est-ce qu’on le fera à horizon prévisible court ? Non. Il faut être très clair aujourd’hui la capacité d’étouffement de ces sociétés – tout à l’heure il était question d’oxygène par rapport à tel ou tel secteur d’activité – par rapport à leur écosystème est devenue telle que tout l’écosystème industriel se rend compte qu’il doit payer. Tout à l’heure on parlait d’une dîme, d’une taxe. En gros, pour exister aujourd’hui tant commercialement qu’en termes marketing, on doit payer la taxe à des grands acteurs qui, effectivement, vous permettent d’exister. [Ces sociétés peuvent se comporter en prédateur par rapport à la quasi-totalité des acteurs économiques, Note de l'intervenant].
Demandez à la presse, nous sommes tous consternés [de voir à quelle point elle est devenue dépendante de ces plateformes, Note de l'intervenant].

Sky : À la quoi ?

Bernard Benhamou : La presse, en particulier la presse locale qui a connu une décrue dramatique dans tous les pays occidentaux. À un moment donné, tous les acteurs par exemple de la presse magazine en France vous disent : « Si nous devions rentrer en conflit avec Google sur Google News ou avec Facebook, c’est 40 % de notre chiffre d’affaires qui s’en va, de notre trafic et de notre capacité de valorisation. » Donc, par définition, c’est évident que la chose est dangereuse, cela crée un rapport de féodalité. Rappelons pourquoi la loi antitrust a été créée, c’était pour éviter de se plier devant de nouveaux féodaux. Ceux qui l’avaient créée disaient : « Nous avons effectivement réussi à nous à sortir de l’emprise des griffes d’un roi ce n’est pas pour tomber aujourd’hui sous l’emprise de quelques barons industriels ». On est, je dirais, au début de la crise globale par rapport à ça. Est-ce qu’elle aboutira ? Si demain Elisabeth Warren devait être patronne du Département du Commerce ou, pire encore pour ces sociétés, du Département de la Justice, tous les paris seraient ouverts. Je dirais que l’hyper-concentration à laquelle on a assisté devient toxique globalement pour l’économie et y compris pour l’économie américaine.
Certes, je suis d’accord avec Tariq, le gouvernement américain souhaite conserver ses champions, mais est-ce que tous les autres accepteront durablement la taxe des 30 % pour les applications ou, effectivement, la taxe publicitaire sur l’ensemble de leurs activités ? Ça c’est beaucoup moins évident, y compris même à l’intérieur des États-Unis.

Sky : Tariq, tu veux rajouter juste un mot.

Tariq Krim : Juste un mot.
Je pense qu’on a un problème de timing. Tout ça était vrai avant la crise du covid et on se trouve dans une situation qui est un peu compliquée. Le covid a accéléré la transition numérique de cinq ans, dix ans peut-être, il y a des choses qu’on ne faisait pas avant, qu’on fait. Et Biden, s’il est élu, aura un autre problème, c’est qu’il va avoir 40 millions de chômeurs, il est dans un État qui est en déliquescence totale, donc il aura d’autres problèmes et je pense que pour les quatre ans, voire possiblement les huit ans qui viennent, ces gens n’auront pas la capacité de faire tout ce qui doit être fait et qui, je pense, aurait dû être fait. Ça pose la question de ce que l’Europe peut faire, ce que l’Europe veut faire.

Bernard Benhamou : Doit faire.

Tariq Krim : Ce que l’Europe devrait faire, doit faire aussi, et là c’est vrai que là on a un problème de lisibilité parce que ces questions ne sont pas…

Bernard Benhamou : Sans être particulièrement sévère par rapport à nos voisins Britanniques, le départ des Britanniques de l’Union, s’il devait se réaliser.

Sky : Double peine.

Bernard Benhamou : Leur départ serait peut-être une chance sur les questions de régulation vis-à-vis des GAFAM. On parlait tout à l’heure de Small Business Act en Europe, ceux qui ont été particulièrement hostiles par rapport à cette notion ce sont justement les Britanniques. Effectivement sur la régulation du marché, les actions antitrust, je pense qu’on pourrait aller plus vite désormais. Je crois qu’il y a une opportunité par rapport à cela qui méritera d’être jouée. En tant qu'ancien négociateur européen qui a eu l’occasion de beaucoup œuvrer et de voir les difficultés de se coordonner à 27 à l’époque, sincèrement je crois qu’on est face à un changement et l’Europe se rend compte que la naïveté qui a été la sienne par rapport aux deux blocs, chinois et américain, devient hautement toxique [pour sa survie même, Note de l'intervenant].

Sky : Est-ce que c’était de la naïveté ou non, parce que ça me partait quand même un peu…

Bernard Benhamou : Qu’il y a eu des gens…

Sky : Des lobbyistes… Avant, juste avant.

Bernard Benhamou : Je me souviens des propos de Michel Rocard, il y a quelques années, qui disait : « Je n’ai vu un lobbying aussi violent que sur les questions de data à Bruxelles ». Donc qu’il y ait, sur les sujets que nous évoquons, des tentations d’influence, c’est évident. Mais parmi ceux qui ne sont pas manipulés, qu’il y ait effectivement une forme de passivité, une forme de résignation sur le mode « de toute manière on ne peut pas faire sans eux ». Quelqu’un a d’ailleurs fait récemment, je crois que c’est dans le Journal du Net, une typologie des acteurs du numérique qui étaient pour ou contre la souveraineté numérique et on voyait les opportunistes, les militants, j’étais bien sûr du côté militant ; on voyait effectivement les types de discours que ça génère. Il y a cinq ans, quand nous avons créé l’Institut de la souveraineté numérique, on nous disait « mais qu’est-ce que c’est la souveraineté numérique ? » C’était un think tank privé – je sortais de mes fonctions de délégué interministériel, ce n’était pas du tout une structure publique, on s’est regroupé à quelques-uns, Tariq nous a rejoints dans notre conseil scientifique – pour réfléchir à ces questions, sur les questions de relations internationales par rapport au numérique et par rapport en particulier au numérique européen. Il se trouve qu’aujourd’hui tout le monde parle de souveraineté numérique, pas simplement Thinkerview, tout le monde parle de souveraineté numérique.

Sky : Nous, ça fait longtemps qu’on en parle. Depuis des années !

Bernard Benhamou : Je sais, je sais bien ! Je sais que c’est un sujet que vous avez abordé avec de nombreuses personnalités.
Aujourd’hui la question c’est comment se détermine-t-on par rapport à ce sujet. Si on se détermine mollement c’est que quelque part on était contre. Aujourd’hui, seules des solutions non pas radicales, mais je dirais politiquement fortes doivent être envisagées.

Sky : Solutions politiques dans la même phrase.

Bernard Benhamou : Malheureusement, il y a des gens encore pour y croire.

Sky : Il faut rajouter courage et là tu as le tiercé gagnant : courage, politique, solutions !

Bernard Benhamou : Je sens un côté désabusé !

Sky : Non réaliste, pragmatique.

Bernard Benhamou : Pragmatique. Tout à l’heure Tariq parlait de la crise covid. La crise covid a été un accélérateur sur tous les plans, peut être même sera-t-elle l’accélérateur du déclin, voire de l’expulsion du champ politique d’un certain Donald Trump, si on en croit les sondages, ce que nous verrons encore dans quelque temps.

Sky : Ou pas !

Bernard Benhamou : À voir. En tout cas, je dirais que ce que l’on voit politiquement, globalement l’inaction sera considérée comme une faute politique dans ce domaine dans pas très longtemps, là où auparavant elle était considérée comme anodine. J’ai connu des ministres à qui on disait « ne vous affichez surtout pas sur les technologies, vous allez y perdre en crédibilité », je ne citerai pas le nom des ministres, mais leur cabinet leur disait ça.

Sky : Le nom du chef de cabinet ?

Bernard Benhamou : Je ne le dirai pas ! Aujourd’hui il est question de quoi ? De taxe GAFA avec toutes les difficultés qu’il y aura à la mettre en œuvre évidemment, mais tout d’un coup on reparle de champions européens. Le récent discours de politique générale c’était 40 milliards pour l’industrie, on verra ce qu’il en sera fait.

Sky : Comment s’appelait le député qui avait fait un rapport sur les serveurs chinois, que c’était très grave, mais il ne parlait pas du tout des serveurs américains. Vous ne vous rappelez pas de ce mec-là ? Passons.
Question internet : j’ai peut-être loupé des morceaux mais en parlant d’infrastructure quid de OVH ? C’est français non ?

Bernard Benhamou : Oui.

Sky : Ils sont costauds ?

Bernard Benhamou : Oui. Je vais répondre là-dessus et je pense que Tariq pourrait conclure. Lorsque notre secrétaire d’État chargé du Numérique disait devant la représentation nationale.

Sky : Mounir Majhoubi ? Je n’ai pas compris.

Bernard Benhamou : Cédric O, oui il y a quelques semaines, disait : « Nous avons construit le Health Data Hub, il n’y avait pas de solution européenne, voire française, pour le faire. »

Sky : Et je veux travailler chez Microsoft le mois prochain !

Bernard Benhamou : À chacun de conclure !
Fondamentalement d’abord un, quand on voit un projet d’une importance stratégique telle et que l’on se dit « on ne peut le confier qu’à un Américain », comme le disait un certain président de la République française il y a quelques années, ma conclusion aurait été qu'il est urgent d’attendre. Était-il nécessaire de commencer [de risquer une fuite massive de ces données aux Etats-Unis, Note de l'intervenant] ? Je précise que c’était bien avant le covid pour ceux qui se poseraient la question, on parle maintenant du Health Data Hub, en période covid, mais il a été décidé il y a plus d’un an. Était-il prudent d’établir la maquette, le POC comme on dit dans ces domaines, le proof of concept, avec Microsoft au point que Microsoft, bien sûr, rajoute des briques de fonctionnalité qui font qu’au final ils sont quasiment les seuls à pouvoir répondre ? La réponse est non.
Dans une tribune sur ce sujet au Point, j’ai parlé d'une forme de paresse intellectuelle. Pour avoir dirigé des projets d’administration centrale, par définition on pouvait faire autrement. Les responsables de ce projet ont été au plus rapide et malheureusement sans se rendre compte des effets de bord, des risques que ça faisait courir aux données des Français et en particulier à leurs données les plus sensibles et stratégiques que sont les données de santé.

Sky : Là je vais prendre le point de vue de Gilles Babinet : il y a les données opt-in et il y a les données opt-out . Tariq, pourquoi tu te marres ?

Tariq Krim : J’avais fait un rapport qui a servi de cale pour armoire à l’époque de Fleur Pellerin, justement sur ces questions, et j’avais une réponse assez simple. Dès qu’on met les gens qui savent de quoi ils parlent, des gens qui sont techniques, dans les conversations, soudain les choses se passent mieux. Je me rappellerai toujours un de mes anciens associés qui avait monté une Web Agency, un de ses commerciaux avait vendu des pages web rondes. Et il a dû lui expliquer que ce n’était pas possible. En fait on a un vrai problème c’est qu’on a des talents exceptionnels.

Sky : Et on a beaucoup de culture de fumée.

Tariq Krim : Vous parliez d’OVH. OVH ils sont assez imbattables pour la machine nue, il faut tout faire soi-même ; il faut l’installer, mettre l’OS, les plateformes. On a des gens qu’on appelle des DevOps, des administrateurs systèmes, des gens dont le métier c’est de préparer, de déployer, de s’organiser. Dans une ancienne vie j’avais travaillé chez Infonie pour faire de l’Internet, j’avais un jeune Lyonnais – enfin jeune, il était un plus âgé que moi, il était quand même jeune à l’époque – maintenant c’est lui qui déploie pour tout Google, il s’appelle Éric Dumazet, un type exceptionnel qui patchait Linux en assembleur. Vraiment un type ! Des gens comme lui il n’y en pas beaucoup, mais des gens de très bon niveau, des DevOps, il y en a plein. Ce sont des gens capables, vous leur dites on va acheter, on va mettre 50 machines. Ce qui est fascinant c’est qu’une partie des outils qu’on utilise dans le Health Data Hub, mais aussi dans l’intelligence artificielle, notamment des technos comme Scikit-learn ou Jupyter Notebooks ont été développés en France. Le rapport de Cédric Villani sur l’IA, qui est fait avec le directeur de thèse, ne mentionne même pas les technos.
Après il y a un problème en ce moment avec le logiciel libre et les grandes plateformes parce que les grandes plateformes utilisent des logiciels libres et ne commitent pas les sources parce que maintenant, en fait, elles ne font pas de distribution, mais on pourrait reprendre. D’ailleurs, suite à l’histoire de Cédric O qui m’avait choqué : c’est comme si un ministre de l’Agriculture arrive et dit « le bœuf argentin c’est quand même meilleur que le bœuf français ».

Bernard Benhamou : On imagine qu'il ne resterait pas très longtemps ministre de l'agriculture !

Tariq Krim : Voilà ! Donc ça m’avait choqué. Ce qui est fascinant dans cette histoire, j’ai discuté en toute transparence avec Octave Klaba, le fondateur de d’OVH, parce que je ne comprenais pas. Il m’a dit : « Nous, on n’a jamais eu de véritable cahier des charges ». En tout cas ce que je sais des ingénieurs français que j’ai vus dans toutes les boîtes, je pense à OVH, mais il y en a plein d’autres, Outscale, quand on leur dit « voilà ce qu’on voudrait avoir », eh bien on va le construire, on construit. Quand on développe une boîte, puisque là on a un peu joué à la startup, on invente quelque chose de nouveau. C’est vrai que la startup nation a plutôt eu comme directive de copier les concepts américains et de les franciser comme on le faisait à l’époque avec les gens de la chanson ; la chanson française c’était la version américaine du rock et de Elvis Presley, on a fait un peu la même chose avec les startups. Mais on construit et on dit quelle va être l’architecture, quels sont les outils qu’on va utiliser et pour ça il faut amener dans la conversation des gens qui, en général, dans les administrations, sont au troisième sous-sol, des gens qu’on méprise.

Sky : Qu’on sous-paye.

Tariq Krim : Qu’on sous-paye. Ce qui m’a toujours fasciné c’est que les gens sont bons !

Sky : Ceux qui restent !

Tariq Krim : L’ancien directeur système du ministère de l’Intérieur ou de Bercy, je crois qu’il est allé après à General Motors, un type brillantissime, il était en plus respecté. Il y a des choses qui ont été faites à la Gendarmerie nationale avec le logiciel libre end to end, donc les gens sont là. Comment se fait-il que ces gens ne sont jamais dans les conversations ?

Sky : On a tous la réponse autour de cette table. On le sait. Dites-le ! Bernard, je te vois sourire avec un petit sourire en coin. On le sait tous !

Bernard Benhamou : On va le dire autrement. Pour avoir enseigné dans certaines grandes écoles dans ces domaines, je vous raconte une anecdote. J’ai créé les premiers enseignements à l’ENA sur Internet et administration électronique, 1998.

Sky : C’est loupé quand même !

Bernard Benhamou : C’était un one-shot. Ce n’est pas compliqué. À l’époque je leur disais « bientôt vous serez jugés, notés, sur ce que vous faites sur Internet ». Éclats de rire dans la salle ! Maintenant personne ne rirait !
Pour reprendre le propos, il est évident que les technologies ont pendant très longtemps, pour des littéraires, des juristes, que je connais bien, j’en ai beaucoup fréquenté, les technologies c’était du domaine du « contingent », c’était des choses secondaires. La décision politique c’était autre chose que de s’occuper de machines, de technologies, etc. Eh bien non ! Quand on voit des juristes d’un tel talent, puisque tout à l’heure on parlait de Lessig, devenir à ce point compétent alors que, je le précise, il n’a, à aucun moment, étudié les technologies de façon universitaire, c’est vraiment un autodidacte complet des technologies, c’était un juriste constitutionnaliste et un philosophe, il a aussi une formation de philosophe. On a eu des gens qui ont été curieux et qui n’ont pas méprisé ces sujets.
Notre problème c’est que trop souvent on a dit que d’un côté il y a l’ingénieur qui va s’occuper de faire en sorte que le courant fonctionne dans la maison et, de l’autre côté, il y a le politique qui va s’occuper des textes juridiques, des textes législatifs et effectivement de la régulation de tout ça. Je dirais, alors même qu’on avait parmi les meilleurs ingénieurs du monde – tout à l’heure on parlait des grandes époques des grandes décisions de politique industrielle française –, on avait des ingénieurs de talent avec des politiques qui les comprenaient et qui savaient leur donner les moyens qu’il fallait. Je rappellerai que les projets atomiques et autres sont nés avant même le général De Gaulle, déjà à la quatrième République, avant ce que l’on a pensé être uniquement la période clef ou charnière, il y avait déjà une volonté dans ces domaines. Aujourd’hui, malgré toutes les suspicions qu’on peut avoir, je dirais qu’il y a une forme de vision résignée de ce futur en disant « de toute manière on a loupé la marche » et je l’ai souvent entendu à Bercy, des gens à Bercy me dire « sur Internet c’est trop tard ». Je dirais que les scandales à répétition auxquels on a assisté, Snowden, Cambridge Analytica et consorts, nous donnent, entre guillemets, « une possibilité » de revenir dans le jeu. Soit nous saisissons cette possibilité, soit nous laissons la chose dériver comme elle a dérivé ces 15 ou 20 dernières années.

Sky : Tomber dans le misérabilisme de l’impuissance. Question d’Internet : doit-on se méfier de la 5G et de l’arrivée massive de Huawei dans le monde, notamment en Europe ?

Tariq Krim : Sur la 5G, on pourrait dire beaucoup de choses. Je trouve que l’Arcep [Autorité de régulation des communications électroniques, des postes et de la distribution de la presse] a été assez mauvaise sur la gestion de la partie onde et 5G. Je ne vais pas parler de ça, mais il y a plusieurs choses sur la 5G.
La première c’est qu’on change un peu de paradigme. Jusqu’à maintenant on avait des technos qui étaient du haut débit et pour beaucoup de gens la 5G c’est encore plus de débit. D’ailleurs, quand on écoute le nouveau maire de Grenoble expliquer que la 5G, ça sert, si j’ai bien compris à télécharger…

Sky : À regarder du porno dans l’ascenseur.

Tariq Krim : Dans l’ascenseur. Il a dû remarquer que la 3G ou la 4G ne marchaient pas très bien dans les ascenseurs.

Sky : Il y a moins de caméras dans les ascenseurs !

Tariq Krim : D’une certaine manière je comprends ce qu’il dit et si j’ai juste un instant pour l’expliquer, je pense qu’une grande partie des gens a l’impression que le monde va trop vite. On est dans une forme de barrière d’abstraction, c’est-à-dire que le monde est devenu abstrait, on ne comprend plus rien.
J’ai pensé pendant longtemps que l’IA – IA c’est le mot clef pour dire licenciement, on va mettre de l’IA dans une société, ça veut dire qu’on va remplacer les gens – allait être le mauvais élève, on allait être contre l’IA. Mais, à priori, le docteur Laurent Alexandre a fait son travail et des gens continuent à penser que c’est une force de bien et finalement c’est la 5G qui a pris cette idée que le monde va trop vite.
Derrière la 5G il y a un problème c’est qu’on a des technos, par exemple une boîte comme Amarisoft qui a été faite par Fabrice Bellard – quand j’ai fait la mission, avec Fleur Pellerin, je me suis dit il faut que je donne au moins quelques noms et je me suis dit je vais en donner une centaine, après je me suis fait un peu engueuler parce que « tu aurais pu mettre untel », mais j’ai mis 100 personnes qui ont participé à des choses vraiment importantes – et ce type, Bellard, si on peut regarder de la vidéo dans Chrome c’est grâce à lui, il a fait QEMU, et il est en train de révolutionner : en fait on peut prendre un PC à 400 euros, on le transforme en borne 4G, 5G, donc ça ne coûte rien. Lui a carrément outsmarté Huawei.
Une des raisons pour lesquelles on achète Huawei c’est que ça ne coûte pas cher. Il y a aussi le fait qu’ils ont été rapides, ils ont commencé rapidement à la déployer en Chine donc ça a été un peu plus vite et nous on a un sujet c’est qu’on n’est même pas sûrs que les opérateurs ont l’argent parce qu’on ne sait même pas combien vont coûter les licences, donc on est vraiment en retard. Il y a évidemment un problème de souveraineté puisque là on est carrément dans le cœur de réseaux des boîtes noires. On a déjà aussi des boîtes noires, on est censé depuis la loi sur le renseignement avoir des boîtes noires, mais elles sont censées être de fabrication française si j’ai bien compris. Là on passe sur quelque chose de plus inquiétant.

Sky : On aura des boîtes noires pilotées de la Chine.

Tariq Krim : À une époque où la technologie était importante, notamment chez France Télécom — j’ai passé ma jeunesse à me ficher d’eux parce qu’on faisait du fracking, on s’amusait à détourner les lignes de téléphone —, France Télécom était obsédée par la qualité de service. À une époque on n’était pas forcément d’accord avec l’architecture très centralisatrice du Minitel, numériste, mais c’était la qualité de service, c’est-à-dire que le truc marchait.
Maintenant on est passé à un système où on est au milieu du marais, on a deux barres, ça ne marche pas. Quand vous êtes au Japon vous êtes dans un club, vous êtes à moins cinq et vous avez cinq barres ; c’est pareil en Allemagne. Donc on a déjà perdu cette qualité de service.
Ce qui m’inquiète c’est que les réseaux c’est devenu un peu Frankenstein : on met un peu de Huawei, on met un peu d’Ericsson, on ne sait plus du tout comment construire les réseaux, parce que, encore une fois, dans les grands groupes – je mets de côté Xavier Niel qui connaît bien le sujet, donc je le mets à part – on n’a plus véritablement encore de techniciens dans les comex, maintenant vous n’avez que des marketeurs ou des politiciens professionnels, donc quand il s’agit de réfléchir à comment on va architecturer et ça il faut le faire dix ans avant d’implémenter ! C’est vrai aussi chez Renault. BMW a un système de voiture automatique, Renault va passer chez Google ! Ça veut dire que dix ans avant il y a des gens qui auraient dû réfléchir à ça, qui auraient dû aller voir l’écosystème, voir ce qu’on peut faire. Il ne faut pas oublier que Renault et Peugeot ont inventé la CAO [Conception assistée par ordinateur], en fait la 3D telle qu’elle existe ; les courbes de Bézier, toute la base de la CAO a été inventée chez Peugeot et aussi chez Renault. Je parle des années 60, on avait de gens qui étaient visionnaires, et maintenant on a des gens qui n’ont plus… On a effectivement ce problème.
Juste pour terminer sur la 5G, le problème de la 5G c’est qu’on pourrait faire des technos beaucoup moins chères et on pourrait aussi régler le problème des zones blanches en l’installant un peu partout, mais pour ça il faut revenir sur un point important qui est la décentralisation. Si on laissait les gens reprendre le contrôle du réseau on aurait du réseau partout. Le fait qu’on laisse maintenant un petit nombre d’opérateurs qui ont de moins d’argent, qui savent de moins en moins comment ça fonctionne, je mets encore de côté Xavier Niel, pose un problème.
En France on a une situation un peu unique, c’est-à-dire que partout il y aura des expérimentations 5G et en France, pour l’instant on est très en retard.

Sky : Bernard, ça mesh ?

Bernard Benhamou : Qu’il y ait un risque par rapport à Huawei, sans rentrer dans des scénarios conspirationnistes, comme on dit, c’est évident.
De l’autre côté, je rappellerai la déclaration d’une certain William Barr, le ministre de la Justice de Trump, qui a dit : « Nous ne faisons pas le poids par rapport à ces technologies 5G, nous avons vocation à prendre des participations majoritaires dans les deux sociétés européennes importantes sur le sujet c’est-à-dire Nokia et Ericsson ». En gros, nous apparaissons non seulement comme le marché mais comme la proie que l’on vient dépecer. Savoir que d’un côté on a le risque chinois et que, de l’autre côté, notre allié historique ne nous voit que comme une proie qu’il doit dépecer !

Sky : Attends, l’allié historique ? Je n’ai pas compris. Les débouchés de marché historique, c’est ça ?

Bernard Benhamou : Peut-être. Peut-être aussi des jeunes gens qui meurent sur les plages normandes.

Sky : 300 000, c’est ça ?

Bernard Benhamou : Je ne saurais dire ! Obama avait eu l’occasion de dire « on est venu deux fois face à des périls imminents pour vous Français et Européens » et quelqu’un avait répondu « oui, mais on vous avait aidé avec un certain La Fayette à acquérir votre liberté face au roi d’Angleterre ».

Sky : Ils l’oublient souvent. Si on n’avait pas été là, ils seraient encore colonie anglaise.

Bernard Benhamou : Anglaise, oui sans La Fayette.

Sky : Je vous coupe : que dire de la visite de Larry Fink, patron de BlackRock, à l’Élysée ?

Tariq Krim : Rien de particulier.

Bernard Benhamou : Je n’ai pas d’infos. Mais de fait ! C’est intéressant d’un point de vue logiciel. BlackRock fait partie de ces sociétés qui ont développé un savoir-faire sur l’évaluation du risque qui parfois a pu être utilisé y compris même au sein des gouvernements. C’est vrai qu’on a, je dirais, une interpénétration. On a beaucoup parlé pour l’administration d’Obama de Google, d’une Love Story entre Obama et Google. Là, on voit effectivement qu’il y a une porosité, y compris en période de risque, qui est une chose qui peut poser problème.

Sky : Vous chiffrez avec quoi ?

Bernard Benhamou : Chiffrer ? Avec PGP27 [Pretty Good Privacy].

Tariq Krim : Je ne sais pas. Pour les communications ? Je suis embêté parce que j’aimais beaucoup Signal28. Déjà parce que les deux cofondateurs de WhatsApp sont des trumpiens à fond. Je suis un peu gêné. Sinon rappeler que de toute façon, quand quelqu’un owne le téléphone, quel que soit le logiciel qu’on utilise, on est coincé !

Bernard Benhamou : On est coincé ! Il y a un vrai problème. Je ne voudrais pas revenir systématiquement sur l’antitrust, mais qu’il y ait deux plateformes qui trustent à elles seules 95/98 % du marché, donc iOS et Android, et que ces deux plateformes soient américaines, c’est en soi effectivement une exposition au risque maximum.

Sky : On arrive à la fin de notre interview. Vous allez nous conseiller trois livres chacun.
Bernard.

Bernard Benhamou : Je vais revenir sur Shoshana Zuboff, Le capitalisme de surveillance, remarquable. Extraordinaire. Je précise que normalement en octobre il devrait être traduit en français, c’est un gros pavé mais qui mérite vraiment d'y consacrer du temps.
Puisque j’ai cité Lessig, tout Lessig mérite d’être cité. Là encore, un livre que j’ai souhaité faire traduire et à l’époque tous les éditeurs de la place de Paris m’ont dit « magnifique livre, mais vous n’aurez que 300 lecteurs maximum si on le fait traduire », c’est son premier, c’est-à-dire Code et autres lois du cyberespace qui reste d’actualité. Il a même fait une version élaborée en collectif, qui s’appelle Code 2.0, qui est assez remarquable.
Je vous ai parlé de The Black Box Society de Frank Pasquale, qui est vraiment utile.
Mariana Mazzucato L’État entrepreneur, The Entrepreneurial State. Je n’ose revenir sur la phrase d’un certain Georges Bush Junior qui avait dit « les Français n’ont pas de mot pour entrepreneur », sachant que c’est un mot d’origine française, donc que l’État doive être entrepreneur est une chose qu’elle nous rappelle très utilement.

Sky : Tariq.

Tariq Krim : J’allais aussi dire The Black Box Society, mais je vais en proposer d’autres.
En ce moment je suis fasciné par les uchronies, j’ai toujours aimé cette idée qu’avait Fatherland.

Sky : Il faut que tu expliques « uchronie ».

Tariq Krim : L’uchronie, alternative timeline in timeline alternative.

Bernard Benhamou : What if? Qu’est-ce que si ce serait passé si… les États-Unis avaient été colonisés pas les nazis.

Tariq Krim : J’ai été par ce film qui a été inspiré du livre Fatherland où on imagine Hitler gagner la guerre, donc rencontrer…

Bernard Benhamou : … envahir la côte Est.

Tariq Krim : Non, ça c’est une autre uchronie, Le maître du haut château, mais c’était rencontrer Kennedy à Berlin, le film est absolument génial, le livre est génial.

Sky : Des nazis sur la lune c’est lequel ?

Bernard Benhamou : Bonne question.

Tariq Krim : J’ai découvert un livre qui s’appelle Swastika Night, qui a été longtemps écrit sous un pseudonyme, le nom de la femme qui l’a écrit ne me revient pas [Katharine Burdekin], mais il a été écrit en 1937. Elle imagine comment l’Allemagne nazie dominait le monde 500 ans dans le futur, donc elle avait déjà imaginé la Deuxième Guerre mondiale. C’est un bouquin fascinant.
J’aime bien aussi Le capitalisme de surveillance, mais je vais choisir un autre livre d’une personne que j’aime beaucoup qui s’appelle Sherry Turkle, qui est un peu une de mes maîtres à penser sur la question de la vision du numérique et de la sociologie qui s’appelle Alone Together, où elle a un peu décrit cette vision du numérique.
Après, pour tous ceux qui aiment le hack et qui ont envie de lire le bouquin de référence, je le dis maintenant parce que j’avais l’impression que tout le monde l’avait lu, Terminal Compromise de Winn Schwartau qui explique, en fait, le concept de Pearl Harbor électronique et qui a été un des pionniers. Il y a aussi Le nid de coucou de Clifford Stoll qu’il faut relire, Clifford Stoll qui, suite à une erreur de comptabilité de un dollar, a fait tout ce travail de découvrir des hackers allemands qui étaient plus ou moins affiliés au Chaos Computer Club, qui vendaient des secrets aux Russes et c’est écrit comme un roman incroyable. Pour les gens qui veulent voir un peu ce qu’était l’Internet dans les années 80, avant même l’Internet officiel, c’était encore l’Arpanet, c’est fantastique, il n’y a pas besoin d’être très bon techniquement. Ce type est brillantissime, un peu dingo et il nous avait prévenus, tout ce dont on parle. Il a écrit un deuxième livre beaucoup plus sombre sur l’avenir du numérique et qui correspond un peu aux thèmes qu’on a abordés aujourd’hui.

Sky : Vous connaissez le travail d’Alain Damasio.

Tariq Krim : Oui.

Bernard Benhamou : Oui, bien sûr.

Sky : Un conseil pour les jeunes générations, quelque chose d’impérissable qui va rester sur le Net ?

Tariq Krim : Je n’aime pas l’idée d’apprendre à coder parce que c’est toujours le truc, le poncif, mais apprendre à être curieux.

Bernard Benhamou : Apprendre à maîtriser les sources d’information. La veille devient une des formations, un peu comme la maintenance informatique est un métier qu’on doit tous apprendre douloureusement. Tous ! On y passe un temps ! Dans notre vie on dit qu’on passe un tiers du temps à s’occuper d’un ordinateur sans être productif sur un ordinateur ce qui est déjà énorme.
Je dirais qu’apprendre à maîtriser les sources d’information, les mettre en perspective. Je ne parle pas de fact checking, ce n’est pas le terme, mais comprendre comment on nourrit sa réflexion par rapport à un sujet. Étendre et croiser les sources d’information, c’est peut-être la nouvelle nécessité humaine des temps qui viennent.

Tariq Krim : J’ai l’inverse : c’est apprendre à s’exprimer clairement. J’ai eu la chance une fois de me retrouver pendant une demi-heure seul avec Steve Jobs, il y a des années. Il était au down de sa carrière quand il faisait NeXT et ce qui m’avait fasciné, on m’avait dit « c’est un tchatcheur, il ne connaît rien à la technologie ». Tous les trucs qu’il avait vus étaient bons – le wifi, l’USB – tout ça ce sont des décisions, donc il maîtrisait parfaitement la technologie, mais il avait une capacité d’éloquence, de réduire ses idées, simples, qui était fascinante. Encore aujourd’hui, il y a plein de gens qui veulent se prendre pour Steve Jobs, ils imitent le style, la simplicité, les powerpoints, mais sa vraie force c’est qu’il était capable de réduire l’essence de qu’il était, de ce qu’il voulait.
Je pense que chacun a le droit de penser ce qu’il veut, mais il doit apprendre à l’exprimer. C’est un travail.

Sky : À synthétiser. À résumer la quintescence de ses idées.

Tariq Krim : Exactement.

Bernard Benhamou : Absolument.

Tariq Krim : Et les défendre.

Bernard Benhamou : Et les défendre bien sûr.

Sky : Vous voulez ajouter quelque chose ? Messieurs, merci.

Bernard Benhamou : Merci à vous.

Tariq Krim : Merci beaucoup.

• 1. Institut de la souveraineté numérique
• 2. Plan Calcul
• 3. Health Data Hub
• 4. La Cour de justice de l'Union européenne invalide la décision 2016/1250 relative à l'adéquation de la protection assurée par le bouclier de protection des données UE-États-Unis
• 5. Edward Snowden
• 6. Cambridge Analytica
• 7. Règlement général sur la protection des données
• 8. The WELL
• 9. Protection des données de santé - Question de la sénatrice Morin-Desailly au ministre de la Santé Olivier Véran
• 10. Louis Pouzin
• 11. Douglas Engelbart
• 12. John Mc Carthy
• 13. Anatoly Kitov
• 14. Chaos Computer Club
• 15. Conseil national du numérique
• 16. ANSSI - Agence nationale de la sécurité des systèmes d'information
• 17. Transcription de l'émission Libre à vous ! du mardi 3 décembre 2019 sur radio Cause Commune dans laquelle Guillaume Poupard est interviewé par Frédéric Couchet
• 18. Tor (réseau)
• 19. Netvibes
• 20. Jolicloud
• 21. Neutralité du réseau
• 22. Palantir Technologies
• 23. Aaron Swartz
• 24. Lawrence Lessig
• 25. Creative Commons
• 26. Polite - Tech with Good Manners
• 27. PGP - Pretty Good Privacy
• 28. Signal (application)