« L'IA est comparable à la conquête spatiale » - Gilles Dowek - Usbek & Rica

Titre : « L'IA est comparable à la conquête spatiale »
Intervenants : Gilles Dowek - Guillaume Ledit - Annabelle Laurent - Thierry Keller
Lieu : Usbek & Rica, podcast#15
Date : mars 2018
Durée : 45 min
Écouter le podcast ici ou ici
Licence de la transcription : Verbatim
Illustrations : Logo Usbek & Rica et Iconic image of a student standing in front of a blackboard, Eryk
Salvaggio, Wikimedia Commons Licence Creative Commons Attribution-Share Alike 4.0 International
NB : transcription réalisée par nos soins. Les positions exprimées sont celles des personnes qui interviennent et ne rejoignent pas forcément celles de l'April.

Description

Quand Emmanuel Macron prononce un discours sur l'intelligence artificielle, on est obligé de se pencher sur la question. Après notre interview de Cédric Villani, qui a dirigé la mission derrière le rapport « Donner un sens à l’IA », retour sur les annonces du gouvernement, entre autres choses passionnantes, avec Gilles Dowek, informaticien et philosophe.

Cocorico ! L’intelligence artificielle est devenue une priorité de notre gouvernement. C'est du moins ce que l'on peut se dire après la remise au gouvernement du rapport du mathématicien et député Cédric Villani. Pour aller plus loin, on revient sur ses conclusions en compagnie de Gilles Dowek, informaticien et philosophe.

Transcription

Voix off : Usbek & Rica, le podcast qui explore futur.

Guillaume Ledit : Salut les « turfos ». Cocorico ! L’intelligence artificielle est devenue une priorité de notre gouvernement. Alors si vous vous intéressez un peu à ces questions, vous avez peut-être vu passer que le 29 mars notre gouvernement, donc, organisait un événement baptisé AI For Humanity. Un événement qui visait à mettre en lumière le travail de la mission conduite par le mathématicien et député La République en Marche Cédric Villani. Des intervenants de renommée mondiale — Demis Hassabis de Google DeepMind, Yann LeCun, le patron de l’IA chez Facebook — et l’élite de la nation se sont succédé sur scène pour mettre en lumière le rapport de celui que le site spécialisé américain The Verge qualifiait il y a quelques jours de « Lady Gaga des mathématiques ». Ce n’est pas lui qu’on reçoit aujourd’hui pour évoquer ces sujets — mais vous pouvez lire son interview assez édifiante sur le site d’Usbek & Rica. Avant de rentrer dans le vif du sujet avec notre invité, qui de mieux que le président de la République Emmanuel Macron himself pour résumer les annonces et la position de notre gouvernement autour de l’intelligence artificielle.

Voix du président Emmanuel Macron : Il ne faut ni avoir peur ni être naïf, mais définir ce chemin de crête qui nous permettra d’avoir une stratégie pour l’intelligence artificielle. Cette stratégie, à mes yeux, elle passe par quatre éléments principaux :

• le premier c’est de nous mettre en situation de construire, je dirais plutôt de conforter, en France et en Europe, l’écosystème de l’intelligence artificielle et en particulier, en ce qui concerne les talents, un véritable réseau de recherche et l’expérimentation ;
• le deuxième axe c’est justement d’engager une politique résolue d’ouverture des données afin de favoriser l’émergence en France de champions de l’intelligence artificielle ou d’encourager leur développement ;
• le troisième axe c’est d’avoir une stratégie à la fois de financement, de projets, une stratégie publique, française et européenne, qui nous permette dans certains secteurs de développer, d’accélérer notre présence et de réussir pleinement dans la compétition internationale, et de la santé à la mobilité j’y reviendrai dans quelques instants ;
• et enfin, c’est de penser les termes d’un débat politique et éthique que l’intelligence artificielle alimente partout dans le monde.

Guillaume Ledit : Alors ça fait un sacré programme, même s’il s’agit là d’un résumé rapide d’un rapport de 235 pages intitulé « Donner un sens à l’IA »1 et qui recense pas moins de 135 propositions pour ce faire ; rapport qui constitue un récapitulatif précis de la situation du secteur en France, mais qui ne disrupte pas vraiment la longue litanie des fameux rapports commandés par le gouvernement. On y retrouve un peu les poncifs récurrents autour du rôle de la puissance publique et de la nécessaire réorganisation de la recherche.

Pour rentrer un peu plus profondément dans l’analyse de ce rapport sur l’intelligence artificielle et pour essayer d’aller plus loin, nous avons l’honneur de recevoir l’informaticien et philosophe Gilles Dowek qui est directeur de recherche chez Inria, professeur associé à l’École normale supérieure Paris-Saclay et qui a également écrit à 16 ans un petit programme pour jouer au Mastermind. Bonjour Gilles et bienvenue chez Usbek & Rica.

Gilles Dowek : Bonjour.

Guillaume Ledit : Pour mener la conversation, se trouve avec moi autour de la table mon indispensable collègue, journaliste chez Usbek & Rica, Annabelle Laurent. Salut Annabelle.

Annabelle Laurent : Salut Guillaume.

Guillaume Ledit : Et un petit nouveau autour de cette table, notre directeur des rédactions, car nous sommes légion chez Usbek & Rica, Thierry Keller. Salut Thierry.

Thierry Keller : Salut.

Guillaume Ledit : Vous pouvez commencer. Allez-y.

Annabelle Laurent : Je vais vous poser une première question assez simple. Ça fait un certain temps qu’on attend la remise de ce rapport. Est-ce que les conclusions qui ont été apportées correspondent à ce que vous, vous attendiez ? Est-ce que le plan est suffisamment ambitieux pour faire de la France cette fameuse nation leader, une nation leader de l’IA.

Gilles Dowek : Le rapport de Cédric Villani est un rapport très long, très détaillé, très fouillé, avec plein de mesures très intéressantes. Tout d’abord, il me semble qu’il y a une question qui se pose c’est pourquoi le gouvernement, le Premier ministre a commandé un rapport sur l’IA ? Et je trouve que c’est un petit peu le seul point faible de ce rapport : c’est sa commande.

Annabelle Laurent : Ça va être dur.

Guillaume Ledit : C’est qu’il existe !

Gilles Dowek : C’est-à-dire la question telle qu’elle est posée, me semble-t-il, révèle une certaine difficulté des savants et des politiques à converser et c’est intéressant que Cédric Villani, qui est à la fois un des rares savants et politiques — mais enfin, j’ai tendance à plutôt le considérer comme un savant —, soit un peu au centre de ce processus. Il y a malheureusement des effets de mode dans la vie politique et le politique a parfois tendance à se saisir des questions scientifiques à travers des mots, des mots-clefs, à travers des modes et donc, aujourd’hui, le mot intelligence artificielle est partout ; il y a un an c’était le mot cryptomonnaie ; il y a deux ans c’était le mot véhicule autonome ; avant ça c’était imprimante 3D ; encore avant c’était enseignement en ligne. Donc je trouve un petit peu dommage qu’il n’y ait pas une faculté du politique à se saisir de cette transformation, de cette révolution informatique dans son ensemble et à se focaliser à chaque fois sur un sujet. Cela dit, ça a l’avantage de limiter un tout petit peu la réflexion, donc de pouvoir aller plus en profondeur et de faire des propositions concrètes.

Il me semble qu’il y a deux propositions qui ont retenu mon attention. Il y d’abord l’importance qui a été accordée par Cédric Villani et ensuite par Emmanuel Macron dans son discours, à l’éthique. Et ça, c’est une question qui me semble importante. Ça fait maintenant six ans que je fais partie d’un comité d’éthique qui s’appelle la CERNA et la CERNA, qui est un comité d’éthique sur la recherche en sciences et en technologie du numérique, a un champ d’action qui est beaucoup trop limité puisque c’est uniquement l’éthique de la recherche. Et il y a énormément de questions éthiques qui se posent autour de l’informatique et autour de l’intelligence artificielle et donc ça fait longtemps avec le CCNE, le Conseil national d’éthique, avec la CNIL, que nous appelons à la création d’un grand comité d’éthique qui serait l’équivalent pour l’informatique et pour l’intelligence artificielle de ce que le CCNE est pour les sciences de la vie et pour la médecine. Et donc là, j’ai trouvé que le fait que cette proposition soit reprise par le rapport Villani est une très bonne chose.

À l’inverse, j’ai trouvé que le rapport était un tout petit mou sur une autre question qui est la question de l’éducation et également, c’est un des points qui a peu été repris dans le discours d’Emmanuel Macron et quand il est repris, il est souvent présenté comme un problème exclusivement d’enseignement supérieur : il faut davantage de doctorants, etc. Tout cela est vrai, mais je crois que nous sommes face à une révolution scientifique qui est comparable et peut-être supérieure en importance, à la conquête de l’espace. Vous vous souvenez que quand les Russes, en 1957, ont envoyé leur premier Spoutnik, les Américains étaient absolument paniqués, les Européens étaient absolument paniqués, et ils ont eu une réaction qui, à mon sens, était la bonne réaction qui était de dire « il ne s’agit pas de recruter cinq experts spatiaux de plus, il faut que notre population générale ait un niveau scientifique qui soit beaucoup plus grand ». Et c’est à ce moment-là que l’enseignement des sciences est devenu une priorité en Europe et en Amérique du Nord et c’est là qu’il y a eu les célèbres maths modernes – dont on peut à priori penser que peut-être ce n’était pas la meilleure idée —, mais en tout en cas, il y avait une véritable volonté de partager les connaissances, que tout le monde se saisisse des questions scientifiques. Et je trouve un petit peu dommage que ce rapport tombe à un moment où, dans la réforme du lycée, en gros, on propose de supprimer les sciences au lycée, c’est-à-dire de rendre les humanités obligatoires – ce qui est tout à fait normal, je veux dire c’est tout à fait normal que tout le monde apprenne un petit peu de français, un petit peu d’histoire, un petit peu de philosophie et je m’en réjouis –, mais qui rend l’enseignement des sciences facultatif. Et là, je crois que nous tournons le dos à devenir, j’ai oublié le mot que vous avez employé.

Guillaume Ledit : Une nation.

Gilles Dowek : Majeure !

Guillaume Ledit : IA nation.

Thierry Keller : Déjà c’est en anglais. Est-ce que ça vous pose un problème ?

Gilles Dowek : Non, ça ne me pose pas un problème. Quand Emmanuel Macron ou d’autres emploient des mots en anglais dans une phrase en français, en général je comprends à peu près la signification des mots.

Thierry Keller : Ce n’était pas le sens de ma question. J’ai compris que vous comprenez !

Gilles Dowek : Oui. Cependant je ne sais pas pourquoi ne pas dire « la nation de l’intelligence artificielle ». Pour moi c’est équivalent ; je ne suis ni agacé ni enthousiasmé par l’usage de quelques mots en anglais.

Guillaume Ledit : Mais simplement, Gilles Dowek, quand vous parlez de l’enseignement de l’intelligence artificielle à tous les niveaux, vous l’envisagez comment ? Comment ça pourrait rentrer concrètement dans un cadre pédagogique au lycée ou au collège ?

Gilles Dowek : L’informatique, en général, peut s’enseigner à tous les niveaux. Bien sûr, de la même manière que quand on enseigne l’anglais on ne commence par Virginia Woolf à la maternelle et on laisse plutôt Gertrude Stein et Virginia Woolf pour le lycée ou pour l’université. C’est pareil avec l’informatique : il y a des choses qu’on peut apprendre à la maternelle, il y en a d’autres qu’il faut garder pour le lycée.

Vous avez cité le fait que j’avais écrit un programme de Mastermind il y a très longtemps, c’était quasiment au milieu du XXe siècle que j’ai écrit ce programme. Quand on écrit un programme, qui était un programme relativement simple, ce n’était pas un programme très complexe, il y avait déjà, à cette époque, une idée que je n’avais pas mise en pratique mais sur laquelle je m’étais interrogé — je n’avais pas d’outil de calcul assez puissant —, qui était que l’idée que la fonction d’évaluation qui vous dit, quand vous êtes dans une certaine situation au Mastermind est-ce que vous êtes proche ou est-ce vous êtes loin de gagner, eh bien c’était une fonction qu’on se donnait à priori, c’était une fonction logarithmique, mais je m’étais déjà dit « tiens peut-être qu’en jouant beaucoup de parties on pourrait améliorer cette fonction ».

Guillaume Ledit : D’accord. Oui.

Gilles Dowek : Donc vous voyez que quand on écrit un programme qui fait quelques dizaines de lignes, on peut déjà se poser la question de savoir comment utiliser des données et comment améliorer les performances d’un programme avec ces données ; c’est ce qu’on appelle l’apprentissage statistique. Et le mot intelligence artificielle, aujourd’hui, est à peu près utilisé comme un synonyme d’apprentissage statistique. C’est un mot dont la signification a beaucoup changé au cours du temps et aujourd’hui, quand Cédric Villani, quand Emmanuel Macron parlent d’intelligence artificielle, quand Yann LeCun parle d’intelligence artificielle, ils parlent d’apprentissage statistique.

Guillaume Ledit : Apprentissage statistique. D’accord. Thierry.

Thierry Keller : Yann LeCun, juste, on précise, qui est le directeur de FAIR, le Facebook Artificial Intelligence Research, qui est le Français le plus connu en intelligence artificielle, à priori.

Gilles Dowek : Voilà. Et c’est surtout l’inventeur d’un merveilleux algorithme qui est un algorithme qu’on peut, selon le cas, appeler l’apprentissage profond ou l’apprentissage épais. Ce qui le rend profond c’est qu’il y a plusieurs couches de neurones empilées l’une sur l’autre. En anglais, quand il y a plusieurs couches empilées, on dit que la structure est profonde et en français, en général, on dit plutôt qu’elle est épaisse. Je crois que c’est un merveilleux algorithme, mais la traduction de deep en français par profond, laisse croire, ce que Yann LeCun, d’ailleurs, ne prétend pas du tout, que son algorithme a une pensée profonde. Et ça c’est un faux-ami sur lequel on pourra peut-être revenir tout à l’heure.

Guillaume Ledit : C’est intéressant.

Thierry Keller : Il y a un certain nombre de faux-amis. Revenons deux secondes sur le rapport et surtout, je dirais, sur le folklore autour de ce rapport qui est largement autour de la puissance publique : tout à coup la question de la souveraineté, la France et l’Europe se saisissent de ce grand sujet. Est-ce que ce n’est pas, avant tout, avant d’être une question technique, une question géopolitique ?

Gilles Dowek : Exactement ! Comme la conquête spatiale était à la fois une question technique et une question géopolitique, il est sûr, aujourd’hui, que les recherches, qu’elles soient menées dans un pays ou dans un autre, finalement profitent à l’ensemble des humains. On ne peut pas dire il y a une recherche française, il y a une recherche américaine, il y a une recherche allemande, il y a une recherche européenne ; ça c’est complètement faux : il y a une seule recherche, c’est la recherche mondiale.

En revanche, qui récolte les fruits de la recherche ? Eh bien ce sont principalement les industries, les économies, qui sont un peu préparées pour cela. Et donc autant que Yann LeCun fasse ses travaux d’un côté ou de l’autre de l’Atlantique, je crois que ça n’a pas une très grande importance ; en revanche, le fait qu’il y ait une culture générale dans la population française, dans la population des ingénieurs, dans la population des techniciens, dans la population des décideurs qui comprennent l’importance de ces travaux et qui sachent en tirer les bénéfices, ça oui ! Ça on peut dire que c’est vraiment un enjeu géopolitique.

Guillaume Ledit : Et ça, ça ne dépend pas forcément de la France ; c’est quelque chose qui est plus de l’ordre d’une éthique globale des chercheurs.

Gilles Dowek : Disons, ce qui dépend de la France, de son ministère de l’Enseignement supérieur et de son ministère de l’Éducation nationale, c’est le fait de préparer les jeunes qui, demain, seront les vieux, et donc les décideurs, et donc les créateurs, à se saisir de ces questions, à les comprendre ou alors à rester à la surface, à rester des utilisateurs et à rester des commentateurs de ces transformations. Et je crois que ce n’est pas exagéré de dire que c’est le rôle de l’État, ici, de préparer la population à vivre dans le monde dans lequel nous vivons aujourd’hui.

Guillaume Ledit : Annabelle.

Annabelle Laurent : Est-ce que la réponse de l’État, du coup, en tout cas ce qui a été apporté par Emmanuel Macron lors de son discours à la suite de la remise du rapport, donc le fait d’annoncer un cadre budgétaire de 1,5 milliard d’euros, vous semble suffisant ? Est-ce que l’État se donne les moyens de cette ambition ?

Gilles Dowek : Oui. Peu de chercheurs vous répondront que un milliard cinq cent millions d'euros est tout à fait superflu !

Annabelle Laurent : Que c’est une petite somme. D’ici 2022 je crois.

Guillaume Ledit : À l’horizon 2022.

Annabelle Laurent : Horizon 2022.

Gilles Dowek : Je crois que nous savons qu’il y a un déficit d’investissement public dans la recherche en France et donc chaque euro qui est investi dans la recherche, chaque euro supplémentaire, est toujours une bonne nouvelle. De la même manière, comme je l’ai dit tout à l’heure, le fait que le gouvernement et le président de la République se saisissent des questions éthiques est une réponse qui me semble tout à fait à la hauteur des enjeux.

En revanche, je continue à garder un certain scepticisme sur sa réponse en matière d’éducation ; je crois qu’il faut faire beaucoup plus. Il faut faire beaucoup plus non pas pour enseigner l’intelligence artificielle en CM2, mais pour enseigner les sciences, pour enseigner l’informatique et pour enseigner l’intelligence artificielle. Tout ça va ensemble. On ne peut pas juste enseigner un sujet à une population majoritairement illettrée. Il faut vraiment faire un effort sur l’ensemble de la culture scientifique, de la culture informatique et de l’intelligence artificielle.

Annabelle Laurent : Vous insistez sur, donc, l’absence de l’éducation dans ce rapport, mais ce qu’on entend beaucoup sur l’IA c’est que la force qu’on a ce sont nos chercheurs. Donc c’est un peu paradoxal. Peut-être que les générations futures ne seront pas assez armées face aux défis de l’intelligence artificielle mais, pour l’instant, en l’état, on a des chercheurs qui, d’ailleurs, vont dans la Silicon Valley et que s’arrachent les entreprises de la Silicon Valley.

Gilles Dowek : Il y a d’excellents chercheurs en France ; en revanche, il n’y a pas suffisamment de chercheurs en France. C’est-à-dire il ne faut pas avoir une vision de la recherche qui est un peu celle de la recherche au XIXe siècle et, on va dire, jusqu’en 1905. Jusqu’en 1905, la recherche était formée d’un tout petit nombre.

Thierry Keller : J’ai interdiction de parler de la loi sur la laïcité de la part de Guillaume Ledit, je tiens à le préciser.

[Rires]

Gilles Dowek : Ça n’a rien à voir. Je disais juste que ça n’avait rien à voir.

Annabelle Laurent : Thierry, nous te surveillons.

Gilles Dowek : Il s’est passé plusieurs choses en 1905.

Guillaume Ledit : Reprenez Gilles.

Gilles Dowek : En particulier, il y a ce qu’on peut considérer comme le dernier papier, le dernier article, c’est un article d’Albert Einstein, c’est l’article qui introduit la relativité, qui est une œuvre solitaire et une œuvre d’un chercheur isolé. Aujourd’hui, la recherche se fait en équipe, d’abord en équipe dans les laboratoires, mais aussi en équipes mondiales et donc les chercheurs sont connectés les uns aux autres au-delà de murs de leur laboratoire et aujourd’hui, il n’est pas vrai que nous avons un effort suffisant de recherche en France. Ça, c’est une question de budget de la recherche rapporté au PIB.

Guillaume Ledit : D’ailleurs les budgets baissent. Effectivement, Emmanuel Macron annonce 1 milliard pour l’intelligence artificielle, mais les budgets globaux baissent sous son mandat, en tout cas depuis le début de son mandat ; les budgets annoncés pour la recherche et l'enseignement supérieur.

Gilles Dowek : Oui. L’ensemble des budgets publics baisse et, en particulier, cette idée qui avait été formulée il y a quelques années d’atteindre 3 % du produit intérieur brut comme effort de recherche est encore très loin. Certes, ça n’empêche pas qu’il y ait un certain nombre d’excellents chercheurs, mais on ne peut pas mesurer la qualité de la recherche d’un pays au nombre de prix Nobel, si vous voulez. C’est un élément — je me réjouis quand un de mes collègues a le prix Nobel —, mais il y a un effort un peu plus extensif, un peu plus quantitatif et la France n’est pas du tout bien placée aujourd’hui dans la compétition mondiale.

Annabelle Laurent : On voulait vous parler maintenant d’un tout autre sujet, qui est lié évidemment, l’affaire Cambridge Analytica qui a ébranlé sérieusement Facebook. Facebook est accusé de ne pas avoir protégé les données de 50 millions d’utilisateurs qui se sont retrouvées dans les mains de ce cabinet d’analyse à des fins politiques. Donc ça vient remettre en cause la collecte des données à des fins publicitaires et surtout, ça pose la question de la reprise en main de nos données. Donc qu’est-ce qu’on fait ? On voit le hashtag #DeleteFacebook. Est-ce qu’on delete Facebook ? Ou est-ce qu’il y a une autre issue ?

Gilles Dowek : Il s’avère que moi je n’ai pas à fermer mon compte Facebook, parce que je n’ai jamais ouvert de compte Facebook !

Thierry Keller : Il y a de la punchline aujourd’hui !

[Rires]

Gilles Dowek : Ce n’est pas spécialement par hostilité à Facebook, mais Facebook propose un certain nombre de services qui servent essentiellement à communiquer sur le Web et il s’avère que, ayant eu la chance d’apprendre un petit peu d’informatique dans mes études, je sais faire une page web sans utiliser Facebook et donc, sur une page web, je contrôle complètement les données que je mets en ligne, celles que je décide de mettre en ligne, celles que je décide de ne pas mettre en ligne. Je suis resté à cette technologie pré-Facebook, donc aujourd’hui je ne peux pas m’associer à ce mouvement qui consiste à fermer sa page Facebook. Mais j’aimerais vous retourner la question. Est-ce que vous vous souvenez du nom du service qui a précédé Facebook ?

Annabelle Laurent : Facemash ?

Guillaume Ledit : Myspace ?

Gilles Dowek : Vous voyez, il faut faire un effort.

Annabelle Laurent : Ce qu’a créé Zuckerberg ?

Gilles Dowek : Non, avant que Zuckerberg crée Facebook.

Annabelle Laurent : C’était bien Facemash.

Gilles Dowek : Quelle était l’application, l’outil que tous les jeunes utilisaient pour communiquer ?

Thierry Keller : Messenger.

Annabelle Laurent : Messenger.

Gilles Dowek : Voilà, donc oui, mais il faut se gratter la tête. Est-ce que c’était Myspace ? Est-ce que c’était Messenger ? C’était quoi la différence déjà ? Vous voyez !

Guillaume Ledit : Je vois où vous voulez en venir !

Gilles Dowek : Où je veux en venir, c’est que ces Facebook, ces Google, ces Amazon, sont des colosses. Voilà ! Mais comme beaucoup de colosses, ce sont des colosses aux pieds d’argile et on s’aperçoit que des entreprises qui ont énormément cru, énormément profité comme – alors je vais peut-être citer des noms qui ne vont rien évoquer aux moins de 20 ans – des entreprises qui s’appelaient IBM, des entreprises qui s’appelaient Bull.

Guillaume Ledit : Je ne connais pas !

Gilles Dowek : Des entreprises qui s’appelaient Microsoft et qui, après avoir dominé le monde, tout d’un coup se sont écroulées. C’est une vraie question de savoir pourquoi ces colosses sont aussi fragiles et il y a plusieurs réponses. Et l’une d’elles c’est qu’il y a un point sensible, leur talon d’Achille, un de leurs talons d’Achille, c’est l’image. Donc quand une entreprise comme Facebook, dont le capital de sympathie est énorme, tout d’un coup fait une erreur.

Annabelle Laurent : Pas qu’une !

Guillaume Ledit : En fait plusieurs de suite !

Annabelle Laurent : Une belle série.

Gilles Dowek : Ou une suite d’erreurs, une série d’erreurs, qui met en cause son image, eh bien c’est le moment de vendre ses actions. C’est-à-dire qu’il y a une période post-Facebook qui est peut-être en train de s’ouvrir aujourd’hui et il y a d’autres réseaux sociaux, d’autres moyens de communiquer qui vont émerger et qui, peut-être, vont remplacer Facebook, qui sait ! Et puis ce n’est pas très grave ça !

Thierry Keller : Vous, Gilles, qui savez rédiger des pages web, vous êtes candidat au remplacement de Facebook ?

Gilles Dowek : Pas du tout ! Je ne cherche pas à conquérir le monde ; je cherche à rédiger des pages web pour mon propre usage et je ne crois pas que j’aie besoin de rédiger 9 milliards de pages web ; je crois qu’en rédiger 5 ou 6 me suffira. Voilà Facebook. Amazon aussi traverse une petite zone de turbulence pour d’autres raisons. Facebook, leur talon d’Achille c’était leur image ; un autre de leur talon d’Achille c’est qu’ils accumulent énormément, énormément de données, ça fait partie de leur modèle d’affaires et un risque de fuite sur ces données est assez important. Ça peut être lié à la malveillance d’un employé de Facebook ; ça peut être lié à la malveillance d’un hackeur qui n’est pas employé de Facebook et qui arrive à s’infiltrer sur les machines de Facebook ; ça peut être lié à une erreur politique de Facebook et, en l’occurrence, l’idée d’ouvrir les données de Facebook à des chercheurs est plutôt une bonne idée, mais le fait de ne pas vérifier complètement la crédibilité et l’éthique de ces chercheurs, la déontologie de ces chercheurs, est une petite erreur qui peut avoir des conséquences énormes parce que les quantités de données sont énormes.

Le cas d’Amazon, qui traverse aussi quelques turbulences, me semble un peu différent. Vous savez que les réseaux informatiques sont formés de fibres optiques dans lesquelles voyagent des photons et les photons voyagent extrêmement vite, ils voyagent à 200 000 km par seconde, et quand une fibre optique traverse une frontière, eh bien les photons ne s’arrêtent pas pour présenter leurs papiers aux policiers ou aux douaniers à la frontière.

Guillaume Ledit : Pas encore !

Gilles Dowek : Pas encore ! C’est très difficile d’arrêter un photon ; un photon à l’arrêt on ne sait pas très bien ce que c’est. Donc, par construction, le réseau internet est un réseau mondial et, par construction, aucune loi d’aucun pays ne s’applique à l’ensemble du réseau internet ; et même ne s’applique peut-être à aucune partie du réseau. Donc la question du droit sur le Net est une très vieille question. Il y a eu des controverses juridiques qui sont maintenant assez anciennes, enfin je veux dire anciennes à l’échelle du Net – bien sûr il n’y avait pas de controverse au IVe siècle –, mais disons ça fait plus d’une vingtaine d’années : par exemple il y avait eu une sinistre affaire qui avait, je ne sais pas si vous vous souvenez de ça, opposé Yahoo à la LICRA pour savoir quel était le type de droit qui devait s’appliquer sur un site web. Et ici, Amazon — ainsi que d’autres entreprises, Amazon n’est pas la seule dans ce cas-là — a plus ou moins profité de cet avantage que lui donnait le fait d’être une entreprise mondiale pour contourner à peu près le droit de l’ensemble des pays. Et ça, c’est quelque chose qui est très confortable d’être une entreprise mondiale où on n’a de comptes à rendre à aucun État, mais c’est aussi, et on s’en rend compte aujourd’hui, une fragilité. Parce que, eh bien voilà, ça a mené, ça a tenté, et Amazon n’a pas su résister à la tentation de ne pas payer d’impôts. Et aujourd’hui, ça crée un problème d’image à Amazon. Certes, aujourd’hui il n’y a que Donald Trump qui s’en émeut, donc ce n’est pas si grave on va dire, mais peut-être que les tweets de Donald Trump seront repris par d’autres et ça, ça peut vraiment nuire à l’image d’Amazon. Donc Amazon aussi est un colosse aux pieds d’argile, mais pour des raisons différentes.

Guillaume Ledit : Vous avez évoqué le développement d’Internet. À l’origine, c’est un fantasme absolu de chercheurs qui se connectent entre eux pour communiquer, notamment sur la recherche scientifique ; là on parle de l’économie des plateformes et des GAFAM qui sont arrivés en une vingtaine d’années de démocratisation d’Internet à se saisir de ce réseau-là et à en faire, effectivement, leur terrain de jeu. En tant que mathématicien et que logicien, qu’est-ce que ça vous inspire que des recherches scientifiques, qui permettent une évolution technologique révolutionnaire, de cet ordre-là, soient utilisées maintenant pour, on va dire, oui, de la manipulation de masse à échelle mondiale ? Soient utilisées, Annabelle tu en parleras mieux que moi, avec des recherches en psychologie pour nous manipuler, manipuler nos comportements ?

Thierry Keller : Balancer des « shots de dopamine » !

Guillaume Ledit : Voilà ! Et jouer sur notre attention pour faire en sorte qu’on reste accros et connectés à tous leurs services et nous vendre des choses. Qu’est-ce que ça vous inspire en tant que mathématicien et chercheur ?

Gilles Dowek : D’abord je ne suis pas mathématicien, je suis informaticien.

Guillaume Ledit : Pardon ! Informaticien !

Annabelle Laurent : Pour nous les littéraires !

Guillaume Ledit : C’est la même chose.

Annabelle Laurent : Pardon !

Guillaume Ledit : Excusez-nous !

Gilles Dowek : Je m’intéresse un petit peu aux mathématiques, mais je ne suis pas mathématicien professionnel. Il est vrai qu’Internet ne ressemble pas du tout à l’image qu’en avaient les pionniers qui, dans les années 60 – vous savez qu’Internet date de 1969 –, ont créé les premiers liens entre les premières machines qui sont à l’origine de ce réseau.

Guillaume Ledit : Les protocoles d’échange.

Gilles Dowek : Donc on est très loin des idées qu’avaient Paul Baran, Vint Cerf, Robert Kahn, etc. ; c’est autre chose. Cela dit, il ne faut pas tout à fait idéaliser la préhistoire d’Internet parce que c’était aussi un réseau militaire qui permettait aux différentes armées d’échanger des informations.

Guillaume Ledit : Bien sûr. Donc né grâce à la commande publique, aussi.

Gilles Dowek : Né grâce à la commande publique, tout à fait. Mais cela dit, il est vrai que dans les années 70 et dans les années 80, en gros jusqu’à l’arrivée du Web qui est aussi une invention d’un centre de recherche, le Web a été inventé au CERN, eh bien Internet était un espace de liberté, un espace où toutes les données étaient partagées, etc. Bon ! Moi je me réjouis que ça ne soit plus le cas.

Guillaume Ledit : D’accord.

Gilles Dowek : C’est-à-dire je me réjouis que d’un outil, d’un objet qui était relativement confidentiel, qui permettait à une communauté relativement petite de se structurer, je me réjouis que cet outil soit devenu un outil universel. C’est-à-dire que je me réjouis que tout le monde ait un accès au Net. Je pense d’ailleurs que ça devrait être un droit, que c’est quelque chose qu’il faudrait inscrire dans les droits de l’homme.

Guillaume Ledit : L’accès à Internet, comme l’accès à l’eau ou à l’électricité ?

Gilles Dowek : L'accès, voilà, exactement. Donc je ne suis pas de ceux qui disent : « C’était mieux quand nous étions une petite élite à utiliser Internet. » Je ne vais pas du tout dans ce sens-là.

Guillaume Ledit : Bien sûr.

Gilles Dowek : Après il y a le fait que Internet était, au départ, surtout fait pour mettre des données publiques, c’est-à-dire des données qu’on partageait. Il est bien évident que si vous mettez des données personnelles, à ce moment-là il faut qu’il y ait des protections sur ces données. Et donc tout ne peut pas être public sur Internet à partir du moment où beaucoup de choses sont des données personnelles : vous ne souhaitez pas que votre dossier médical, que votre dossier pédagogique ou même que les photos de vos soirées trop arrosées soient rendues totalement publiques. Donc on ne peut pas avoir pour Internet uniquement l’utopie de données totalement ouvertes et de données totalement publiques ; il est aussi nécessaire qu’il y ait des données privées. D’ailleurs, ce qu’on reproche à Facebook aujourd’hui, ce n’est pas d’avoir rendu les données trop privées, c’est d’avoir rendu les données pas suffisamment privées.

Guillaume Ledit : Oui !

Gilles Dowek : Après, le fait qu’un certain nombre de gens se soient enrichis avec les services qu’ils ont proposés sur le Net, eh bien tant mieux pour eux ! Ce n’est pas parce que les gens sont riches qu’ils sont forcément méchants !

Annabelle Laurent : Ah bon ! Tout s’effondre !

Thierry Keller : Le présupposé marxiste de la réflexion ; on va prendre un gros coup dans la figure !

[Rires]

Gilles Dowek : En revanche, il est vrai qu’il y a un certain nombre de valeurs, des valeurs de partage, des valeurs de respect de la personne, qui ne sont pas tout à fait prises en compte par les grands acteurs du Web aujourd’hui. En particulier, quelque chose que je trouve assez désagréable chez Facebook, par exemple, et qui n’est pas lié aux questions dont nous discutons, c’est le fait que le puritanisme américain, le puritanisme d’Amérique du Nord qui, en soi, ne me dérange pas — les gens ont le droit de vivre comme ils veulent ; s’il y a en Amérique du Nord une majorité de gens qui souhaitent vivre dans une société puritaine et où Dorine doit cacher son sein pour ne pas offenser la vue de Tartuffe, après tout c’est leur choix ! —, mais, ce que je trouve dommage, c’est que Facebook ait plus ou moins imposé ces valeurs au reste du monde en allant jusqu’à retirer des photos.

Annabelle Laurent : Censurer Gustave Courbet.

Gilles Dowek : Censurer Courbet et d’autres. On se moque, à juste titre il me semble — en Iran ils font ce qu’ils veulent —, mais on se moque un petit peu des Iraniens qui enseignent l’histoire de l’art en évitant les sculptures.

Guillaume Ledit : Les nus.

Gilles Dowek : Les nus, d’ailleurs de tous les genres, mais on s’aperçoit que, finalement, on fait la même chose en Amérique du Nord. Il aurait été intéressant que Facebook se pose la question d’avoir une politique qui soit différenciée et qui soit compatible avec toutes les cultures. Ça c’est une des questions qui est intéressante sur le Net, c’est que nous n’allons jamais avoir tous la même culture. Bien sûr les cultures se rapprochent, les valeurs se rapprochent, etc., mais il faut que nous apprenions à vivre avec des gens qui ont d’autres valeurs que les nôtres, qui ont une autre culture, qui ont d’autres hiérarchies entre les normes que les nôtres, et ça, c’est quelque chose que nous essayons de faire dans les universités : il y a une politique, une éthique du pas vers l’autre. Donc voilà, vous dites : « Moi je viens d’une culture où ceci se fait, où ceci ne se fait pas ; je viens d’une culture où on met les couteaux à droite, et vous vous venez d’une culture où on met les fourchettes à droite, eh bien nous allons essayer chacun de faire un pas vers l’autre. Alors je vais essayer de ne pas vous choquer, mais en même temps, vous, acceptez de temps en temps d’être un peu choqué, parce que si chacun fait un pas vers l’autre, nous trouverons un moyen de vivre ensemble. » Et je trouve que le Web, et en particulier les réseaux sociaux, aurait un bel endroit pour faire ce genre d’expérimentation et que ce n’est pas suffisamment fait.

Guillaume Ledit : Ce n’est pas terminé. On peut encore casser nos bulles de filtres.

Gilles Dowek : Oui. Bien entendu !

Guillaume Ledit : Depuis le début de notre conversation là, Thierry est plongé dans un livre. Qu’est-ce qui se passe Thierry ?

Thierry Keller : Je cherche à savoir, Guillaume, comment détecter un informaticien dans un dîner en ville.

Guillaume Ledit : Pourquoi tu parles de ça ?

Thierry Keller : Parce que Gilles Dowek, notre invité, est l’auteur d’un livre qui est un rassemblement de ces chroniques dans Pour la science et qui s’appelle Vivre, aimer, voter en ligne et autres chroniques numériques où, Gilles Dowek, vous déterminez et vous essayez de définir ce qu’est l’homo sapiens informaticus. Qu’est-ce que c’est que ce livre et comment on fait pour vivre, aimer et voter en ligne ?

Guillaume Ledit : Et détecter un informaticien dans un dîner en ville ! Ça fait déjà beaucoup de questions.

Gilles Dowek : Vous avez déjà remarqué que très subtilement, dans la conversation, j’avais glissé le titre de plusieurs chroniques de ce livre. En particulier celle consacrée aux colosses aux pieds d’argile qui est une des premières chroniques que j’avais écrite il y a trois ans dans Pour la science et ces questions d’éthique et également cette question de partage cross-culturel, de partage interculturel, sont des sujets qui reviennent souvent dans ces chroniques.

La question de détecter un informaticien dans un dîner en ville, qui est d’abord une question pratique utile, c’est important quand vous êtes dans un dîner en ville de savoir détecter un informaticien, était pour moi un moyen d’aborder une question qui, d’ailleurs, est au centre de la question des algorithmes d’apprentissage par lesquels nous avons commencé, qui est la différence entre savoir faire quelque chose et savoir expliquer comment on le fait. Et l’exemple que j’avais pris, j’ai d’ailleurs fait l’expérience avec un groupe de lycéens : je leur ai présenté des œuvres de deux peintres et je leur ai dit à chaque fois : « Ça c’est le peintre A, c’est le peintre B ; ça c’est une œuvre du peintre A, ça c’est une œuvre du peintre B ». Et après les avoir mis dans un processus d’apprentissage, je leur ai montré une œuvre d’un des deux peintres et ils devaient identifier si c’était une œuvre d’un peintre ou de l’autre. Et d’ailleurs, ils ont extrêmement bien réussi, mais j’avais mis un peu les chances de mon côté, puisque j’avais pris un Primitif italien qui s’appelle Lorenzetti et un graffeur new-yorkais qui s’appelle Keith Haring et donc, pour confondre leurs œuvres il fallait vraiment le vouloir ! Mais ce qui était intéressant, c’est qu’après j’ai demandé aux lycéens : « Est-ce que vous pouvez m’expliquer comment vous avez fait pour distinguer les œuvres de l’un et les œuvres de l’autre », et leur réponse c’était que non ; c’est-à-dire leur réponse naturelle c’est de dire « ça se voit ; ça n’a rien à voir ; c’est le contraire qui serait bizarre », etc. Donc ils étaient incapables, d’ailleurs je le suis tout autant qu’eux, de définir un algorithme qui permet de distinguer les œuvres d’un peintre des œuvres de l’autre.

D’ailleurs aujourd’hui, le seul moyen qu’on sache utiliser, le seul algorithme qu’on connaisse pour distinguer, pour classer des images comme ça, c’est d’utiliser des algorithmes d’apprentissage, c’est-à-dire des algorithmes qui vont, en gros, très schématiquement, définir une métrique, définir une distance entre des œuvres et se dire « cette œuvre est statistiquement plus proche des œuvres qu’on m’a présentées comme les œuvres d’un peintre que des œuvres qu’on m’a présentées comme les œuvres d’un autre peintre » ; et donc ça c’est plus ou moins l’apprentissage classique. Et l’apprentissage épais, avec plusieurs couches de neurones, l’apprentissage profond, c’est juste le fait d’itérer ce processus à tel point que l’algorithme lui-même développe des prédicats, des catégories sur les images comme de dire l’image est claire, l’image est sombre, les couleurs sont vives, les couleurs sont ternes, même si l’algorithme peut développer des concepts qui sont tout à fait différents des nôtres.

Guillaume Ledit : Mais ces prédicats ne font pas partie de ces inputs à l’origine ? Quand vous dites l’algorithme crée ?

Gilles Dowek : Dans les algorithmes d’apprentissage statistique classiques, ces prédicats font partie de l’input, mais, et c’est ça l’apport de LeCun, c’est que dans les algorithmes d’apprentissage multicouches, eh bien c’est l’algorithme lui-même qui crée ses prédicats.

Guillaume Ledit : D’accord. Très bien.

Gilles Dowek : Et c’est en ça que c’est tout à fait intéressant, puisqu’on n’a pas besoin d’expliquer à l’algorithme ni quelle œuvre, ni comment reconnaître les œuvres d’un peintre ou de l’autre, ni même quels sont les concepts de l’histoire de l’art qui vont nous permettre de le faire. D’un certain point de vue, l’algorithme redécouvre ces concepts par lui-même et ne redécouvre pas forcément nos concepts. Mais surtout, pour en venir à la question pratique de détecter un informaticien dans un dîner en ville.

Annabelle Laurent : Vous êtes reconnu, là. De nous quatre…

Guillaume Ledit : Je pense que c’est clair !

Gilles Dowek : Demandez-lui s’il sait reconnaître un tableau d’Ambrogio Lorenzetti d’une œuvre de Keith Haring.

Thierry Keller : Et là, c’est la panique !

Gilles Dowek : Et alors là, pour un informaticien, c’est la panique !

Thierry Keller : Dans votre bouquin c’est un peu plus rudimentaire que ça. C’est comment savoir si une image contient ou non un cercle rouge. Celui qui n’est pas informaticien va vous regarder en disant « mais enfin c’est évident » et l’informaticien va être complètement déstabilisé parce qu’il va passer par un processus mental qui ressemble, finalement, à un processus de deep learning.

Gilles Dowek : Oui. Le cas du cercle rouge, je l’ai écrit, en fait c’est une chronique un peu ancienne, peut-être qu’aujourd’hui j’utiliserais un autre exemple, mais ce qui m’intéressait surtout c’est qu’il est possible de concevoir un algorithme classique, un algorithme sans apprentissage, qui détermine si une image contient un cercle rouge ou non, mais c’est très compliqué. Donc cette différence entre la compétence à reconnaître un cercle rouge dans une image et la compétence à écrire un algorithme qui le reconnaît sont des compétences tout à fait différentes et on peut dire que avant ce qu’on appelle pompeusement la pensée informatique, cette manière si spécifique que les informaticiens ont de penser, avant cette transformation de nos manières de penser, eh bien nous ne voyions pas qu’il y avait deux questions derrière cette unique question.

Thierry Keller : Ce qui est intéressant, je continue un peu sur votre bouquin dont je précise qu’il est édité aux éditions du Pommier, avec votre ami Michel Serres, votre ami Luc de Brabandere aussi.

Gilles Dowek : Je suis en très bonne compagnie au Pommier !

Thierry Keller : Oui. Tout à fait.

Guillaume Ledit : Des gens qu’on retrouve parfois, chez Usbek & Rica.

Thierry Keller : Il y a plusieurs dizaines de petites chroniques de deux pages et demie environ, qui finissent par brosser un tableau général et finalement, il y a deux sentiments. Le premier, sur lequel je voudrais vous faire réagir, c’est que vous n’êtes ni un technophile béat ni un technophobe rageux, mais vous êtes, j’ose un terme, vous êtes une sorte de social-démocrate de la question technologique. Vous avez une vision apaisée-apaisante, à petits pas, de l’apprentissage de la grande question technologique. Me trompé-je ?

Gilles Dowek : Je croyais que le principe de base de ce podcast, était de ne pas utiliser d’injures.

[Rires]

Thierry Keller : Si j’ai dit cela, je démens. Enfin vous avez réclamé un nouvel Internet punk tout à l’heure, en creux, si je peux me permettre.

Guillaume Ledit : On va rester dans les limites du raisonnable.

Gilles Dowek : Il est vrai que cette polarisation entre technophiles et technophobes est un symptôme de notre illettrisme général. C’est-à-dire la question qui se pose dans une démarche scientifique n’est jamais la question « est-ce que vous êtes pour, êtes que vous êtes contre, etc. » C’est pour ça que les scientifiques font souvent de mauvais militants, parce qu'à chaque fois qu’il y a une question où il faut donner une réponse tranchée et parfois l’action demande des réponses tranchées, puisque, en philosophie de l’action, il n’y a pas de possibilité de suspension du jugement : il faut agir ou ne pas agir, il n’y a que souvent deux solutions et donc il faut accepter de simplifier le problème sur lequel on travaille. La démarche scientifique nous apprend à tout le temps complexifier les problèmes, c’est-à-dire à comprendre que, finalement, à chaque fois qu’il y a un progrès, il faut toujours s’interroger sur le pendant, la contrepartie de ce progrès. Donc à chaque fois que j’ai essayé d’aborder une question éthique, j’ai toujours essayé de me demander ce qu’on pouvait dire d’un peu plus complexe, que dire « c’est épouvantable ! Les GAFA vont nous bouffer, les intelligences artificielles vont nous réduire en esclavage, vont nous remplacer, vont nous faire disparaître de la planète », qui est un discours qui a le mérite d’exister mais moi, que ne m’intéresse pas beaucoup. Et la technophilie, je pense, a les mêmes défauts, disant à chaque fois que telle application il y a un bouton supplémentaire, le fait de tomber en pâmoison en disant « c’est justement le bouton dont j’avais besoin », etc., ; il faut bien reconnaître que beaucoup d’applications que je télécharge sur mon téléphone n’ont aucune utilité, qu’elles sont assez mal programmées.

Guillaume Ledit : Qu’elles ne vous apportent pas grand-chose.

Gilles Dowek : Voilà ! Qu’elles ne m’apportent pas grand-chose et puis que je peux les désinstaller cinq minutes après les avoir installées. Je crois qu’il faut juste essayer de développer sa propre pensée, sans essayer de trancher trop rapidement entre le pour et le contre. Parce que à quoi sert de trancher le pour et le contre ? Voilà ! Si vous êtes totalement technophobe, vous serez juste malheureux ; si vous êtes totalement technophile…

Thierry Keller : Vous perdrez vos actions à Facebook.

Gilles Dowek : Vous serez juste un gogo, que ça soit avec des actions Facebook ou avec autre chose et, finalement, c’est une attitude qui ne vous sert à rien dans la vie. Donc j’ai essayé de poser les problèmes dans leur complexité et la forme du livre m’y a encore plus incité puisque ce n’est pas un livre que j’ai écrit en me levant le matin à 9 heures et en le terminant le soir à 18 heures ; c’est un livre que j’ai écrit sur de très nombreuse années, en écrivant juste une page par mois. Puisque c’est ça l’intérêt, en fait, d’une chronique dans un mensuel, c’est que vous écrivez une page par mois. D’abord il y a des mois où j’étais plus optimiste ou plus déprimé ; donc quand j’étais plus déprimé j’avais une chronique un peu plus noire et quand j’étais plutôt optimiste j’avais une chronique un peu plus rose. Mais également, c’était aussi un moyen de ne pas me poser la question, qui est une question extrêmement difficile, on a évoqué au début toutes ces transformations qui se produisent en même temps — l’intelligence artificielle, les cryptomonnaies, qu’est-ce que j’avais cité d’autre ?, les véhicules autonomes, les imprimantes 3D, etc. — et si on se pose la question par quoi commencer, quelle est la chose la plus importante là-dedans, eh bien on se pose une question qui est insoluble.

Alors que de se dire de quoi j’ai envie de parler ce mois et, par petites touches, finalement de finir par brosser un portrait de notre époque mais qui n’a pas réellement de construction, qui n’a pas réellement de plan.

Guillaume Ledit : Oui. De propos, de plan.

Gilles Dowek : De projet. Est finalement une bonne manière de penser cette pluralité et cette complexité des questions qui se posent à nous aujourd’hui.

Guillaume Ledit : C’était formidable. On aurait pu continuer encore des heures à vous entendre parler et à vous poser des questions. On le refera peut-être quand l’intelligence artificielle nous aura tous mangés. Merci à toutes et à tous de nous avoir écoutés. Encore une fois c’était un véritable plaisir. Merci à Annabelle et à Thierry d’avoir animé avec moi cette émission. Merci Romane, à la technique, évidemment, comme d’habitude ; nous serions perdus sans elle. N’hésitez pas à nous suivre sur les réseaux sociaux, à partager, à « liker », enfin à faire ce que vous voulez avec nous, mais écoutez-nous et continuez à nous faire vos retours et vos critiques. Merci encore et à très bientôt.

• 1. Rapport Villani « Donner un sens à l’IA »