Règlement relatif à la prévention de la diffusion en ligne de contenus à caractère terroriste - Décryptualité du 4 mars 2019

Titre : Décryptualité du 4 Mars 2019 - Le règlement relatif à la prévention de la diffusion en ligne de contenus à caractère terroriste
Intervenants : Nolwenn - Nico - Mag - Manu - Luc
Lieu : April - Studio d'enregistrement
Date : 4 mars 2019
Durée : 15 min
Écouter ou télécharger le podcast
Revue de presse pour la semaine 9 de l'année 2019
Licence de la transcription : Verbatim
Illustration : Hourglass - Licence Creative Commons Attribution-ShareAlike 2.5.
NB : transcription réalisée par nos soins, fidèle aux propos des intervenant·e·s mais rendant le discours fluide.
Les positions exprimées sont celles des personnes qui interviennent et ne rejoignent pas nécessairement celles de l'April, qui ne sera en aucun cas tenue responsable de leurs propos.

Description

Dans la foulée de La Quadrature du Net, nous abordons le règlement relatif à la prévention de la diffusion en ligne de contenus à caractère terroriste

Transcription

Luc : Décryptualité.

Voix off de Nico : Le podcast qui décrypte l’actualité des libertés numériques.

Luc : Semaine 9. Salut Manu.

Manu : Salut Mag.

Mag : Salut Nico.

Nico : Salut Nolwenn.

Nolwenn : Salut Luc.

Luc : Revue de presse.

Manu : Oui. On a un joli sommaire. Sept articles principaux.

Mag : korii., « Alexa va-t-elle devenir un membre de notre famille ? », par Coralie Lemke.

Manu : Ça parle d’Alexa, l’enceinte intelligente, connectée, qui vous écoute en permanence. Effectivement, ça parle d’elle dans son rôle principal, au niveau de la famille.

Mag : Il va falloir qu’on leur explique ce qu’est réellement une famille, quand même.

Luc : Alexa est enceinte ?

Manu : Alexa ? Va savoir. Il y a eu un film et il est référencé dans l’article, qui parle de gens qui tombent amoureux de leur téléphone portable. Donc ça va dans cette direction-là !

Mag : BFMtv, « Grand débat : des algorithmes pour trier les préoccupations des Français », par Elsa Trujillo.

Manu : Ça parle du grand débat. Il y a eu plus d’un million de contributions, beaucoup trop pour qu’une ou deux personnes puissent les lire et les compiler. Ils sont en train de mettre des outils automatiques, donc des algorithmes, pour gérer un petit peu tout ça, en extraire des données. C’est toujours un peu compliqué et là, on aborde un peu le sujet.

Luc : Je suppose qu’on sait exactement comment marchent ces algorithmes !

Manu : Du tout ! Et justement, ça fait bien sûr partie du problème.

Mag : Numerama, « La réforme du droit d’auteur en Europe entre dans sa dernière ligne droite », par Julien Lausson.

Manu : Ça se passe mal. Il y a des articles qui ne nous plaisent pas dans le logiciel libre et en général sur l’Internet libre. C’est embêtant et on va devoir se battre encore pour éviter des lois liberticides.

Mag : InformatiqueNews.fr, « L’Unesco publie l’appel de Paris sur le code source ».

Manu : C’est en partenariat avec Software Heritage, donc des gens qui sont très intéressants, qui veulent conserver tous les logiciels possibles et imaginables pour le futur. Légalement ils ont surtout le droit de le faire avec le logiciel libre, ça nous arrange, parce que le logiciel libre on aime bien. Ils sont en train de constituer une grande bibliothèque d’Alexandrie de tous ces codes sources. Il y a un travail énorme, même l’Unesco s’en préoccupe.

Mag : Le Monde Informatique, « Les clouds providers sont devenus les moteurs de l'open source », par Matt Asay.

Manu : Le sujet est hyper-trollesque parce que ça met en avant les clouds providers, notamment les GAFAM, en impliquant qu’ils font des choses bien pour le logiciel libre, ils y contribuent et ils y travaillent beaucoup. Il y a une petite description des contributions qui sont faites sur les logiciels qui nous intéressent. C’est du troll énorme !

Mag : LeMagIT, « Open Core : Redis Labs en finit avec Apache et crée sa propre licence… non open source », par Cyrille Chausson.

Manu : Redis Labs je ne sais plus trop ce qu’ils font. Je crois que c’est un moteur d’indexation, un truc pointu, et effectivement ils ont arrêté d’utiliser une licence libre, open source, ils ont fait leur propre tambouille ; c’est un petit peu rageant. Ça parle de licences, de clauses, BSD notamment. Allez jeter un œil si ce sont des sujets qui vous intéressent.

Mag : Le Monde.fr, « En Suisse, on encourage les hackers à pirater le système de vote électronique », par Simon Auffret.

Manu : Un vote électronique c’est déjà embêtant au départ parce que c’est compliqué, c’est même impossible d’assurer l’anonymat et la sécurité ; tout ça c’est déjà mal démarré. Mais là c’est une bonne démarche, ils proposent d’essayer de hacker le système, de le pirater ; ce n’est pas bête.

Luc : Dans l’optique de voir s’il est solide, c’est ça ?

Manu : Dans l’optique de voir s’il tient le coup, effectivement, face à des attaques externes. On verra s’il en ressort quelque chose intéressant, notamment du logiciel libre un peu solide parce qu’il y a peut-être des moyens d’éviter quand même des gros problèmes dans le vote électronique parce qu’il est utilisé en Suisse et il va continuer de l’être encore quelque temps au moins.

Mag : Alors ce soir, Luc, on parle de quoi ?

Luc : Ce soir on va parler d’un sujet lié à l’actualité institutionnelle et européenne, non pas sur la réforme du droit d’auteur qu’on a déjà évoquée, mais sur un règlement contre le terrorisme et la propagande terroriste sur Internet. La Quadrature du Net1 a réagi là-dessus et cette disposition prévoit deux trucs.

Nico : En fait, la première chose, c’est ce qu'ils appellent l’autorité compétente ; en France ça risque d’être l’ANSSI [Agence nationale de la sécurité des systèmes d'information] ou quelque chose dans ce goût-là.

Luc : Ou la police.

Nico : Ou la police, qui va notifier à un hébergeur ou à un fournisseur de contenus ou à un site internet en général, un contenu manifestement terroriste, eh bien on aura une heure pour le supprimer.

Mag : Une heure !

Nico : Oui, une heure !

Mag : Ce n’est pas beaucoup une heure !

Nico : Non, ce n’est pas beaucoup. Bien sûr les GAFAM et autres ne vont pas avoir trop de problèmes parce qu’ils ont des astreintes, ils ont déjà plein de gens qui sont opérationnels 24 sur 24.

Mag : Oui, mais nous, les petites associations on dort la nuit !

Nico : Les petites associations, les blogs personnels ou autres.

Manu : Les entreprises, la plupart des entreprises.

Nico : Elles ont des astreintes aussi, normalement. Mais bon ! Ça risque d’être compliqué encore pour les petits et, en plus de ça, ils aiment bien en ce moment tout ce qui est l’automatisation, donc il y aura un contrôle à priori des données : vous devrez avoir des algorithmes pour détecter du contenu terroriste et l’enlever avant même qu’il apparaisse ou pour interdire de republier des données suite à une suppression.

Nolwenn : Et les algorithmes en question, on a une idée de qui ou quand ou comment ils seront faits ? Par qui ? Pour quoi ?

Nico : Aucune idée. On risque encore de voir les mêmes revenir, parce que les GAFAM ont déjà des outils de ce type-là, plutôt accès pour la publicité ou des choses comme ça ou quelques petits mesurettes à droite à gauche. Mais il y a de grandes chances que ce soit eux qui vont encore développer ces outils-là. On verra bien, mais ça risque encore d’être du Google ou autres à fournir ces algorithmes.

Luc : On rappelle que les sites web utilisent beaucoup ce genre d’outils, notamment pour établir qu’on n’est pas un robot. Tous les machins où il fait cliquer les photos.

Mag : Les CAPTCHA.

Luc : Les CAPTCHA. On travaille pour Google à faire de l’identification sur ces photos-là. C’est typiquement ce genre de services qui, aujourd’hui, sont déjà très largement répandus sur énormément de sites internet.

Nolwenn : Il y a aussi un certain nombre de sites web, pour ne pas dire la majorité, qui utilisent tout ce qui est les Google Fonts, les Google Statistics et autres, ne serait-ce que pour mesurer leur trafic, avoir l'affichage des polices qui leur plaît, tout ça.

Luc : Là on parle de police de caractères, pas la police antiterroriste ! Quoique ça vaudrait peut-être le coup de créer une police qui s’appelle antiterroriste ! Comme ça on pourrait…

[Rires]

Manu : Donc les deux mesures c’est un, il faut retirer ce qui est manifestement terroriste en moins d’une heure et deux, avoir des algorithmes qui essayent d’automatiser l’impossibilité de publier.

Nico : C’est ça. Ça pose plein de questions. Ce sont des lames de fond qui existent aujourd’hui. Il y en a déjà eu avec les droits d’auteur, là avec le terrorisme ; ils aiment bien tout ce qui est contrôle automatique, suppression, et là surtout, le gros danger, c’est qu’on ne sait pas qui va demander les retraits. Le texte de loi est assez flou, c’est une autorité compétente.

Luc : À chaque pays de s’organiser comme il le souhaite.

Nico : À chaque pays de s’organiser un peu comme il veut. Qui ça va être ? Si c’est l’ANSSI on peut espérer qu’ils fassent bien leur boulot parce qu’ils sont quand même relativement indépendants et ils savent de quoi ils parlent. Mais si c’est à la discrétion du ministère de l’Intérieur ou de n’importe quel flic qui passe par là, qui a envie de supprimer un contenu, on ne sait pas trop ce que ça peut donner.

Mag : Tu veux dire que ça ne passe plus par un juge comme avant ?

Nico : Pas forcément, en tout cas. Après, chaque pays décidera. Peut-être qu’ils demanderont à un juge ou autre. Il y a quand même des espèces de gardes-fous en disant qu’il faut quand même un minimum de contrôle sur ce qui est censuré et que ce n’est pas censé remettre en cause la liberté d’expression – c’est répété pas mal de fois dans le texte –, ça doit être des mesures proportionnées, ça doit respecter la diversité et autres. Mais bon ! S’ils ont envie de nommer un dictateur à la place, pour cette autorité compétente, ils pourront très bien le faire.

Nolwenn : Mais justement, s’il y a ce système de mesure pour vérifier s’il y a du contenu qui fait l’apologie ou non du terrorisme, j’ai envie de dire dans quelle mesure est-ce qu’on a encore un minimum de liberté d’expression ? Parce que si on est journaliste indépendant, par exemple, et qu’on écrit sur le terrorisme, que ce soit les terrorismes actuels qu’on a eus récemment ou un autre type de terrorisme, qu’est-ce qui empêcherait la police de communiquer là-dessus et donc de prévenir les gens de se méfier ou autre ?

Manu : À priori il y a un mot clef qui est bien mis en avant et qui doit être assez clair c’est « manifestement ». Donc ce « manifestement », il faut vraiment que tout le monde soit d’accord sur le fait que le contenu ciblé, le contenu dont on a demandé le retrait, soit « manifestement » pro-terroriste. À priori il suffirait de quelqu’un qui dise : « Eh bien non, pour moi ça ne l’est pas », pour qu’on n’ait pas à le retirer.

Luc : Pas tout à fait, parce que ton « manifestement » ça reste une notion floue et on est bien dans un déséquilibre de la décision avec d’un côté une autorité qu’on suppose administrative parce que la mode n’est pas tellement, en fait, de passer par les juges, nos gouvernements n'ont fait que des lois qui passent par des trucs administratifs.

Manu : En plus un juge au milieu de la nuit ça va être compliqué !

Luc : Voilà ! Et puis il y a quand même un déséquilibre énorme entre quelqu’un, une institution, la police comme ça qui interdit et dans l’instant, dans l’heure, dans un instant extrêmement bref et quelqu’un qui est en face, qui n’a pas nécessairement les moyens – on va parler des chatons juste après – et qui du coup se dit : si je dis non à quoi je m’expose ? Je m’expose à des mesures de rétorsion de type saisie, etc., intimidation ; je m’expose à des procès qui vont durer des années et qui vont me coûter des milliers d’euros d’avocat alors que j’ai n’ai pas nécessairement les moyens si je suis un particulier ou une petite association. Donc il y a un déséquilibre de forces qui est énorme et des abus de pouvoir on en a vus un certain nombre. Pendant l’état d’urgence après les attentats du Bataclan, François Hollande et son ministre, je ne sais pas qui exactement, mais François Hollande s’en est vanté dans son livre, a fait assigner à résidence des écolos qui voulaient contester la COP21, d’ailleurs sans se justifier en disant juste « c’est l’état d’urgence, vous êtes assignés à résidence, vous ne sortirez pas ». Et puis dans les lois par rapport à ces questions de surveillance, on a la loi de surveillance, me semble-t-il, ou renseignement, qui permet d’espionner à peu près n’importe qui ; il y a une vague commission qui est censée encadrer le truc, mais qui est consultée à posteriori et qui donne vaguement son avis et, si elle n’est pas d’accord, on passe outre. C’est ce genre d’ambiance dans laquelle on navigue aujourd’hui.

Nico : On a vu récemment une affaire où un fab laf a été incendié. Il y a eu une revendication de postée sur un blog, un peu anarcho-gaucho-extrémiste, et tout de suite le gouvernement est arrivé en disant « c’est du contenu terroriste » avec notification, demande de suppression, etc. Et le site a dit : « Eh bien non ! » En plus c’était un peu un site de journalisme associatif, il a dit : « On ne peut pas retirer ça ». Du coup ça a été très loin. Même la CNIL, la personne qualifiée de la CNIL s’est portée caution pour eux en disant « je vais m’opposer à cette suppression-là ». Au bout de la bataille, effectivement, le juge a tranché : « Non, ce n’était pas du contenu terroriste », parce que ça ne rentrait pas dans les caractéristiques du terrorisme habituel. Mais il a fallu aller jusqu’à un juge.
La plupart des petits sites vont courber l’échine parce qu’ils ne voudront pas prendre le risque et les gros sites vont être noyés sous les contenus, il y aura toujours du contenu terroriste parmi l’intégralité de leurs données, donc ils vont bloquer plus que de raison parce qu’ils n’ont pas envie de se faire attaquer pour avoir laissé passer du contenu illégal.

Mag : C’est quoi du contenu terroriste ?

Nico : Il y a un article de loi, apparemment européen, qui définit ce qu’est le groupe terroriste. Il doit y avoir un certain nombre de critères ou autres. C’est vrai que c’est un terme qui est assez mal défini, qu’on a tendance à utiliser partout dès qu’on a des mesures un peu extrêmes. Effectivement, l’incendie d’un fab lab, ce n’est pas tous les jours non plus qu’on le fait, mais de là à ce que ça tombe dans le terrorisme ! Normalement il y a des notions de menaces de la population vraiment par la peur et d’essayer de faire passer ses messages par la peur ; ça reste vague et ça peut-être la porte ouverte à toutes les fenêtres.

Luc : Dans les trucs qui peuvent justifier la mise hors ligne des contenus, il y a cette idée de soutenir les actions terroristes, d’appeler à des actions terroristes, donc pour moi ça ouvre la possibilité à des tas d’interprétations. C’est-à-dire que si, par exemple, on conteste la façon dont la politique antiterroriste est menée, je pense toujours à notre état d’urgence où la police est allée défoncer les portes des fichés S pour retourner leur appartement et ne rien trouver ou presque, ce qui est, à mon sens personnel, totalement stupide et contre-productif.

Mag : Tu es un terroriste si tu dis ça !

Luc : Peut-être ! Oui ! À partir du moment où je conteste la politique, la façon dont elle est menée, peut-être qu’il n’y a pas un grand pas à franchir avant de dire que je suis moi-même terroriste.

Manu : Ceci dit, indépendamment de la définition exacte de ces termes et de la limite exacte, on est tous d’accord qu’un contenu qu’on trouverait, nous, pro-terroriste ou qui encourage ou qui fait un appel au terrorisme, on est tous d’accord qu’on ne voudrait pas l’héberger soi-même !

Luc : Non, bien sûr, bien entendu !

Manu : C’est important à expliciter ça, quand même ! Tu dis : « Attention, attention, il ne faut pas de lois antiterroristes ». On est d’accord qu’il est normal de retirer un contenu terroriste.

Nico : Les politiques jouent là-dessus, justement ; tout le monde sera d’accord qu’il faut absolument supprimer les contenus terroristes sauf que la définition de terroriste n’est pas claire ; les gens vont penser effectivement à Daesh, vont penser à l’attentat du Bataclan, vont penser à tous ces trucs-là. Mais il y a toute la zone grise où ça ne va pas être définissable. On a eu le problème de l’affaire de Tarnac où ça a mis dix ans avant de se décider : non, en fait il n’y a avait rien et pendant dix ans ils ont gueulé au terrorisme !

Mag : Ou Notre-Dame-des-Landes : les gens qui allaient manifester ont aussi été considérés comme des terroristes.

Luc : Combien de politiciens ont dit : « Terroriste, terroriste » à la première occasion en disant « vous faites ça », même sur les trucs de droit d’auteur. Il y a des gens qui ont été dire : franchement, les mecs qui piratent de la musique ou des films sur Internet c’est un peu des terroristes.

Manu : On avait un terme à une époque, parce que le concept est quand même beaucoup plus général, il date de loin, c’est « pédonazi », donc maintenant « pédonazi terroriste » ; ce sont vraiment des gens qui sont méchants-méchants, il faut les interdire.

Mag : Tu as oublié « porno » : « pédo porno nazi ».

Manu : Terroriste de Daesh.

Luc : Il faudrait un acronyme, c’est trop long.

Nico : C’est vrai qu’on est à peu près tous d’accord que si on voit une vidéo de décapitation de Daesh il va falloir la supprimer, mais ça va représenter un contenu qui est plus que minimaliste et en plus ces sites-là, généralement, sont planqués au fin fond d’Internet et de toute façon, si vous leur envoyez une notification, ils ne supprimeront pas.

Luc : Le truc c’est aussi que si c’est sur tes serveurs, que tu offres un service, et là je pense aux chatons2, on en parle régulièrement, c’est une initiative de Framasoft pour avoir des hébergements associatifs et éthiques, potentiellement n’importe qui peut venir sur ton hébergement et poster un truc comme ça. Mais si tu dois t’en rendre compte, toi, ça veut dire que tu surveilles ce que postent tous les gens Ça veut dire que tu as un boulot ! Tu es constamment en train de regarder tout ce qui se passe.

Mag : C’est impossible ; c’est totalement impossible !

Luc : Donc c’est impossible et en plus ça te met dans une dynamique assez différente. Ce que je trouve assez important aussi dans cette affaire c’est qu’avec cette histoire de contrôle automatique et cette contrainte de temps, ça veut dire qu’on favorise les GAFAM, encore une fois. On a vu sur la question de la réforme des droits d’auteur qu’en essayant de leur piquer du pognon on favorise les GAFAM parce que, finalement, on les met toujours au centre et là on favorise encore les GAFAM. L’État et le pouvoir en général d’un côté disent : « Ils ne sont pas gentils, les GAFAM ont trop de pouvoir », mais en même temps ils font tout pour qu’ils en aient de plus en plus !

Manu : Pour le coup, ça risque de s’étendre à plus que le terrorisme, parce qu’il y a d’autres sujets qui sont sur la table. Non ?

Nico : Il y a déjà un article de loi qui est en cours de préparation sur le pédopornographique ; ce sont à peu près les mêmes termes, c’est quasiment un copier-coller, on remplace terrorisme par pédopornographie et on retrouve la même chose : du contrôle, de la censure, des outils d’automatisation de détection. Voilà ! On est en train de tourner en rond entre droits d’auteur, terrorisme, pédophilie ; c’est ticket gagnant pour tous les politiques !

Luc : Vaste sujet épineux on a quand même la sensation et l’impression que ces sujets réellement importants sont instrumentalisés pour obtenir d’autres résultats. C’est ce que dit d’ailleurs La Quadrature. Le vote sur ce sujet se fait le 21 mars. La Quadrature du Net appelle à contacter les députés européens et on peut les appeler directement ou leur envoyer un mail sur leur page : il y a tout un élément qui permet de voir les 60 députés européens qui doivent se prononcer là-dessus. Donc allez-y, envoyez des messages, soyez polis, précis, fermes, et faites entendre votre voix. On se retrouve la semaine prochaine.

Mag : La semaine prochaine on va parler d’un sujet qui nous a été conseillé par Marcos.

Luc : Oui. Un auditeur qui nous a écrit, donc sur les données personnelles. Comment on peut gérer ses données personnelles, ce genre de choses. Donc merci à lui de son petit mail et de cette suggestion. On en parle la semaine prochaine.

Mag : Salut.

Nico : Salut. Bonne semaine à tous

• 1. La Quadrature du Net
• 2. Chatons