La proposition de l’UE, connue sous le nom de « Chat Control », pourrait éventuellement aider les enfants. Mais dans sa forme actuelle, elle créerait également une infrastructure de surveillance sans précédent ; une infrastructure qui s’immisce impunément dans les communications privées de millions de citoyens européens.

Ce qui est censé être un bouclier pour les enfants risque de devenir une masse d’armes dirigée contre nos droits fondamentaux. Je ne pense pas faire preuve d’exagération en tenant de tels propos, car même le service juridique du Conseil de l’UE (PDF) et le Haut-Commissaire des Nations Unies aux droits de l’homme (PDF) considèrent ces projets comme illégaux par nature. Dans ce qui suit, je vais vous expliquer pourquoi je pense que le Conseil de l’UE, qui doit prendre une décision le 14 octobre, devrait faire preuve d’une prudence extrême.

Le chiffrement : quand la vie privée s’arrête avant même de commencer

Officiellement, la Commission européenne affirme que la technologie du chiffrement de bout en bout ne sera pas affectée. Mais, selon les critiques, il s’agit d’un « tour de passe-passe évident », car ce Chat Control n’effectuerait pas de décryptage de ces message : il les lirait simplement avant même qu’ils soient chiffrés ! Grâce à la technologie dite « Client-Site-Scanning », les images, vidéos et liens seraient analysés directement sur vos appareils avant ce que ceux-ci soient chiffrés et envoyés.

C’est comme si l’État lisait chacune des lettres privées que vous allez envoyer avant que vous ne les mettiez dans l’enveloppe. La confidentialité de la correspondance numérique, un des piliers de la vie privée, serait donc abolie de facto. Ou, comme le résume Meredith Whittaker, directrice de Signal :

Il est impossible de créer une « backdoor » à laquelle seuls les gentils ont accès.

Des millions de fausses alertes : quand l’algorithme suspecte les photos de vacances

Oui, c’est un point qui paraît technique, mais qui est en fait humainement fatal : les systèmes censés détecter les contenus suspects se trompent régulièrement. Le commissaire fédéral à la protection des données (BfDI) allemand met en garde contre des taux d’erreur pouvant atteindre douze pour cent. Étant donné les milliards de messages échangés quotidiennement au sein de l’UE, cela représenterait des millions de fausses alertes par jour chaque jour. Si on met ces chiffres en perspective, avec deux milliards d’utilisateurs de WhatsApp, cela correspondrait à 240 millions de fausses alertes potentielles !

Cela signifie dans les faits que même votre photo de vacances à la plage pourrait soudainement être marquée comme suspecte. Un père qui envoie une photo de son enfant à un médecin pour un diagnostic pourrait encore être ciblé. Et tandis que des utilisateurs innocents risquent de voir leur compte bloqué, les autorités chargées de toutes ces enquêtes seront submergées sous un véritable déluge de fausses alertes. Au final, la bureaucratie sera congestionnée sans pour autant offrir de véritable protection à nos enfants.

Et savez-vous ce qui accentue l’aspect absurde de toute cette histoire ? Ceux qui planifient réellement ces actes répugnants ne seront pas affectés. De toute façon, ces images d’abus d’enfants ne sont généralement pas envoyées par Messenger.

L’ouverture de la boîte de Pandore : la surveillance mise en place

Ce Chat Control ne serait pas seulement dangereux parce qu’il est défectueux, mais aussi parce qu’il constituerait une brèche dans la digue de la protection de la vie privée. En effet, une fois que l’infrastructure de surveillance de masse est en place, elle peut facilement être étendue. Aujourd’hui, il s’agit officiellement de lutter contre la pédopornographie. Demain, ce sera peut-être le terrorisme. Et après-demain, les « discours haineux », les violations de droits d’auteur ou les contenus politiques.

Il s’agit d’une boîte à outils multiusage très tentante pour exercer une pression totalitaire. C’est un système né d’une bonne volonté qui peut facilement être utilisé à mauvais escient, et qui peut être particulièrement dangereux dans le cadre de certaines professions qui dépendent de la confidentialité : avocats, médecins, journalistes. Lorsque la protection des sources, des médecins ou des clients n’est plus garantie, les fondements de notre démocratie s’effondrent. Nous voyons actuellement aux États-Unis à quelle vitesse une démocratie peut être ébranlée dans ses fondements.

D’un point de vue économique, ce serait également contre-productif : les entreprises européennes avertissent que ce Chat Control affaiblirait la souveraineté numérique de l’UE et causerait la faillite des petits fournisseurs. Qui voudrait utiliser une messagerie européenne si l’on sait que chaque discussion est épiée ? Cela prive des outils comme Threema ou Signal de leur raison d’être.

« Si vous affaiblissez le secret de la correspondance numérique avec le Chat Control et la conservation des données, vous mettez en danger notre démocratie libérale », avertit également Nicole Büttner, secrétaire générale du parti libéral-démocrate allemand FDP.

Une alliance inhabituelle contre le Chat Control

Profitons de cette mention du FDP pour embrayer sur l’apparition d’une alliance étrange. En effet, rarement l’Europe numérique n’a été aussi unie… dans son opposition. Des activistes du net aux associations économiques, en passant par les partis politiques, les groupes technologiques et les organisations de protection de l’enfance, tous les camps s’opposent au Chat Control.

  • Signal, Threema et WhatsApp ont clairement fait savoir qu’ils ne poursuivraient pas leurs activités dans l’UE dans de telles conditions.
  • Le Chaos Computer Club, Reporters sans frontières et l’Association allemande de défense des droits fondamentaux mettent en garde contre une « surveillance totale sans précédent ».
  • Les autorités de protection des données de toute l’Europe, dont le BfDI et le Comité européen de la protection des données (EDSA), estiment que la proposition est « disproportionnée et va à l’encontre des droits fondamentaux ».
  • Et même les organisations de protection de l’enfance expriment leurs inquiétudes : les déluges de fausses alertes n’aident aucun enfant et mobilisent inutilement des ressources qui seraient mieux employées à résoudre de véritables cas.

Nous observons ici une coalition remarquable : autant de personnes qui sont rarement d’accord la plupart du temps décident de s’unir sur la question. Voilà qui devrait pousser la Commission européenne à la reconsidération, non ?

L’Allemagne fait pencher la balance en sa faveur

La proposition ne tient actuellement qu’à un fil, et c’est surtout l’Allemagne qui en est responsable. Jusqu’à présent, le gouvernement fédéral s’est abstenu au Conseil de l’UE. Mais un vote décisif est prévu le 14 octobre. C’est donc le vote allemand qui pourrait bien être responsable de l’adoption ou du rejet de la loi.

Les ministères de l’Intérieur et de la Justice allemands sont restés silencieux jusqu’à présent. Seul le groupe parlementaire des « partis-frères » de la droite conservatrice allemande que sont les CDU et me CSU s’est exprimé clairement : Jens Spahn, le chef du groupe du CDU, a fait la déclaration suivante le 7 octobre lors d’une conférence de presse :

Nous autres représentants du groupe CDU/CSU au Bundestag (ndt, le Parlement allemand), sommes opposés à ce Chat Control sans motif. Cela reviendrait à ouvrir toutes les correspondances écrites des gens par précaution pour vérifier s’il y a quelque chose d’interdit dedans. Ce n’est pas possible, cela ne se fera pas avec nous.

Conclusion : l’illusion d’une solution

Nous devons bien sûr mieux protéger nos enfants, y compris en ligne. Mais la fin ne justifie pas tous les moyens. Ce Chat Control démontre à quel point une préoccupation légitime peut se transformer en une dangereuse dérive. Autrement dit : les bonnes intentions ne suffisent pas toujours !

Un système qui scanne nos conversations avant même que nous envoyions nos messages n’est pas un bouclier, c’est une atteinte à la vie privée numérique, au cryptage, à notre confiance, et carrément à notre liberté. Nous devrions donc peut-être moins nous préoccuper de savoir quel degré de sécurité nous allons obtenir.
Mais plus du degré de liberté auquel nous sommes prêts à renoncer pour y parvenir.