Au moment où l’UE s’apprête à adopter son outil de mise sous contrôle de liberté d’expression numérique, l’heure n’est plus à choisir entre liberté et sécurité. Elle est à concevoir les conditions d’un équilibre. Et à réinventer les outils pour qu’il tienne. Pas de suspicion a-priori. Contrôle a-posteriori. Si on est obligé d’écorner la liberté, pour garantir la sécurité, préservons la présomption.
L’Union européenne s’apprête à voter le projet Chat Control, qui permettrait de scanner automatiquement tous les messages privés — y compris chiffrés — sur nos téléphones. De fait, la démocratie vacille sur un fil tendu entre deux abîmes:
- Celui de l’impuissance face aux crimes commis dans l’ombre des messageries sécurisées qui pose un authentique et durable problème d’opacité.
- Celui de la surveillance de masse, propre aux régimes qui ont renoncé à la liberté pour mieux régner.
- Si la peur est mauvaise conseillère, l’inaction l’est plus encore. Nous ne pouvons pas rester les bras croisés face à l’exploitation des outils numériques à des fins criminelles, terroristes ou manipulatoires. Mais nous ne pouvons pas, non plus, accepter l’instauration insidieuse d’un cheval de Troie numérique qui ferait de chaque citoyen, a-priori, un suspect par défaut.
✳️ Une voie de compromis éthique existe
Il est possible d’imaginer une alternative respectueuse des droits fondamentaux. Une voie qui ne sacrifie ni le chiffrement, ni la nécessaire vigilance collective.
Cette voie, nous la proposons, aujourd’hui, dans ces termes et selon ce principe:
> Une vigilance sémantique à la lecture, sous gouvernance démocratique.
Comment cela fonctionnerait ?
1. Aucun message n’est bloqué ni scanné à l’envoi. La liberté d’expression reste pleine et entière. Le chiffrement de bout en bout est préservé.
2. Le scan intervient uniquement à la lecture, sur le terminal du destinataire, à travers une IA capable de reconnaître un nuage sémantique de domaines sensibles (abus sur mineurs, appels à la haine, apologie du terrorisme…).
3. Le système repose sur une gouvernance irréprochable:
Une instance délibérative indépendante composée de magistrats, ONG, chercheurs, citoyens tirés au sort.
Des algorithmes transparents, régulièrement audités.
Un droit au recours effectif pour tout citoyen injustement ciblé.
Un journal de fonctionnement consultable par la société civile.
Ce à quoi il semble raisonnable de s’opposer
- Que le chiffrement soit vidé de sa substance, au nom de la sécurité.
- Que la peur des crimes serve de prétexte à une normalisation de l’espionnage numérique généralisé.
- Que des IA non contrôlées déterminent en secret ce qu’un être humain peut dire, penser ou transmettre.
Ce qui constituerait un compromis viable
Que l’Union européenne suspende le vote du Chat Control, dans sa version actuelle, et ouvre une consultation publique citoyenne sur les formes possibles d’une vigilance éthique, explicable, contrôlable.
Nous appelons toutes les forces démocratiques — élus, chercheurs, juristes, ingénieurs, journalistes — à participer à ce débat essentiel. Car de lui dépend le visage numérique de nos libertés.
📌 Pourquoi un contrôle à la lecture plutôt qu’à l’envoi?
La surveillance systématique des messages à l’envoi, telle que proposée actuellement par l’UE (Chat Control), transforme chaque utilisateur en suspect a priori, violant ainsi les fondements mêmes du droit à la vie privée et à la présomption d’innocence.
En déplaçant le scan automatisé au moment de la lecture (c’est-à-dire sur le terminal destinataire, après déchiffrement local), on préserve :
- 🔓 La liberté d’expression intégrale à l’émission, sans filtrage préalable.
- 🕊️ La présomption d’innocence de l’émetteur, puisque seul le destinataire lisant un contenu potentiellement problématique est concerné par un contrôle automatisé.
Cette approche ne résout pas toutes les failles inhérentes au chiffrement et à l’analyse automatisée (attaques adversariales, détournement, biais). Mais elle instaure un principe éthique fondamental :
« Aucun utilisateur n’est suspect par défaut. La vigilance se limite aux cas d’accès avéré à un contenu problématique. »
🌐 Proposition : création d’une Agence mondiale pour la liberté cryptographique et la vigilance numérique éthique
Objectifs
1. Reconnaître le chiffrement comme pilier de la liberté d’expression, d’association et de presse.
2. Évaluer les dispositifs de surveillance numérique (comme Chat Control) au regard d’un référentiel éthique universel.
3. Superviser la conception des IA de modération ou de détection, notamment dans leur usage par les États, grandes plateformes ou alliances régionales.
4. Garantir un accès équitable à des outils de communication sécurisés pour les journalistes, ONG, défenseurs des droits humains.
5. Proposer des systèmes de vigilance sémantique sous gouvernance multilatérale, transparente et révocable.
Architecture proposée
Une charte éthique internationale du numérique sécurisé, adossée au Pacte international relatif aux droits civils et politiques.
Un comité scientifique et éthique permanent, constitué de membres nommés par l’ONU, le Conseil des droits de l’homme, le GAFI, et des représentants de la société civile.
Un laboratoire technique indépendant capable d’analyser et de certifier les systèmes CSS ou IA proposés par les États ou plateformes.
Des outils de recours pour les individus victimes d’abus algorithmiques.
Pourquoi maintenant ?
Parce que les démocraties sont prises entre:
- des régimes autoritaires efficaces mais liberticides,
- et des démocraties fragiles ou paniquées, prêtes à sacrifier le chiffrement au nom de la sécurité.
🗣️ « Les sociétés de l’information ne peuvent plus éviter le dilemme éthique et politique posé par la surveillance numérique. Ce défi n’est ni technique ni marginal : il est civilisationnel. La réponse que nous devons lui apporter doit être transparente, intelligente, démocratiquement contrôlée, et fondée sur le respect irréductible des présomptions fondamentales. Car la technologie ne peut jamais être une fin en soi : elle doit toujours rester un moyen au service d’une démocratie digne de ce nom.«
📚 Bibliographie technique succincte
Lawfare, 2022 : The Law and Policy of Client-Side Scanning
(Contexte juridique et implications du CSS aux États-Unis et dans l’UE.)
Electronic Frontier Foundation (EFF), 2019 : Why Client-Side Scanning Breaks Encryption
(Sur la remise en cause technique et juridique du chiffrement par tout CSS.)
Access Now, 2022 : Why client-side scanning is a lose-lose proposition
(Arguments juridiques et techniques contre le CSS traditionnel.)
Jain et al., 2021 : Adversarial Detection Avoidance in Client-Side Scanning Systems
(Vulnérabilités techniques des systèmes CSS face aux attaques adversariales.)
Ofcom/Internet Society, 2023 : Client-side scanning technical factsheet
(Explication claire des modèles de CSS existants et limites associées.)
En attendant la Renaissance 