En qualifiant de « sociaux » des dispositifs industriels de médiation comportementale, nous avons commis une erreur fondamentale. Quand le dommage devient statistiquement incontestable, la transformation anthropologique a déjà eu lieu.
Le jugement transactionnel accepté par Meta, la compagnie créée par Mark Zuckerberg à partir de Facebook, à près de 20 milliards de dollars, permet de faire un parallèle avec le processus progressif et de plus en plus sévère de bannissement de l’industrie du tabac. Au terme d’un procès de 5 jours, organisé à Oakland, en Californie, cette transaction a permis d’éviter, à ce jour, une avalanche de procédures.
Il ne reporte pas les questions de fond. Il y en a. Elles sont lourdes.
Parmi elles, le moment juridique à partir duquel a été admise l’idée que des applications, auxquelles Facebook a ouvert la voie, pouvaient être qualifiées de « réseaux sociaux » mérite, à ce titre, un examen méticuleux car, à l’épreuve des faits, rien n’est plus étranger à un réseau social que ce que nous nommons sous le label générique de « réseaux sociaux ».
Quelque chose de fondamental, ici, au premier degré, si j’ose dire, a cédé aux pulsions et au miroir des illusions.
On pourrait reconstituer une généalogie juridique et sémantique assez vertigineuse.
Au commencement, Facebook est essentiellement un service informatique privé : une entreprise fournit une interface permettant à des individus de publier, d’échanger, de constituer des listes de relations et de produire des données.
Puis nous avons accepté collectivement de désigner cet objet comme un « réseau social ».
Or le glissement n’est pas innocent. Le réseau existait réellement ; mais qu’il fût social au sens où l’on parle du lien social, de la société ou de l’espace public était déjà une proposition beaucoup plus considérable.
Car Facebook ne reproduit pas simplement les relations sociales. Il les formalise, les mesure, les classe, les recommande et, surtout, en organise l’intermédiation selon ses propres finalités économiques.
C’est ici que le parallèle Big Tobacco devient puissant en même temps qu’il présente une limite.
Pendant très longtemps, la cigarette a été juridiquement appréhendée essentiellement comme un produit de consommation. L’individu était supposé souverain : il achetait, fumait, assumait.
Progressivement, cette représentation s’est effondrée à mesure qu’étaient établis trois éléments : le dommage, la dépendance et la connaissance qu’en avait l’industriel.
La question juridique s’est alors déplacée :
« Pourquoi les gens fument-ils ? »
est devenue :
« Qu’a fait l’industriel pour qu’ils continuent à fumer ? »
C’est exactement le déplacement auquel nous assistons avec Meta, premier finalement à encourir les foudres de la justice des Hommes, comme en témoigne l’audience à laquelle il a dû faire face et dont Meta s’est tirée en limitant substantiellement, même si la somme paraît astronomique, les dégâts.
Nous avons peut-être commis une erreur fondamentale en considérant ces entreprises comme les fabricants de nouveaux espaces sociaux, alors qu’elles fabriquaient d’abord des dispositifs industriels de médiation du comportement humain.
Cette confusion leur a conféré une extraordinaire légitimité.
On parlait de « communauté », d' »amis », de « partage », de « conversation », de « réseau social ».
Tout le vocabulaire provenait du registre anthropologique et affectif, alors que le modèle économique relevait de l’industrie: acquisition, rétention, engagement, segmentation, monétisation.
C’est presque une privatisation du vocabulaire de la sociabilité.
À quel moment le droit a-t-il accepté de qualifier de « social », un dispositif industriel dont l’objet économique consistait précisément à capturer, mesurer et monétiser les interactions sociales?
Le sujet de cette double imbrication du droit et de la technologie – le premier accusant constamment un retard devant la surprise créée par la seconde – apparaît alors dans toute son ampleur. Le droit nomme tardivement ce que la technologie a déjà installé dans les usages; mais, en le nommant, il lui confère une réalité juridique qui contribue en retour à le naturaliser.
Cela entraîne les démocraties à subir le phénomène qui les transforme et dénature les rapports sociaux authentiques.
Big Tobacco captait une dépendance individuelle.
Les prétendus « réseaux sociaux » captent et organisent l’attention, la perception et jusqu’aux conditions de formation du jugement collectif. Ils agissent sur les masses, selon des opérateurs et des intérêts qui nous échappent.
Leur marché est l’espace cognitif plus que celui du psychisme individuel. C’est là que se développe toute une catégorie d’influences nocives, à la rencontre de ce potentiel et des sources de lucre.
Je ne parle pas des messageries cryptées de type Telegram qui ouvrent à la fois d’autres brèches et d’autres passerelles.
Et cela change complètement l’orientation juridique.
Le RGPD demande essentiellement: « Que faites-vous de mes données? »
Le droit qui vient devra également demander: « Que faites-vous de moi à partir de mes données ? »
Pour ne pas perdre cette course entre le droit et la technologie, au cœur de la notion de souveraineté et de l’intégrité anthropologique, que faut-il anticiper?
Il ne suffit plus d’anticiper les technologies ; il faut anticiper ce qu’elles rendent possible avant que leurs usages aient acquis la force du fait social.
Autrement dit, le droit ne gagnera jamais la course s’il attend le dommage pour qualifier l’objet. La cigarette pouvait être réglementée après constatation statistique de ses effets. Avec l’IA, les plateformes algorithmiques, les interfaces neuronales ou les agents autonomes, lorsque le dommage devient statistiquement incontestable, la transformation anthropologique peut déjà avoir eu lieu.
Six choses à anticiper :
1. La captation de l’attention.
Nous avons longtemps protégé le corps, la propriété, la correspondance, les données personnelles. L’attention reste beaucoup moins constituée juridiquement comme un bien à protéger. Or une industrie capable d’organiser continuellement ce que nous regardons, dans quel ordre, pendant combien de temps et avec quelles sollicitations possède quelque chose qui ressemble à un pouvoir d’administration de la disponibilité mentale.
2. La formation du jugement.
C’est l’étape supérieure. Le problème n’est plus seulement : mes données ont-elles été utilisées sans mon consentement ? Il devient : dans quelles conditions mon opinion s’est-elle formée ? Une démocratie protège jalousement le secret du vote, beaucoup moins l’intégrité du processus cognitif qui précède le vote. Il y a là, à mon sens, un immense chantier juridique.
3. La simulation du social.
Après avoir appelé « amis » des relations médiatisées par Facebook, nous allons appeler interlocuteurs, conseillers, compagnons, peut-être collègues ou amants, des entités synthétiques. Le droit devrait cette fois poser la question avant la naturalisation du vocabulaire : quelle différence voulons-nous juridiquement préserver entre relation humaine et simulation industrielle d’une relation humaine ?
4. La délégation cognitive à l’IA.
Il ne s’agit pas seulement de savoir si une IA donne une bonne réponse. À partir de quel degré de délégation — chercher, résumer, choisir, écrire, négocier, acheter, décider — l’utilisateur cesse-t-il progressivement d’exercer certaines facultés ? Cela ne conduit évidemment pas à interdire l’IA ; l’écriture elle-même est une technologie de délégation de la mémoire. Mais une société doit pouvoir déterminer quelles facultés elle juge constitutives de l’autonomie humaine et politique.
5. L’agentivité.
C’est peut-être le prochain grand choc juridique. Une plateforme nous recommandait quoi faire. Un agent d’IA pourra faire à notre place : contracter, acheter, négocier, communiquer avec un autre agent, filtrer l’information, engager certaines ressources. Le droit devra déterminer très tôt où s’arrête la délégation et où commence l’abandon de souveraineté individuelle. Le consentement ne peut plus être seulement le clic initial donnant accès à un système susceptible d’enchaîner ensuite des milliers d’actes.
6. Enfin, l’intégrité anthropologique.
Il ne s’agit pas de la concevoir comme la défense d’un homme supposément « naturel » contre la technique — l’humanité est technicienne depuis toujours — mais comme la conservation des conditions permettant à un être humain de demeurer auteur de ses représentations, de ses relations et de ses décisions.
Et cela change complètement l’orientation juridique.
Le RGPD demande essentiellement : « Que faites-vous de mes données? »
Le droit qui vient devra également demander : « Que faites-vous de moi à partir de mes données ? »
C’est une différence considérable puisqu’elle se signale au niveau de la conscience de soi, de soi dans une communauté, dans une société, dans une humanité.
Elle permet aussi de comprendre pourquoi le parallèle avec Big Tobacco possède une limite qui, loin de l’affaiblir, rend tout raisonnement sérieux sur l’horizon plus inquiétant.
Big Tobacco pouvait produire une dépendance dans l’individu. Les technologies cognitives peuvent simultanément agir sur l’individu et modifier l’environnement dans lequel cet individu construit sa représentation du réel.
En attendant la Renaissance 