Vous venez de vous installer dans un train nouvelle génération. Les haut-parleurs diffusent le message suivant d’une voix mécanique : « chers passagers, les gens qui circulent sans tickets, se comportent de façon inappropriée ou fument dans les espaces publics seront punis selon la réglementation et seront signalés à la base de données de crédit individuel. Pour éviter une dévalorisation de votre crédit personnel, veuillez vous conformer au règlement. »
Il ne s’agit pas d’un nouvel épisode de la série d’anticipation Black-mirror, mais d’une vidéo filmée à la dérobée il y a quelques jours dans le train Pékin-Shanghai. La Chine a mis en place en l’espace de quelques années le système de contrôle des comportements le plus élaboré et le plus implacable de l’histoire humaine. Toutes les actions sur les réseaux sociaux, les échanges sur WeChat, les déplacements, les achats, toute la vie des Chinois en un mot fait l’objet d’un contrôle centralisé.
Le Télécran de 1984 existe, en version XXL : ses millions de caméras sont placées dans les rues et parviennent, par reconnaissance faciale, à attribuer précisément les comportements extérieurs à chaque citoyen. Le résultat est une note de « crédit social » sanctionnant les récalcitrants, les non conformes. Une note dégradée limite vos capacités à voyager, vous loger, travailler. Elle signe votre bannissement social, et celle de votre famille, en empêchant par exemple vos enfants de s’inscrire à l’université. Mao et Staline en salivent d’envie dans leurs tombes.
Sommes-nous si loin de cette menace dans nos démocraties libérales ? La société du zéro-risque, qui vit l’accident comme un scandale ; l’inquiétude contre la diffusion des fausses nouvelles qui encourage à interdire l’anonymat sur internet ; la menace terroriste enfin : autant de facteurs justifiant par avance les mesures liberticides. De plus, les esprits sont préparés à la notation : internet nous a d’ores et déjà habitués à noter et à être notés dans maintes circonstances (taxi, hébergement…). L’idée d’une généralisation proche d’un système à la chinoise est rien moins que spéculative : Amazon a annoncé développer pour le compte du gouvernement américain une technologie de reconnaissance faciale pour lutter contre l’immigration…
L’enjeu de la prochaine décennie est d’imaginer un modèle de société ouverte qui nous permette de profiter des bénéfices du numérique sans en réaliser le terrible potentiel totalitaire. Nos démocraties ne survivront que si elles parviennent à incarner une alternative efficace au modèle hyper-centralisé et autoritaire de la Chine. Sinon, elles en seront juste une version « sympa », enrobée d’un peu plus de câlins mais au fond exactement semblable. Pour les services numériques, la différence entre authentification et identification doit devenir aussi essentielle dans notre démocratie que la séparation des pouvoirs. L’Etat doit surtout fixer de fortes limites à sa capacité de recouper les données qu’il obtient sur nous, en créant ce que les entreprises nomment, ironie de l’histoire, des « murailles de Chine » entre ses bases données.
Malheureusement, les déclarations de responsables politiques (ou qui ambitionnent de le redevenir) tels que Ségolène Royal proposant de « débrancher les réseaux sociaux » ne rendent optimiste ni sur leur degré de réalisme ni sur leur attachement à la liberté individuelle.