En 1949, l’auteur et essayiste britannique George Orwell décrivait l’avenir d’un pouvoir despotique mondial contrôlant le peuple océanien par la surveillance et la propagande. Mais se doutait-il que 1984 adviendrait en 2019 ?
Le télécran. 1984 décrit un avenir sombre dans lequel la technologie n’existe dans le domaine public que comme seul outil de surveillance permettant à quelques élites de contrôler toute la société. « Le télécran recevait et transmettait simultanément. Il captait tous les sons émis (…) au-dessus d’un chuchotement très bas. (…) Naturellement, il n’y avait pas moyen de savoir, si, à un moment donné, on était surveillé. Combien de fois, et suivant quel plan, la Police de la Pensée se branchait-elle sur une ligne individuelle quelconque personne ne pouvait le savoir. On pouvait même imaginer qu’elle surveillait tout le monde, constamment. Mais de toute façon, elle pouvait mettre une prise sur votre ligne chaque fois qu’elle le désirait. On devait vivre, on vivait, car l’habitude devient instinct, en admettant que tout son émis était entendu et que, sauf dans l’obscurité, tout mouvement était perçu ». Si nous n’y prenons garde ce qui n’était qu’une fiction dystopique pourrait rapidement devenir réalité.
Nous sommes en 1984 ! L’intelligence artificielle révolutionne la reconnaissance faciale. En 2019, les logiciels de reconnaissance faciale se développent à un rythme sans précédent au point d’être devenus sans nous en rendre compte une réalité de notre quotidien. Chaque jour nous pouvons utiliser la reconnaissance faciale pour nous simplifier la vie (par exemple en déverrouillant nos smartphone) ou nous divertir (comme avec l’application Face App) mais ce qui est véritablement inquiétant c’est le potentiel de ces technologies pour nous contrôler.
Surveillance généralisée en Chine. Les start-up chinoises ont construit des algorithmes permettant de suivre les individus avec une précision terrifiante. Le président Chinois Xi Jinping souhaite ainsi accomplir un « système de crédit social » pour 2020, un système qui semble tout droit inspiré d’une autre fiction : « Black Mirror ». Avec plus 170 millions de caméras placées sur la voie publique, la police chinoise peut déjà repérer des individus qui traversent la rue au feu rouge. Une fois l’infraction commise, leur photo et des extraits de leur numéro de carte d’identité et de leur adresse sont affichés sur des panneaux vidéos placés dans la rue. A Hong Kong cette même technologie est utilisée pour identifier les manifestants. Pourtant alors que le pouvoir détient toutes les armes, policières, juridiques et désormais numériques, les citoyens n’ont pas abandonné leur appétence pour la démocratie et bravent les dangers pour la faire renaître
Un débat qui ne fait que commencer en France ! Si la Chine n’est pas la France, la menace terroriste a renforcé la demande de sécurité au point de faire voler en éclats un certain nombre de consensus. Le 14 décembre dernier, le Conseil Régional de PACA a voté une mesure visant à faire installer, dès cette année, des dispositifs de reconnaissance faciale à l’entrée de deux lycées de Nice et de Marseille. Un écran mis à la disposition des agents de contrôle permettra alors de visualiser trois types de profils : « vert » pour les personnes autorisées à pénétrer dans l’enceinte du lycée, « jaune » pour les personnes non identifiées et invitées à se présenter à l’accueil et « rouge » pour les personnes non identifiées et qui ne se sont pas dirigées dès leur entrée vers l’accueil.
Le 13 mai dernier, un décret du gouvernement a cette fois validé le développement d’une application de reconnaissance faciale à l’échelle nationale pour se connecter aux services en ligne du gouvernement depuis un mobile. L’application baptisée « AliceM », pour Authentification en ligne certifiée sur mobile, a fait l’objet d’un recours devant le Conseil d’État par la Quadrature du Net. L’association reproche au gouvernement d’obliger les citoyens à utiliser un dispositif de reconnaissance faciale pour mettre un terme à l’anonymat sur Internet. Dans un avis, la Cnil (Commission nationale de l’informatique et des libertés) a également critiqué le projet car le consentement de l’utilisateur est biaisé : « pour utiliser AliceM, l’utilisateur est obligé de recourir à la reconnaissance faciale, sans quoi le service n’est pas accessible ».
Priorité à la sécurité ? Si la technologie n’est ni bonne ni mauvaise… elle n’est pas neutre non plus. Il faut en particulier s’inquiéter des dérives potentielles des systèmes de reconnaissance faciale. Alors que Cédric O appelle à la tenue d’un « débat citoyen » pour « examiner les questions légitimes sur l’équilibre entre usages, protection et libertés », nous devons nous positionner en tant que citoyens : souhaitons-nous abandonner un pan complet de nos libertés individuelles contre l’illusion de nouvelles sécurités collectives ?
Les partisans de la reconnaissance faciale invoqueront l’idée selon laquelle ils « n’ont rien à se reprocher et rien à cacher » donc n’ont aucune raison de redouter des atteintes à leur vie privée. S’il apparaît difficile d’apprécier le véritable impact de la vidéosurveillance sur la délinquance (les caméras dans le métro parisien n’ont à ce jour pas arrêté les pickpockets), il faut en revanche considérer l’impact direct et indirect de ces technologies sur les libertés individuelles et collectives. Alors que les délinquants savent s’adapter, et recourent souvent à des moyens pour être méconnaissables, les risques d’empiéter sur la liberté d’action des individus ne doivent pas être négligés.
Problème mondial, solution mondiale. La liberté d’aller et venir est une composante de la liberté individuelle inhérente à la personne humaine. Si elle comprend certaines restrictions (comme la prison), cette liberté ne devrait pas faire l’objet de restrictions non strictement justifiées par les exigences du maintien de l’ordre public.
Cette liberté d’aller et venir est d’ailleurs consacrée par plusieurs instruments internationaux. A l’instar des moratoires internationaux sur les essais nucléaires ou l’utilisation des armes chimiques, il devient urgent de limiter les dispositifs de surveillance utilisant la reconnaissance faciale dans l’espace public mondial.
Une société démocratique doit en effet créer un environnement où chacun doit se sentir libre d’être soi-même en exprimant ses opinions, même si ces dernières peuvent déranger l’opinion dominante. Qui pourrait par exemple garantir la liberté de manifester dans la rue, si les manifestants sont systématiquement identifiables, aujourd’hui par l’Etat, demain par leur entreprise ?