Surveiller les individus et les corriger, dans les deux sens du terme, c’est-à-dire les punir ou les « pédagogiser » est une fonction qui a toujours existé puisqu’elle est le corollaire du maintien de l’ordre social et des formes de pouvoir. En plein cœur du Péloponnèse, à Sparte, un directoire, composé de cinq magistrats élus -les éphores- avait ainsi pour mission le contrôle général de la cité. Avec le dispositif de la reconnaissance faciale, ce sont les modalités mêmes du contrôle exercé par l’État -l’utilisateur final de cette technologie – et par les entreprises -les détenteurs de cette technologie- qui interrogent. S’il est un moyen de sureté et de sécurité nécessaire pour protéger la population2 , sa généralisation -crainte par l’emploi qui en est déjà fait en Chine ou au Royaume-Uni- interroge non moins les experts juridiques et éthiques que la société toute entière. La demande sans cesse renouvelée de ces mêmes experts d’un moratoire, illustre bien la question sociétale sousjacente : souhaite-t-on, nous citoyens, que la surveillance « s’exerce au niveau non plus de ce qu’on fait, mais de ce qu’on est, au niveau non de ce qu’on a fait, mais de ce qu’on peut faire? ».

En effet, les dispositifs de surveillance actuels, dont la reconnaissance faciale, se nourrissent des données pour réaliser une cartographie des lieux, des personnes et des activités. Une vision à 360 degrés qui permet de comprendre les habitudes de la population et ainsi de déterminer les critères de dangerosité des individus non plus seulement en fonction de leur conduite mais de leur comportement voire de leur personnalité.
La reconnaissance faciale a ainsi deux applications et deux conséquences. Elle nourrit le profilage en recueillant des données et concourt à leur traitement et donc à caractériser ce profilage. De fait, elle influence la prise de décision finale en ciblant des suspects et transforme le concept politique de « gouvernementalité ». Définie par Foucault, la gouvernementalité est un « ensemble constitué par les institutions, les procédures, analyses et réflexions, les calculs et les tactiques », ayant pour but de « disposer des choses », c’est-à-dire d’obtenir la discipline et l’obéissance de la population sans passer par la contrainte physique et au-delà des normes positives. Un concept auquel Antoinette Rouvroy a apposé le terme algorithmique afin de rendre compte d’une réalité : les systèmes automatiques ont fait du monde physique un objet d’observation, de classification et d’évaluation afin d’agir sur « les possibilités d’action des personnes ». Une transformation silencieuse et durable de la gouvernementalité qui trouve, à travers le terme algocatrie, ses dérives : « l’homme devient un document comme les autres » et le gouvernement une plateforme de gestion des algorithmes.

Si nous comprenons l’intérêt sécuritaire d’un dispositif comme la reconnaissance faciale, nous nous questionnons toutefois sur son impact : que pouvons-nous craindre en redoublant d’éphores?

>> Télécharger la note <<


À propos des auteurs

Ysens de France

Docteure en droit public, elle est spécialisée en robotique terrestre. Dans le cadre de son doctorat, elle s’est particulièrement intéressée à l’émergence de systèmes militaires robotisés autonomes dans les conflits armés. Une approche spécifique qui a construit une réflexion prospective et transverse des enjeux liés à l’innovation technologique. Le champ d’application de ses recherches est européen et international, à l’instar de sa collaboration avec euRobotics. Elle est actuellement directrice de la prospective à l’Institut Sapiens.

Emmanuel R. Goffi

Directeur de l’Observatoire Ethique & Intelligence Artificielle de l’Institut Sapiens. Il est spécialiste en sciences politiques et éthiques. Il a servi durant 25 ans dans l’armée de l’Air française. Titulaire d’un doctorat en sciences politiques de Science Po Paris, Emmanuel est également professeur en éthique des relations internationales à l’ILERI et chercheur associé au Centre for Defence and Security Studies à la University of Manitoba, à Winnipeg, Emmanuel a enseigné et conduit des travaux de recherche dans de nombreux établissements universitaires en France et aux Canada. Il intervient régulièrement dans des colloques et dans les médias. Il a publié de nombreux articles et chapitres d’ouvrages et est l’auteur de Les armées françaises face à la moral : une réflexion au cœur des conflits modernes(Paris : L’Harmattan, 2011) et a coordonné un ouvrage de référence sur les drones, Les drones aériens : passé, présent et avenir. Approche globale(Paris: La Documentation française, coll. Stratégie aérospatiale, 2013). Ses recherches portent essentiellement sur l’éthique appliquée à la robotique et à l’intelligence artificielle, notamment dans le domaine de la défense.

Laisser un commentaire