La loi numérique exige depuis 2017 une transparence entière et sans concession de tous les algorithmes décisionnels à caractère individuel, utilisés par la fonction publique. Écrit autrement, les algorithmes qui fournissent à l’administration une décision sur un citoyen doivent être explicités publiquement. Les motivations sont justes et évidentes : ces algorithmes, qui contribuent même partiellement à la vie de la cité, doivent être disponibles à tout moment par tous les individus de notre pays. A priori, cette idée est une bonne nouvelle pour la responsabilité de l’État. Et pourtant, c’est l’archétype de la fausse bonne idée, ou plutôt c’est le chemin pour parvenir à un tel objectif qui ne va pas. La transparence des algorithmes, oui, mais pas n’importe comment et sûrement pas à n’importe quel prix !

Comprendre l’algorithme

Que ce soit dans le calcul d’impôts, l’attribution d’allocations ou encore la répartition des bourses scolaires, ces algorithmes ont des niveaux de complexité variables et des responsabilités nuancées. En effet, un bug algorithmique qui mène à une erreur de prise de rendez-vous à la PMI n’a pas les mêmes conséquences qu’un défaut dans un algorithme d’admission des élèves en études supérieures. Cela étant dit, leur transparence à tous permet en théorie de les améliorer, d’établir un lien de confiance avec le citoyen et d’innover encore davantage par l’identification de nouveaux besoins exprimés par les utilisateurs. Et pourtant, les chemins pour y parvenir sont nombreux et, pour certains, tortueux et bancals.

Publier explicitement et de manière intelligible la logique de l’algorithme est efficace à l’unique condition que le citoyen puisse comprendre. En effet, la boucle rétroactive d’amélioration des outils numériques de l’État ne peut fonctionner que si les individus ont une connaissance, même large, du sujet de fond : le fonctionnement d’un algorithme. Remettre en question un critère, une condition ou encore une hypothèse algorithmique, à travers son propre cas d’usage ou tout simplement à partir de son sens critique, est un levier démocratique fort pour le citoyen et donc pour notre pays. Par cette acculturation algorithmique, les citoyens deviennent des collaborateurs proactifs et exigeants de l’État. Sans cet accompagnement, on risque de tomber dans un désordre social dont la finalité peut se traduire chez les citoyens par un rejet épidermique de la transformation digitale de l’État.

 

Il existe un grand nombre de raisons pour lesquelles un algorithme présente un défaut. Entre autres, l’erreur peut provenir des critères de l’algorithme lui-même ou encore d’une mauvaise programmation informatique de cet algorithme au sein du logiciel de l’administration. Les erreurs existent. En cela, il est nécessaire de permettre aux administrations de prendre un temps significatif à revoir, tester et reprendre leurs algorithmes décisionnels avant de leur imposer une publication non négociable. Activer trop rapidement la loi risque d’affaiblir la réputation et le fonctionnement de nos institutions.

Afin de préserver les libertés de tous, il est aujourd’hui nécessaire de fournir aux citoyens de nouvelles armes démocratiques à travers une certaine maîtrise technologique. La transparence des algorithmes est une bonne idée, mais son applicabilité floue peut finalement la rendre opaque. Un éclairage algorithmique s’impose !


Publié dans Le Point

Docteur en sciences de formation et entrepreneuse, elle navigue depuis plus de 10 ans dans les sciences numériques entre les États-Unis et la France. Aurélie a utilisé ses compétences en mathématiques et programmation informatique dans de nombreuses disciplines telles que l’ingénierie, la médecine, l’éducation, l’économie, la finance ou encore le journalisme. Aurélie s’engage plus généralement à développer un monde technologique inclusif en luttant contre les biais algorithmiques et en communiquant régulièrement et auprès du plus grand nombre sur les technologies numériques et l’intelligence artificielle.

Une pensée sur “La transparence des algorithmes : une (fausse) bonne idée  ?”

Laisser un commentaire