Fin août, la revue spécialisée The Wired annonçait la volonté du géant américain, Google, de proposer très prochainement une offre de conseil en éthique du numérique reposant sur un triptyque – formation, conseil et audit – et visant, par exemple, à accompagner les organisations à « l’élaboration de directives éthiques qui régissent les projets d’Intelligence Artificielle (IA) » ou encore à « la détection de préjugés raciaux dans les systèmes de vision par ordinateur ». L’« Ethics As A Service » comme le nomme si bien l’article[1]

Cette annonce, à faire rire Démocrite et pleurer Héraclite, semble emprunter au registre du comique tout autant qu’à celui du tragique, tant elle mêle, de manière crue, le grotesque et le funeste.

Le grotesque tout d’abord, pour quiconque se rappelle les nombreux déboires de Google en matière « d’éthique » : du logiciel de reconnaissance d’image retiré car ayant confondu un singe avec un individu d’origine afro-américaine jusqu’à la fronde de certains collaborateurs suite aux révélations de l’existence d’un contrat secret avec le Pentagone, en passant par l’implosion de son comité d’éthique nouvellement institué… Espérons que certaines leçons auront été tirées de ces errements !

Le funeste ensuite, si l’on considère que, comme toute société privée, Google est soumise à des impératifs de rentabilité qui interrogent sur sa capacité à faire vivre une véritable réflexion éthique sincère et aux contours non-bornés. D’autant plus que l’on peut craindre que le cadre éthique ainsi défini influence voire conditionne les futures lois applicables à la matière, en vertu de l’axiome justement mis en avant par la CNIL[2], selon lequel les normes éthiques préfigurent les normes juridiques. Le risque sous-jacent de privatisation de fabrique de la norme est ici saillant : Google occupe en effet une position de leader incontestée sur le secteur des nouvelles technologies et de l’IA qui lui assure une aura particulière auprès des décideurs publics.

Funeste également car la société basée à Moutain View n’a pas précisé pour le moment comment elle comptait mettre en place la fameuse « Muraille de Chine » indispensable à l’exercice intègre des métiers de conseil et d’audit, auxquels il convient d’ajouter, dans ce cas précis, celui de fournisseur de solutions numériques. Une confusion des genres qui interroge. Vendra-t-on de l’accompagnement en éthique pour offrir des solutions numériques conformes, ou préféra-t-on vendre des solutions numériques qui nécessitent de proposer de l’accompagnements en éthique ensuite ? Nul doute qu’une réponse d’ordre organisationnelle sera trouvée pour résoudre ce conflit d’intérêts apparent, mais le malaise persiste : quelle éthique de l’éthique est-on en droit d’attendre de la part du géant du numérique ?

Funeste enfin, car il semble tout à fait possible que Google parvienne effectivement à ses fins et devienne un acteur incontournable de l’éthique du numérique à la mode « Do the Right Thing » comme son slogan l’y engage. Cette situation mènerait la société au célèbre moteur de recherche à imposer de manière douce ses convictions sociétales à travers un réseau de compatibilité technique et morale sous pavillon californien, orphelin de toute sensibilité européenne ou française. Or l’on sait que la technique n’est pas neutre et qu’elle influe et structure les sociétés dans lesquelles elle se voit déployée… De l’imprimerie aux réseaux sociaux en passant par l’aviation civile, les technologies ont le pouvoir de bouleverser les équilibres établis. Aussi quand bien même il ne ferait pas de doute que Google, ses décideurs et collaborateurs, soient tous dotés des meilleures motivations, une question demeure : est-on assuré de tous vouloir vivre dans la société rêvée d’une poignée d’ingénieurs vivant dans la Silicon Valley ? Rien n’est moins sûr…

Dans ce contexte, il est urgent que français et européens fassent entendre leur voix, à un moment où le champ d’expertise de l’éthique appliquée au numérique se structure. Comme il l’a fait en matière de protection des données personnelles, le régulateur européen se doit de définir et d’indiquer le champ des possibles en matière d’IA. À charge pour les entreprises françaises et européennes de jouer le jeu et de participer à l’élaboration de ce cadre, si elles ne souhaitent pas se priver de leur libre arbitre lorsque viendront les injonctions américaines futures.


[1] Pour consulter l’article dans son entièreté : https://www.wired.com/story/google-help-others-tricky-ethics-ai/

[2] Dans son rapport, CNIL « Comment permettre à l’homme de garder la main », 2017, p.24

Laisser un commentaire