Reconnaissance faciale... Le monde de demain, c'est aujourd'hui

La décision fait suite à la mort de George Floyd. Les géants de la tech que sont IBM, Microsoft et Amazon, chacun à leur tour, ont annoncé qu'ils refusaient de laisser la police utiliser leur technologie de reconnaissance faciale.

Les raisons ? Microsoft demande qu'il y ait d'abord une loi encadrant l'utilisation d'une telle technologie par les forces de l'ordre. IBM a, de son côté, abandonné le développement d'un outil qui allait contre ses valeurs de droit à la vie privée et de liberté. Quant à Amazon, il a annoncé un moratoire d'un an avant qu'il ne laisse à nouveau la police utiliser son software... Car Amazon louait sa technologie de reconnaissance faciale à la police depuis quelques temps déjà.

« Big Brother is Watching You »

Personne ne vous l'a encore dit, mais Big Brother is watching you ! Et pas seulement en Chine où les policiers sont munis de lunettes permettant la reconnaissance faciale, façon Terminator. Nom, prénom, identité, adresse et que sais-je. La Chine est un Etat de surveillance de masse digne de la série Black Mirror où chaque citoyen est fiché et connu par l'Etat mieux que par lui-même. Et l'Europe a beau pointer du doigt cette façon de faire orwellienne, elle n'est pas en reste...

La France et le Royaume-Uni sont les deux pays fers de lance qui développent et utilisent la reconnaissance faciale. Si vous avez voyagé à Londres en Eurostar ces dernières années, votre visage a été scanné à votre arrivée à la gare Saint-Pancras. Il y a quelques mois, la police municipale faisait un test nature devant le centre commercial de Stratford. En France, l'application Alicem (pour Authentification en ligne certifiée sur mobile) est testée par le Ministère de l'Intérieur. En Belgique, selon nos informations, des sociétés de sécurité informatique sont sur le point de commencer à développer la technologie.

Pour quoi faire ?

Un scan biométrique de votre visage comparé à une base de données étendue et votre visage est reconnu par la machine. D'où vient cette base de données ? De votre passeport biométrique et des photos que vous postez sur Facebook, Google, Instagram, etc. Photos bien souvent revendues à des acteurs privés. Les photos sont des données personnelles et les données personnelles sont l'or du XXIe siècle. Assureurs, banques, marques commerciales en profitent pour assurer un service sur mesure.

Il y aurait trois utilités à la reconnaissance faciale : au niveau de la mobilité (plus besoin de carte de transport pour monter dans un bus/train/avion, un simple scan de votre visage suffira) ; au niveau business (plus besoin de payer avec une carte de crédit ou de l'argent, un simple scan de votre visage suffira) ; et au niveau de la sécurité (plus besoin d'essayer de se cacher dans la foule, un simple scan de votre visage suffira à savoir qui vous êtes).

Le Meilleur des mondes ?

En somme, c'est pratique. Ca facilité la vie. Mais tout cela au risque d'un recul sensible des libertés individuelles. D'autant qu'il y a deux problèmes majeurs concernant la technologie. Un problème éthique, tout d'abord : il n'y a aucun cadre juridique qui permet son utilisation en s'assurant que les droits de chacun sont respectés. En Europe, seul le RGPD, encore très imparfait deux ans après sa mise en oeuvre, protège le citoyen de l'utilisation par un tiers des données personnelles. Mais avec la reconnaissance faciale, c'est une autre ère qui s'ouvre, bien plus invasive encore. L'Union européenne interdit toujours la reconnaissance faciale. Mais à partir du moment où des pays membres comme la France développent la technologie pour une utilisation publique, jusqu'à quand cette interdiction va-t-elle tenir ?

Ensuite, la technologie... N'est pas fiable. C'est peut-être la principale raison pour laquelle les trois géants de la tech refusent à la police américaine d'utiliser leur technologie : elle n'est pas au point. En particulier, elle reconnaît plus difficilement les personnes... A la couleur de peau foncée. Le risque de discriminations envers les Noirs est encore multiplié par le système. Un test du logiciel d'Amazon par l'Union américaine pour les libertés civiles (ACLU) sur des députés américains a confondu une trentaine d'entre eux avec des criminels connus des services de police.

Le monde de demain

Pour autant, la marche vers plus d'intelligence artificielle semble inéluctable. On travaille déjà à des smart cities, des villes où tout est connecté, enregistré, fiché, surveillé. La crise du coronavirus pousse dans cette direction. Applications de tracing, bilan santé via smartphone... Bienvenue dans le meilleur des mondes... La technologisation de la société est en marche, mais dans quel cadre ? Nombreux sont ceux qui demandent un débat sur la techno-cité de demain et une juridiction qui l'encadre pour conserver nos libertés.

Olivier Servais, anthropologue à l'UCLouvain, nous prévenait il y a quelques mois : « Le problème est qu’il n’y a pas du tout de vision globale de la part du politique sur ces choses-là. Globalement, en termes de conscientisation, il y a un énorme travail à faire. On n’est pas très loin de la dystopie dépeinte dans une série comme « Black Mirror », les gens doivent se réveiller et en prendre conscience ».

Pour le philosophe Mark Hunyadi, « il n’y a pas de fatalité. J’en appelle à une réflexion sur la numérisation du monde qui débouche sur une certaine forme de régulation. La seule réflexion qu’on a aujourd’hui, c’est que si on ne le fait pas, les autres vont le faire à notre place. Arrêtons avec ce fantasme de concurrence avec la Chine ! Veut-on vivre comme en Chine avec des crédits sociaux ? On peut faire les choses autrement ».