La France, par son secrétaire d’État chargé du Numérique, a annoncé le 24 décembre 2019 vouloir expérimenter des technologies de reconnaissance faciale dans l’espace public.
Est-elle sur le point d’ouvrir la boite de Pandore ?
La grande idée
Alors voilà. On est le 24 décembre, la France se pare de son blanc manteau (non), les décorations de Noël sont en place, tout est prêt pour passer un bon réveillon. Et Cédric O, secrétaire d’État chargé du Numérique, lâche une bombe dans la presse : le gouvernement veut expérimenter avec la reconnaissance faciale.
Tout démarre avec une interview dans Le Parisien, où Cédric O donne la feuille de route de l’application d’authentification Alicem. Il termine en expliquant qu’il souhaite une « expérimentation de six mois à un an » de reconnaissance faciale sur les images de vidéosurveillance. Seulement, « cette utilisation n’est aujourd’hui pas autorisée, car le RGPD interdit l’utilisation de la reconnaissance faciale sans le consentement des personnes qui y sont soumises ». Fatalitas.
Qu’importe, le cabinet du secrétaire d’État donne la clé du problème plus tard dans la journée chez Les Échos : « seuls les individus qui auront donné leur consentement seront identifiés lors de cette expérimentation ».
Si l’idée est séduisante sur le papier, et semble répondre aux exigences du RGPD, il y a toutefois un petit problème. Oh trois fois rien.
Reconnaissance de Schrödinger
Je me promène avec mes amis Romain et Paul dans une gare, sous le regard attentif et néanmoins numérique d’une caméra de vidéosurveillance. Romain s’oppose à la reconnaissance faciale, Paul y consent. Le système peut donc identifier Paul, mais pas Romain. Comment le sait-il ? Parce qu’il a un registre central des consentements, et sait que Paul est d’accord. Mais comment sait-il que l’amas de pixels de droite est Paul ? Eh bien parce qu’il a comparé ces pixels à une image de référence (au hasard celle du passeport/CNI) et a déterminé qu’il s’agit bien de Paul, et qu’il a donc le droit de faire cette identification.
Tout va bien ? Presque.
Considérons maintenant le tas de pixels de gauche, c’est Romain. C’est la même rengaine : le système va essayer de retrouver une image de référence correspondant au visage capté sur la vidéosurveillance. Il va déterminer qu’il s’agit de Romain par reconnaissance faciale, puis va consulter le registre des consentements. Et là, fatalitas toujours, il va s’apercevoir qu’il n’aurait jamais du faire cette reconnaissance car Romain s’y oppose. Mais comment aurait-il pu le savoir ?
Hé oui, pour appliquer un traitement à un sous-ensemble de personnes sur la base d’un consentement préalable, il faut commencer identifier tout le monde pour retrouver le consentement.
Et demain ?
Plusieurs scénarios peuvent être envisagés.
L’issue facile
La reconnaissance faciale peut être rendue semi-obligatoire : rentrer dans tel ou tel lieu vaudra consentement à la reconnaissance faciale, tout comme aujourd’hui rentrer dans un lieu sous vidéosurveillance vaut acceptation de la captation de votre image. Cela aurait pour avantage de sortir du paradoxe précédemment décrit.
Il est également possible d’imaginer que la reconnaissance faciale sera généralisée à l’espace public et qu’on ne laissera plus le choix, pour des raisons de sécurité nationale.
De toute façon, ce n’est pas plus intrusif que le déverrouillage des smartphones par reconnaissance du visage, ce que beaucoup de gens font déjà. Si ?
Admettons. Les réseaux de vidéo-protection déjà mis en place partout en ville font de la reconnaissance faciale. Que se passera-t-il lorsque le système ne pourra pas identifier quelqu’un ? Alors certes, le voile intégral va poser un problème et d’aucuns y verront une raison de plus pour l’interdire. Mais ce n’est pas le seul cas possible.
Le système peut-il gérer des lunettes de soleil ? Du maquillage un peu intense ? un contre-jour ? le fait que je me couvre les yeux avec la main pour me protéger du soleil ?
Quelle est la bonne réaction face à une identification négative ? est-ce un terroriste en puissance ou un défaut technique ? L’anonymat est-il une raison suffisante pour devenir suspect ?
Le totalitarisme
Poussons encore plus loin l’imagination. Maintenant que l’État peut identifier à la volée tout individu de manière automatique (je n’ai pas dit fiable), est-ce qu’on n’en profiterait pas pour verbaliser automatiquement les comportements répréhensibles ? Par exemple traverser au feu rouge, jeter un détritus au sol…
Vous pourriez objecter que verbaliser pour ça est un peu excessif, et vous auriez sans doute raison. Une alternative serait un permis social à points, où des écarts mineurs conduiraient à des retraits de points. En fonction de votre niveau de socialisation, vous auriez accès à plus ou moins de privilèges. Par exemple, quelqu’un qui se comporte mal dans les trains pourrait se voir bannir tant que ses points ne remontent pas.
Cela vous rappelle quelque chose ? C’est effectivement le système de score social mis en place par la République Populaire de Chine pour contrôler sa population (voir Wikipedia et le DailyMail).
Sur une autre thématique, souhaite-t-on vraiment donner au gouvernement cette capacité d’identification ? Oh le gouvernement de M. Philippe vaut ce qu’il vaut, mais demain ? Après-demain ?
N’est-ce pas le rêve de tout État totalitaire que de pouvoir identifier rapidement une masse de manifestants ? Vous pensez à Hong-Kong ? c’est normal.
Si nous avons un jour un gouvernement raciste, islamophobe, antisémite, etc., est-il judicieux de lui donner les armes pour discriminer sur n’importe quel critère réel ou supposé ? Oui, c’est aussi ce que fait la République Populaire de Chine avec sa population musulmane.
L’esprit de Noël
Dernière voie que nous allons explorer : tout se passe bien.
Des instances de contrôle fortes, comme la CNIL, sont en place et encadrent strictement les usages de cette technologie. Elles sont correctement dotées financièrement, en ressources humaines, en moyens de contrôle et de sanction-réparation.
Un mécanisme de protection des identifications protège l’identité de tout un chacun contre les regards curieux des autorités et des individus ayant un accès au système.
Les politiciens au pouvoir sont conscients des possibles atteintes aux libertés individuelles fondamentales et restreignent strictement l’usage qu’ils font de la reconnaissance faciale. En particulier, ils ne s’en servent pas pour réprimer des manifestations ou traquer des populations entières.
Bref, bienvenue dans un monde fantastique.
Bien sûr, chaque médaille a deux faces, et la reconnaissance faciale n’y fait pas exception. J’évoquais plus tôt le déverrouillage simplifié des smartphones (bien que cela vienne avec ses propres risques…), mais on peut aussi souligner qu’il s’agit d’une méthode d’authentification renforcée par rapport à un simple mot de passe (lorsqu’elle fonctionne).
De nouveaux services publics et commerciaux pourraient voir le jour. On pourrait même avoir une nouvelle licorne française. Sommes-nous prêts à en payer le prix ?