La France va lancer des expérimentations de reconnaissance faciale par des systèmes de vidéosurveillance, durant une période de six mois à un an. Elles auront lieu sous la supervision de la société civile et des chercheurs, indiquent les pouvoirs publics.
Les tests de reconnaissance faciale se dérouleront dans des espaces publics comme une gare et seules les personnes ayant donné leur consentement seront identifiées.
Cette technologie est aujourd’hui quasiment interdite sur la voie publique en France, tandis que le ministère de l’Intérieur a estimé qu’elle sera indispensable pour assurer la sécurité des Jeux Olympiques de 2024 (voir ETS n°657).
Quelques expérimentations ont eu lieu, sous le contrôle de la CNIL, notamment durant le carnaval de Nice en février 2019, ce qui constituait le premier test sur la voie publique (voir ETS n°671). La CNIL s’est prononcé à plusieurs reprises contre des usages jugés excessifs de la reconnaissance faciale, notamment dans des lycées de Nice et Marseille en novembre dernier (voir ETS n°686).
Par ailleurs, des réticences se font jour à l’échelle européenne : l’Union envisage de fixer entre trois et cinq ans la durée avant laquelle la reconnaissance faciale ne pourra pas être déployée dans l’espace public, afin de se donner le temps de fixer des garde-fous efficaces, d’après un projet de la Commission.
Le livre blanc de 18 pages préconise qu’au cours de cette durée d’interdiction, « une solide méthodologie d’évaluation des impacts de ces technologies et d’éventuelles mesures de gestion des risques pourraient être identifiées et développées ». Des dérogations à cette interdiction pourraient néanmoins être accordées de façon ponctuelle et pour mener à bien des projets dans le domaine de la sécurité et en matière de recherche et développement.
En parallèle, l’exécutif européen mise sur un durcissement des règles en vigueur, à même de garantir le respect des citoyens en matière de vie privée et de protection des données personnelles. La Commission suggère également des obligations à imposer aux développeurs et aux utilisateurs de systèmes d’intelligence artificielle, ainsi que la création d’autorités de supervision, pour venir retoquer les projets ayant tendance à outrepasser les limites prédéfinies par la réglementation européenne.
Doutes sur la fiabilité
Ces décisions interviennent alors que des doutes se font jour sur cette technologie. Un centre d’expertise public américain, le National Institute of Standards & Technology, a ainsi publié un rapport montrant des lacunes en matière de reconnaissance faciale. Selon ces chercheurs, cette technologie montre des failles lorsqu’il s’agit d’identifier des personnes dont la peau n’est pas blanche.
Le NIST a testé près de 190 algorithmes disponibles dans le monde et une base de données contenant plus de 18 millions d’images provenant de 8,5 millions de personnes. Les logiciels développés aux Etats-Unis sont ceux qui font ressortir le taux d’erreur le plus fort pour les asiatiques, les noirs et les amérindiens, indique le rapport. Ils ont même trouvé deux algorithmes qui se trompaient dans 35% des cas pour déterminer le sexe de femmes noires. Les logiciels développés en Asie ne présenteraient pas ce défaut, affirment les chercheurs.
Pour sa part, Sundar Pichai, PDG de Google, — un groupe qui a pourtant massivement investi dans ce domaine –, déclare qu’il existe de « réelles inquiétudes concernant les potentielles conséquences négatives de l’intelligence artificielle, des deepfakes jusqu’aux utilisations néfastes de la reconnaissance faciale ». Il souhaite la mise en place de standards mondiaux pour encadrer l’utilisation de l’IA.