La reconnaissance faciale, nouveau visage de la surveillance?

Le 19 janvier dernier, le New York Times nous apprenait que plus de 600 services policiers ont eu recours àune technologie qui utilise la reconnaissance faciale pour identifier des gens à partir de photos prises sur Facebook, YouTube et d’autres sites Web. La reconnaissance faciale soulève des enjeux éthiques importants concernant la surveillance, la protection des droits et libertés fondamentaux, dont le droit à la non-discrimination et l’équité, la protection de la vie privée et des renseignements personnels. En plus, la reconnaissance faciale permet d’expliciter et d’illustrer certains enjeux éthiques liés à l’intelligence artificielle, dont la possibilité d’introduire des biais, des enjeux liés à la transparence et à l’explicabilité des algorithmes, et la dilution de la responsabilité lorsque des algorithmes participent à la prise de décision.

La reconnaissance faciale faisait l’objet des délibérations des participants de la 8e édition de la CEST-Jeunesse*. Qu’en pensent donc ces jeunes? Nous effectuons ici un premier retour sur cette activité.

Qu’est-ce que la reconnaissance faciale et à quoi peut-elle servir concrètement?

La reconnaissance faciale n’est pas une seule technologie, mais plutôt un ensemble de technologies. Essentiellement, la reconnaissance faciale consiste en le développement d’algorithmes d’intelligence artificielle (IA) pour identifier des individus ou confirmer leur identité. La reconnaissance faciale peut être ajoutée à un système de caméras déjà existant, mais peut aussi être utilisée par des gestionnaires de réseaux sociaux pour identifier automatiquement des personnes présentes sur des photos.

Les usages de la reconnaissance faciale sont multiples et ces différents usages ne soulèvent pas nécessairement les mêmes risques et enjeux éthiques. Pour bien évaluer cette technologie, il faut d’abord déterminer s’il y a identification de la personne ou non.

La reconnaissance faciale peut être utilisée pour confirmer l’identité d’une personne. Dans ce cas, la technologie répond à la question « est-ce que la personne x est bien celle qu’elle prétend être? » Il s’agit, pour la plupart des cas, d’automatiser quelque chose qui se fait déjà : la validation de l’identité d’une personne se ferait par un algorithme plutôt que par un agent de sécurité, par exemple.

La reconnaissance faciale peut être utilisée pour identifier une personne. Dans ce cas, la technologie répond à la question « qui est la personne x? » Il ne s’agit alors pas de valider l’identité d’une personne pour que celle-ci puisse avoir accès à un lieu. Il pourrait plutôt s’agir de reconnaître une personne dans une foule, ou encore de trouver des photos d’une personne disponibles sur le Web à partir d’une photo connue.

La reconnaissance faciale peut être utilisée pour détecter des visages. Dans un tel contexte, il s’agirait d’utiliser cette technologie pour distinguer les humains des objets dans une image, comme cela pourrait être le cas avec la voiture autonome. De manière très importante, la reconnaissance faciale peut aussi être utilisée pour détecter et analyser des visages, allant jusqu’à déterminer des caractéristiques d’une personne (âge, sexe, genre, origine ethnique, etc.), des traits de personnalité (par exemple, est-ce une personne extravertie ou introvertie?) ou les émotions vécues par cette personne. Dans ce contexte, la reconnaissance faciale pourrait être utilisée dans les centres commerciaux pour collecter des données sur les consommateurs, sans nécessairement les identifier.

Certains de ces usages de la reconnaissance faciale laissent aussi la place à différentes fins, différents usages. Par exemple, la reconnaissance faciale peut être utilisée à des fins de sécurité, que ce soit par les forces policières pour résoudre des enquêtes ou pour prévenir des crimes, que par des entreprises privées pour contrôler l’identité des utilisateurs d’un lieu, comme une salle de spectacle. Cette même technologie peut aussi être utilisée à des fins commerciales, pour personnaliser l’offre aux consommateurs ou pour personnaliser les publicités présentées à un individu. La reconnaissance faciale peut aussi être utilisée dans un contexte de relation d’aide pour mieux comprendre les émotions exprimées par le visage d’une personne. De manière similaire, la reconnaissance faciale peut être utilisée dans un contexte de relation d’emploi, que ce soit pour tenter de diagnostiquer des signes précurseurs de problèmes de santé mentale des employés, que pour réaliser des entrevues d’embauche en détectant les émotions ou les caractéristiques de la personnalité d’un candidat à un emploi. Finalement, la reconnaissance faciale peut être utilisée dans un contexte de divertissement. Par exemple, des consoles de jeux vidéo munies d’une caméra de reconnaissance faciale pourraient collecter des données sur les utilisateurs lorsqu’ils jouent à un jeu en particulier, pour déterminer s’ils apprécient celui-ci, proposer de nouveaux jeux à ces utilisateurs, etc.

Quatre grands enjeux soulevés par les membres de la CEST-Jeunesse 2020

Les discussions et délibérations de l’édition 2020 de la CEST-Jeunesse ont été riches. Quatre grands enjeux prioritaires ont été soulevés.

Le premier enjeu prioritaire concerne la protection des droits et libertés fondamentaux des individus, entre autres contre la discrimination, la répression et les abus. Comment veiller à ce que des groupes vulnérables ou minoritaires dans une population diversifiée ne soient pas l’objet de discrimination? Comment s’assurer qu’un système de reconnaissance faciale n’avantage pas une partie de la population au détriment d’une autre, par exemple les individus avec une peau plus foncée? Comment protéger les individus contre les nouvelles inégalités sociales que la reconnaissance faciale pourrait introduire? Comment lutter contre la possibilité que la reconnaissance faciale participe à cristalliser des inégalités sociales existantes? Comment favoriser un consentement explicite, libre, éclairé et répété, surtout dans un contexte où les conditions d’utilisation aux technologies d’IA sont souvent complexes?

Le deuxième enjeu prioritaire concerne l’éducation et la sensibilisation du grand public par rapport aux technologies liées à la reconnaissance faciale. Quelles conditions doivent être réunies pour qu’un réel consentement soit possible? Comment éviter une peur irrationnelle envers la technologie de la reconnaissance faciale? Quelles sont les ressources nécessaires à donner aux individus pour qu’ils puissent jouir de leur autonomie, et comment leur donner ces ressources?

Le troisième enjeu prioritaire identifié par les membres de la CEST-Jeunesse concerne la transparence des technologies qui utilisent la reconnaissance faciale. Quels mécanismes devraient être mis en place pour que nous puissions savoir comment les technologies de la reconnaissance faciale fonctionnent? Comment résoudre les enjeux d’explicabilité liés à la reconnaissance faciale?

Le quatrième et dernier enjeu prioritaire identifié par les membres de la CEST-Jeunesse concerne l’imputabilité de la part des utilisateurs des technologies de la reconnaissance faciale. Comment assurer que les technologies de la reconnaissance faciale soient fiables et efficaces? Comment veiller à ce que l’utilisation de ces technologies n’empiète pas sur les droits et libertés fondamentaux des individus? Serait-il nécessaire qu’un humain soit toujours imputable d’une décision prise par un système de reconnaissance faciale?

Les conclusions et les recommandations de la CEST-Jeunesse 2020 seront rendues publiques ce printemps. Restez à l’affut!

* La CEST-Jeunesse est une activité de la Commission de l’éthique en science et en technologie destinée aux étudiants de niveau collégial. Elle se tient tous les deux ans et l’édition 2020 s’est tenue à Québec du 13 au 16 janvier. La CEST-Jeunesse était constituée de 13 étudiants provenant du Cégep de la Gaspésie et des Îles, du Cégep de Sainte-Foy, du Collège Brébeuf et du Cégep André-Laurendeau.

Pour en savoir plus, consultez la page thématique de la CEST-Jeunesse 2020 sur la reconnaissance faciale.