Les enjeux éthiques soulevés par la reconnaissance faciale

La reconnaissance faciale fait beaucoup jaser, la plupart du temps en lien avec les enjeux éthiques qu’elle soulève : protection de la vie privée, profilage, respect de la dignité des personnes, sécurité publique, etc. Les autorités publiques et les entreprises privées aux Québec devraient-elles utiliser la reconnaissance faciale? Si oui, dans quelles circonstances et à quelles fins?

La 8^e CEST-Jeunesse s’est réunie du 13 au 16 janvier 2020 dans l’objectif de réfléchir à cette question et de proposer des balises propres à assurer une utilisation responsable de la reconnaissance faciale. Les membres de la CEST-Jeunesse, treize (13) étudiantes et étudiants de niveau collégial, se sont demandé quels étaient les bénéfices et les risques associés aux différentes utilisations de la reconnaissance faciale, quelles valeurs étaient mises en jeu par ces utilisations, et quelles devraient être les actions prioritaires à poser pour le gouvernement du Québec. L’avis publié fait rapport des travaux de la CEST-Jeunesse 2020, de ses questionnements, de ses constats et de ses recommandations.

Sur cette page :

• Qu'est-ce que la reconnaissance faciale?
• Considérations d'ordre éthique
• Analyse et recommandations

Qu'est-ce que la reconnaissance faciale?

Il est possible de distinguer trois fonctions des technologies modernes de la reconnaissance faciale (RF) :

1. La confirmation de l’identité d’une personne. Dans ce cas, il s’agit de vérifier l’identité d’une personne. Le système de RF répond alors à la question « est-ce que la personne x est bien celle qu’elle prétend être? » Cette fonction permet de déterminer si une personne a bien le droit d’avoir accès à un lieu sécurisé. Dans plusieurs cas, un système de RF peut être utilisé au même titre qu’un autre système d’authentification biométrique (empreinte digitale, iris de l’œil, etc.) ou que la vérification manuelle par un agent de sécurité.
2. L’identification d’une personne. Dans ce cas, le système de RF cherche à répondre à la question « qui est la personne x? » Il ne s’agit alors pas de valider l’identité d’une personne pour que celle-ci puisse avoir accès à un lieu sécurisé, par exemple. Il pourrait plutôt s’agir de reconnaître une personne dans une foule, ou encore de trouver des photos d’une personne disponibles sur le Web à partir d’une photo connue.
3. L’analyse des caractéristiques des visages ou d’une personne. Dans ce cas, la RF peut être utilisée pour déterminer les caractéristiques d’une personne (âge, sexe, genre, origine ethnique, etc.), des traits de personnalité (par exemple, est-ce une personne extravertie ou introvertie?) ou les émotions vécues par cette personne. Il ne s’agit alors pas d’authentifier ou d’identifier cette personne.

Lorsqu’il s’agit d’identifier une personne ou de confirmer son identité, le système de RF devra concevoir un gabarit à partir de l’image qu’il aura reçue. Il retiendra plusieurs points clés (plusieurs dizaines, voire plus d’une centaine selon les systèmes) qui identifient le visage. Ce gabarit sera comparé avec d’autres images afin d’estimer la correspondance avec ces dernières. Voici, sommairement, les étapes de fonctionnement d’un système de RF.

1. La détection du visage : le système détecte la présence d’un visage humain dans une image ou un vidéo, qui peut s’effectuer en temps réel ou à partir de banque de données déjà enregistrées.
2. L’analyse du visage : le système extrait les traits et peut aussi détecter les caractéristiques génériques (ex. âge, genre, couleur de peau), tout comme les caractéristiques émotionnelles du visage.
3. L’association du visage : le système compare les données reçues avec celles de banques de données comportant d’autres visages et traits, permettant de confirmer ou d’infirmer l’identité de l’individu ou encore d’interpréter ses émotions.
4. Le système rend un résultat sur la correspondance.

Lorsqu’il s’agit uniquement d’analyser les caractéristiques des individus, sans chercher à les identifier ou à confirmer leur identité, le système pourra alors seulement accomplir les deux premières étapes.

Considérations d'ordre éthique

Voici un résumé des considérations d'ordre éthique abordées dans le contexte de la 8^e CEST-Jeunesse:

• Efficacité, efficience et fiabilité : Est-ce qu’une technologie doit être efficace ou fiable à 100% pour être acceptable? Dans le cas où la RF vise à effectuer le travail normalement fait par un être humain (comme pour les contrôles de sécurité), est-ce suffisant qu’elle soit aussi fiable que l’humain? Quel devrait être le seuil de fiabilité minimal pour qu’elle soit acceptable, selon les différents contextes? Enfin, même si la RF était fiable à 100%, y a-t-il des situations où son utilisation serait néanmoins inacceptable?
• Égalité, équité et non-discrimination : Que faire lorsque la reconnaissance faciale est moins fiable pour établir des correspondances lorsque les personnes visées sont non blanches, ou lorsqu’elles sont des femmes, des personnes âgées ou des enfants? Est-ce que cela constitue une discrimination? Que faire avec les biais qui pourraient être introduits dans les systèmes de reconnaissance faciale, dont les biais des développeurs de ces systèmes?
• Transparence ou explicabilité des résultats : Faut-il qu’un système soit transparent pour qu’il puisse être utilisé? Si oui, transparent pour qui? Serait-il acceptable que, dans certains contextes, un système opaque soit utilisé?
• Accès à l’information et développement des connaissances de la population : Comment veiller à ce que le public ait accès à une information claire à propos de l’utilisation de la RF, entre autres pour qu’il puisse y consentir?
• Protection de la vie privée : Quel droit de regard et de contrôle a un l’individu sur l’acquisition, par un tiers, d’information de nature privée? Lorsque la RF est utilisée, sera-t-il toujours possible de savoir quelles données sont collectées? Est-ce qu’il y a des situations où il serait acceptable de ne pas savoir quelles données sont collectées? Sera-t-il toujours aussi possible de savoir quelles utilisations, dont les utilisations secondaires, seront faites de ces données?
• Sécurité : La RF pourrait permettre d’augmenter la sécurité, dont celle des personnes vulnérables, mais comment arbitrer les tensions entre la protection de certains individus, d’un côté, et l’empiétement sur la liberté de tous, de l’autre. À quel point la sécurité devrait-elle prévaloir par rapport à d’autres valeurs fondamentales, dont la liberté?
• Liberté économique des entreprises et des consommateurs : Qu’est-il légitime d’imposer comme régulations pour encadrer le développement et l’utilisation de la RF à l’entreprise privée? Comment permettre au secteur privé de participer à l’innovation et au développement technologiques, sans néanmoins entraîner d’effets négatifs sur les plans social et éthique?
• Développement économique et prospérité : Le développement du secteur des technologies de reconnaissance faciale devait-il être orienté dans l’optique d’un développement local et de la création de richesses sur le territoire québécois? Risque-t-on de dépendre d’entreprises étrangères au moment d’acquérir et de faire usage de ces technologies si peu d’investissements sont faits pour un développement local de la RF?
• Responsabilité et imputabilité : Qui est ou devrait être responsable des résultats obtenus au moyen d’une technologie de RF? Est-ce qu’un algorithme peut être tenu responsable? Quelles sont les obligations des différents acteurs qui développent, commercialisent ou utilisent la RF? L’État devrait-il exiger à ces acteurs de rendre des comptes, et ce, de quelle manière?
• Indépendance des institutions publiques et bien commun : Dans un contexte où le développement des technologies de RF peut être très dispendieux et est principalement mené par le secteur privé, comment favoriser l’indépendance des institutions publiques? Comment assurer la transparence des décisions lorsqu’une institution publique utilise un système de RF, nécessaire à la préservation de lien de confiance du public?

Analyse et recommandations