Le 29 octobre dernier, la CEST-Jeunesse rendait public l’avis découlant de ses travaux sur les enjeux éthiques soulevés par l’utilisation de la reconnaissance faciale. Le même jour, les commissaires à la protection de la vie privée du Canada, de l’Alberta et de la Colombie-Britannique ont rendu public leur rapport sur l’utilisation d’un outil de reconnaissance faciale dans 12 centres commerciaux au pays. En 2018, l’entreprise Cadillac Fairview, qui opère ces centres commerciaux, a fait analyser les images prises par des caméras de surveillance par un logiciel de reconnaissance faciale pour déterminer le genre et l’âge des clients qui y circulaient.
Le logiciel en question effectue de l’analyse vidéo anonyme (AVA), c’est-à-dire qu’il détecte ce qui dans une image constitue un visage, il le transforme en une séquence de données, et il analyse ces données pour en tirer l’information cherchée par le client. Les images sont détruites et l’information acquise est transmise au client. L’enquête des commissaires à la vie privée a permis de montrer que le fournisseur de services AVA conservait les séquences de données relatives aux visages des clients, et non uniquement les informations qui en étaient inférées et transmises à Cadillac Fairview. L’entreprise dit ne pas être au courant que le fournisseur conservait ces données.
Nous avons abordé à plusieurs reprises les enjeux soulevés par la reconnaissance faciale dans des Éthique Hebdos antérieurs :
Les technologies de reconnaissance faciale peuvent être utilisées dans différents contextes et, selon ces contextes, soulèvent des enjeux qui peuvent être distincts. Par exemple, leur utilisation à des fins de sécurité par les corps policiers n’a pas les mêmes répercussions sur les droits et libertés des personnes que leur utilisation à des fins de prestation de services de santé ou même de divertissement.
Dans un contexte d’une utilisation dans un centre commercial, les fins visées sont davantage de nature marketing. Il s’agit de mieux cerner qui sont les clients du centre et, ultimement, d’adapter les pratiques du centre pour augmenter la fréquentation et les ventes des magasins.
Cette semaine, nous abordons donc les enjeux soulevés par l’utilisation en contexte commercial et, surtout, nous présentons les analyses et recommandations de la CEST-Jeunesse 2020 à ce sujet.
Un des principaux reproches formulés par les commissaires à la protection de la vie privée dans leur enquête est que les images ont été captées à l’insu des clients et sans leur consentement. Pour la CEST-Jeunesse, protéger l’autonomie et l’intégrité des personnes passe par une exigence claire de consentement et la possibilité réelle des personnes de refuser d’être sujet à un système de reconnaissance faciale sans subir de conséquences négatives liées à ce choix.
Cette dernière exigence n’est pas facile à remplir dans le cas qui nous occupe. Pouvoir entrer dans un centre commercial ne devrait pas dépendre d’une acceptation à se soumettre à de la reconnaissance faciale. Dit autrement, ce n’est pas une attente que peut raisonnablement avoir quelqu’un qui entre dans un centre commercial que d’avoir son visage analysé par des systèmes de reconnaissance faciale et l’accès aux commerces ne devrait pas être y conditionnel. Chaque personne devrait pouvoir fréquenter ce lieu sans avoir à se soumettre à l’utilisation d’une telle technologie. Or, cela est pratiquement impossible de se soustraire au regard des caméras ou d’avoir ses données personnelles non captées ou retirées de l’ensemble des données. À moins de faire valoir qu’une personne peut exercer son droit de refus en magasinant masquée, bien entendu.
Si l’on prend cette exigence au sérieux, cela peut sonner le glas de l’utilisation de la reconnaissance faciale dans ce genre de contexte. Mais il y a aussi des limites à une approche qui ne considère que le consentement et son corollaire, le refus, dans l’encadrement de l’usage d’une technologie. D’autres mesures peuvent être mises en place, qui ne reposent pas sur les épaules des citoyens ou des consommateurs, mais qui visent plutôt les entreprises et l’État. Dans la suite, nous nous attardons à ces autres mesures, telles que proposées par la CEST-Jeunesse. Nous reviendrons sur la question du consentement la semaine prochaine, cette fois en lien avec les objets connectés.
Il est ainsi important que les utilisateurs de la reconnaissance faciale soient bien encadrés en amont, que l’adoption des meilleurs pratiques soient favorisées, que certaines utilisations qu’on trouve collectivement plus problématiques soient interdites, etc.
La Ville de Montréal a d’ailleurs réalisé un exercice important en ce sens, en publiant plus tôt ce mois-ci une Charte des données numériques, régissant la collecte et l’utilisation de données par la municipalité, ce qui inclut la reconnaissance faciale. Elle vise notamment à garantir les droits de la personne à l’ère numérique et assurer la primauté de l’intérêt général et du bien commun.
De son côté, la CEST-Jeunesse suggère que le Gouvernement du Québec initie une réflexion sur les meilleures pratiques internationales en matière de gestion des données personnelles et d’encadrement de la reconnaissance faciale, pour s’inspirer de ce qui se fait de mieux à l’international.
Au-delà des résultats de cette réflexion, la CEST-Jeunesse souligne fortement que le Gouvernement du Québec devrait se doter d’une instance qui a pour principale mission de surveiller et de réguler les développements technologiques liés à l’intelligence artificielle, dont ceux en reconnaissance faciale.
La CEST-Jeunesse considère aussi nécessaire que le Gouvernement du Québec établisse des normes qui seraient imposées autant aux développeurs qu’aux utilisateurs d’algorithmes de reconnaissance faciale. L’objectif de telles normes serait de protéger la population québécoise de biais ou de préjudices possibles, et ainsi tenter de minimiser les situations discriminatoires liées à l’utilisation de la reconnaissance faciale. Cela viserait à assurer la conformité de chaque application à des exigences strictes en matière de fiabilité, d’équité, de respect de la vie privée et de responsabilité environnementale.
Une manière d’intervenir en amont de l’utilisation d’une technologie est par l’entremise de la recherche qui mène, ensuite, au développement des applications.
La CEST-Jeunesse souligne que les organismes publics devraient continuer de veiller à ce que les bénéfices liés au développement de l’intelligence artificielle et de la reconnaissance faciale ne soient pas uniquement privés, mais qu’ils soient plutôt redistribués à l’ensemble de la collectivité. Ceci vaut pour les bénéfices qui sont monétaires, mais aussi pour tout autre type de bénéfices. De la même manière, les programmes de financement de la recherche pourraient orienter cette dernière vers une réduction des risques associés aux technologies de reconnaissance faciale, comme les biais que peuvent contenir les algorithmes.
Pour en savoir plus sur la CEST-Jeunesse 2020 : https://www.ethique.gouv.qc.ca/fr/commissions-jeunesse/2020-la-reconnaissance-faciale/