La création d’un nouveau « quartier intelligent », hyperconnecté, sur les rives du Lac Ontario au centre-ville de Toronto avait été annoncée en grande pompe l’an dernier. Ce « nouveau modèle pour la vie urbaine du 21e siècle » doit mettre les technologies numériques de pointe au service d’un milieu de vie durable, innovant, prospère, convivial, abordable et à échelle humaine.
Notre Éthique hebdo du 24 novembre 2017 présentait d’ailleurs le projet en question, celui du quartier Quayside mené par Sidewalk Toronto, comme un cas d’espèce à surveiller en ce qui concerne les enjeux éthiques soulevés par la « ville intelligente ». Et voici que, dans les dernières semaines, certains de ces enjeux ont refait surface dans l’actualité.
En effet, quatre consultants ou membres du conseil de la société responsable du projet ont remis leur démission en opposition à la manière dont il est actuellement mené : manque de transparence et de considération pour les préoccupations des citoyens, protection insuffisante de la vie privée et ambiguïtés concernant le partage de la propriété intellectuelle entre le privé et le public.
Après Julie Di Lorenzo, John Ruffolo et Saadia Muzaffar, c’était cette semaine au tour de l’ancienne commissaire à la protection de la vie privée de l’Ontario, Ann Cavoukian, de démissionner.
À la suite des scandales qui ont éclaboussé Facebook et d’autre géants du numérique, les sensibilités en ce qui concerne la gestion responsable des données et la protection de la vie privée sont à vif, et pour cause. De plus, l’équilibre s’avère encore difficile à trouver entre la collecte et le traitement de données massives, d’une part et, d’autre part, les normes de protection des renseignements personnels et les exigences de l’éthique en termes de transparence, d’autonomie des personnes et de bien commun.
Retour sur ce cas d’espèce, question de mettre un peu d’ordre dans tout ça!
Le fameux projet est en fait encore bien jeune. La société responsable de la revitalisation de terrains sur la rive Est du Lac Ontario au centre-ville de Toronto, Waterfront Toronto, a été créée en 2001, mais c’est en mars 2017 qu’elle lance un appel de proposition pour trouver un partenaire dans la réalisation d’une nouvelle communauté, innovante et résiliente, faisant usage de technologies et de matériaux de pointe. Le mandat est accordé en octobre 2017 à la société Sidewalk Labs, une filière d’Alphabet, la société mère de Google. Ensemble, Waterfront Toronto et Sidewalk Labs forment Sidewalk Toronto, l’entité responsable du projet. Par l’entremise de Waterfront Toronto, trois ordres de gouvernement (municipal, provincial, fédéral) sont impliqués dans le projet.
Depuis l’attribution du mandat, plusieurs comités ont été créés, des consultations publiques ont été tenues et Sidewalk Toronto a rendu public un Cadre d’utilisation responsable des données (en anglais). Ce dernier document, succinct, présente de grands principes qui demeurent à être considérablement détaillés dans les prochaines phases du projet. Un « plan maître » (master innovation and development plan) devait être déposé d’ici la fin de l’année 2018, mais sera vraisemblablement reporté à la suite des controverses récentes.
Il est conséquemment difficile de visualiser exactement de quoi aura l’air ce « quartier intelligent », quelles seront précisément les technologies utilisées et quelles données seront collectées, à quelles fins particulières, etc. Ces incertitudes sont visiblement à la source de bien des inquiétudes chez des experts et des citoyens, pour qui l’acceptabilité sociale du projet est indissociable de réponses précises à ces questions.
Nous savons néanmoins que, sous le modèle de la ville intelligente, de multiples capteurs seront déployés dans l’environnement urbain pour prendre le pouls en temps réel des événements qui s’y déroulent et optimiser l’utilisation des infrastructures et la mobilité des citoyens, accroitre l’efficacité énergétique, assurer la sécurité des résidents, etc. On souhaite y faire l’essai de véhicules autonomes. Les données collectées doivent pouvoir être anonymisées et servir à développer des applications et services pour la communauté.
Évidemment, la réalisation de ces objectifs louables peut se heurter à certains écueils de nature éthique.
Il est requis d’obtenir le consentement libre, éclairé et explicite des personnes concernées pour toute collecte et utilisation de renseignements personnels. Or, dans le cas d’une collecte massive et continue de données, il est pratiquement impossible de demander le consentement de chaque résident, et encore moins de chaque personne qui se trouve à transiter par le quartier. Dans certains cas, comme pour celui de caméras de sécurité dont un affichage signale la présence, le consentement est considéré comme étant donné par défaut. Cependant, ce n’est pas le cas pour la majorité des données qu’il est possible de collecter, surtout lorsque ces données sont regroupées et peuvent être recoupées entre elles. La base de données ainsi générée peut rapidement servir à obtenir de l’information sensible et très intrusive dans la vie privée des individus.
La solution préconisée dans le projet de Sidewalk Toronto était de supprimer à la source, donc lors de la collecte, les éléments permettant d’identifier des individus, rendant les données immédiatement et irrémédiablement anonymes. Ces données seraient ensuite versées dans une « base de donnée civique », gérée de manière indépendante et permettant de partager la « valeur » de ces données avec les administrations publiques, les chercheurs et les citoyens.
Or, la consultante démissionnaire Ann Cavoukian a motivé son retrait du projet par le fait que Sidewalk Labs a semblé remettre en question que toutes les entreprises impliquées dans le projet seraient soumises à cette exigence de suppression à la source, ce qui permettrait que des données personnelles se retrouvent dans la base de données. Aussi bien dire que, dans ce cas, les efforts d’anonymisation des autres données seraient pour la plupart vains, car il deviendrait aisé de réidentifier les individus par croisement de données personnelles et de données anonymes.
Tous ne partagent pas ces craintes. Du moins, d’autres comme Chantal Bernier, une experte de la protection de la vie privée et membre du conseil de Sidewalk Totonto, trouvent que ces craintes sont prématurées au regard du faible niveau d’avancement du projet. De plus, le projet ne se développe pas en vase clos des lois et des principes de protection des renseignements personnels; et là où nos lois sont insuffisantes, il y a encore du temps pour adapter les politiques de gestion de données du projet aux défis propres au nouveau contexte technologique.
Chose certaine, maintenant, cet enjeu est sous les projecteurs. Ainsi, le conseil a décidé de ralentir davantage la cadence pour mieux intégrer les questions de gestion des données dans le développement du plan.
Il ne faut toutefois pas oublier que, même lorsqu’elles sont anonymisées, les données peuvent servir d’une manière qui porte préjudice à des individus ou à des groupes. Les techniques d’analyse des données massives permettent d’établir des profils, qui n’identifient pas d’individus particuliers. Or, ces profils servent à caractériser les comportements des individus et à développer des modèles prédictifs de ces comportements. Ces analyses orientent des décisions qui ont des répercussions sur les individus : services offerts, information fournie, aménagements urbains, interventions des forces de l’ordre, etc. Les gestionnaires des données ont des responsabilités importantes relatives aux données anonymes, pour assurer que leur utilisation ne limite pas indument l’autonomie des personnes ou qu’elles ne soutiennent pas des pratiques discriminatoires ou de surveillance excessive.
Cela vaut tant pour les partenaires privés que pour les pouvoirs publics, la surveillance des citoyens pouvant rapidement devenir une menace à une société libre et démocratique.
Le projet de Sidewalk Toronto se présente comme un grand laboratoire à ciel ouvert, un lieu où des technologies de pointe seront développées, déployées et ainsi mises au banc d’essai. Plusieurs se questionnent à savoir si les fruits de ces innovations iront dans les poches des actionnaires de Sidewalk Labs, qui pourrait les commercialiser sur le marché mondial, ou si la propriété intellectuelle sera partagée avec les pouvoirs publics qui offrent des conditions favorables (terrains, investissements en infrastructures et accès à la population résidente). Sidewalk Labs est une entreprise américaine, basée à New York, dont les intérêts commerciaux ne s’alignent pas nécessairement d’eux-mêmes avec l’intérêt public et le devoir des paliers de gouvernement impliqués de promouvoir le bien commun.
La consultante démissionnaire Saadia Muzaffar affirmait notamment avoir pris connaissance d’informations selon lesquelles Sidewalk Labs cherchait que lui soit cédée, par de potentiels consultants locaux, la propriété intellectuelle de toute innovation faite dans le cadre du projet ou de leur accorder une licence exclusive et sans redevance pour son utilisation partout dans le monde. De telles conditions soulèvent des enjeux en matière d’équité dans la distribution des bénéfices d’un projet mené en partenariat entre le public et le privé.
Ces questions ont d’ailleurs suscité le débat dans les pages du Globe and Mail (en anglais) :
Les défenseurs du projet mettent de l’avant qu’il n’en est qu’à ses premières phases de conception et que le temps permettra d’arranger les choses. Néanmoins, leur engagement en faveur de la protection de la vie privée demeure encore relativement abstrait. Or, dans ce cas comme dans celui concernant le partage de la propriété intellectuelle, c’est dans les détails que se trouvent les véritables enjeux. De plus, pour mener à bien leur volonté de réaliser ce quartier en co-construction avec les Torontois, un sérieux coup de barre dans leur approche d’information et de consultation semble nécessaire. La conception et la réalisation du projet doit inclure, à toutes les étapes, les dimensions politiques et éthiques d’un tel développement technologique urbain.
Consultez notre avis paru en octobre 2017, La ville intelligente au service du bien commun : lignes directrices pour allier l’éthique au numérique dans les municipalités au Québec.