ÉTHIQUE HEBDO du 24 novembre 2017 – Y a-t-il un pilote dans la ville? Qui sera aux commandes de la ville intelligente?

Il y a un peu plus de deux semaines, les conseils municipaux et mairies du Québec faisaient peau neuve. On l’a entendu souvent lors des élections municipales, notamment dans la campagne du Directeur général des élections, les municipalités jouent un rôle primordial dans les services de proximité et pour la qualité de vie des citoyens. Depuis quelques années, un courant a vu le jour en faveur de l’utilisation par les municipalités des données et des technologies numériques pour remplir leurs missions : améliorer les services aux citoyens, la vie démocratique et la gestion efficiente des ressources. De manière plus attrayante, on a nommé cela la « ville intelligente » (smart city).

La ville intelligente en quelques mots

Une ville intelligente se nourrit de données issues de l’activité des utilisateurs en ligne, de capteurs, de caméras, de téléphones intelligents, de systèmes de localisation GPS, etc., pour soutenir la prestation de services et la prise de décision. En plus des applications technologiques, cela s’accompagne souvent d’une valorisation de la culture numérique pour réformer les manières de faire dans les administrations publiques et pour accroitre la consultation et la participation citoyennes.

Sidewalk Toronto : un cas d’espèce à surveiller

Un projet qui a fait couler beaucoup d’encre récemment est celui de Sidewalk Toronto. En partenariat avec les gouvernements, l’entreprise Sidewalk Labs, une filiale de Google, s’est vue confier le mandat de réaliser un plan de développement du Eastern Waterfront, un quartier en bordure du Lac Ontario à Toronto. L’objectif est de créer à partir de zéro un « quartier intelligent », carburant aux technologies et aux données. Une véritable expérimentation en taille réelle de la « ville de l’avenir » telle que l’envisage la méga-entreprise californienne.

Plusieurs enjeux éthiques soulevés par les villes intelligentes concernent le rapport entre l’administration publique et les fournisseurs privés. Les municipalités peuvent succomber à des discours promotionnels idéalisés et y allouer des sommes importantes. Elles peuvent aussi se retrouver en situation de dépendance envers un fournisseur ou un petit groupe de fournisseurs. Des intérêts privés peuvent prendre le dessus sur le bien commun. Enfin, les élus peuvent perdre du pouvoir décisionnel au profit d’experts non élus et d’entreprises qui fournissent des services de gestion des données ou des infrastructures. Pour chacun de ces enjeux, Sidewalk Toronto s’avère un cas d’espèce intéressant à surveiller de près.

Par exemple, un risque éthique important est celui posé par une logique de l’offre technologique. On entend par là d’adopter des solutions numériques essentiellement parce qu’elles existent, parce qu’on nous en fait la promotion ou que c’est dans l’air du temps, plutôt que parce qu’on a préalablement déterminé que cela répond à un besoin réel. C’est ce qu’on appelle l’approche de « la solution à la recherche d’un problème ». Les entreprises de télécommunication voient dans les villes un nouveau marché pour leurs produits et services. Pour les municipalités, l’idée n’est pas de craindre ces entreprises, mais de résister au chant des sirènes et de s’assurer de bien faire les choses. Le risque encouru est d’allouer des ressources, souvent rares ou du moins limitées, à des projets qui n’ont que peu ou pas de bénéfices concrets sur la qualité de vie des citoyens ou l’efficacité de l’organisation.

Il est trop tôt pour se prononcer sur le projet Sidewalk Toronto et ses bénéfices potentiels pour la population. Certains sont optimistes. D’autres le sont beaucoup moins et soulèvent d’autres enjeux.

Notamment, un risque sérieux que pose l’utilisation des technologies dans une ville intelligente est celui d’une privatisation des services publics qui se traduirait par une influence indue des entreprises concernées sur les politiques publiques. Aux différentes étapes de conception, d’élaboration et de production des « solutions numériques », les entreprises font des choix qui ont une incidence politique et qui risquent de s’écarter des besoins de la population et de l’intérêt public. En effet, ces entreprises agissent à l’intérieur de leur logique propre, laquelle consiste à faire des profits. Ce but est légitime, mais il ne doit pas affaiblir ni supplanter la logique propre au secteur public. Le fait que le contrat signé avec Sidewalk Labs ait été considéré comme secret, et donc soustrait au regard du public, soulève aussi des questions concernant l’imputabilité de la municipalité envers ses citoyens.

Aussi, il est nécessaire d’avoir une certaine expertise pour lire, analyser et comprendre les données – et surtout pour saisir tout ce qui se situe derrière leur traitement. Poussée à l’extrême, la gestion par les données risque de donner encore plus de pouvoir à des experts non élus, soit ceux qui établissent les priorités au sein même des algorithmes.

Il n’est pas nouveau que les élus dépendent au moins partiellement d’experts qui les éclairent sur les enjeux complexes de la société. Le risque plus propre au numérique est que les données peuvent revêtir une aura de vérité incontestable et les choix qui sont faits aux différentes étapes de leur production et de leur traitement sont opaques.

Il pourrait ainsi être requis de revoir l’équilibre entre les élus, les experts et les citoyens. Il importe notamment que les élus et les citoyens se voient donner les moyens de se prononcer sur les questions de fond concernant les choix qui sont faits en amont de la programmation des algorithmes, les paramètres qui sont utilisés, etc. Il s’agit d’un véritable enjeu pour notre démocratie, car on ne peut évidemment pas voter pour un algorithme ou une intelligence artificielle. Du moins pas encore.

La ville intelligente et les données massives au cœur de défis d’avenir en éthique des technologies

Dans sa chronique de mardi dernier dans le journal Le Devoir, Pierre Trudel soulignait avec raison les enjeux importants soulevés par la collecte des données dans les villes intelligentes. Les infrastructures urbaines, comme beaucoup d’autres dans notre société de plus en plus immergée dans le numérique, collecteront et feront usage de données variées et multiples, de manière continue et le plus souvent sans que les individus qui fournissent ces données n’en ait réellement connaissance. Des données qui n’ont rien de personnelles au départ peuvent être recoupées pour fournir de l’information sensible sur des individus ou des groupes. Pensons à de l’information concernant des déplacements, des préférences, des opinions politiques ou d’autres facteurs pouvant entraîner du profilage, de la surveillance, de la discrimination, de la stigmatisation ou de la répression de la part des autorités publiques, des corps policiers, des groupes partisans ou encore des entreprises privées.

Dans ce contexte, M. Trudel a raison de dire que le consentement des individus, qui a été jusqu’à maintenant l’outil de prédilection pour protéger contre la violation de la vie privée et contre les usages abusifs de données n’est probablement plus applicable. Les données de base ne ciblent pas d’individu en particulier : qui devrait alors consentir? Et consentir à quoi? On ne sait souvent pas d’avance quels seront les usages des données massives. C’est d’ailleurs l’un des éléments qui rendent les données massives attrayantes : la possibilité d’interroger de grands ensembles de données et de faire se recouper des données a priori disparates pour générer des connaissances nouvelles.

C’est pourquoi la Commission pose la question : est-il suffisant d’obtenir le consentement des personnes ou devrait-il y avoir d’autres mécanismes en place pour assurer l’acceptabilité de la collecte et du traitement des données? C’est une question difficile qui devra faire l’objet de débats publics approfondis. En attendant, la Commission recommande la plus grande prudence.

Vous pouvez obtenir plus d’information et consulter l’avis de la Commission sur notre site Internet. Et pourquoi n’en glisseriez-vous pas un mot à votre conseiller ou conseillère municipale fraîchement élue?