Les projets de délibération citoyenne cherchant à garantir la légitimité des décisions publiques en promouvant une plus grande participation civique se sont multipliés dans les dernières décennies. Ces tentatives n’ont pas toujours eu l’impact escompté, ce qui peut alimenter le cynisme quant à la portée que peut avoir ce type de projet. Par exemple, des plateformes de démocratie numérique permettant de soumettre des questions ou pétitions directement à l’administration Obama sont rapidement tombées dans l’oubli une fois rendue claire l’absence de résultats qui suivrait ces démarches. On pense également au Grand Débat National français, initié suite au mouvement des gilets jaunes, et dont les 1,5 million de contributions n’ont eu que peu d’impact politique. La difficulté de tirer des conclusions de la masse considérable de données brutes produites à cette occasion pourrait éventuellement expliquer en partie ce faible impact.
Comme mentionné dans un précédent Éthique Hebdo, plusieurs de ces projets s’appuient sur l’idée, associée aux théories de la démocratie délibérative, selon laquelle les décisions gouvernementales devraient être davantage fondées sur la délibération des citoyennes et citoyens. Selon les tenants de la démocratie délibérative, un tel modèle contribuerait à des prises de décision plus légitimes et mieux informées, non seulement en élargissant la participation au processus démocratique, mais également en enrichissant les débats grâce à l’intelligence collective.
Or, plusieurs voient dans la capacité de traitement rapide et efficace de l’information des systèmes d’IA une opportunité de tendre vers ce modèle en élargissant l’étendue des délibérations. Ils y fondent l’espoir d’un futur où la délibération ferait partie intégrante de la gouvernance. En effet, des fonctions telles que la gestion des droits de parole, l’organisation des idées ou l’agrégation des données réduisent le besoin en main d’œuvre humaine et pourraient donc permettre de multiplier les instances délibératives.
Le recours à ces méthodes pour élargir la portée des délibérations citoyennes ne se fait toutefois pas sans risques. Afin d’apprécier la pertinence d’outils d’IA dans ce contexte, il convient d’explorer dans quelle mesure et sous quelles conditions leur utilisation pourrait contribuer à renforcer ou, au contraire, à miner certaines bases du modèle de démocratie délibérative qu’elle tente de promouvoir, notamment en termes d’autonomie des citoyens, d’égalité civique et de confiance envers le processus de délibération.
Enjeux relatifs à l’autonomie, à l’égalité et à la confiance
Plusieurs valeurs nous permettent d’identifier les enjeux que soulève l’intégration des systèmes d’IA à des projets de délibération citoyenne.
L’autonomie est la capacité des personnes à se gouverner elles-mêmes et la délibération citoyenne se fonde sur cette notion. En effet, la délibération entre citoyens permet de justifier les termes de l’association politique. Le modèle délibératif considère également que des citoyennes et citoyens autonomes possèdent la capacité et le droit de comprendre les règles s’appliquant à eux et il leur fournit les moyens de le faire par une contribution à leur processus d’élaboration.
Or, le passage à plus grande échelle de la délibération pourrait promouvoir cette autonomie civique en favorisant pour une plus grande partie de la population la compréhension des raisons entourant la prise de décision ainsi que leurs justifications.
Par contre, des discussions en ligne modérées par des outils d’IA peuvent affecter négativement l’autonomisation et la confiance des citoyens en leur capacité d’agir et ainsi nuire tout autant aux objectifs d’inclusion de la délibération citoyenne qu’à l’autonomie civique des participants. En effet, les délibérations en personne contribuent à l’éducation à la participation citoyenne en développant les capacités que Martha Nussbaum a qualifiées d’ « émotions démocratiques » telles que la conciliation, l’empathie, le respect mutuel et l’ouverture aux autres comme aux points de vue divergents. Or une partie de ces apprentissages, s’ils se font à travers l’interaction sociale, pourrait se perdre dans une discussion en ligne, d’autant plus lorsqu’un outil d’IA agit à titre d’intermédiaire entre les participants. Étendre l’autonomie civique à une plus grande partie de la population grâce à ces outils pourrait donc avoir pour effet de diluer le degré par lequel cette même autonomie leur est octroyée.
La démocratie délibérative repose également sur l’égalité entre citoyennes et citoyens, dans la mesure où elle promeut l’idéal selon lequel ceux-ci devraient avoir des opportunités égales de participer aux délibérations. Étendre la participation aux délibérations à une plus grande partie de la population favoriserait donc l’égalité en ce qu’elle démocratiserait la participation politique. Toutefois, la représentativité de telles délibérations modérées par des outils d’IA pourrait dans les faits être compromise considérant qu’elles pourraient exclure une partie de la population sur les bases de la fracture numérique, de l’aversion à l’IA ou d’une faible littératie. De plus, certains des outils utilisés pour analyser les données, tels que les grands modèles de langage (LLM), pourraient, en raison de leur fonctionnement même, nuire à l’expression de certaines idées. En effet, ces modèles s’appuient pour fonctionner sur un grand nombre de données qui servent à « entraîner » l’outil. Or, ces données peuvent être des sources de biais, c’est-à-dire qu’elles peuvent faire en sorte que l’outil produira des résultats reflétant des croyances, préférences ou interprétations présentes dans les données d’entraînement. Dans le contexte d’un processus de délibération, ces biais pourraient par exemple conduire à amplifier un discours dominant ou à passer sous silence certaines idées émergentes ou hors norme. L’égalité de participation requiert par ailleurs que chacun ne contribue qu’une seule fois à un processus de délibération. Pour le garantir, on peut choisir de vérifier l’identité des participants. Or, l’anonymat permet l’expression d’idées à contre-courant sans crainte d’être ciblé pour celles-ci. La garantie d’égalité numérique de participation pourrait donc se faire au détriment de l’inclusivité, particulièrement en ce qui a trait aux discours et groupes marginaux.
La confiance, quant à elle, est une autre précondition à la délibération citoyenne, c’est ce qui nous permet de nous associer au-delà des normes formelles et imposées et de justifier que cette association est bénéfique pour nous. Dans le cadre de la démocratie délibérative, la confiance contribue à la légitimité de la prise de décision. Sa dissémination à un plus grand nombre ne peut donc, en théorie, qu’être bénéfique. La confiance est toutefois avant tout un phénomène social et passe donc par les relations humaines. Il a ainsi été démontré que les participants font moins confiance à un outil d’IA modérant une délibération qu’à un modérateur humain.
La fiabilité des outils offre à la confiance un terreau fertile où se développer. Elle ne va malheureusement pas de soi quand il s’agit pour un outil d’IA de générer un compte-rendu fidèle du contenu de délibérations. En effet, les résultats du travail de résumé et de catégorisation des discussions tendent à être non-reproductibles et à dépendre largement des choix de techniques d’IA utilisées. Dans cette perspective, la transparence des méthodes choisies devient cruciale et permet à des vérifications a posteriori d’être conduites.
La transparence est d’autant plus importante que ces tâches sont souvent sous-traitées à des entreprises privées et échappent donc aux impératifs d’imputabilité auxquels est soumis le secteur public. On estimait ainsi en 2022 que le marché des technologies de délibération pour le secteur public atteindrait les 300 millions d’euros d’ici 2027. La délibération utilisant des systèmes d’IA ne permet donc pas de favoriser autant la confiance que le permettrait la délibération en personne modérée par des humains. Toutefois, des actions peuvent être prises pour mitiger ces effets, notamment à travers l’application d’un principe de transparence.
Risques et bénéfices
Comme nous l’avons vu, l’intégration des outils d’IA à la délibération citoyenne est davantage complexe qu’il n’y paraît à prime abord. La littérature portant sur ces questions permet d’identifier un certain nombre d’enjeux relatifs à des valeurs importantes dans nos démocraties. Ces enjeux sont à considérer avec soin au moment de décider d’intégrer ou non ces outils à nos processus de consultation et de délibération. S’il est possible d’entrevoir de réels bénéfices à cette intégration, les risques n’en sont pas moins bien réels en raison d’une multitude de facteurs difficiles à contrôler. Une juste appréciation des uns et des autres s’avère dès lors souhaitable.
