Pensons aux tensions entre les partisans et les opposants au « Convoi de la Liberté » à l’hiver 2022, au choc entre les militants anti-LGBTQ+ de la manifestation « 1 million march 4 children » et les contre-manifestants ainsi qu'à l’incompréhension entre les partisans du déboulonnement de statues rappelant un passé colonialiste et leurs opposants. Ces exemples illustrent les difficultés que rencontrent les citoyens à entrer en dialogue et à délibérer d’une manière constructive et respectueuse au sujet d’un enjeu polarisant. Si la polarisation n’est pas un phénomène nouveau dans les démocraties modernes, il semble que le phénomène prenne de l’ampleur à l’ère du numérique et des réseaux sociaux. Dans ce contexte, quel rôle jouent les systèmes d’IA dans cette accélération?
Désaccord, partisanerie ou polarisation?
Il faut d’abord préciser que le désaccord en politique ne constitue pas en lui-même une forme de polarisation. Il s’agit d’une conséquence normale de l’égalité et de la liberté des citoyens. De même, la partisanerie, c’est-à-dire le fait d’exercer un certain degré de partialité à l’égard d’un parti ou d’un mouvement politique dans les délibérations avec d’autres citoyens, est un aspect normal de notre système parlementaire et du processus électoral. Toutefois, il arrive que des désaccords entre les citoyens soient si profonds et que la partisanerie soit si forte que les conditions du dialogue social et de la démocratie soient entravées.
Dans ce dernier cas, on parlera plutôt de polarisation. Bien qu’il n’y ait pas de consensus clair sur la définition précise de la polarisation, la plupart des efforts de conceptualisation associent ce phénomène à un effet centrifuge en politique. La polarisation est le processus par lequel un fossé grandissant se creuse entre des personnes qui entretiennent des opinions politiques différentes, poussant celles-ci à s’éloigner du centre vers les extrémités opposées du spectre politique. On distingue deux dimensions à la polarisation politique. La première est idéologique, c’est-à-dire qu’elle désigne la divergence d’opinions, de croyances ou d’attitudes politiques. La seconde est affective. Elle renvoie à l’augmentation de sentiments positifs envers les personnes ou les partis politiques auxquels on s’identifie, ainsi qu’à l’augmentation de sentiments négatifs envers les adversaires politiques et de comportements manifestant de l'incivilité, voire de la violence.
Les causes sociales et technologiques de la polarisation
Les causes de la polarisation sont avant tout sociales. En effet, les humains ont tendance à former des groupes en s’associant sur la base d’intérêts, de projets ou de caractéristiques partagés. Ils ont de plus tendance à s’identifier aux groupes dont ils font partie ainsi qu’à leurs autres membres tout en manifestant moins de confiance et de solidarité à l’égard des autres personnes. Néanmoins, on constate que les plateformes numériques et de médias sociaux accentuent le phénomène de polarisation.
En effet, les algorithmes visant à recommander des contenus aux usagers des plateformes de médias sociaux ont donné lieu à deux phénomènes stimulant la polarisation : les chambres d’écho et les bulles de filtre. Ces expressions renvoient à la personnalisation de l’espace médiatique présenté aux utilisateurs en fonction de leurs intérêts préexistants, qui a pour effet de réduire considérablement la diversité des points de vue auxquels ceux-ci sont exposés. En raison de l’effet de répétition, les usagers des systèmes d’IA seront plus susceptibles d’envisager l’information selon le « biais de confirmation », c’est-à-dire la tendance de l’esprit humain à prêter attention aux informations qui confirment sa manière de penser et à négliger tout ce qui pourrait la remettre en cause. En retour, cela pourrait les entraîner à faire preuve d’une plus grande méfiance face à des opinions divergentes avec lesquelles ils n’auraient pas été en contact. Ce double mouvement d’augmentation de confiance envers certaines informations (ainsi que les personnes qui les véhiculent) et de méfiance envers d’autres est caractéristique de la polarisation idéologique.
En outre, les algorithmes d’IA permettent de pratiquer le microciblage en politique. Le microciblage est une technique de marketing politique qui exploite des analyses de données personnelles (concernant par exemple les caractéristiques démographiques, le style de vie, les habitudes de consommation, etc.) afin de cibler les motivations de l’électorat et d’en tirer avantage en produisant de la publicité ciblée. Le microciblage peut ainsi contribuer à la polarisation en renforçant l’attachement des citoyens envers un parti, notamment au moyen de la diffusion d’informations partielles destinées à des segments de la population déjà réceptifs à certains messages.
Enfin, les IA génératives peuvent aussi accélérer le phénomène de polarisation. D’une part, l’usage de robots conversationnels permet d’automatiser l’envoi de communications ciblant des segments réceptifs de la population. D’autre part, la diffusion d’hypertrucages visant à discréditer certaines figures politiques risque d’envenimer les relations déjà tendues entre des groupes se percevant comme des adversaires politiques, exacerbant ainsi la polarisation affective.
La confiance et la transparence mises à l’épreuve
Le rôle joué par les plateformes numériques et les algorithmes d’IA dans le processus de polarisation pose de nombreux problèmes éthiques.
D’abord, les processus par lesquels chaque citoyen est exposé à des informations manquent de transparence. Les critères en fonction desquels les algorithmes de recommandation présentent de l’information sur les plateformes numériques sont mal connus du public de sorte qu’il est difficile pour chacun d’évaluer l’impact de la personnalisation de l’information ainsi que les intérêts servis par ce processus. Il en va de même pour les critères en fonction desquels s’effectue le microciblage.
Ensuite, la polarisation affective et les algorithmes d’IA qui y participent perturbent la possibilité pour chacun de faire confiance au témoignage d’autrui. Or, sans la possibilité de faire confiance au témoignage des pairs et des experts, nos connaissances individuelles acquises de façon autonome seraient insuffisantes pour bien vivre individuellement et en société. De plus, un niveau minimal de confiance entre les citoyens est nécessaire pour garantir l’application du principe de charité interprétative. Ce principe, essentiel au maintien du dialogue social, exige que les citoyens fassent l’effort d’écouter et de prendre au sérieux les meilleurs arguments en soutien aux propositions avec lesquelles ils sont pourtant en désaccord (plutôt que de ne considérer que les formulations les moins plausibles de ces propositions). La méfiance associée à la polarisation peut être telle que les points de vue et contributions à la connaissance de certains groupes sociaux sont entièrement ignorés par des personnes voyant ces groupes comme des adversaires politiques, une situation qui correspond à une forme d’injustice épistémique qui sape les bases du dialogue social.
Pistes de solutions
Lutter contre la polarisation engendrée par le microciblage pourrait requérir de poser des balises législatives à cette pratique, comme l’ont fait la Colombie-Britannique et l’Union européenne, qui disposent de mesures pour s’assurer que la collecte des données destinées au microciblage fasse l’objet d’un consentement éclairé de la part de ceux qui en font l’objet. Comme nous l’avons souligné dans un autre Éthique hebdo, des efforts de promotion de la littéracie numérique et de l’esprit critique sont également nécessaires pour préserver la qualité des délibérations citoyennes à l’ère du numérique. En plus des législations visant à réguler les plateformes numériques et le marketing politique et des efforts visant à responsabiliser les citoyens, les gouvernements démocratiques pourraient envisager de faire la promotion de plateformes numériques et de réseaux sociaux alternatifs qui, à l’instar de plateformes telles que Pol.is et d’applications telles que Speakeasy AI, sont délibérément structurés pour désamorcer les dynamiques générant de la polarisation. Certains proposent même d’utiliser des robots conversationnels ayant une orientation politique donnée afin de diversifier les opinions auxquelles sont exposés les citoyens.
