Les fonctions des SIA dans les espaces numériques

Les SIA — les générateurs de texte, d’images, de voix, de vidéos — fournissent à divers acteurs politiques de puissants outils pour :

• créer des contenus en grande quantité (automatisation) ou d’un grand réalisme (hypertrucages) (Fonction n^o1);
• filtrer, sélectionner et diffuser les contenus (Fonction n^o 2) ;
• collecter des renseignements sur les personnes afin d’établir leur profil (Fonction n^o3).

Neuf grands risques éthiques pour la démocratie

L’avis analyse neuf grands risques éthiques liés à l’intégrité électorale et aux débats publics. Certaines utilisations des SIA sont susceptibles d’avoir des effets néfastes sur la réalisation d’un ensemble de valeurs et de principes démocratiques. Ils concernent principalement :

1. Les cyberviolences;
2. La désinformation politique;
3. La désinformation de groupes ciblés;
4. La manipulation de l’opinion publique;
5. La surveillance de masse;
6. La fragmentation de l’information;
7. La prolifération de la mésinformation électorale et politique;
8. L’optimisation du microciblage des communications politiques;
9. La manipulation des consultations publiques.

Recommandations

La Commission émet 21 recommandations qui s’adressent à plusieurs ministères et organismes publics afin de :

• Renforcer le respect des lois et des droits en ligne :
• Garantir l’intégrité du processus électoral ;
• Soutenir la qualité des débats publics.

Les mesures recommandées sont proportionnelles aux risques éthiques, c’est-à-dire qu’elles prennent en compte la gravité des effets anticipés et la probabilité qu’ils se concrétisent. Elles sont aussi diversifiées et réalistes, c’est-à-dire qu’elles prennent en compte les contraintes à l’action.

Pour plus de renseignements :

• Kathia Légaré, Conseillère en éthique en science et en technologie
• Kathia.legare@ethique.gouv.qc.ca