Commission de l'éthique en science et en technologie

FERMETURE DES BUREAUX - Veuillez noter qu'en raison de la crise sanitaire liée à la pandémie de COVID-19, la CEST réalise l'ensemble de ses activités en mode virtuel seulement. Pour nous contacter

L'intelligence artificielle et le monde du travail

Le développement de l’IA constitue un progrès technologique majeur qui rend possibles de nouvelles et remarquables avancées scientifiques et technologiques. Il peut également engendrer des bénéfices sociaux considérables en améliorant les conditions de vie, la santé, la justice, en créant de la richesse et en renforçant la sécurité publique. Mais ce développement présente aussi des risques non négligeables dans la mesure où les machines artificiellement intelligentes peuvent influencer les choix des individus et des groupes, et affecter l’environnement et le climat. Les enjeux du développement de l’IA ne sont pas seulement techniques, ils sont éthiques, sociaux et politiques.

Intelligence artificielle, Technologies de l'information et des communications, Travail et emplois

Sur cette page :

Les effets de l’intelligence artificielle sur le monde du travail

L’une des plus importantes préoccupations ayant trait au développement de l’IA est sans contredit celle de son impact sur le monde du travail. D’abord, ces machines artificiellement intelligentes promettent d’automatiser un nombre de plus en plus important de tâches, mettant ainsi à risque certains travailleurs. Aussi, ce développement risque de faire en sorte que les travailleurs devront collaborer de manière plus intensive avec des machines, modifiant ainsi le contenu des emplois et, possiblement, le sens du travail. L’IA pourrait enfin avoir un impact sur l’organisation du travail, entre autres, par le recours accru à des outils de gestion des ressources humaines qui utilisent des systèmes d’intelligence artificielle.

Un premier document de travail généraliste

La Commission a publié un document de travail généraliste à vocation pédagogique intitulé « Les effets de l’intelligence artificielle sur le monde du travail », qui établit les effets probables que pourraient avoir les développements liés à l’IA sur le monde du travail. Dans ce document, les effets sur le nombre d’emplois disponibles, sur la qualité de la relation d’emploi et sur la qualité de la relation de travail sont discutés. Ce document introduit aussi les questions éthiques que ces effets soulèvent. Il est possible de télécharger un résumé graphique des enjeux abordés dans le document de réflexion.

Un avis publié : Les effets​ de l’IA sur le monde du travail et la justice sociale

La Commission a rédigé un avis qui inclut un certain nombre de recommandations à l’attention du gouvernement dans lequel elle évalue à quel point l’impact de l’IA sur le monde du travail nous forcera à repenser certains éléments qui favorisent la justice distributive, dont les politiques publiques de redistribution des biens collectifs et des richesses collectives (politiques portant sur l’emploi, la formation professionnelle ou la fiscalité).

Voici quelques questions auxquelles la Commission répond dans cet avis :

  • Que faire avec les individus qui, suite à l’automatisation, pourraient perdre leur emploi et qui pourraient avoir de la difficulté à en trouver un nouveau, peut-être parce qu’ils n’ont pas les compétences recherchées par les employeurs ?
  • Comment favoriser une réinsertion sur le marché du travail qui se veut respectueuse des intérêts des individus, tout en prenant en considération les besoins des employeurs et de l’économie de manière plus générale ?
  • Que faire avec les individus qui pourraient devoir accepter un emploi moins payant que leur emploi précédent ?

Parallèlement à l’avis, les travaux ont mené à une contribution à l’ouvrage collectif, sous la direction de Jean Bernier, L’intelligence artificielle et les mondes du travail. Perspectives sociojuridiques et enjeux éthiques, paru aux Presses de l’Université Laval (janvier 2021).

Dans le chapitre "Intelligence artificielle, automatisation et inégalités", David Rocheleau-Houle, conseiller en éthique, et Jocelyn Maclure, président de la CEST, proposent :

  • Un aperçu des effets de l’IA sur le monde du travail ;
  • Une analyse des enjeux liés aux inégalités socioéconomiques et à la redistribution des bénéfices et des risques de l’automatisation ;
  • Quelques pistes à privilégier.

La publication du rapport final est disponible ici.

Un avis en cours : les enjeux éthiques de la gestion algorithmique

La Commission poursuit la réflexion sur les répercussions des dispositifs technologiques et des systèmes d’intelligence artificielle sur le monde du travail en se focalisant cette fois sur les enjeux éthiques liés à la gestion algorithmique. La gestion algorithmique désigne l’utilisation d’algorithmes informatiques, dont ceux basés sur l’intelligence artificielle, pour assurer la gestion des employés et des équipes de travail. Ce mode de gestion s’opère par des systèmes venant soutenir ou automatiser la prise de décision selon une série de règles programmées sur ordinateur qui traitent et analysent les données. Ces systèmes peuvent établir des prédictions, formuler des recommandations ou procéder à l’automatisation partielle ou complète de certaines tâches attribuées généralement aux gestionnaires d’une organisation. Parmi ces tâches, on retrouve la supervision des employés, la sélection de candidats, l’évaluation du rendement, l’établissement d’objectifs ou la distribution de tâches et d’horaires. Si l’utilisation d’algorithmes en gestion des ressources humaines n’est pas une pratique nouvelle, le contexte actuel est favorable à l’extension de ce mode de gestion : on note une grande disponibilité de données induite par l’adoption en milieux de travail de logiciels et de technologies connectés comme des capteurs, des dispositifs de surveillance, des appareils intelligents et des outils audios, de traitement de texte ou de suivi GPS. Il devient maintenant plus facile de quantifier et de mener un suivi serré des activités de travail, les données étant collectées en temps réel, dans une plus grande étendue et granularité que par le passé. À cela s’ajoutent des systèmes algorithmiques suffisamment sophistiqués pour traiter toutes ces données captées et prendre des décisions importantes sur les employés.

La Commission travaille à l’élaboration d’un deuxième avis pour encadrer la gestion algorithmique avec une attention portée aux répercussions qu’induit ce mode de gestion sur les travailleurs et leurs conditions de travail.

QUELQUES ENJEUX ÉTHIQUES

L’optimisation du travail et la productivité sont les arguments généralement avancés pour justifier les recours à une gestion algorithmique. Grâce à la rapidité d’exécution des systèmes d’intelligence artificielle (SIA), on souhaite ainsi optimiser les pratiques de gestion des ressources humaines en confiant à ces outils des tâches considérées comme étant chronophages et exigeantes. La valeur accordée aux algorithmes intelligents repose aussi sur la possibilité qu’offrent les SIA de coordonner un vaste ensemble de travailleurs et de microtâches ou de favoriser l’apprentissage organisationnel selon les données collectées en milieu de travail. Or, la gestion algorithmique n’est pas sans soulever plusieurs risques pour les travailleurs. Voici quelques exemples d’enjeux éthiques liés à ce mode de gestion :

  • Diminution de l’autonomie des personnes au travail :  La gestion algorithmique soulève avec acuité l’enjeu du contrôle des employés et de leur perte d’autonomie. Le suivi en temps réel du travail effectué (le rythme, la géolocalisation, le moment, la durée) met au jour l’ensemble des processus de travail, dans une forme accessible à l’employeur. Or, cette supervision en continu nourrit une asymétrie de pouvoir et peut réduire le pouvoir de négociation des employés, en ce que c’est l’employeur ou le gestionnaire qui bénéficie d’un accès privilégié aux données de l’employé, alors que ce dernier n’a pas nécessairement accès à l’étendue des pratiques de surveillance opérées à son endroit. D’ailleurs, même si ce dernier consent à la collecte de données, il se trouve d’emblée dans une position asymétrique par rapport à son employeur, où un refus peut mettre à risque son emploi, ce qui mine la qualité du consentement.
  • Pratiques discriminatoires et inéquitables : Plusieurs enjeux relatifs à l’équité, c’est-à-dire au traitement juste et impartial de chaque personne, sont soulevés avec l’utilisation de SIA en contexte de travail. L’iniquité se rapporte notamment aux biais discriminatoires d’outils de gestion algorithmique dont l’entrainement reposerait sur des données incomplètes ou une programmation injuste ou biaisée. On peut penser à un SIA qui attribue systématiquement un salaire plus élevé à un employé masculin ou à l’utilisation de systèmes de reconnaissance des émotions lors d’embauche sachant que les écrits scientifiques sont abondants quant à l’interprétation différenciée des émotions par les SIA selon la couleur de la peau. Les pratiques discriminatoires en lien avec les biais algorithmiques sont nombreuses, incluant les enjeux de reconnaissance faciale, la discrimination à l’embauche, le profilage racial, l’accès au crédit et l’acceptation de dossiers d’immigration. Ainsi, plusieurs profils de diversité peuvent subir ces discriminations. La source de ces biais peut être multiple : elle peut provenir des données historiques utilisées pour entrainer ce système d’IA qui avantagent grandement certains travailleurs ou bien avoir été générées lors de la phase de programmation d’IA, etc.
  • Bien-être des travailleurs et risques psychosociaux : Le bien-être réfère ici à la qualité de vie au travail et il peut être analysé sous plusieurs facettes : émotionnelle, physique, financière ou intellectuelle. La surveillance accrue à laquelle peuvent être exposés les travailleurs dans un environnement de travail interconnecté est susceptible de renforcer leur niveau de stress. Utilisée pour évaluer le rendement de la prestation de service accomplie comme c’est le cas avec les plateformes de services à la demande telle que Uber, la gestion algorithmique risque d’accentuer certains effets négatifs sur le plan psychologique. L’organisation de plus en plus interconnectée du travail aux dépens d’environnements collectifs de travail peut également augmenter le sentiment de solitude des travailleurs en plus de nuire aux expériences collectives qui façonnent les milieux de travail.
  • Perte de sens au travail : La mise en données des travailleurs accentuée par la gestion algorithmique soulève le risque de réduire la valeur des tâches à leur aspect quantitatif et d’occulter d’autres types de savoir-faire ou de connaissances tacites mobilisés dans l’emploi qui, bien que non quantifiables, revêtent une importance forte sur le plan de la réalisation personnelle et de la reconnaissance au travail. Ce risque se manifeste notamment dans les pratiques d’évaluation à partir de données extraites de leur contexte et du sens qu’accordent les employés à leurs activités de travail, par exemple avec l’utilisation d’applications visant à classer les individus selon des profils types en croisant des données diverses sur les comportements au travail.
  • Risques pour la vie privée et la confidentialité des renseignements personnels : L’utilisation de dispositifs technologiques de collecte de données et de SIA soulève plusieurs questions quant à la protection de la vie privée et des renseignements personnels dans un contexte de travail. En effet, avec ces nouvelles méthodes d’acquisition et d’analyse de données, les employeurs sont en mesure de connaître plusieurs types d’information sensible — et parfois privée — sur leurs employés. Évidemment, plusieurs outils permettent déjà d’assurer une surveillance sur les lieux de travail ou du travail des employés. Les outils d’IA devraient permettre, dans plusieurs cas du moins, de systématiser ou d’étendre cette surveillance. Surtout, ces outils permettront d’analyser plus rapidement, plus systématiquement ou plus efficacement les données collectées sur le travail des personnes en emploi. Dans ce nouveau contexte, la frontière légitime et acceptable entre le droit à la vie privée des personnes au travail et le droit de gérance de l’employeur demeure à tracer.
Date de mise en ligne : 22 octobre 2019

Si l’enregistrement des fichiers de témoins est activé sur votre navigateur, la visite de ce site placera un fichier de témoins sur votre ordinateur, ou un fichier de témoins sera lu si vous avez déjà visité ce site auparavant. Notre utilisation des fichiers de témoins vise uniquement à améliorer votre expérience comme utilisatrice ou utilisateur sur le site Web de la Commission.