Histoire d’un aller-retour : neurosciences et IA

Les ICM et l’IA : décodage et stimulation de l’activité cérébrale

Les ICM, selon la Royal Society, sont des « dispositifs électroniques placés à l'extérieur ou à l'intérieur du cerveau ou d'autres composants du système nerveux central et périphérique, tels que les nerfs et les liens entre les nerfs et les muscles, pour enregistrer ou stimuler l'activité - ou les deux ». Ainsi, ces interfaces peuvent lire et décoder l’activité du système nerveux, de sorte, par exemple, à activer des prothèses visant à redonner la motricité ou la sensibilité (tactile, auditive ou visuelle). Cela permet aussi à des personnes souffrant du syndrome d’enfermement de contrôler des appareils électroniques par la pensée et d’ainsi communiquer.

Si nous sommes loin de parler pour l’instant d’outils permettant de lire toutes les pensées d’une personne, plusieurs expériences témoignent d’un bond en avant réalisé au cours de la dernière décennie. Des chercheurs sont par exemple arrivés à décoder l’activité cérébrale accompagnant le monologue interne de sujets et à identifier les mots qu’ils formulaient mentalement. D’autres ont permis de décoder les signaux neuraux générés par l’observation d’images de sorte à recréer, avec un certain degré de précision, des images semblables.  

Les ICM peuvent aussi « écrire » dans le système nerveux, le stimuler en envoyant du courant électrique dans des zones très précises. Ceci permet par exemple de contrôler les tremblements associés à la maladie de Parkinson ou encore d’améliorer le sommeil, la mémoire et la concentration. Certains appareils déjà en vente prétendent pouvoir guérir la dépression et stimuler certains états mentaux agréables.

Or, comme le souligne Marcello Ienca (14 :50), un pionnier de la neuroéthique, l’IA intervient à ces deux niveaux (lecture et écriture) dans les nouvelles générations d’ICM. Pour la lecture, des algorithmes d’apprentissage sont entre autres utilisés pour analyser des données neurales et détecter des corrélations entre des états mentaux et des états cérébraux. Pour ce qui est de l’écriture, l’IA est utilisée, par exemple, pour optimiser le ciblage de zones du cerveau avec plus de précision afin d’accroitre l’efficacité. L’IA, en utilisant des modèles prédictifs, permet aussi de combler des trous laissés par la trop lente vitesse de transmission de l’information du cerveau vers les ICM et d’accélérer le décodage de signaux cérébraux.

Neuroéthique et éthique de l’IA : vers une intégration

Malgré les liens entre IA et neurotechnologies, la neuroéthique et l’éthique de l’IA se sont développées en suivant des trajectoires séparées. C’est pourquoi des chercheurs, dont Ienca, appellent à une collaboration accrue entre ces deux champs de l’éthique. On peut donc se réjouir de voir les travaux du Comité International de bioéthique de L’UNESCO en vue de l’élaboration d’un instrument normatif international accorder une certaine place, bien que limitée, aux enjeux soulevés par l’imbrication de l’IA et des ICM. À quoi donc devrait ressembler une telle intégration de la neuroéthique et de l’éthique de l’IA? Sans être ici exhaustifs, nous pouvons en donner un bref aperçu en nous penchant sur l’incorporation de trois thèmes centraux en éthique de l’IA dans la neuroéthique.

Biais algorithmiques et décodage de l’activité cérébrale

Comme on l’a vu, c’est grâce à l’IA que les ICM ont rapidement progressé dans le décodage des signaux neuraux avec une précision inédite. La vitesse de transfert des données neurales vers les ICM étant limitée, ces algorithmes pallient l’information incomplète en anticipant les intentions ou perceptions d’un utilisateur à partir d’un modèle prédictif. Or, comme on le sait, de tels algorithmes sont susceptibles de reconduire des biais présents dans les données d’entrainement, ce qui se produit notamment lorsque des groupes, définis par différentes caractéristiques (sexe, neurotype, âge, etc.), ne sont pas bien représentés dans les données d’entrainement. Ces pourquoi des études, dont celle de ProPublica, ont dénoncé les biais discriminatoires à l’égard de minorités racisées des algorithmes de police prédictive et de prédiction de récidive. Si des mesures ne sont pas prises dès la conception des ICM, le décodage des signaux neuraux de certaines personnes risque de mener à des erreurs d’interprétation, ce qui pourrait résulter en de faux mouvements ou des erreurs de communication. Par ailleurs, dans la mesure où les tribunaux acceptent des preuves basées sur le décodage de l’activité cérébrale (celles-ci se sont déjà immiscées dans les procès aux États-Unis ainsi qu’en France, où l’Article 18 de la Loi sur la bioéthique autorise l’usage de l’imagerie cérébrale à des fins d’expertise judiciaire), de tels biais pourraient mener à des erreurs judiciaires.  

Protection des données neurales

La question de la protection des données neurales personnelles est elle aussi particulièrement sensible. Les ICM se sont jusqu’à maintenant principalement développés avec une visée thérapeutique et dans des contextes gouvernés par les normes encadrant la recherche biomédicale. Toutefois, certaines compagnies sont déjà engagées sur la voie de la commercialisation d’ICM pour usages divers allant de la récréation (neuro-gaming), du bien-être individuel (aide au sommeil) ou d’amélioration (appareil visant à accroître la mémoire et la concentration). Or, ces usages commerciaux sont moins bien encadrés que la recherche biomédicale, notamment en ce qui a trait au respect du consentement libre et éclairé à toute collecte de données. Cette souplesse juridique relative concernant les données neurales pourrait générer une structure d’incitatifs poussant les compagnies privées développant des ICM à collecter le plus de données neurales possible, ces données ayant une grande valeur marchande. Cela pose problème si l’on considère, à l’instar du Comité international de bioéthique de l’UNESCO, que ces données devraient être vues comme « sensibles » et sujettes à des protections spéciales particulièrement robustes étant donné l’accès qu’elles offrent potentiellement à la vie interne des personnes. Des États américains (Colorado et Minnesota) sont présentement engagés dans cette voie et l’idée circule également au sein des décideurs de l’Union européenne.

Agentivité et identité des utilisateurs d’ICM

Des personnes souffrant de diverses conditions (Alzheimer, épilepsie, paralysie, perte de membres, de la vue et de l’ouïe) arrivent à retrouver motricité, sensibilité, capacité communicationnelle et contrôle de leur corps grâce à des ICM. Elles ont ainsi augmenté leur agentivité (agency), leur capacité à agir et impacter leur environnement. Toutefois, certains utilisateurs ont vu leur personnalité transformée par leur ICM ou ont développé des troubles de santé mentale (dépression, par exemple) en plus de ressentir une forme d’aliénation émaner de leur dispositif, comme si elles n’étaient plus tout à fait souveraines sur leur corps et leur pensée.

Il n'y a là rien de surprenant : comme nous l’avons vu, entre l’activité mentale d’un utilisateur d’ICM et les différents résultats qu’il vise (mouvement, perception, contrôle d’un ordinateur, prise de parole), on retrouve un intermédiaire, un ordinateur qui interprète les données neurales de l’utilisateur. Non seulement ces données peuvent être interprétées de manière biaisée, mais, de plus, les ICM fonctionnent à partir d’informations partielles qui sont complétées avec de l’analyse prédictive. Une telle interférence machine entre l’intention et le mouvement corporel, entre l’émotion et la parole visant à l’exprimer, entre la pensée et le contrôle d’un ordinateur, introduit une dose d’ « agentivité hybride » chez les utilisateurs d’ICM, une source externe à leurs actions, avec toutes les questions identitaires qui en découlent. On peut en effet sans doute considérer que plusieurs prothèses ne sont pas simplement des objets dont nous sommes propriétaires, mais plutôt des parties de notre corps. Peut-on toutefois également considérer que les algorithmes qu’on intègre dans les ICM (notamment celles qui sont implantées chirurgicalement dans la boîte crânienne) font aussi partie de leurs utilisateurs, de leur corps ou de leur esprit?