Commission de l'éthique en science et en technologie

FERMETURE DES BUREAUX - Veuillez noter qu'en raison de la crise sanitaire liée à la pandémie de COVID-19, la CEST réalise l'ensemble de ses activités en mode virtuel seulement. Pour nous contacter

Les technologies de profilage criminel : juger un livre par sa couverture

En mai 2016, le Washington Post révélait qu’une compagnie israélienne prétend avoir développé un logiciel permettant de détecter un pédophile ou un terroriste à partir de l’analyse du visage. Faception, qui affirme que son outil a taux de succès de 80%, aurait obtenu un contrat d’une agence de sécurité intérieure américaine.

27 mai 2016 Données numériques et massives, Technologies de l'information et des communications, Intelligence artificielle, Technologies de surveillance

Partager cette page

Un postulat douteux : il y aurait un lien de causalité entre l'ADN, la personnalité criminelle et les traits du visage

Selon la compagnie, la personnalité criminelle est déterminée par l’ADN et elle se reflète dans le visage. Ce postulat permet de faire un lien causal direct et rigide entre les traits visibles et la criminalité. Or, ce postulat ne repose sur aucune preuve scientifique et ne peut être démontré compte tenu de l’état actuel des connaissances en génétique.

Renforcement de biais

Le logiciel de Faception isole les traits physionomiques prétendument typiques à partir de l’analyse de banques de données de visages. Or, certains traits visibles peuvent être liés à la criminalité mais de manière indirecte et complexe. Par exemple, certains traits raciaux peuvent être corrélés à la criminalité sans que l’origine ethnique soit elle-même la cause de la criminalité. En effet, des éléments contextuels tels que le statut socio-économique et la discrimination raciale expliquent cette corrélation. Ainsi, en partant de condamnations passées pour prédire l’avenir, le logiciel risque de reproduire et de renforcer des iniquités et des structures de pouvoir.

Un tel biais racial a déjà été observé dans les conclusions d’un logiciel d’évaluation de risque de récidive.

Validité et faux positifs

Même si on admettait que la théorie derrière la technique de profilage facial de Faception avait une certaine validité, des problèmes importants demeureraient. La compagnie prétend que sa technique a un taux de succès de 80%. Or, si certaines de ces erreurs sont des faux positifs, des personnes risquent d’être injustement suspectées d’avoir commis ou d’être susceptibles de commettre de graves crimes.

Si l’enregistrement des fichiers de témoins est activé sur votre navigateur, la visite de ce site placera un fichier de témoins sur votre ordinateur, ou un fichier de témoins sera lu si vous avez déjà visité ce site auparavant. Notre utilisation des fichiers de témoins vise uniquement à améliorer votre expérience comme utilisatrice ou utilisateur sur le site Web de la Commission.