Les technologies de profilage criminel : juger un livre par sa couverture

En mai 2016, le Washington Post révélait qu’une compagnie israélienne prétend avoir développé un logiciel permettant de détecter un pédophile ou un terroriste à partir de l’analyse du visage. Faception, qui affirme que son outil a taux de succès de 80%, aurait obtenu un contrat d’une agence de sécurité intérieure américaine.

Un postulat douteux : il y aurait un lien de causalité entre l'ADN, la personnalité criminelle et les traits du visage

Selon la compagnie, la personnalité criminelle est déterminée par l’ADN et elle se reflète dans le visage. Ce postulat permet de faire un lien causal direct et rigide entre les traits visibles et la criminalité. Or, ce postulat ne repose sur aucune preuve scientifique et ne peut être démontré compte tenu de l’état actuel des connaissances en génétique.

Renforcement de biais

Le logiciel de Faception isole les traits physionomiques prétendument typiques à partir de l’analyse de banques de données de visages. Or, certains traits visibles peuvent être liés à la criminalité mais de manière indirecte et complexe. Par exemple, certains traits raciaux peuvent être corrélés à la criminalité sans que l’origine ethnique soit elle-même la cause de la criminalité. En effet, des éléments contextuels tels que le statut socio-économique et la discrimination raciale expliquent cette corrélation. Ainsi, en partant de condamnations passées pour prédire l’avenir, le logiciel risque de reproduire et de renforcer des iniquités et des structures de pouvoir.

Un tel biais racial a déjà été observé dans les conclusions d’un logiciel d’évaluation de risque de récidive.

Validité et faux positifs

Même si on admettait que la théorie derrière la technique de profilage facial de Faception avait une certaine validité, des problèmes importants demeureraient. La compagnie prétend que sa technique a un taux de succès de 80%. Or, si certaines de ces erreurs sont des faux positifs, des personnes risquent d’être injustement suspectées d’avoir commis ou d’être susceptibles de commettre de graves crimes.