Pourquoi IBM tire une croix sur la reconnaissance faciale ?

Sécurité

Par Remi Lou le

Alors que les tensions raciales s’intensifient outre-Atlantique, IBM abandonne sa technologie de reconnaissance faciale. Le chef exécutif de la firme américaine a indiqué que cette décision intervenait à un moment opportun pour « ouvrir un dialogue national sur les technologies de reconnaissance faciale pour déterminer si elles doivent être utilisées, et comment, par les forces de l’ordre. »

Crédits : Bernard Hermant via Unsplash X IBM

Alors que les États-Unis – et le monde – s’enflamment après la mort de George Floyd, et remettent en cause les techniques d’interpellation des forces de Police, IBM a décidé de tirer une croix sur la reconnaissance faciale et ne plus vendre d’outils mettant à profit cette technologie. Le géant américain du numérique argumente sa décision en déclarant être radicalement opposé « à l’utilisation de toute technologie à des fins de surveillance de masse, de profilage racial, de violations des droits et libertés humaines de base ou encore tout objectif contraire à nos valeurs. »

Cette technologie est en effet largement sujette à débat aux endroits où elle est mise en pratique. Plusieurs villes des États-Unis l’ont en effet successivement adoptée, puis interdite. San Francisco est ainsi devenue la première ville à interdire l’utilisation de cette technologie par la police, estimant que la reconnaissance facile pouvait « exacerber l’injustice raciale et menacer notre capacité à vivre libre de toute surveillance permanente par le gouvernement », expliquait alors la décision du Conseil municipal en mai 2019. D’autres villes ont par la suite suivi l’exemple de la ville Californienne, à l’image de Oakland, Portland, ou encore, dernier exemple marquant, la ville de New York, qui a limité l’usage de la reconnaissance faciale en forçant les entreprises qui l’utilisent à afficher des panneaux devant les bâtiments pour alerter les visiteurs que la technologie y est utilisée.

Mais si cette technologie est aussi controversée, ce n’est pas seulement parce qu’elle pourrait être utilisée à mauvais escient, comme dans le cas d’un éventuel profilage des minorités par les forces de police qui fait aujourd’hui débat, ou à cause des nombreux soupçons d’une surveillance généralisée. En effet, cette technologie ne semble pas suffisamment mature pour être utilisé dans un contexte d’identification de la population en raison de sa forte propension à générer des faux positifs. En juillet 2019, une étude indépendante relayée par SkyNews révélait par exemple qu’à Londres, 81% des correspondances identifiées par des caméras équipés de la reconnaissance faciale seraient invalides.