Selon les résultats d’une étude menée par une chercheuse du MIT de Boston, Joy Buolamwini, les IA dédiées à la reconnaissance faciale seraient quelque peu racistes. En effet, elles sont plus aisées à identifier les hommes de races blanches que ceux à la peau noire. Et ce n’est pas tout, elles seraient également misogynes puisqu’elles ont du mal à reconnaître les visages féminins. Les principales IA pointées du doigt sont celles d’IBM, de Microsoft et de Face ++.
Dans l’ensemble, les trois IA ont de bons résultats. Celle d’IBM fait un score de 87.9% de réussite, celle de Microsoft en est à 93.7% tandis que l’IA de Face ++ affiche 90% de résultats positifs. Le défaut de reconnaissance des femmes est surtout important chez Face ++ avec un taux de reconnaissance réussi à seulement 78.7%. Selon Joy Buolamwini, ce dysfonctionnement est dû aux bases de données images qui ont été intégrées dans les trois IA.
