Microsoft a toujours été contre l’utilisation abusive de la technologie artificielle. L’année dernière, Brad Smith, le président de la firme, a déclaré que son entreprise va tout mettre en œuvre pour mieux gérer cette technologie. D’après lui, la reconnaissance facile pourrait être utilisée à des fins de discriminations raciales et ethniques. Ce qui a poussé la firme à ne pas vendre sa technologie à la police californienne. Dans cette initiative, Microsoft a également décidé de supprimer discrètement sa base de données appelée « MS Celeb » contenant plus de 10 millions d’images de près de 100,000 personnes. Cette base de données créée en 2016 constituait l’un des plus grands ensembles de données de reconnaissance faciale disponibles au grand public. Il a été exploité pour la formation de systèmes de reconnaissance faciale par les entreprises de technologie et les chercheurs du monde entier. Toutes les personnes présentes dans la banque d’images n’ont pas donné leur consentement concernant l’utilisation de leur photo. Toutefois, Microsoft a déclaré que ces personnalités étaient considérées comme des célébrités et que les images ont été téléchargées sous une licence Creative Commons.
Il y a quelque temps, le chercheur berlinois Adam Harvey a découvert que MS Celeb contenait aussi des photos d’individus privés tels que des journalistes de sécurité et des auteurs. De plus, il a indiqué que même si MS Celeb a été supprimé, son contenu est encore disponible sur le web. D’après lui, il est actuellement impossible de faire disparaitre un ensemble de données sur internet. Une fois qu’ils sont postés, les gens vont tout de suite se mettre à les télécharger.
