Google a décidé de supprimer les étiquettes de genre sur son API Cloud Vision. Il s’agit de son service de classification d’images. Selon Google, il n’est pas possible de déterminer le genre d’une personne sans erreur en fonction de ses apparences, ajoutant que les étiquettes de genre peuvent conduire à des biais. De nbombreux experts en intelligence artificielle pensent que les autres entreprises qui proposent ce type de technologie devraient suivre l’exemple de Google, comme IBM avec sa technologie Watson, Amazon avec Rekognition et Microsoft avec ses Cognitives services connectés à Azure. Toujours est-il qu’à partir de ce jour, Google va cesser l’utilisation des étiquettes « homme ou femme » au profit de celui de « personne ».
Les quatre sociétés disposent d’outils IA puissants, capables de classer les objets et les individus. Elles peuvent assurer d’autres types de service comme la description de points de repère, les expressions faciales, les logos, la modération de contenu, la vérification d’identité et des applications dans la recherche scientifique.
La pression s’exerce ainsi sur les IBM, Amazon et Microsoft sur un éventuel abandon des étiquettes de genre sur leurs outils IA. Joy Buolamwini, informaticien au MIT et expert en biais IA, pense que cette décision de Google montre qu’il est possible de modifier les choix de conception de ces outils, réfutant les idées selon lesquelles certaines choses ne peuvent pas être modifiées avec la technologie IA. Déjà en 2018, le chercheur avait publié des articles expliquant que les IA utilisées par Microsoft et IBM pouvaient conduire à des biais frôlant le racisme. L’outil Rekognition d’AWS montre ce même type de problème, bien que réfuté par Amazon. La professeure agrégée au MIT, Sasha Costanza-Chock, pense aussi que les sociétés technologiques devraient reconsidérer les étiquettes de classification de genre pour supprimer les biais raciaux. Elle ajoute par ailleurs que les classifications de type « binaires » peuvent offenser les personnes transsexuelles et les femmes de couleur, les plus susceptibles d’être mal classées. En guise d’exemple, la chercheuse a cité les conducteurs transgenres d’Uber dont les comptes sont régulièrement verrouillés par l’application Ride-hailing.
Jusqu’ici, IBM et Microsoft n’ont émis aucun commentaire par rapport à la décision de Google. Amazon précise que son outil de classification de genre se base sur l’apparence physique de la personne à partir d’une image particulière. La technologie n’indique pas le genre de la personne. La société invite les utilisateurs à ne pas faire appel à Rekognition pour identifier le sexe d’un individu, tout en affirmant que les outils de prédictions binaires ne doivent pas être sollicités pour prendre des décisions qui touchent les droits, la vie privée et l’accès à un service.
À lire aussi : Google publie une mise à jour de Chrome pour corriger des bugs de sécurité et une vulnérabilité zero-day
