Google AI est un système capable de reconnaitre et d’étiqueter les objets se trouvant dans une image. Cet outil peut actuellement détecter les visages, les logos de marque et des points de repère grâce à l’API Cloud Vision de Google, le service pour les développeurs qui leur permettent d’attacher des étiquettes aux photos pour identifier leur contenu. Dernièrement, Google a décidé de ne plus utiliser d'étiquettes du genre « femme » ou « homme » pour ses balises d’images. Selon eux, il serait impossible de déduire le sexe d’une personne uniquement à partir de son apparence. De plus, Google a également fait référence à l’une de ses règles éthiques sur l’Intelligence artificielle qui affirme que les photos de genre pourraient entrainer des préjugés injustes. Au lieu d’attacher des étiquettes de genre à une photo, Google AI marquera les images comportant des personnes avec des libellés non sexués comme « personne ».
Google a indiqué que les développeurs de ses algorithmes d’IA mettent tout en œuvre pour éviter les impacts injustes sur les personnes surtout celles liées à des caractéristiques sensibles telles que l'origine, le sexe, l’ethnicité, la nationalité, le revenu, l’orientation sexuelle ainsi que les croyances politique et religieuse.
La précision des systèmes d’intelligence artificielle a toujours été un sujet de débat pour les chercheurs. Selon eux, les données de formation erronées peuvent créer des préjugés injustes. En effet, la plupart des algorithmes de reconnaissance faciale font plus d’erreurs en identifiant les personnes de couleurs qu’en identifiant les blancs.
À lire aussi : Google décide d’abandonner son service de WiFi gratuit Station au niveau mondial
