Amazon, mais aussi Microsoft, acteurs activement engagés sur le marché de la reconnaissance facile, appellent depuis peu à réguler ce domaine en pleine émergence. Ben Dickson, fondateur du site TechTalks, a publié en février un long article revenant sur les raisons à l’origine de cette demande, pour le moins inhabituelle chez les géants américains de la technologie.
Début 2019, Michael Punke, Vice-Président chargé des politiques publiques mondiales chez Amazon Web Services, s’est prononcé en faveur d’un cadre législatif national, « pour protéger les droits des individus et s’assurer que les gouvernements font un usage de la reconnaissance facile en toute transparence ».
La reconnaissance faciale fait partie des domaines de l’intelligence artificielle à forte croissance. Amazon est l’un des leaders de ce marché avec son service dénommé Rekognition, proposé à différents clients, dont des agences gouvernementales. L’entreprise n’est pas le premier acteur à mettre sur la table le sujet de la régulation, comme le rappelle Ben Dickson. Le Président de Microsoft, Brad Smith, s’est exprimé plusieurs fois sur la question, demandant à réguler le développement et l’utilisation des technologies de reconnaissance faciale.
Si ces appels au régulateur peuvent sembler aller contre l’intérêt de ces grands acteurs, en réalité il n’en est rien. Avec la maturation du secteur, un encadrement du domaine sert en effet les intérêts des géants de la high tech.
Ces derniers ne manquent pas de mettre en avant des cas d’usage très positifs pour ces technologies, autour de la prévention du trafic d’humains, pour retrouver des enfants portés disparus comme en Inde, ou encore pour faciliter la détection de maladies génétiques, sans compter les usages classiques pour simplifier les vérifications d’identité courantes (pour effectuer des gros paiements, déverrouiller un smartphone…)
Le côté obscur de la reconnaissance faciale
Ces technologies ont aussi leur côté obscur, notamment au niveau de la vie privée. Des systèmes comme celui mis en place par l’Inde pour retrouver des enfants peuvent facilement être détournés, pour surveiller par exemple des groupes religieux ou ethniques spécifiques. Selon Brad Smith, c’est la voie ouverte à une surveillance massive des individus, le tout sur une échelle sans précédent.
Autre source de préoccupation, le fait de combiner ces technologies avec des objets connecté comme les caméras de surveillance. Les données vidéos et les métadonnées associées sont alors exportées dans le cloud, ce qui permet au fournisseur du service de les utiliser pour proposer de la publicité ciblée, ou de les exploiter à des fins moins avouables.
Pour prévenir de telles dérives, les demandes de régulation insistent sur la transparence. Aussi bien les gouvernements que les entreprises privées doivent clairement mentionner quand elles utilisent la reconnaissance faciale, quelles données sont collectées et pour quels usages.
Les fournisseurs peuvent aussi être tenus responsables si leurs clients font un usage non éthique de leurs technologies. Il est donc dans leur intérêt de prendre des mesures en amont.
En l’absence de réglementation, les usages non éthiques ne sont pas loin
Problème : il n’existe à l’heure actuelle aucun cadre définissant ce qui constitue un usage éthique ou pas en matière de reconnaissance faciale. La technologie d’Amazon a par exemple été appliquée à des images de membres du Congrès : 28 d’entre eux ont été identifiés comme des criminels connus, la faute selon Amazon à un seuil de reconnaissance trop bas. Par défaut, celui-ci est à 80%, mais pour des usages à vocation légale, l’entreprise recommande de régler le seuil à 95%, voire 99%.
Cet exemple démontre une chose : sans lignes de conduite claires, utiliser la reconnaissance faciale dans des domaines comme l’application de la loi est dangereux : les biais des algorithmes entraînent des faux positifs, eux-mêmes à l’origine de la condamnation de personnes innocentes.
Un autre débat nourri tourne autour de la prise de décisions automatisée à partir de la reconnaissance faciale. Faut-il automatiquement émettre des mandats d’arrêt pour les personnes identifiées en flagrant délit par les systèmes ? Pour Michael Punke, il faut obligatoirement maintenir un humain dans la boucle.
Néanmoins, sans barrières légales clairement établies, les gouvernements peuvent être tentés de confier à des intelligences artificielles certaines décisions sensibles. Le développement par Google d’algorithmes de vision assistée pour le Département de la Défense US a soulevé de vives controverses, plusieurs chercheurs estimant que ces technologies peuvent servir de base à la reconnaissance automatique de cibles par des systèmes d’armement autonomes.
Les mêmes règles du jeu pour tous, façon pour les GAFAM de conserver leur avance
Dans le domaine très sensible de la reconnaissance faciale, l’absence de régulation risque de conduire certaines entreprises à sacrifier l’éthique au profit des parts de marché. Un cadre légal permettrait au contraire à chacun de continuer à innover, tout en préservant les droits des individus et en protégeant le marché contre des acteurs aux pratiques douteuses.
Régulation ou pas, de par leur taille et leur exposition à l’opinion publique, les grands acteurs seront dans tous les cas obligés de mettre en place des règles pour encadrer les usages de leurs technologies. Néanmoins, en l’absence de lois définissant clairement les limites, ils risquent de se retrouver face à la concurrence d’entreprises de plus petite taille, moins vulnérables face aux critiques. Leur engagement en faveur d’une régulation est donc un moyen de préserver leur avance sur ce marché, en obligeant tout le monde à se conformer aux mêmes règles du jeu.
Source : TechTalks
