Le gouvernement britannique sommé d’afficher plus de transparence sur l’utilisation de l’intelligence artificielle dans les services publics

Le gouvernement britannique vient d'être épinglé dans un rapport réalisé par un comité spécial sur la façon d’utiliser l’intelligence artificielle dans les prestations de service public. Ce document conclut que le gouvernement n’est pas assez transparent sur l’utilisation des IA dédiées à la prise de décision. Pourtant, ces technologies représentent potentiellement des impacts importants sur la vie des citoyens.

Dans un premier temps, les départements ministériels britanniques étaient très enthousiastes à l’idée d’utiliser l’IA dans les prestations de service en matière de santé. Le ministre de la Santé, Matt Hancock, a présenté récemment sa vision des soins préventifs et personnalisés entièrement pilotés par l'intelligence artificielle. Il a même prédit la transformation future et en profondeur de la NHS (National Health Service) en promouvant les applications dédiées à la santé. Le ministre a défendu particulièrement la startup Babylon Health et sa technologie IA capable de trier les différents types de soins de santé. Cette entreprise vend actuellement tout un panel de services à la NHS. Au delà de la santé, le département de la sécurité, dont la police, privilégie aussi l'usage de l'IA. Les forces de l’ordre testent actuellement plusieurs applications de reconnaissance faciale. La police de Londres a même dépassé le cap en adoptant totalement l’IA parmi ses principaux outils de travail.

Les différents services du gouvernement manqueraient cependant de budget pour empêcher les risques de biais et de discrimination que pourrait engendrer l’utilisation massive de l’IA dans les services publics. De plus, l’utilisation de l’IA risque de poser quelques questions éthiques sur l’utilisation des données. Par ailleurs, le gouvernement ne communique que trop peu sur le rôle des entreprises de fourniture de services IA avec qui il collabore. La commission parlementaire britannique chargée du suivi des normes de la vie publique a publié une série de recommandations pour l’utilisation de l’IA dans le secteur public. Elle a rappelé les trois principes clés de la prestation de service public qui sont l’ouverture, la responsabilité et l’objectivité. Par rapport au principe d’ouverture, la Commission estime que le gouvernement laisse filtrer trop peu d’informations sur l’utilisation de l’IA et les risques que cette dernière représente sur la transparence. Sur le principe de responsabilité, la Commission pense que l’IA peut rendre obscure la chaîne de responsabilité, remettre en cause l’attribution des responsabilités et des décisions, mais aussi de ne pas permettre aux responsables publics de fournir des explications sur les décisions prises par l’IA. Enfin, sur le principe d’objectivité, l’IA représente un trop grand risque de biais et de discriminations, toujours selon la Commission.

Les élus britanniques ne sont pas les seuls à s’alarmer du manque d’informations sur l’utilisation de l’IA dans le pays. Les Nations Unies, par la voix du rapporteur spécial sur la pauvreté et les droits de l’homme, ont exposé leurs inquiétudes devant la précipitation du Royaume-Uni à adopter les technologies IA dans le secteur public. L’agence pense que le pays devrait tout d’abord mettre en place une réglementation stricte avant d’utiliser une telle technologie dans les prestations de services publics.

Néanmoins, le rapport mentionne que l’utilisation de l’IA dans les services publics reste encore à ce stade assez limitée. Seuls quelques services comme la police et les agences de santé spécialisées dans les maladies oculaires y ont recours. Le gouvernement est aussi en train de travailler sur des projets d’intégration de l’IA dans l’éducation et le bien-être social, entre autres. Le rapport cite, par exemple, le test d’utilisation des enceintes intelligentes Amazon Echo dans les foyers pour séniors du Hampshire County Council.

Le rapport a émis une quinzaine de recommandations à l’encontre du gouvernement britannique avant de déployer massivement l’IA dans le service public. Parmi les plus importantes figure la nécessité d’établir une base juridique claire sur l’utilisation de l’IA. Une autre porte sur l’importance de la considération des questions éthiques et des principes fondamentaux du service public. Le rapport suggère aussi que la Commission pour l’égalité et des droits de l’homme se charge de l’élaboration de cadres d’orientation sur les risques de biais engendrés par l’IA, mais aussi pour veiller à ce que son utilisation soit conforme à la loi britannique sur l’égalité, adoptée en 2010. Par contre, le comité à l’origine du rapport ne recommande pas la création d’un autre organe de régulation pour la supervision de l’utilisation de l’IA. À la place, il appelle les agences existantes à se mettre à niveau sur les changements engendrés par l’automatisation. Le comité pense aussi qu’il est nécessaire de créer un organisme chargé d’identifier les lacunes réglementaires et de tenir le rôle de conseil vis-à-vis des régulateurs et du gouvernement sur les questions relatives à l’IA. Le comité soutient ainsi le projet du gouvernement d’attribuer ce rôle au CDEI, ou le centre pour l’éthique des données et l’innovation.