Les services de police de Los Angeles (LAPD) font appel à Palantir, l’éditeur qui équipe les services d’espionnage américains, pour apporter du prédictif dans la surveillance des quartiers et des personnes. Résultat : 2 % de la population de LA est controlée entre 11 et 30 fois par semaine, voire plus !
Il ne fait pas bon résider dans certains quartiers ou appartenir à certaines communautés voire ethnies de la mégapole Los Angeles. Et cédant une partie de ses cerveaux aux analystes de Palantir, le LAPD (Los Angeles Police Department) laisse à la machine le soin de déterminer qui ou quel quartier est potentiellement dangereux et doit faire l’objet de l’attention des policiers de terrain.
Selon un rapport de Stop LAPD Spying Coalition, organisation à la fois de recherche et d’activisme, cette pratique aboutirait à « une allocation disproportionnée des ressources policières à des communautés historiquement hyperpolicées ». Concrètement, cela se traduit par une présence policière et des contrôles concentrés sur certains quartiers et 2 % de la population de LA.
Ce que dénonce l’organisation, c’est que l’utilisation de la technologie ne fait que créer une « boucle de rétroaction raciste » qui place une petite partie de la population de LA dans un état de surveillance constante. Ces 2 % de la population sont contrôlées 11 à 30 fois par semaine, voire plus…
Palantir et LASER
Le programme mené par le LAPD se nomme Operation LASER (Los Angeles Strategic Extraction and Restoration), et repose sur la technologie de Palantir. Celle-là même dont le développement a été financé par les services de renseignement américains pour détecter les risques terroristes, et accessoirement s’octroyer tous les droits pour nous espionner, dans nos conversations, sur les réseaux sociaux et plus généralement sur l’Internet.
La technologie a également été retenue par les services d’espionnage français et britanniques, ce qui en dit long sur les pratiques des Etats et l’interconnexion de ces services… Mais c’est un autre débat !
L’objectif de LASER est de créer des ‘Bulletins des délinquants chroniques’, une liste continue de résidents à surveiller. Chaque liste vise à aider les forces de l’ordre à « identifier les délinquants chroniques violents les plus actifs » dans leur zone, le LAPD ayant divisé le territoire de LA en 16 divisions départementales.
Le processus d’identification des risques
Le processus d’identification des résidents à surveiller se déroule en deux étapes :
- Analyse du renseignement criminel
Cette analyse repose sur les dossiers de police, les rapports d’arrestation, les fiches ‘d’entrevue’ (contrôle) sur le terrain pour déterminer subjectivement comment orienter les forces de l’ordre dans les quartiers ou vers quels individus.
- Workup
Le workup repose également sur un logiciel fourni par Palantir pour extraire des données sur les antécédents criminels et les affiliations des individus, sur la lecture des plaques d'immatriculation, également sur les réseaux sociaux, afin de créer un ‘score de délinquant chronique’ pour chaque individu.
La ‘note’ obtenue par un individu détermine s’il faut le considérer comme une menace suffisante pour que les agents du LAPD interviennent. Ces derniers sont alors invités à prendre contact avec l’individu, par courrier ou physiquement, pour l’avertir qu’il est surveillé. Plus intrusif encore, ils peuvent être chargés de chercher les occasions de l’arrêter, voire avec l’aide d’une certaine complaisance de la justice locale prompte à émettre des mandats de l’arrêter.
Le processus de police prédictive
Le LAPD s’est également équipé d’un autre logiciel, PredPol, qui s’appuie sur un algorithme de Machine Learning pour déterminer des stratégies policières reposant sur des données et des preuves afin de prévenir le crime. Une cinquantaine d’autres départements de police aux Etats-Unis utilisent également ce système qui nous plongerait presque dans un monde de science-fiction...
PredPol est un modèle mathématique qui introduit trois variables : le lieu où un crime a été commis, quand il a été commis, et le type de crime. Il est utilisé pour calculer les ‘points chauds’ dans une zone métropolitaine ramenée à moins de 150 mètres carrés où, théoriquement, certains types de crimes sont plus susceptibles d'être commis un jour donné. Les patrouilleurs du LAPD l’utilisent pour planifier leurs trajets quotidiens.
Le modèle PredPol est une adaptation d’un modèle prédictif destiné à anticiper des effets issus d’un tremblement de terre ! A LA, PredPol analyse des séries d’analogies médicales qui sont utilisées pour alimenter une partie des données de Operation LASER, en particulier pour déterminer un ‘dosage’ de menaces ‘chroniques’.
La ‘boucle de rétroaction raciste’
Pour les défenseurs de ces systèmes de police prédictifs et automatisés, les algorithmes sont proches de ceux qui sont utilisés par les géants du web, Facebook et Amazon en tête, à des fins publicitaires. Mais pour ses opposants, comme Stop LAPD Spying Coalition, PredPol et Operation LASER ne font qu’alimenter discrimination et racisme.
Le modèle prédictif transformerait des problématiques de sécurité des personnes en détection de pathologies individuelles. Avec des effets sur l’ensemble d’une communauté de voisins. Le choix du critère géographique est particulièrement discriminent, il sous-tend que toutes les personnes à proximité d’un criminel potentiel présentent un risque, sans aucune neutralité ni objectivité dans les données.
La police de LA en charge d’appliquer le programme se comporterait avec les communautés qu’elle a la charge de surveiller comme si elles portaient en elles les graines de la violence et du crime que le LAPD est en charge de combattre. Le prédictif se transforme alors en boucle de rétroaction raciste qu’il devient presque impossible de quitter… La prévention pourrait faire plus de mal qu’elle ne le soigne. Mais qui, dans un monde toujours plus policé, est prêt à l’entendre ?
Image d’entête 945487880 @ iStock jossdim
