En théorie, la prévision policière pourrait rendre le maintien de l’ordre plus juste et efficace. En pratique, cela dépend de plusieurs facteurs, et notamment de l’usage des données qui sont collectées de manière impartiale, ce qui n’est souvent pas le cas. À cause de cela, il n’est pas rare de voir la prévision policière renforcer et amplifier les préjugés déjà utilisés par la police. Cela entraîne un sur-contrôle de certains groupes minoritaires.

La prévision policière, c’est quoi ?

La prévision policière se réfère à l’usage d’analyses prédictives qui reposent sur des modèles mathématiques et à d’autres techniques analytiques utilisées par les services de police pour identifier de potentielles activités criminelles. La prévision policière a donc recours à des systèmes informatiques pour analyser de grands ensembles de données, puis décider où déployer les forces de police ou pour identifier des individus qui seraient davantage susceptibles de commettre un crime ou d’en être les victimes.

De manière générale, il existe deux formes de prévision policière. Tout d’abord, l’utilisation des données d’arrestation pour prédire des zones géographiques de criminalité. Ensuite, l’exploration des données des réseaux sociaux qui peuvent être utilisées pour déterminer les probabilités qu’une personne commette un crime. Les quantités non prévues de données personnelles rendues publiques ouvrent la voie des formes plus intrusives de prévision policière. Non seulement la facilité d’accès aux images faciales permet une utilisation plus intrusive des caméras de vidéosurveillance, mais les données sur les comportements en ligne pourraient conduire à l’établissement de profils individuels et des évaluations des risques à partir de ces derniers.

Les avantages

La prévention des crimes

Vous avez peut-être entendu que la prévision policière est très efficace pour prévenir les crimes. En effet, de nombreuses études semblent soutenir cette idée. Par exemple, la mise en place de la prévision policière à Santa Cruz (en Californie) sur une période de six mois semble avoir entraîné une baisse des cambriolages de 19% et a mené à une vingtaine d’arrestations. En se basant sur un algorithme, le système a employé des données criminelles vérifiées pour prédire de futures infractions dans des zones de 46,5 mètres carrés. La police s’est ensuite vue remettre des cartes avec les zones de criminalité potentielle (ou « points chauds »). Les agents patrouillaient dans ces zones sur les temps où ils ne recevaient pas d’autres appels, dans le cadre de leurs contrôles routiniers (ils n’étaient pas envoyés ou obligés de patrouiller dans ces zones).

Le service de police de Los Angeles (LAPD) a testé la méthode dans l’ensemble de la ville, qui compte une population bien plus grande et des besoins de patrouille bien plus complexes. Le service a distribué des cartes aux officiers au début leur service de prise des appels, comme à Santa Cruz. Cependant, certaines cartes étaient produites en utilisant les méthodes traditionnelles d’identification des points chauds, et d’autres cartes se basaient sur l’algorithme. Il n’était pas précisé aux agents quel type de carte on leur remettait. L’algorithme a permis d’obtenir un taux d’exactitude deux fois plus élevé que les pratiques traditionnelles du service de police de la ville. Alors que les crimes contre la propriété connaissaient une hausse de 4% dans l’ensemble de la ville, Foothill, le quartier où les cartes produites grâce à l’algorithne ont été utilisées, a connu une baisse de 12% de ce type de crimes.

2. Prise de décision éclairée

Les analyses de données informatiques fournissent une énorme quantité d’informations. Pour les partisans de la prévision policière, celle-ci pourrait entraîner des prises de décision plus objectives et décourager les agents de police de prendre des décisions arbitraires qui pourraient être fondées sur des préjugés plus que sur des preuves. C’est l’avis de l’Attorney General des États-Unis qui estime que ces techniques de prévision sont potentiellement révolutionnaires. En introduisant l’utilisation de technologies prédictives, ce dernier est parvenu a faire sortir Camden de la liste des villes les plus dangereuses des États-Unis. Les meurtres ont connu une baisse de 41% et l’ensemble des crimes de 26%. Il est important de noter que la police s’est moins concentré sur les infractions mineures liées aux drogues et sur les affaires importantes au niveau de l’État, et davantage sur la réduction des violences en se focalisant plus sur les délinquants les plus violents, en poursuivant en justice les gangs, le trafic d’armes et de drogues et la corruption politique.

3. Des progrès au sein du système de justice pénale

La prévision policière a le potentiel de rendre le contrôle policier plus juste. En promouvant les prises de décisions fondées sur des preuves objectives, la prévision policière pourrait corriger certaines différences de traitement dans l’application de la loi. Quand l’algorithme a déterminé les « points chauds » sur les cartes de l’étude mentionnée plus haut, il ne s’est pas directement basé sur des préjugés. Au contraire, les cartes traditionnelles utilisées par le service de police de Los Angeles ont été produites par des humains, qui ont forcément des préjugés.

Les algorithmes peuvent donc aider la police à mieux prédire les risques, à mieux identifier les potentiels délinquants et à identifier les vulnérabilités d’une communauté et de ses membres. Cependant, ce potentiel ne peut être réalisé que si l’algorithme est libre de tout préjugé et arbitraire, ce qui n’est pas toujours le cas, comme nous allons le montrer plus bas.

4. Les utilisations progressistes de la prévision policière

Les données ont le potentiel d’être utilisées de manière progressiste. Par exemple, les technologies prédictives pourraient être utilisées pour fournir des avertissements concernant les mauvais modèles de comportement policier. En effet, les services de police pourraient utiliser les données analytiques afin d’anticiper les mauvaises conduites des agents de police. Des expérimentations menées à Chicago et dans d’autres villes montre que les mauvaises conduites des policiers suivent des modèles clairs et constants, et que les formations et le soutien pour les agents à risques peut contribuer à éviter les incidents liés à de mauvaises conduites. De la même façon, les systèmes de prévision policière pourraient être déployés pour évaluer si un service de police est susceptible de traiter différemment des quartiers ou des personnes d’origine ethnique différente. Cela pourrait sensibiliser la police sur les préjugés qui peuvent mettre à mal la confiance du public en la police et entraîner un gaspillage des ressources.

Les inconvénients

1. Les dangers pour la vie privée

Comme nous l’avons expliqué, il existe deux formes de prévision policière : l’utilisation de données d’arrestation géographiques pour déterminer la façon dont les forces de police déploient leurs agents, et l’utilisation de données concernant les individus collectées sur internet, sur les réseaux sociaux mais aussi partir d’enregistrement de caméras de vidéo-surveillance, pour prédire les probabilités qu’un individu commette un crime. La première ne constitue pas de risques pour la vie privée, à condition qu’elle se base sur des données rendues anonymes. Mais la deuxième représente un risque sérieux pour la vie privée.

Certaines données peuvent être trop personnelles pour qu’elles soient conservées, et ceux qui les contrôlent pourraient manquer de compétences et professionnalisme pour assurer leur sécurité. Les informations collectées et conservée par des services de police peuvent faire l’objet de fuites, d’autant que la sécurité des données requiert beaucoup de ressources et de former le personnel. Compte tenu de la sensibilité de telles données, la possibilité de fuites de ces données est très inquiétante. Par exemple, seriez à l’aise avec l’idée que la police détienne des données sur vos activités du dernier weekend ? Sans doute pas. Surtout si vous considérez que ces données pourraient fuiter, avec les potentiels dommages que cela entraînerait sur votre vie privée et professionnelle.

L’environnement numérique, et en particulier la disponibilité de tant de données personnelles sur les réseaux sociaux, intensifie ces préoccupations. Une étude explore la collecte de données de la part des forces de police, et montre le rôle toujours plus important que jouent les réseaux sociaux dans le maintien de l’ordre et les controverses que cela entraîne. Beaucoup d’utilisateurs ne voient pas leur environnement numérique sur les réseaux comme étant public. Par conséquence, les moteurs de recherche et autres systèmes analytiques automatisés améliorent le potentiel de la surveillance des autorités. Ce qui est inquiétant, c’est que la loi ne limite pas les informations des réseaux sociaux et l’utilisation qui peut en être faite par la police et les services de sécurité. Les conséquences seront de plus en plus lourdes car de plus en plus de données sont partagées sur les réseaux et collectées publiquement sans que les attentes concernant la vie privée soient bien définies. Comme le soutient Alan Dahi, avocat spécialisé dans la protection des données, « ce n’est pas parce que quelque chose est en ligne que cela veut dire que les autres peuvent simplement se l’approprier et de la façon dont ils veulent, ni moralement, ni légalement ».

En plus des préoccupations concernant la vie privée, si les données personnelles sont utilisées pour prédire toute propension d’un individu à commettre un crime, cela est aussi susceptible de porter atteinte au principe de présomption d’innocence (par lequel une personne est considérée et traitée comme innocente tant qu’elle n’a pas été jugée coupable).

2. Des technologies imprécises

La fiabilité de la prévision policière dépend de la qualité des données et de l’intégrité de ceux qui les utilisent. Un rapport observe que la pratique n’est en rien une boule de cristal permettant de prédire le futur de manière précise.

En ce qui concerne l’établissement des « points chauds » à partir des données collectée, des décennies de recherche sur la criminologie montrent que les rapports de police et autres statistiques collectées par la police documentent la réponse des forces de police aux rapports qu’ils reçoivent et situations auxquelles ils sont confrontés, plutôt que de fournir un relevé objectif et complet de tous les crimes qui se produisent. Autrement dit, les bases de données nous renseignent sur les lieux où ont été commis les crimes par le passé. Mais nous savons que dans de nombreux pays la police consacre des ressources disproportionnées pour viser certains groupes minoritaires. Les pratiques racistes sont donc intégrées dans les données. La prévision policière devient alors un cercle vicieux. Les statistiques concernant les crimes collectées sur la base d’une politique raciste engendreront des prédictions racistes, qui conduiront à un sur-contrôle qui continuera de générer des données trompeuses et prédictions racistes.

Pour ce qui est de l’exploration des données concernant des individus en particulier, afin d’établir la probabilité qu’ils commettent un crime, il est bien connu que l’activité en ligne ne représente pas le comportement humain dans le monde réel. S’il semble exagéré d’imaginer un futur où les personnes seraient arrêtées avant qu’elles n’aient commis un crime, la notion selon laquelle ces technologies de prédiction justifient des mesures de surveillance accrue de certains groupes ou individus à risque, pour lesquels l’évaluation de ces risques est douteuse, n’est pas si éloignée de la réalité.

3. Le cercle vicieux de la discrimination

La prévision policière peut aussi produire des résultats biaisés, et cela constitue un autre inconvénient de taille. L’Union américaine pour les libertés civiles a critiqué cette pratique en raison de sa tendance à perpétuer le contrôle au faciès ou profilage ethnique. Quand un algorithme est alimenté par des données biaisées, il amplifie les biais qui émergent des processus conventionnels, et intensifie les traitements différenciés injustifiés dans le contrôle policier et maintien de l’ordre.

Prenons l’exemple de deux adolescents qui fument régulièrement du cannabis. L’adolescent A vit dans un quartier dont le niveau de la criminalité est plus faible, et l’adolescent B dans un quartier avec des niveaux plus élevés. Ces deux personnes seront donc sous et sur-contrôlées par la police si cette dernière se concentre sur les zones géographiques où les risques de crimes sont plus élevés. L’adolescent B a donc plus de risque d’aller en prison que l’adolescent A. Au niveau personnel, cette asymétrie nuit aux perspectives de ce l’adolescent B, car un casier judiciaire limitera son accès à l’emploi et l’éducation. Les systèmes actuels ne prennent donc pas en compte leur impact dans ces domaines, et sont susceptible d’avoir des effets néfastes qui passent inaperçus. Les systèmes de prévision policière exacerbent cette tendance en limitant le contrôle policier à la réduction numérique des taux de crimes détectés et non des crimes réels.

4. Un manque de responsabilité

En outre, la prévision policière réduit la responsabilité et obligation de rendre des comptes des forces de police. Comme la plupart des processus d’analyses de données sont automatisés, cela pourrait entraver la capacité des agents et services de police d’expliquer et justifier leurs décisions de manière pertinente. De plus, en raison de la complexité et de la confidentialité de tels outils, la police a actuellement des capacités limitées pour évaluer les risques des données biaisées ou des systèmes de prédiction défectueux.

En résumé, alors que la prévision policière promet un maintien de l’ordre efficace et juste, elle est d’une part imprécise dans ses prédictions et représente d’autre part des menaces pour la liberté et le respect de la vie privée (et donc pour une société plus juste). Les technologies de la prévision policière gagneront sans doute du terrain dans les années à venir, car elles coûtent moins chères car les techniques actuelles. Cependant, le cadre juridique actuel applicable à ces technologies manque de clarté et est inutile. Cela doit changer. Les États membres de l’UE doivent se demander s’il est vraiment nécessaire de développer de tels systèmes. La quête d’une prise de décision algorithmique juste et transparente pourrait ne pas suffire à régler les questions que ces technologies soulèvent.