La police prédictive progresse en France. Exigeons son interdiction !

vendredi 28 août 2020, par Minou.

Pendant que les dispositifs de police prédictive (comme PredPol) commencent à être interdits ou abandonnés aux États-Unis, la police française et plusieurs collectivités continuent à acheter et utiliser des équivalents français, à l’image de « Map Révélation » proposé par l’entreprise angevine « Sûreté Globale ». Cela au détriment des risques de discriminations qu’impliquent ces logiciels de surveillance, et en l’absence même de toute preuve de leur intérêt.Comme pour la reconnaissance faciale, les logiciels de police prédictive commencent à subir plusieurs interdictions ou abandons aux États-Unis. La promesse de prédire, à l’aide d’un algorithme, les futurs crimes ou délits à partir des données issues des force de police n’a évidemment pas été tenue. À Los Angeles, la police vient ainsi de décider de ne plus utiliser PredPol (un des logiciels de police prédictive les plus médiatisés). Si c’est l’argument budgétaire qui est avancé, il ne fait pas de doute que c’est bien le travail des groupes militants anti-surveillance qui a fini par payer.

Même chose pour plusieurs autres villes aux États-Unis ou en Angleterre. Plus loin encore, la ville de Santa Cruz a officiellement banni en juin dernier les techniques de police prédictive, évoquant les effets discriminatoires que ces logiciels perpétuent.
Biais discriminatoires et disparition de l’humain


Comme pour la reconnaissance faciale, les logiciels de police prédictive commencent à subir plusieurs interdictions ou abandons aux États-Unis. La promesse de prédire, à l’aide d’un algorithme, les futurs crimes ou délits à partir des données issues des force de police n’a évidemment pas été tenue. À Los Angeles, la police vient ainsi de décider de ne plus utiliser PredPol (un des logiciels de police prédictive les plus médiatisés). Si c’est l’argument budgétaire qui est avancé, il ne fait pas de doute que c’est bien le travail des groupes militants anti-surveillance qui a fini par payer.

Même chose pour plusieurs autres villes aux États-Unis ou en Angleterre. Plus loin encore, la ville de Santa Cruz a officiellement banni en juin dernier les techniques de police prédictive, évoquant les effets discriminatoires que ces logiciels perpétuent.

Biais discriminatoires et disparition de l’humain

C’est en effet la critique la plus récurrente qui est faite à ce type de dispositifs : les quartiers les plus pauvres souffrant d’une présence policière excessive se retrouvent souvent sur-représentés dans les statistiques policières. Les algorithmes, qui se fondent sur ces données passées, vont donc les désigner comme lieux où la surveillance doit être renforcée, et donc perpétuer les biais existants. Ainsi, comme le rappelle Olivier Ertzscheid, une donnée n’étant jamais brute mais au contraire le fruit d’une construction sociale, le dispositif de police prédictive « installe un système de valeurs et le perpétue ». Les biais racistes dans les méthodes de collecte de données de la police se retrouvent à la fois blanchis par la soi-disant objectivité de la machine et décuplés par un effet de renforcement (plus de données sur les quartiers en proie à la sur-policiarisation conduit à prédire d’avantage d’acte de délinquance dans ces quartier, et donc à plus de patrouilles, qui génèrent à leur tour plus de données, et ainsi de suite).

Ces systèmes de police prédictive ont également un point commun avec d’autres dispositifs de la Technopolice, à savoir une approche gestionnaire de la sécurité publique, où l’on va chercher à supprimer ou ajuster les conséquences d’un phénomène social plutôt que s’interroger sur ses causes profondes et rechercher des solutions de long terme. Le risque c’est aussi de déléguer cette gestion à l’algorithme : ne plus en faire le résultat d’une décision humaine, mais la simple application de la décision prise par la machine. Jusqu’à quand et à quel point cette décision sera remise en question et soumise à discussion, et non pas seulement prise comme une vérité absolue ?

Un dispositif dangereux et à l’efficacité douteuse

La dernière critique couramment adressée à ces dispositifs, c’est qu’ils n’ont pas fait la preuve de leur intérêt. Tout au plus permettent-ils de visualiser des données dont la police disposait déjà. Il s’avère aussi bien compliqué d’évaluer l’efficacité de ces logiciels : si l’évènement prédit par la machine a lieu, l’outil sera présenté comme efficace. Mais si l’évènement n’a pas lieu, l’outil pourra aussi être considéré comme efficace en ce qu’un patrouille envoyée sur place aurait dissuadé les personnes d’agir…

Pourtant, la police continue d’acheter et d’utiliser ce type de logiciel. Peut-être parce qu’ils cèdent au marketing intensif des industriels sécuritaires. Ou peut être ont-ils également peur de ne pas être assez modernes, aveuglés par la croyance dans le fait que s’équiper des dernières technologies de contrôle social est une fin en soi, qu’importe leur impact sur nos libertés, leur coût, ou même leur intérêt. Ces deux logiques — pressions industrielles et solutionnisme technologique — semblent en effet expliquer la propagation de la police prédictive à travers la France.

La France, bonne cliente des logiciels de police prédictive

C’est en travaillant sur les documents reçus à propos de l’ « Observatoire de la tranquillité publique » à Montpellier (ils sont également disponibles à la fin de cet article) que nous sommes tombés sur la convention conclue entre la ville et l’entreprise Sûreté Globale. Son but : l’acquisition d’un « logiciel d’analyse statistique et cartographique de la délinquance ». Il s’agit ici de « Map Revelation ». Si l’on en croit le site, le logiciel « fournit des analyses prédictives, graphiques et géographiques, de semis de points » composés, selon les clients, de « faits de délinquance, incidents, » mais aussi, dans le commerce, de « ventes, SAV, événements…), […] révèle les lieux et les moments importants, et prédit les occurrences ». Et selon une autre source : « Ce logiciel interactif, associé à un système informatique géographique, donne la possibilité de cartographier précisément les faits et d’agir en conséquence. Équipées d’un système prédictif, les patrouilles de police sont ajustées en fonction des besoins et la stratégie en matière de police de proximité se voit améliorée ». Un PredPol à la française donc.

Ses créateurs se vantent d’ailleurs d’un taux de prédiction particulièrement élevé (et qui apparaît difficilement vérifiable) : des « scores » qui tourneraient autour de 80% de fiabilité « sur le où, et le quand », particulièrement sur les cambriolages où « il devient possible de prévoir où et quand dans une journée, ils vont se produire ». Des chiffres et des affirmations en contradiction totale avec les observations qui ont conduit aux États-Unis à l’abandon des mêmes logiciels.
Pourtant, les clients en France sont très nombreux : Montpellier donc, mais aussi l’agglomération Hérault Méditerranée (qui a investi 24.000 euros dans ce système en 2019), ou Lyon, Lille, Montauban, Villeurbanne, Angers, Colombes… Mais pas seulement des collectivités : la Gendarmerie nationale (qui semble l’utiliser depuis 2015 pour « prédire les zones à risque de délits fréquents (cambriolages, vols, trafics, viols) pour mieux orienter ses patrouilles », la préfecture de police de Paris, la police aux frontières…

Preuve que la police prédictive, comme la Technopolice en générale d’ailleurs, n’est pas une particularité américaine ou chinoise et que les autorités françaises sont également friandes de ces nouveaux outils de surveillance. Preuve aussi de la collusion public-privée associée à ce genre de projets : Christophe Courtois, président de Sûreté Globale, a été pendant 6 ans conseiller de défense du préfet de Maine-et-Loire (et parmi les « conseillers » de l’entreprise se trouvent aussi un ancien préfet et un colonel de l’armée…)

Multiplier les données aspirées

Comme ces logiciels ont besoin de données sur lesquelles s’appuyer, les collectivités qui mettent en place « Map Revelation » concluent également des conventions avec la police nationale pour s’échanger leurs bases de données et croiser leurs informations.

C’est le cas à Montpellier où pour nourrir le logiciel, la ville récupère de la police nationale plusieurs jeux de données (vols de véhicule, cambriolages, vols à main armée…). En échange, la ville communique à la police des données dont l’État ne disposait pas (« enquête de victimisation, interventions des services sociaux, remontées des bailleurs sociaux… »). D’ailleurs, il est particulièrement inquiétant de voir les données que Montpellier veut intégrer dans le logiciel de police prédictive et qu’il renseigne dans un des documents du marché conclu avec Sécurité Globale : « mise en fourrière », « absentéisme, atteinte aux personnes et aux biens (éducation) », « signalement d’évènements d’insécurité provenant des services techniques et ressources humaines », « milieu associatif »…

On retrouve en fait ici les mêmes logiques que dans l’ « Observatoire Big Data de la tranquillité publique » expérimenté depuis 2018 à Marseille : celui de capter un maximum de données, de les cartographier, de les analyser et de les passer au filtre d’un algorithme pour en tirer des décisions en matière de sécurité publique et de gestion de la ville. On retrouve d’ailleurs à Marseille une même convention d’échange de données entre ville et la police nationale pour « visualiser sur une carte l’ensemble des évènements et faits impactant l’espace public » — notamment les « manifestations revendicatives », et « identifier les zones de tension ».
Cette logique de captation et d’échanges de données entre les collectivités locales et l’État à des fins de statistiques Big Data et de police prédictive semble malheureusement s’étendre en France, et ce dans l’opacité la plus totale. La CNIL ne trouve rien à y redire, alors même que ces projets ne s’accompagnent d’aucune étude d’impact, et ne disposent d’aucune base légale satisfaisante. Surtout, leur dangerosité en terme de libertés publiques est complètement passée sous silence par les autorités. Comme pour la reconnaissance faciale et autres formes de vidéosurveillance automatisée, il nous appartient de nous mobiliser pour nous opposer à ces déploiements et obtenir leur interdiction, à l’image des victoires récentes obtenues par les collectifs étasuniens. Pour rejoindre notre campagne dédiée, rendez-vous sur le forum Technopolice.

Voir en ligne : https://technopolice.fr/blog/la-pol...


2 Messages

  • La police prédictive progresse en France. Exigeons son interdiction ! Le 30 août à 03:16, par Tara Taggle

    Comme si le leitmotiv français de 1973, sur fond d’avions renifleurs, « on n’a pas de pétrole, mais on a des idées... » se déclinait désormais, faute de cerveau disponible, dans sa version "on n’a pas de pétrole, on n’a pas d’idées, donc on copie aveuglément le modèle dominant".

    Nos zélites étasuniennolâtres poursuivent imperturbablement la même course à l’échalote avec toujours le même décalage de vingt à trente ans de retard (qu’il s’agisse de modes de management entrepreneurial, d’économie, de politique-spectacle ou d’encadrement des masses), alors même que le grand frère modèle lui-même a démontré pratiquement l’inanité de tel ou tel procédé depuis longtemps abandonné.

    Ce n’est pas tant que les Étasuniens ont davantage d’imagination, non ; c’est leur côté premier de la classe ’branché’ (les deux doigts dans la prise USB) qui séduit. Tout comme la ’vertitude’ du billet d’un dollarUS a lancé la ’transition écologique’, l’abus d’algorithmes (et de LSD ?) par les étudiants du MIT (mythe ?) a limité leur vision du futur à l’’intelligence artificielle’ (aliénation de l’humanité à la suprématie absolue de la machine), au virtuel (fictif) et à la réalité ’augmentée’ (bionique). Avec, toujours intact, l’irrépressible besoin à la fois de détruire (il ne faudrait pas oublier que ces petites merveilles d’innovation technologique qui font saliver d’avance le moindre ’geek’ convaincu ont d’abord et avant tout été mises au point pour l’industrie d’armement, tout comme le jeu vidéo n’a été que le préambule des guerres propres, où l’on tue à distance anonymement et sans le moindre état d’âme) et de parvenir à l’immortalité. Même l’objectif premier d’enrichissement personnel a pris un sacré coup de plomb dans l’aile depuis la crise boursière artificiellement provoquée au prétexte du Covid-19 pour masquer l’entropie systémique.

    Non, ils connaissent une telle pénurie d’imagination qu’ils en sont réduits à consulter les nouveaux oracles que sont devenus les biblio-cinéphiles pour puiser dans les œuvres de science-fiction du siècle dernier. S’ils n’étaient depuis longtemps morts et enterrés, I. Asimov, P. K. Dick, G. Orwell et autres en auraient eux-même la chair de poule... tant la ’police prédictive’ ne manque hélas pas d’évoquer le film de science-fiction Minority Report (tout comme les dérives administratives rappellent Brazil).
    Il ne reste plus qu’à espérer qu’ils ont bien lu le script jusqu’au bout (où pour préserver les libertés individuelles, le projet est abandonné et les prisonniers arrêtés abusivement tous libérés) et surtout qu’ils ne seront pas tentés par Vol au-dessus d’un nid de coucou...

    Quoiqu’il en soit (sauf éternuement violent du Yellowstone), ici en France, du fait du décalage temporel, l’abandon de la police prédictive et de ses méthodes douteuses ne devrait intervenir au mieux qu’à l’horizon 2040-2050. Il suffit de se montrer patient...

    Répondre à ce message

  • La police prédictive progresse en France. Exigeons son interdiction ! Le 29 août à 09:52, par keg

    on y parle vous et ailleurs qu’à Crest !

    29/08/2020 - https://wp.me/p4Im0Q-3Xv
    -  Si tu peux voir le pouvoir dériver et sans un mot te relever devant lui, alors tu deviendras un complotiste-réfractaire mon fils et pourra te dire Libre (y compris de t’extraire de la société des plus de 95% bêlants en cadence et au pas cadenassé). Es-tu prêt pour ta seconde assignation vers le 21/09/2020 juste après le maillot jaune en catimini (pas de public à l’arrivée masquée)

    Répondre à ce message

Répondre à cet article

modération a priori

Attention, votre message n’apparaîtra qu’après avoir été relu et approuvé.

Qui êtes-vous ?
  • [Se connecter]
Ajoutez votre commentaire ici

Ce champ accepte les raccourcis SPIP {{gras}} {italique} -*liste [texte->url] <quote> <code> et le code HTML <q> <del> <ins>. Pour créer des paragraphes, laissez simplement des lignes vides.

Partagez la page

Version imprimable de cet article Version imprimable

Pot commun en ligne pour soutenir financièrement Ricochets
Pot commun en ligne pour soutenir financièrement Ricochets

Site réalisé avec SPIP | | Plan du site | Drôme infos locales | Articles | Thèmes | Contact | Rechercher | Mentions légales | Suivre la vie du site RSS 2.0
Médial local d'information et d'expression libre pour la Drôme et ses vallées, journal local de contre-pouvoir, média participatif indépendant :
Valence, Romans-sur-Isère, Montélimar, Crest, Saillans, Die, Dieulefit, Vercheny, Grane, Eurre, Loriol, Livron, Aouste sur Sye, Mirabel et Blacons, Piegros la Clastre, Beaufort sur Gervanne, Allex, Divajeu, Saou, Suze, Upie, Pontaix, Barsac, St Benois en Diois, Aurel...
Vous avez le droit de reproduire les contenus de ce site à condition de citer la source et qu'il s'agisse d'utilisations non-commerciales
Copyleft