Défis de l’analyse prédictive pour l’application de la loi

L’idée de l’analyse prédictive dans les services de police n’a certainement rien de nouveau pour la police ou ses détracteurs. Dès qu’un simple exercice de réflexion (et le trope derrière plus de deux histoires de science-fiction), nous sommes en fait à un moment de notre avancement technologique où les outils particuliers utilisés par les agences ressemblent, dans une certaine mesure, à ces nouveaux et puissants Les capacités attirent une quantité substantielle de débats dans le monde réel, qui ne font qu’augmenter à mesure que la technologie alimentant le différend devient plus sophistiquée.

Plein de préoccupations raciales, sociales, de confidentialité et socio-économiques, une grande partie de ce débat s’est en fait a lieu lorsque les flics utilisent ces outils pour prévoir et éviter une infraction pénale externe. Mais il y a un deuxième problème interne, exactement identique à celui des employés des RH et des autres intervenants travaillant avec les parties prenantes au sein de la police. Les mêmes types d’outils peuvent-ils légitimement aider à prévoir l’usage malveillant ou excessif de la force? Peuvent-ils être utilisés pour éliminer d’autres types de méfaits dans les rangs?

Jusqu’à présent, la réponse à ces deux préoccupations semble, mais c’est une solution hautement certifiée. Comme tant d’autres outils technologiques « transformant » le monde de l’application de la loi, traiter ces outils délicats en tant qu’autorité critique peut conduire les travailleurs de la base à des compréhensions défavorables qui nuisent à la valeur réelle de l’option.

Disons qu’un responsable de l’application de la loi reçoit un e-mail contenant des informations d’une plate-forme automatisée qu’un superviseur RH de haut niveau a simplement effectué. Ce document – chargé d’informations sur une recrue de troisième année – recommande des comportements qui ont en fait traditionnellement conduit à de plus grandes inconduites dans la carrière des autres agents: des informations qui pourraient mettre le service en responsabilité ou, pire, entraîner des dommages ou tué. Les points d’information de l’analyse peuvent être des antécédents de toxicomanie de la part du recruteur ou un nombre disproportionnellement élevé de plaintes qui, bien que toutes rejetées, pourraient être intégrées pour informer une histoire pénible.

Ceci, à un niveau élevé, c’est à quoi peut ressembler une solution prédictive dans l’environnement de travail moyen des forces de l’ordre. Il ne fait aucun doute qu’un outil doté d’une telle capacité a de la valeur pour les ministères et le public qu’ils servent. Comme l’indique l’article sur la question, et comme les lecteurs le comprennent certainement, un algorithme peut examiner les données à un rythme beaucoup plus rapide que les gens, et son manque de prédispositions humaines lui permet d’établir des connexions dans des informations que des groupes entiers d’êtres humains pourraient ignorer – des connexions. qui ne sont pas intuitifs mais semblent toujours prévoir le résultat que le service est conçu pour rechercher.

Le programme d’intervention précoce du Chicago Cops Department, ou EIP, est probablement le point culminant le plus significatif de ces idées à ce jour. Dans ce cas, la plate-forme prédictive sous la politique fonctionne principalement en parcourant, à grande échelle, les connexions déterminées par les chercheurs en information de l’Université de Chicago qui ont créé l’option. Le système EIP a été établi à la suite du meurtre de Laquan McDonald aux mains d’un agent des forces de l’ordre de Chicago, pour identifier de manière préventive les agents qui pourraient, selon les prévisions des données, être beaucoup plus susceptibles d’incidents de mauvaise conduite à l’avenir. Ces facteurs, expliqués dans les informations sur une page Web du service des flics de Chicago, consistent en des limites de retard et de grief (à la fois soutenues et non soutenues) pendant une période de temps spécifiée.

Les problèmes liés aux outils prédictifs peuvent être divisés en deux classifications:

• Quelle est la précision des prévisions?
• Ce qu’une entreprise devrait finalement faire avec ce qu’elle pense être des informations précises et exploitables.

En d’autres termes, une prédiction est une prévision parce qu’elle n’a pas encore eu lieu – et dans un marché gouvernemental contrôlé par les syndicats, il serait extrêmement difficile pour la plupart des managers de licencier ou peut-être discipliner un agent en raison du fait que le logiciel dit qu’il va mal se comporter rapidement, peu importe la confiance que l’entreprise accorde à la prédiction.

Les agences qui se mêlent de toute forme d’analyse prédictive doivent constamment comprendre la réalité (et le mantra du mathématicien) que. Bien qu’un ensemble de paramètres suffisamment restreint et extrêmement adapté puisse avoir la capacité de signaler un événement futur avec une certaine précision, comme les notes de la pièce, le fait de ne pas poser les meilleures questions à l’étape du style peut développer des projections peu fiables qui semblent totalement légitimes du niveau du sol.

Des prévisions et des prévisions fiables nécessitent une intervention humaine intense à chaque étape du processus, de la construction d’un modèle prédictif à son application sur le terrain.

Infraction pénale externe prévisions a actuellement rencontré les questions qui se posent en comptant sur une technologie analytique innovante. Indiquez qu’une entreprise utilise un système de détails géographiques (SIG) dans le cadre d’une stratégie de réduction prédictive des activités criminelles. L’entreprise, soucieuse de l’équité et de l’exactitude, examinera probablement à la fois les hypothèses formulées par les informations et les résultats qu’elle suppose se produiront.

« 

Une fois le système en pendant un certain temps, les préoccupations se déplacent vers:

«  »

Bien que les préoccupations d’équité ne soient souvent pas aussi importantes dans la relation employeur-employé que chez les flics- les relations publiques, les entreprises doivent néanmoins prendre les mêmes efforts pour collecter des informations et agir en conséquence. Pour ce faire, l’interaction humaine doit être une partie aussi importante du programme d’analyse que l’application logicielle qui l’alimente.

Alors que les systèmes informatiques peuvent se démarquer en établissant des connexions « introuvables » dans des points d’information, les êtres humains sont toujours remarquables lorsqu’il s’agit d’utiliser la subtilité et le contexte pour naviguer dans des situations.

Les gens (comme les ordinateurs) réussissent mieux quand ils ont de grands magasins de connaissances à partir desquelles notifier leurs conclusions – et surtout lorsqu’ils sont en mesure d’accéder ess des données particulières qui ont en fait échappé à leur rappel instantané. C’est là que la tenue de registres d’une profondeur adéquate, conservée pendant une durée adéquate, finit par devenir de plus en plus vitale.

Considérez les deux récits suivants:

Ici, une coche dans une feuille de calcul Excel indiquant une mesure disciplinaire envers les deux employés ne serait pas une répétition raisonnable. Néanmoins, si un gestionnaire comparait les membres du personnel au fur et à mesure de leur emploi, cette information nuancée fournit un contexte essentiel pour la comparaison du superviseur. Le superviseur pourrait noter que la recrue agressive avait beaucoup plus de plaintes au dossier que l’autre, par exemple, et décider d’intervenir personnellement la prochaine fois qu’un problème survient – comme on le soupçonne.

Dans dans cette circonstance, l’acteur humain était le mieux à même de faire quelque chose à ce sujet lorsque les systèmes alimentant leur prédiction fournissaient les informations dont ils avaient besoin. Dans ce scénario théorique et d’innombrables entreprises du monde réel, le système a été en mesure d’offrir ce soutien essentiel car il a collecté des informations avec une texture significative (notes de l’instructeur sur l’occurrence de la classe) en plus des points de collecte d’articles sur une longue période de temps. .

Dans l’Utah, l’Académie des normes et de la formation des agents de la paix de l’État (POST; la société chargée de fournir une formation initiale et continue aux agents) savait que le fait de ne pas tenir des registres de formation précis et approfondis pourrait les exposer à des conflits internes, manquements en matière d’éducation, de responsabilité juridique, etc. Pour éviter ces résultats indésirables, elle a mis en œuvre un système de formation et de tenue de registres, leur donnant à la fois la capacité de stocker plus de données par employé et la capacité de vérifier ce qu’elles collectaient par rapport à de nombreux travaux auto-définis et à des exigences d’efficacité – par exemple, rapidement. inspecter les agents qui reçoivent une opportunité de promotion imprévue.

Naturellement, tous les événements « imprévus » ne relèveront pas d’une case aussi bien définie. Au lieu de collecter des informations pour n’importe quelle situation imaginable, le but d’une collecte de données et de prévisions efficaces est de disposer de données d’une qualité telle qu’elle puisse être utilisée en toutes circonstances. La distinction est faible sur le papier, mais énorme en pratique.

Dans l’ensemble, l’analyse prédictive finit par (comme la majorité des autres innovations) créer des vagues dans l’application de la loi: capable dans le meilleur contexte, mais uniquement avec une bonne dose d’intervention humaine tout au long de la procédure. Là où reposent actuellement leurs propres efforts de collecte de données, les forces de l’ordre seraient une bonne idée de manipuler le support avec le plus grand soin.