La police utilisant l’IA pourrait conduire à une « pente glissante » de prévention du crime « prédictive », selon les experts

Un programme pilote au Royaume-Uni visant à renforcer les capacités de la police via l’intelligence artificielle s’est avéré un succès, mais pourrait ouvrir la voie à un avenir de « police prédictive », ont déclaré des experts à Garde ton corps.

« L’intelligence artificielle est un outil, comme une arme à feu est un outil, et elle peut être utile, elle peut être mortelle », a déclaré Christopher Alexander, CCO de Liberty Blockchain, à Garde ton corps. « En ce qui concerne le Saint Graal ici, je pense vraiment que c’est la capacité d’analyse prédictive que s’ils s’améliorent dans ce domaine, vous avez des capacités très effrayantes. »

La police britannique de différentes communautés a expérimenté un système basé sur l’intelligence artificielle (IA) pour aider à détecter les conducteurs qui commettent des infractions, comme utiliser leur téléphone au volant ou conduire sans ceinture de sécurité. Les contrevenants pourraient encourir une amende de 200 £ (250 $) pour avoir utilisé un téléphone au volant.

Un essai mené sur une semaine sur des sites du Yorkshire de l’Est et du Lincolnshire a surpris environ 239 conducteurs enfreignant les règles de la route, a rapporté la BBC. Le programme a également vu un essai fin 2022 dans le Devon et les Cornouailles, qui a surpris 590 conducteurs ne portant pas de ceinture de sécurité sur une période de 15 jours.

Safer Roads Humber, qui a aidé à mettre en place l’essai en coopération avec la police de Humber, a expliqué à Garde ton corps que le programme n’est pas totalement géré par l’IA mais implique un contrôle humain pour vérifier les erreurs. L’IA utilisera la vision par ordinateur pour déterminer si une personne ne porte pas de ceinture de sécurité ou utilise un téléphone, et les résultats positifs seront transmis à un humain pour une double vérification.

Le processus d’examen initial prend jusqu’à cinq secondes, les faux positifs étant automatiquement supprimés, a expliqué un porte-parole de Safer Roads Humber. Le système se connecte via des signaux téléphoniques et les humains peuvent vérifier les résultats à distance.

La mise en œuvre permanente du système nécessiterait plus de caméras, mais les caméras et l’équipement peuvent être montés sur un véhicule, comme sur une remorque qui peut être laissée au bord d’une route pendant des semaines, voire des mois, a déclaré le porte-parole.

« Personnellement, je pense qu’une solution mobile fonctionnerait mieux car elle garantirait que les usagers de la route changent leur comportement à tout moment plutôt qu’à un point statique », a déclaré Ian Robertson, responsable des partenariats pour Safer Roads Humber.

Brian Cavanaugh, chercheur invité au Border Security and Immigration Center de la Heritage Foundation, a fait part de ses inquiétudes quant au fait que des pays à forte surveillance tels que le Royaume-Uni pourraient investir davantage dans l’utilisation de l’IA en combinaison avec leurs systèmes massifs, ce qui pourrait donner lieu à des politiques plus autoritaires. le contrôle de l’État comme une conséquence imprévue.

« Je vois absolument cela comme une pente glissante », a déclaré Cavanaugh à Garde ton corps. « Vous passez d’une société ouverte et libre à une société que vous pouvez contrôler grâce à la reconnaissance faciale [technology] et les algorithmes d’IA – vous regardez essentiellement la Chine.

« Le Royaume-Uni va utiliser des mesures de sûreté et de sécurité pour dire: » Eh bien, c’est pourquoi nous l’avons fait pour les téléphones et les voitures. Et puis ils vont dire: « Si vous avez, disons, des armes à feu … quelle est la prochaine étape sur leur liste de crimes que vous réprimez pour des raisons de sécurité? », A-t-il ajouté. « Tout d’un coup, vous créez un gouvernement autoritaire et technocratique où vous pouvez contrôler la société avec vos carottes et vos bâtons.

« Je crois qu’il y a la capacité de passer des observations aux mesures prédictives, mais avec cela, vous avez la possibilité de faux positifs et le risque d’une marge d’erreur. »

Cavanaugh a fait valoir que la meilleure utilisation de l’IA dans le maintien de l’ordre se concentrerait sur la compréhension des indices de criminalité, en utilisant des données pour créer des décisions mieux informées sur l’allocation et le déploiement des ressources. Il a souligné la nécessité de maintenir la discrétion humaine au cœur de toute politique policière et que la société ne laisse jamais l’IA « prendre la place de l’officier ».

Alexander a décrit la version la plus extrême de cette pratique comme une « police prédictive », semblable au type d’application vu dans le film « Minority Report ».

Les Forces de défense israéliennes (FDI) ont récemment expliqué comment elles utilisaient l’IA pour aider à déterminer les cibles pendant le conflit et même utiliser les données disponibles pour identifier les emplacements possibles de combattants ennemis ou de terroristes, un essai qui a abouti à des opérations réussies contre au moins deux commandants du Hamas en 2021.

Le colonel Yoav, commandant de la science des données et de l’IA, a déclaré que l’IA avait aidé Tsahal à faire en quelques jours ce qui aurait pu prendre « presque un an » autrement.

« Nous prenons des sous-groupes originaux, calculons leur cercle proche [of personal connections]calculer les caractéristiques pertinentes, classer les résultats et déterminer les seuils, en utilisant les commentaires des agents du renseignement pour améliorer l’algorithme », a-t-il expliqué.

Alexander a averti que de tels développements commenceront souvent dans la communauté militaire et du renseignement, puis « se répercuteront » sur le secteur privé.

« Vraisemblablement, vous allez avoir de plus en plus de données », a expliqué Alexander. « Les gens vont réfléchir davantage à la collecte, et nous allons améliorer de plus en plus nos capacités prédictives, et… la police pourrait-elle se présenter en tenue anti-émeute deux heures avant même qu’une émeute ne commence ? »

Il a également utilisé l’exemple de l’IRA, demandant si la police britannique pourrait même finir par utiliser l’IA pour obtenir des mandats et exécuter une perquisition « juste au moment où les gens s’installent ».

« Je pense que les capacités prédictives sont là où l’accent est mis … et il est tout à fait logique que ce soit à l’avenir », a-t-il conclu.