10 ans après l’arrivée du smartphone, et 17 ans après le 11 septembre, regardons un peu où en est l’état policier qui est censé combattre le terrorisme… et comment tout ceci a changé les pratiques de la police et menace nos libertés.

A l’origine, la police travaillait sur des fichiers plus ou moins bien faits. Ensuite, pour une enquête criminelle et sur un suspect précis, elle envoyait des enquêteurs pour remonter les traces et surveiller les suspects. La police devait donc  faire un travail à posteriori pour reconstituer les faits.

Maintenant c’est complètement différent. Une multitude de caméras enregistrent 24H/24 les faits et gestes de tout le monde.

  • Par exemple à Londres il y a une caméra pour 20 londoniens,
  • et aux USA, Vigilant avec ses caméras et son systèmes de reconnaissance de plaques a accumulé 7 B de data point (1 data point = 1 lieu, 1 temps et 1 plaque ou 1 visage) soit 20 en moyenne pour chaque américain.

Rappelons, comme l’a montré Cambridge Analytica que, avec 300 “likes”, on vous connaît mieux que votre conjoint lui même ne vous connaît. Donc, ces metadatas, qui sont un peu comme des “likes” permettent de vous connaître très très précisément.

Si on reste au niveau des metadatas, les pylônes et les tours des opérateurs téléphoniques sont des relais importants pour localiser quelqu’un et, comme tous les opérateurs ne veulent pas forcément contribuer, 73 agences américaines se sont achetées leur propre StingRay, des boîtiers mobiles qui, en émettant un signal qui paraît plus puissant que celui de votre opérateur reprennent la connection avec votre smartphone et pompent toutes les datas que capte normalement votre opérateur téléphonique.

Quand la metadata de suffit pas, il faut aller dans le contenu de la conversation, qui lui, heureusement, est de plus en plus encrypté. Et là vous devez faire confiance à votre vendeur de matériel pour que l’encryption soit solide. En 2015 à San Bernardino, le FBI avait demandé à Apple de lui donner un IOS pour supprimer l’encryption du téléphone d’un terroriste ce que Apple avait refusé de faire. Le FBI y était parvenu en faisant appel à une start up israélienne. Récemment Apple a annoncé que dans son nouvel iOS 12, il fermerait une backdoor que Facebook utilise pour suivre votre activité de browsing sur Safari pour enrichir votre profil.

Revenons à notre détective. Aujourd’hui, la première chose que fait la police pour enquêter sur une personne c’est de chercher à reconstituer sa “digital footprint”, c’est à dire sa trace numérique. Les caméras reconstituent ses trajets et, lorsque cela est possible, son smartphone donne par le biais des applications utilisées ou déchargées – et uniquement avec les metadatas – ce que cette personne a fait. Les metadatas ne concernent pas le contenu des conversations elles-mêmes mais uniquement leurs caractéristiques de temps, de lieu et de contact. Ainsi le détective va puiser dans cette énorme base de donnée disponible où nous sommes tous.

Dans la plupart des pays, ce qui se passe dans la rue est considéré du domaine public donc la police a le droit de tout surveiller sans obligation d’avoir un “warrant” ou un mandat pour accumuler ces metadatas. Mais quand on réalise que ces datas peuvent être stockées cela revient à dire que nous sommes tous suspects, que nous sommes tous fichés à la police.

Avec tout cet arsenal, quels sont les premiers résultats obtenus ?

Une étude citée par The Economist du 2 Juin 2018 montre que, dans seulement 2% des enquêtes, la vidéo de la voie publique a été une aide. Dans l’attentat de Manchester, il y a 2 ans, les policiers ont dû regarder 16 000 heures de vidéos pour trouver éventuellement un lien ou une aide dans leur enquête.

Fort de ce constat très médiocre, certains partent dans une fuite en avant avec l’idée de mettre de l’Intelligence Artificielle dans la caméra elle-même pour qu’elle puisse zoomer sur ce qui est potentiellement intéressant, analyser les images pour alerter la police en temps réel ce qui peut être souhaitable … mais ce qui l’ai moins c’est que defacto on va garder en mémoire beaucoup plus d’informations pertinentes et mieux recherchables pour servir plus tard.

Avec l’IA, se pose alors la question de la boîte noire: qui décide qui est suspect (exemple fichiers S) ? Et comment devient-on suspect ?  Peut être uniquement parce qu’on a un copain qui a fumé de la marijuana ou qu’on a été au mauvais endroit au mauvais moment. Bref, tous ces systèmes d’IA ont tendance à enlever la décision des mains de l’homme. Ce sont, le plus souvent, des boîtes noires qui ne travaillent pas de façon transparente et qui reproduisent des biais raciaux ou gender très forts.

En Chine, les autorités chinoises avec Sésame (initialement un système de crédit scoring) notent tous les citoyens dans tous leurs comportements. Et récemment ils menacent d’interdire de vol ceux qui auraient une mauvaise note ! Nous, en occident, c’est un peu moins transparent, un peu moins clair … mais sachez qu’il y a plus de la moitié des américains qui ont leur images stockées quelque part dans le serveur du FBI.

Alors pour beaucoup “privacy is dead”… et, au nom de la sécurité on enfonce le clou et on va encore plus loin : des assureurs recommandent à leurs assurés de mettre des caméras sur leur planche de bord et les y incitent en leur offrant une remise sur leur prime parce qu’en cas d’accident cela aidera à reconstituer les faits. Mais ce qu’ils ne vous disent pas et que vous n’avez peut-être pas lu dans les “termes & conditions”, c’est que votre voiture devient de facto une antenne de communication mobile qui sert à Big Brother dans la captation des images de la ville comme si les caméras fixes ne suffisaient pas… On y ajoute, comme pour les caméras fixes, de l’IA qui va décider qui filmer et sur qui zoomer … et là vous avez un système dont vous ne comprenez plus très bien les règles et si c’est fait pour vous servir, vous asservir ou vous desservir … et quelles sont les grandes oreilles qui écoutent derrière.  Nexart, une start up israélienne, a développé une application qui filme tout dans votre voiture et envoie les informations retraitées à votre assureur.

Que dit le public ? Comment fonctionne la démocratie ? Après chaque attentat où on apprend que les terroristes étaient au “fichier S”, on se demande ce que faisait la police et pourquoi il n’y a pas eu d’action préventive…

La population veut toujours plus de sécurité mais est réticente à donner ses informations personnelles et les pouvoirs publics continuent à développer sous nos yeux un big brother de plus en plus puissant que l’on va piloter par de l’IA donc contrôler de moins en moins.

InnoCherche – Juin 2018