“ChristChurch¹: le Seveso² des plateformes sociales”
– à l’écoute de Roger McNAMEE
Conférence très intéressante de Roger McNamee, venu lancer la traduction de son livre ZUCKED en Français , qui déroule un plaidoyer très simple et très fort contre les plateformes actuelles qui exploitent nos données personnelles.
Roger a une soixantaine d’années. Investisseur de la Silicon Valley, il dit avoir eu la chance d’être là au bon moment, au bon endroit; il a investi très tôt dans Google puis dans Facebook. C’est lui qui convaincu Mark Zuckerberg de ne pas vendre Facebook pour 1 Milliard $ à Yahoo.
Ensuite, il a conseillé Facebook dans tous ses développements. Il a fait venir de Google, Sheryl Sandberg aujourd’hui bras droit de Mark Zuckerberg. Tout allait très bien jusqu’en 2016 où il s’aperçoit des premières dérives avec les primaires démocrates et puis surtout avec le Brexit. Il alerte Marck Zuckerberg en lui disant de tout faire pour ne pas laisser ses utilisateurs se faire influencer par des forces qu’ils ne comprennent pas à cause des algorithmes Facebook. Mark Zuckerberg est dans le déni en disant « non, je suis une plateforme, je ne suis pas responsable ; même l’Etat Américain dit à l’époque que je ne suis pas responsable des contenus publiés ». Pour Roger, c’est inacceptable: l’outil s’est retourné contre son utilisateur. Au prétexte de faciliter la vie, je manipule de A à Z en exploitant les réflexes les plus primaires, les réflexes du néocortex avec « fight or fly » i.e. « la bagarre ou la fuite » qui laisse rivé à l’écran pour suivre des sujets qui agressent.
Ces business modèles sont basés sur la manipulation de nos comportements, initialement pour nous des envies d’achats (… ce qui est déjà assez condamnable) et puis maintenant pour manipuler nos comportements les plus personnels comme le vote démocratique … ou encore pire une tendance suicidaire comme malheureusement constaté avec l’augmentation depuis 8 ans de 60% du taux de suicides des adolescents. (article NY time)
Mille fois prouvée et maintenant inscrit dans les algorithmes, la règle est la suivante: “ Plus c’est polémique, plus c’est conspiracy et plus ça marche, plus cela accroche mon attention”. A titre d’illustration : Alex Jones – qui est maintenant déconnecté de Facebook mais qui, à l’époque avait 5 Milliards de Like – était un conspirationniste qui avait, à lui tout seul, plus d’audience que tous les médias de la terre réunis.
En capturant touts ces petits bouts d’informations en échange d’un service gratuit, ces grands des GAFMs ( Google, Amazon, FaceBook, Microsoft) arrivent à prédire nos comportements. Rappelons que Cambridge Analytica a démontré qu’avec 300 likes, l’algorithme peut mieux prédire vos comportements que votre conjoint !. Par exemple, l’algorithme arrive à savoir qu’une femme est enceinte avant que celle-ci ne le réalise. Certains naïfs diront « Bon, ce n’est pas grave, on lui a fait passer des promotions pour des couches culottes et cela n’a rien de dramatique ». Manque d’éducation ! Cette information sera également vendue au plus offrant en RTB (Real Time Bidding) et pourquoi pas à un conspirationniste qui viendra proposer à la future mère de ne pas vacciner l’enfant ou encore pire, demain, à des Green extrémistes qui vont démontrer que mettre au monde est la pire des choses en terme d’émission de CO2 … et ainsi faire la promotion de l’avortement.
Donc, une manipulation extrême : l’information au bon moment qui peut faire basculer notre décision.
Justin Trudeau, lors de son passage à VivaTech en Mai dernier, nous disait dans l’appel qui a fait suite à la tuerie de ChristChurch lancé conjointement avec Emmanuel Macron et Jacinda Andern, Première ministre de Nouvelle Zélande, que 50% des élections dans les pays démocratiques du monde en 2018 avaient été influencées par des Fakenews diffusées de façon parfaitement ciblée par les réseaux sociaux.
Ce qui rend le système infernal, c’est que les quatre GAFMs contrôlent ce marché du comportement … et la boucle se boucle puisque c’est à eux qu’on demande ensuite des conseils par nos requêtes et donc ils ont encore l’occasion de nous influencer dans leurs réponses.
Alors que faire ? – ChristChurch, le SEVESO des réseaux sociaux
Deux suggestions intéressantes de Roger McNamee pour sortir de l’impasse dans laquelle nous nous trouvons aujourd’hui sur les données personnelles et leur utilisation pour nous manipuler.
Premièrement, il faut faire porter la responsabilité de leurs actions à ces réseaux sociaux, comme on l’a fait dans les années 70 à l’encontre de la Chimie avec le principe de “pollueur payeur”.
En tant qu’ancien dirigeant de l’industrie chimique, l’analogie établie par Roger McNAMEE entre l’état actuel de l’industrie des réseaux sociaux et l’industrie chimique des années 60 est très puissante. Jusqu’à l’accident de SEVESO en 1976, l’industrie chimique n’était pas tenue pleinement responsable de sa pollution; une conformité à des règles très relaxes ou existantes suffisait; dépenser plus pouvait être vu par le management comme contraire aux obligations fiduciaires vis à vis des actionnaires. Après des événements dramatiques comme Seveso, la perception du public a changé et les Chimistes ont été perçus comme « les méchants » et tenu responsable au delà de la réglementation en cours avec le principe du «pollueur payeur». C’est au Chimiste d’anticiper les conséquences sur le bien-être des personnes qui ne pouvaient pas être anticipées par le politique dans la réglementation de l’époque. Aujourd’hui, de même on doit affirmer que c’est à l’entrepreneur de comprendre et anticiper les risques qu’il fait prendre à ses utilisateurs … et non pas “move fast and break things”.
50 ans plus tard, l’industrie chimique est toujours présente, 95% plus propre. Sans générer des bénéfices époustouflants, comme lors des années débridées des Robber Baron, l’industrie continue d’innover et, par conséquent, participe toujours à la fabrication de plus de 90% des produits que nous touchons quotidiennement.
Selon l’analogie, l’appel de Christ Church est le Seveso de l’industrie sociale. Désormais, l’industrie des données et ses plates-formes exploitant ces technologies devraient être tenues pour responsables de leurs conséquences sur le bien-être humain
Dans ce concept de pollueurs/payeurs, il faut que les plateformes soient mises devant leurs responsabilités et qu’on ne les taxe pas à coup de 5 Milliards par an comme c’est le cas aujourd’hui, mais carrément de 50 Milliards par semaine parce que si on regarde l’impact de la manipulation des élections, de l’augmentation du taux de suicides, le désengagement des adolescents, etc.…l’impact sur notre société est énorme. Imaginez si dans les années 60 on avait prouvé qu’un média avait permis aux Russes d’influencer une élection … les responsables seraient passés à la chaise électrique.
Et puis, il y a l’autre problème du monopole de fait des GAFAM dans l’industrie du logiciel et de l’intelligence artificielle qui empêche toute compétition. Aujourd’hui les startups doivent dès le début se positionner par rapport à cette concurrence déloyale.
Le parallèle est intéressant parce que la chimie finalement a survécu, en abandonnant ses pratiques de cowboys. Et donc le parallèle avec la data est bon. On doit empêcher les business modèles manipulateurs des GAFAM, et c’est vraiment cela qu’il faut empêcher mais on ne va pas renoncer à l’exploitation de la donnée. Non ! Simplement, il faudra le faire proprement.
Mais comment s’y prendre ?
Une fois qu’on aura purement et simplement interdit ce business modèle de la manipulation et qu’on aura aussi cassé ces monopoles, que peut-on faire pour continuer à exploiter la data pour le bien de chacun ? Et là Roger, propose une deuxième piste qui paraît bonne au niveau droit des données. Il pense que la donnée personnelle fait partie de la personne humaine; elle en est indissociable. Oui, on peut demander de l’aide pour acheter une voiture et que les outils intelligents du Cloud nous ramènent la meilleure proposition… mais la propriété de la data concédées à cette occasion doit nous revenir et rester toujours nôtre … et non pas être cédée comme aujourd’hui pour qu’elle soit exploitée à une autre fin.
Pour assurer cette propriété inaliénable de nos données personnelles, il faudrait que celles-ci restent dans notre cloud privé. Il est étonnant qu’Apple n’ait pas encore proposé cela, car c’est un défenseur actif des données personnelles. Il faudra peut-être, qu’un état régalien redevenu tiers de confiance quant à mon identité et mes données personnelles, offre à chaque citoyen dès sa naissance un cloud privé inaliénable.
Enfin, pour faire bouger les lignes, il faut mettre la pression sur nos marques préférées qui exploitent cet outil de manipulation de leur clients: arrêtez de nous traiter comme des petits hamsters. Pour en finir avec ce genre de comportement marketing, il faudrait sans doute revenir à du broadcasting à diffusion large et non plus à de la publicité hyper personnalisée comme aujourd’hui.
Bertrand PETIT
Septembre 2019.