Du “behavior design” à l’addiction – Le cours de Stanford qui a formé la Silicon Valley

La manipulation de nos pensées et de nos comportements s’est développée dans les réseaux sociaux en partie grâce aux cours de B.J. FOGG (fondateur et directeur du Stanford Behavior Design Lab)

Pour approfondir les différents concepts “Tiers de Confiance” traités dans ZUCKED, dernier livre de Roger McNamee, et comprendre pourquoi l’auteur conclut que les Business Models basés sur la technologie de la manipulation et de l’addiction devraient être interdits, regardons l’influence du Professeur FOGG, PhD de Stanford et gourou de « Behavior design ». 

En tant que « behavior scientist » et avec plus de 500 millions de data points d’usages, Dr FOGG confirme que l’émotion crée l’habitude à condition que

1. cela soit facile,
2. qu’on soit motivé,
3. et qu’il y ait un déclencheur, un “prompt”. (Exemple: la sonnette dans la cage du Hamster)

Il expose sa théorie dans un TED charmant sur le “positive thinking” avec un exemple facile.  Pour démarrer la journée du bon pied, il suffit de créer une nouvelle petite habitude : tous les jours, dès que vous mettez le pied au sol (le prompt)… vous vous dites: “cela va être une journée formidable”. C’est facile à faire et si on croit au “positive thinking” on peut être motivé. Donc ça marche, pas de problème, cela vous met dans un bon état d’esprit; C’est merveilleux !

Ces nouvelles habitudes peuvent avoir des finalités moins merveilleuses. Pour l’illustrer dans son cours d’éthique à Stanford, il a demandé à ses étudiants de faire le design d’une technologie persuasive qui soit le plus possible contraire à l’éthique … pour pouvoir ensuite y réfléchir et arriver à ancrer les bons principes éthiques dans la tête de ces futurs développeurs. Un des brillants élèves du cours a lancé en fin d’année sa techno persuasive anti-éthique… qui s’est appelée Instagram vendue plus tard 1 milliard de dollars à Facebook…

Alors comment fonctionne l’addiction à Facebook ?

Cela commence par une notification, une alerte anodine comme une vibration dans notre poche.  Au niveau de notre cerveau cela va à la fois augmenter notre rythme cardiaque et secréter de la dopamine pour être prêt à réagir à cette alerte. C’est un réflexe reptilien enfoui profondément dans notre néocortex. Au temps de l’homo-sapiens chasseur-cueilleur, ce réflexe contribue à la survie de l’espèce;  un signal dans la forêt nous met en alerte pouvant signifier un danger ou une opportunité. Notre corps, avec cette dopamine et ce rythme cardiaque élevé, est prêt à réagir. 

Aujourd’hui, la multitude de signaux reçue par le cerveau commence à avoir des conséquences désastreuses :

1. sur le sommeil,
2. ensuite sur le niveau de stress, la vie en communauté,
3. et puis engendre des phénomènes de dépressions 

… jusqu’à la création d’une nouvelle maladie qui s’appelle la nomophobie : “no mobile phobia”, on a peur d’avoir perdu son mobile, de ne plus pouvoir vivre sans son mobile à côté de soi. On arrive à la scène, vue maintes fois, de deux adultes au restaurant chacun plongé dans son mobile. Le Smartphone casse la relation sociale.

La capacité de manipulation de nos comportements et émotions devient particulièrement inquiétante avec l’apport de l’Intelligence Artificielle. Pourquoi ?

Aujourd’hui tous les réseaux cherchent à gagner votre attention, à la capter de plus en plus avec ce qu’on appelle le « growth hacking »: + d’utilisateurs, + de temps, + engagement. 

Comme Cambridge Analytica l’a démontré, avec 300 « j’aime », un réseau connaît un individu mieux que son conjoint.

Pour reprendre la théorie de B.J. FOGG, l’IA va pouvoir déceler chez chacun le “sweetspot” dans un espace à 3 dimensions formé par la facilité, la motivation et le “prompt”, le déclencheur qui va nous faire réagir. Et là, que ce soit ce professeur de Stanford avec 500 millions de data points ou Facebook avec 2,3 Milliards de visiteurs mensuels, on devient tous potentiellement des hamsters dans une cage avec chacun notre petite sonnette personnalisée pour nous faire réagir. Facebook vend alors cela à qui veut l’exploiter, notre marque préférée ou un groupe extrémiste.

Jusqu’à présent dans nos sociétés, les produits qui créent un phénomène d’addiction et de modification du comportement comme l’alcool, le jeu ou la nicotine ont été réglementés, voire bannis par le législateur. Roger McNamee pense qu’il faut purement et simplement bannir les business models basés sur la manipulation et l’addiction mentales. 

Il y a de plus un phénomène aggravant. Lorsqu’on est scotché à 100% sur son téléphone, qu’on dépend à 100% de la techno pour avoir tous les signaux auxquels on est accro, on élimine de facto tous les signes sociaux du monde physique, ces boucles de rétroactions qui pouvaient à la fois repousser le harceleur d’un côté et freiner d’un autre côté celui voulant passer à l’acte que cela soit en déviance sexuelle ou en tendance suicidaire.

Donc, comme l’explique Tristan HARRIS et Eli PARISER dans 2 TED talks excellents, nous finissons  par vivre dans une bulle de filtres où l’on ne reçoit que les signaux qui vont dans le même sens, décidés malgré nous, sans boucle de rétroaction, sans ouverture sur l’extérieur, le différent ou l’antagonisme.

De plus, dans un monde digital où tout est gratuit, où la vidéo une fois terminée déclenche la vidéo d’après ; il n’y a plus de fin. On vous tient, c’est gratuit !  Ce n’est pas comme au casino où quand vous n’avez plus d’argent, on vous jette dehors!   Les Youtube, Netflix ou autres Facebook vous tiennent prisonnier pour développer en vous un mode réflexe et vous manipuler à leur guise dans un monde 100% gratuit et devenant 100% aliéné.

Pour conclure, B.J. FOGG dit qu’il est un techno optimiste et se défend d’avoir voulu enseigner comment manipuler les gens. Il voulait au contraire les aider : “to help people be healthier and happier” dit-il sur son site officiel. Pour essayer de réparer les méfaits de ses élèves, il met aujourd’hui toute son énergie dans une nouvelle approche pour nous faire sortir des écrans, quitter cette addiction, etc. Mais le mal est là, les techniques de manipulations mentales et comportementales sont profondément ancrées dans les algorithmes bourrés de Machine Learning qui décident, en moyenne à 60%, de la nouvelle vidéo ou de la nouvelle info que nous allons voir.

Bertrand PETIT – President InnoCherche et Organisateur du TEDx Issylesmoulineaux (Oct 2019)