Pollueur Payeur sur les réseaux sociaux: USA Section 230 et EU Digital Service Act
Avec aux USA une révision annoncée de la Section 230, et en Europe, le débat au parlement sur le « Digital Service Act » (DSA) proposé par le Commissaire européen Thierry Breton – nous avons, en même temps des deux côtés de l’atlantique une actualité politique forte qui espérons le portera des fruits.
Pour mieux comprendre et suivre ce débat, commençons par une vulgarisation rapide sur les différences des systèmes juridiques : aux USA c’est la «common law» : il n’y a pas de code civil ou pénal. Tout est basé sur la jurisprudence qui s’appuie sur la constitution avec le «First Amendment » qui garantit la liberté d’expression et le deuxième qui garantit la liberté de porter des armes. Il faut savoir qu’en un peu plus de deux siècles et demi de cette constitution, elle n’a été amendée que 21 fois; alors que nous, en France, c’est presque une habitude de l’amender à chaque quinquennat ou septennat. Rappelons-nous aussi que les « founding fathers » en grande majorité, ont tous quitté l’Europe pour des raisons soit religieuses soit économiques. En conséquence, des 2 côtés de l’Atlantique, on a les mêmes racines ancestrales judéo chrétienne … mais les founding fathers ont inversé les valeurs parce qu’ils avaient trop souffert des conséquences de l’ancien régime en Europe: ce qui était bien en Europe et mal aux USA.
Suite aux investigations de Robert MUELLER sur la manipulation des élections de 2016, et l’insurrection du 6 Janvier avec invasion du Capitole le congrès évoque la possibilité de réviser la “Section 230” du Communication Decency act de 1996 qui avait permis à l’époque le développement des plateformes comme Facebook et Twitter en leur enlevant leurs responsabilités. Cette Section offre une double protection :
- On ne peut pas accuser la plateforme des propos haineux qui sont sur leurs pages : c’est le principe du kiosque en quelques sortes. « Je suis un kiosque. Il y a des tas de gens qui s’expriment, … des médias » ( …Sauf que là ce n’est pas que des médias, il y a beaucoup trop de gens anonymes) ;
- La deuxième protection, que l’on oublie un peu dans cette Section 230, concerne la protection de plateforme pour sa liberté de censure. Ainsi, si la plateforme décide de ne plus publier les propos de tel groupe, elle en a le droit et personne ne pourra l’attaquer .
Vous vous souvenez l’incident au Capitol en janvier dernier lorsque Trump avait dépassé la ligne jaune en incitant à la violence, Twitter a décidé de lui supprimer son compte, ce qui depuis a calmé énormément le débat public USA en arrêtant cette saturation des ondes par les Tweets mensongers de TRUMP. On se demande pourquoi cela n’a pas été fait plus tôt ?! Beaucoup d’Européens se sont émus de cette entrave à la liberté d’expression ou surtout de la liberté qu’avait le patron de Facebook ou de Twitter de façon unilatérale de supprimer ces propos et censurer des comptes.
Et si on revient aux incidents du Capitol où les supporters de Trump ont donné l’assaut, l’analyse de CREOpoint rappelle que ce ne sont pas tellement les propos insurrectionnels qu’a tenu Trump qui a favorisé cette insurrection, mais c’est l’amplification de ces propos sur les réseaux sociaux avec des algos qui favorisent tout ce qui est mensonger, haineux, violent, excitant… comme nous l’a très bien expliqué aussi Guillaume Chaslot à notre dernier TEDxIssylesMoulineaux.
Vous l’avez bien compris, le problème des réseaux sociaux, c’est le problème du mégaphone. La liberté d’expression jusqu’à présent ne posait pas de problème: pour les individus, chacun pouvait monter sur une caisse à savon à Hyde Park pour haranguer la foule et y toucher 100 ou 200 ou 500 personnes. S’ il sortait du lot, il était peut être repris par des médias lui donnant un plus grand auditoire, média qui eux étaient régulés. Aujourd’hui n’importe quel imbécile formé aux techniques de manipulation, sous couvert en plus de l’anonymat, peut aller sur les réseaux sociaux, déverser des propos haineux qui eux-mêmes vont être amplifier, favoriser par les algos de Facebook.
C’est ce que nous avons bien vu avec Roger McNamee qui avait très bien pointé du doigt – avec une vision interne des choses (ancien VC de Silicon Valley converti) – où le bât blesse. C’est au niveau du business model. Toujours à la recherche d’engagement maximum pour arriver à une forme de manipulation des masses par la publicité. Selon lui Facebook, YouTube et ces plateformes qui vivent de cette manipulation devraient être proprement et simplement interdit comme tout ce qui crée l’addiction et la manipulation des citoyens.
Si on revient en Europe, la plupart du temps, on a une constitution avec un code civil qui fait loi. La jurisprudence ne vient que clarifier l’application de celles-ci au contexte du temps. Il y a donc un cadre juridique très fort dans lequel il est notamment écrit qu’il est interdit d’inciter à la violence, au désordre public, au négationnisme … et n’importe qui peut être condamné sous ces griefs-là. En même temps, on reste attaché à la liberté d’expression et c’est pour cela que la « loi Avia » de 2019 avait été retoquée par le Conseil Constitutionnel puisque cela ne pouvait pas être l’Etat qui devient le gardien de la liberté d’expression. C’était lui donner les clefs de la censure.
La proposition du DSA qui va être discutée au parlement européen malheureusement pas avant la fin de l’année, est de dire que finalement ces plateformes créent un risque systémique et qu’en conséquence elles doivent être régulées, et dans un principe de transparence décrire leurs algorithmes d’amplification qui pourraient être audités. Le DSA propose de rendre obligatoire la capacité pour elles d’enlever un propos haineux (Reinforce and further clarify the conditions for liability exemptions: Platforms and other intermediaries are not liable for users’ unlawful behaviour unless they are aware of illegal acts and fail to remove them) faute de quoi il pourrait être mis à l’amende jusqu’à 6% de leur chiffre d’affaires mondial ; c’est le gros bâton.
Ce à quoi les deux protagonistes américains répondent de façon diamétralement opposées :
- Facebook répond : « oui, il n’y a pas de problème, cela pourrait être fait avec l’Intelligence Artificielle », contredisant formellement Yann LeCun qui est son patron de la R&D IA qui soutient que l’intelligence artificielle n’est pas bonne pour repérer des propos haineux insidieux et sera toujours en retard d’une mode, d’un acronyme parce que le vocabulaire change; elle sera toujours en retard d’une guerre.
- Twitter qui se range plutôt sur l’avis d’Yann LeCun en disant que c’est impossible. Il faut envisager une sorte de modération avec complémentarité homme-machine et de donner aux utilisateurs plus de contrôle pour qu’eux mêmes choisissent leurs préférences d’algorithme
CREOpoint propose que par toute menace imminente, il faille mettre des brigades en place d’experts pertinents qui vont pouvoir se prononcer rapidement sur un score de véracité d’une fake news ou deepfake, et éventuellement déclencher une contre-mesure… un petit peu à la mesure de ce qu’on fait avec des pilotes de Canadair lors d’un départ de feu de forêt attisé par un vent violent ou lorsqu’une manifestation se prépare et qu’on envoie le car de CRS pour être prêts au cas où.
Un des principes du DSA, est le principe du pollueur/payeur (voir Christ Church le seveso des plateformes) : il n’y a pas de liberté sans responsabilité. Ce n’est pas parce que tu as suivi la prescription de la loi à un moment que cela te protège des conséquences de tes actes. Les dirigeants par leur censure, de facto choisissent ce qui est publié sur leur plateforme; ils en sont responsables. La question c’est à partir de quel niveau d’auditoire doit t-on être considéré comme un risque systémique. Et là, le législateur européen a prévu 10% de la population européenne – cela fait 45 millions – ce qui est beaucoup trop énorme; il faudrait rester sur des petits niveaux, à savoir que tant qu’un post est à 500, 5 000, 10 000 vus/followers, on reste dans l’impunité de la caisse à savon, dès que tu dépasses ce serait chaud à définir. A ce moment-là, tu es régulé comme un média : c’est tout qui choisis ta ligne éditoriale, et c’est toi qui contrôles tes contenus et tu es responsable.
Pour conclure, rappelons que Thierry Breton a été aussi saisi récemment du dossier vaccination en Europe. Il va être confronté à tout ce tombereau de fake news autour de la vaccination. On va voir comment il va réagir.
Dans ce débat sur la souveraineté, sur les valeurs, il n’y a pas de demi-mesure ! Etant donné que le premier amendement, que nous européens n’avons pas, est à la base de la construction de l’internet occidental … nous ne pouvons pas rester sur le même bateau qu’eux. En Europe, nous avons une société basée sur la connaissance et la confiance : « je te connais et je te fais confiance ». Alors que tout l’Internet USA étant basé sur l’anonymat … il développe la défiance qui est son corollaire: comme je ne sais pas qui est « James Bond 340 » ou « Batman 122 », je me méfie et donc cela ne va pas.
La solution technique existe en Estonie avec un Etat véritable Tiers de Confiance qui nous donne notre identité physique – identité papier – et donne depuis 2002 une identité digitale avec un super directory national qu’il va défendre contre tous les hackers du monde. Une telle architecture d’internet avec un tiers de confiance régalien permet d’envisager un Internet européen construit sur nos valeurs, dans lequel il n’y a pas forcément un anonymat et où la règle de base c’est plutôt la connaissance, l’identification et donc la responsabilité des individus. Et c’est une architecture complètement différente qui pourrait très bien marcher. De plus, l’analyse de la dernière attaque Solarwind a réussi à tromper les grands du digital et l’on a frisé la catastrophe avec les hackers à deux doigts de mettre la main sur l’active directory du département du trésor américain… montre que la solution ultime dans cette cyber-guerre de géants est de confier notre identité digitale, ce “active directory”, aux mains des dirigeants.
Rappelons ce principe qu’en philosophie, il n’y a pas de liberté sans responsabilité. C’est cela qu’il faut mettre en œuvre : on est responsable des propos que l’on diffuse, surtout quand ils sont diffusés par un gros mégaphone qui choisit ce qu’il amplifie.