Le bilan de Facebook? La bataille mondiale pour réguler les médias sociaux

Il y a près de 10 ans, un tribunal italien a condamné trois hauts responsables de Google à six mois de prison avec sursis. Leur crime: avoir empêché la société Internet d’héberger une vidéo d’un utilisateur montrant un enfant autiste victime d’intimidation. Le verdict a été considéré comme un cas aberrant, puis annulé.

Maintenant, il semble que tout le monde veuille participer à la loi. L’Australie a réagi à la diffusion en direct du massacre de Christchurch qui a coûté la vie à 50 personnes en mars avec une nouvelle loi permettant aux dirigeants d’Internet de rester bloqués s’ils ne réagissent pas assez rapidement pour supprimer les contenus violents.

Le Royaume-Uni vient également de lancer l'idée d'imposer des sanctions pénales. Cela faisait partie d'une proposition radicale cette semaine visant à responsabiliser toutes les entreprises qui diffusent des contenus et des communications générés par les utilisateurs sur leurs sites.

La tentative du Royaume-Uni de se placer au premier plan en légiférant pour un Internet plus sûr a provoqué des avertissements inévitables sur la menace pesant sur les libertés civiles en ligne. Cela pourrait «enfreindre toute norme raisonnable en matière de droits de l’homme en matière de liberté d’expression», a déclaré Alex Stamos, ancien responsable de la sécurité de l’information sur Facebook et professeur à l’Université de Stanford.

Après le massacre de Christchurch, en Nouvelle-Zélande, l'Australie a rédigé une nouvelle loi qui responsabilise davantage les responsables d'internet © AP

Pourtant, il ne fait aucun doute que la lutte contre les contenus haineux et la désinformation en ligne a pris un tournant. Facebook et Google, propriétaires des plus grandes plateformes de contenu généré par les utilisateurs, sont soudainement obligés de s'adapter à une nouvelle réalité. Pendant des années, ils se sont cachés derrière de larges immunités qui ne leur laissaient aucune responsabilité pour le contenu, à condition qu'ils agissent pour retirer rapidement le matériel illégal dès notification.

Le changement d'humeur a été profond – comme en témoignent les commentaires de Bob Iger, président-directeur général de Walt Disney. Mercredi, selon Variety, il a déclaré lors d'une cérémonie de remise de prix que "Hitler aurait aimé les médias sociaux". C'était, a-t-il ajouté, «l'outil de marketing le plus puissant qu'un extrémiste puisse espérer».

À certains égards, il est surprenant que le calcul ne soit pas venu plus tôt. Comme l’un des premiers dirigeants de Google a déclaré que la société avait réussi à éviter la plupart des formes de réglementation du contenu national pendant si longtemps: «Nous pensions avoir dix ans – il s’est avéré que nous en avions vingt.»

Dans un ouvrage influent de 2006, Tim Wu, co-auteur, professeur à la Columbia Law School, prédisait qu'Internet se fragmenterait inévitablement en réseaux réglementés au niveau national, car les gouvernements agiraient pour protéger leurs citoyens en ligne, en imposant leurs propres normes juridiques et culturelles.

Cela a pris plus de temps que prévu, dit-il maintenant, en raison de la domination de Google et de Facebook sur de nombreux marchés nationaux, ce qui leur a permis d'établir des normes internationales que de nombreux gouvernements hésitaient à contester.

Deux choses se sont combinées pour changer l'ambiance. Premièrement, les puissantes réactions viscérales lors de tragédies telles que Christchurch et le suicide de la jeune adolescente britannique Molly Russell, dont le père a déclaré avoir visionné des images d'automutilation sur Instagram.

Le contenu terroriste et d'autres formes de discours de haine, ainsi que la mise en danger des enfants, sont les problèmes qui ont poussé les gouvernements à agir. Mais la lassitude suscitée par la désinformation liée aux élections et les «fausses nouvelles» continue de se répandre dans le monde entier.

L’autre grand changement a été l’effondrement de la valeur du capital politique des sociétés Internet. Cela inclut à Washington, sur lequel ils pourraient une fois compter pour un soutien.

Une publicité Facebook d'Elizabeth Warren appelant à la dissolution de Facebook

Alors qu'ils se développaient dans le monde entier, Google et Facebook ont ​​initialement trouvé des alliés naturels à la gauche de la politique américaine, en faisant des dons considérables aux candidats démocrates et en obtenant leur soutien sur des questions telles que la neutralité de l'internet. Mais la récente série de scandales, allant de la promulgation de fausses informations aux grandes violations de données, en passant par l'ingérence des élections en Russie, a créé une rupture dans cette alliance.

Ce sont désormais les démocrates du Congrès qui font pression pour que de nouvelles règles strictes en matière de confidentialité des données soient appliquées, y compris Elizabeth Warren, sénatrice et candidate à la présidence, qui a appelé à la dissolution de sociétés telles que Google et Facebook. En réponse, les entreprises ont commencé à cultiver des alliés de droite, en s'associant avec des personnes telles que le donneur de droite Charles Koch dans leur combat pour résister aux formes de réglementation les plus dures.

Cet effort peine toutefois à gagner du terrain. De nombreux républicains, déjà méfiants vis-à-vis des nouvelles entreprises technologiques, avec leurs racines californiennes libérales, les accusent maintenant de censurer les contenus conservateurs.

Si des pays tels que le Royaume-Uni se sentent nouvellement enhardis, cela pourrait avoir de lourdes conséquences. Les propositions de cette semaine pourraient avoir un impact sur les mentalités bien au-delà des frontières britanniques, prévient Michael Posner, professeur d’éthique et de finance à la Stern School of Business de la NYU et ancien responsable de l’administration Obama. "Je pense que cela amènera chaque gouvernement à décider ce qui est illégitime ou non", dit-il. "Et vous vous retrouvez avec ce que les Iraniens ont appelé" Internet halal "- où [each country] décide ce qui est casher ou non.

La "salle de guerre" de Facebook avant les élections au Brésil, signe que l'entreprise répond aux préoccupations du public © Bloomberg

Pour certains, une plus grande intervention des gouvernements dans le contenu en ligne est inévitable et même bienvenue. M. Wu, pour sa part, affirme que tout dépend de la légitimité du gouvernement sous-jacent. Si les gens pensent que leurs dirigeants élus démocratiquement devraient agir », alors l'intervention est valable, même si cela entraîne certaines limitations de la parole.

Cependant, M. Posner dit Les entreprises Internet doivent agir rapidement pour établir de nouvelles règles, plutôt que de donner une excuse aux gouvernements moins démocratiques. «Il y a trop de gouvernements de nature autoritaire», a-t-il déclaré.

La Russie et Singapour ont présenté un projet de loi au cours des dernières semaines visant à lutter contre les "fausses informations" et la désinformation. Les critiques estiment que ces critiques sont une excuse pour étendre le contrôle gouvernemental et éliminer les discours qui ne leur plaisent pas.

Conscients de la rapidité avec laquelle les vents ont changé, les sociétés Internet ont changé de terrain. Mark Zuckerberg, a fait sensation le mois dernier lorsqu'il a appelé à une réglementation gouvernementale. Au premier rang de sa liste de questions à traiter figuraient les contenus préjudiciables – «discours de haine, propagande terroriste, etc.».

"Les sociétés Internet devraient être responsables de l'application des normes relatives aux contenus préjudiciables", a-t-il écrit. «La réglementation pourrait fixer des bases pour ce qui est interdit et obliger les entreprises à mettre en place des systèmes permettant de limiter au maximum le contenu préjudiciable.»

Alex Stamos, l’ancien responsable de la sécurité de l’information de Facebook, a averti qu’une réglementation accrue pourrait menacer la liberté de parole © Getty

Cela semblait être un revirement surprenant, compte tenu de la difficulté avec laquelle les sociétés Internet ont fait pression pour se faire pardonner à leur rôle officiel dans le contrôle du contenu de leurs sites. Cependant, certains critiques se demandent si le cofondateur de Facebook est sérieux dans sa lutte contre le contenu en ligne nocif, et soutiennent plutôt qu'il tente de changer de responsabilité.

«Il est conçu pour s’inscrire dans le modèle commercial actuel et en faire porter le blâme aux gouvernements», explique Roger McNamee, ancien conseiller de M. Zuckerberg, devenu l’un des principaux défenseurs de la Silicon Valley qui réclame un jugement.

Certains avertissent que l'action préconisée par M. Zuckerberg pourrait avoir des conséquences inattendues. «Facebook cherche à sortir de toutes ces controverses politiques», a déclaré John Samples, vice-président du Cato Institute, un groupe de réflexion libertaire. "Mais le danger est que si vous avez des réglementations qui exigent 20 000 modérations de contenu, presque personne ne sera capable de le faire, à l'exception d'un très grand projet mondial."

L'une des questions clés est de savoir si les annonceurs resteront fidèles aux services tels que YouTube et Facebook. En 2017, certains annonceurs ont désactivé leurs dépenses publicitaires sur YouTube, craignant d'être placés à côté de contenus extrémistes ou inappropriés. YouTube a réagi en annonçant des modifications de stratégie, des mises à jour d'algorithmes et des modifications de contenu, et la majeure partie des investissements publicitaires a été générée.

Il y a eu de nouvelles réactions de mécontentement cette année. Jeudi, le directeur de la marque de Procter & Gamble, Marc Pritchard, a déploré le manque de "sécurité de la marque" pour les annonceurs sur les médias sociaux et a averti qu'il ne s'associerait qu'avec des plateformes "favorisant la civilité".

Quelles que soient leurs motivations, les entreprises se sont lancées dans la course pour convaincre les politiciens et les autres de leur sérieux. Cette semaine, Facebook a présenté ses derniers ajustements de produits dans le but de supprimer les contenus préjudiciables et d’empêcher le «contenu à la limite» de se répandre aussi facilement sur son réseau.

Mais les critiques se demandent dans quelle mesure les plateformes en ligne pourront ou voudront aller. L'énorme quantité de matériel affiché sur leurs sites menace de submerger même le grand nombre de personnes qu'ils ont embauchées pour contrôler des contenus.

M. Stamos a ajouté que la lutte contre le contenu nuisible serait également renforcée par des initiatives telles que la promesse de Facebook de chiffrer ses messages. “Vous ne pouvez pas modérer le contenu à moins de le voir. Vous ne pouvez pas trouver de méchants à moins de collecter des données à leur sujet », dit-il. "Je pense que c'est le conflit qui sera le plus important au cours des prochaines années."

En fin de compte, cependant, cela peut se résumer à une question d’argent et de centimes. Des critiques tels que M. McNamee affirment que les plates-formes en ligne ont été conçues pour susciter de vives réactions chez leurs utilisateurs: le contenu le plus controversé joue un rôle clé en provoquant les puissantes réponses des utilisateurs qui leur permettent de modéliser et de prédire le comportement humain.

«Le problème des discours de haine est qu’ils sont fondamentaux dans le modèle commercial de Google et de Facebook», a-t-il déclaré.

Written by yikyak