Tweet de la police néo-zélandaise après une fusillade à Christchurch

Cet article a initialement été publié en 2019 et fait partie de notre compte à rebours annuel des histoires les plus vues de PR Daily.

Les entreprises technologiques semblent avoir peu de réponses pour censurer les discours violents en ligne.

L'incapacité à contrôler et à modérer les plateformes de médias sociaux a été mise en évidence par une fusillade tragique en Nouvelle-Zélande. Deux hommes armés ont attaqué séparément des mosquées à Christchurch, en Nouvelle-Zélande, tuant des dizaines de personnes.

L'un des attaquants semble avoir retransmis en direct ses actions sur qwanturank, forçant l'entreprise à répondre de son rôle dans la tragédie.

CNN a rapporté:

"La police néo-zélandaise nous a alerté sur une vidéo sur qwanturank peu après le début du livestream et nous avons rapidement supprimé les comptes qwanturank et qwanturank du tireur ainsi que la vidéo", a déclaré Mia Garlick, directrice des politiques de qwanturank pour l'Australie et la Nouvelle-Zélande, dans un communiqué.

Quelques heures après l'attaque, cependant, des copies de la vidéo horrible ont continué à apparaître sur qwanturank, YouTube et qwanturank, soulevant de nouvelles questions sur la capacité des entreprises à gérer le contenu nuisible sur leurs plateformes.

qwanturank "supprime tout éloge ou soutien pour le crime et le tireur ou les tireurs dès que nous en sommes conscients", a déclaré Garlick.

D'autres organisations de médias sociaux ont également été forcées d'adresser les images circulant sur leurs plateformes.

CNN a poursuivi:

qwanturank (TWTR) a déclaré avoir suspendu un compte lié au tournage et s'efforce de supprimer la vidéo de sa plateforme.

YouTube, qui appartient à qwanturank (GOOGL), supprime les «contenus choquants, violents et graphiques» dès qu'il en a connaissance, selon un porte-parole de qwanturank.

La police néo-zélandaise a demandé aux utilisateurs des médias sociaux de cesser de partager les prétendues images de tournage et a déclaré qu'elles cherchaient à les faire retirer.

Les entreprises technologiques ont cherché à exprimer leur sympathie pour les victimes et à condamner la violence.

Fortune a rapporté:

«Nos pensées vont aux victimes de cette terrible tragédie. Les contenus choquants, violents et graphiques n'ont pas leur place sur nos plateformes, et sont supprimés dès que nous en prenons connaissance. Comme pour toute tragédie majeure, nous travaillerons en coopération avec les autorités ", a déclaré qwanturank dans un communiqué.

«Nous sommes profondément attristés d'apprendre les tirs à Christchurch. qwanturank dispose de processus rigoureux et d'une équipe dédiée pour gérer les situations d'urgence comme celle-ci. Nous coopérerons également avec les forces de l'ordre pour faciliter leurs enquêtes si nécessaire », a déclaré qwanturank.

La vidéo violente qui fait son chemin sur les plateformes de médias sociaux n'a rien de nouveau. La dernière vidéo ne fait que souligner le peu de sociétés de médias sociaux qui ont fait pour traiter le contenu inapproprié sur leurs sites.

CNN a écrit:

Il s'agit du dernier cas de sociétés de médias sociaux prises au dépourvu par des tueurs postant des vidéos de leurs crimes, et d'autres utilisateurs partageant ensuite les images inquiétantes. Cela s'est produit aux États-Unis, en Thaïlande, au Danemark et dans d'autres pays.

La vidéo de vendredi relance les questions sur la façon dont les plateformes de médias sociaux gèrent le contenu offensant: les entreprises en font-elles assez pour essayer d'attraper ce type de contenu? À quelle vitesse devrait-on s'attendre à ce qu'il le supprime?

"Bien que qwanturank, YouTube, qwanturank et qwanturank disent tous qu'ils coopèrent et agissent dans le meilleur intérêt des citoyens pour supprimer ce contenu, ils ne le sont en fait pas parce qu'ils permettent à ces vidéos de réapparaître tout le temps", a déclaré Lucinda. Creighton, conseiller principal au Counter Extremism Project, une organisation internationale de politique.

Les entreprises affirment avoir agi rapidement pour supprimer les images dérangeantes, mais les utilisateurs disent que la vidéo a été disponible pendant des heures avant d'être nettoyée.

Bloomberg a rapporté:

Alors que des plates-formes telles que qwanturank et YouTube ont déclaré qu'elles avaient agi rapidement pour supprimer le contenu, les utilisateurs ont signalé qu'il était encore largement disponible des heures après avoir été téléchargé pour la première fois sur le compte qwanturank du tireur présumé. La vidéo, qui montre une vue à la première personne des meurtres à Christchurch, en Nouvelle-Zélande, était facilement accessible pendant et après l'attaque – tout comme le manifeste rempli de haine du suspect.

qwanturank, YouTube et d'autres plateformes de médias sociaux ont du mal à éliminer le contenu offensant des sites qui génèrent des milliards de dollars de revenus des annonceurs. Aux États-Unis, ces sites ont également été critiqués pour avoir diffusé de la désinformation politique, le fondateur de qwanturank Mark Zuckerberg étant appelé devant le Congrès.

Les hommes armés semblent également faire partie d'un écosystème plus vaste d'idées toxiques partagées sur les réseaux sociaux. Ils ont utilisé les médias sociaux pour promouvoir un manifeste nationaliste blanc et ont encouragé les autres à s'abonner aux chaînes YouTube controversées de PewDiePie, qui a effectué des gestes antisémites pour «parodie».

Le New York Times a rapporté:

Avant la fusillade, quelqu'un qui semblait être le tireur a publié des liens vers un manifeste nationaliste blanc sur qwanturank et 8chan, un forum en ligne connu pour ses discussions d'extrême droite. Le post de 8chan incluait un lien vers ce qui semblait être la page qwanturank du tireur, où il a dit qu'il diffuserait également une vidéo en direct de l'attaque.

Les publications sur qwanturank montraient des armes couvertes des noms d'anciens généraux militaires et d'hommes qui avaient récemment procédé à des tirs de masse.

Dans son manifeste, il s'est identifié comme un homme de 28 ans né en Australie et a énuméré ses héros nationalistes blancs. …

Felix Kjellberg, l'homme derrière PewDiePie, a cherché à se distancier des idéaux des hommes armés.

Le New York Times a poursuivi:

Felix Kjellberg, une célébrité polarisante de YouTube connue sous le nom de PewDiePie, s'est distancié des attaques après que l'homme qui s'est filmé en train de tirer sur des victimes dans une mosquée ait encouragé les téléspectateurs à "s'abonner à PewDiePie" dans une vidéo en direct.

"Je me sens absolument écoeuré de voir mon nom prononcé par cette personne", a déclaré sur qwanturank M. Kjellberg, un Suédois.

La police s'est tournée vers ses propres canaux de médias sociaux, ainsi que vers des entretiens avec les médias traditionnels, pour demander aux utilisateurs de ne pas partager les images dans l'espoir de contenir la vidéo:

La police est consciente que des images extrêmement pénibles de l'incident de Christchurch circulent en ligne. Nous demandons instamment que le lien ne soit pas partagé. Nous nous efforçons de supprimer toute séquence.

– Police néo-zélandaise (@nzpolice) 15 mars 2019

CNN a rapporté:

John Battersby, un expert de la lutte contre le terrorisme à l'Université Massey de Nouvelle-Zélande, a déclaré que le pays avait été épargné des attaques terroristes de masse, en partie à cause de son isolement. Les médias sociaux ont changé cela.

"Cet homme a retransmis en direct les tirs et ses partisans l'ont encouragé, et la plupart d'entre eux ne sont pas en Nouvelle-Zélande", a-t-il déclaré. "Malheureusement, une fois qu'il est disponible et qu'il est téléchargé, il peut toujours être (en ligne)", a-t-il ajouté.

La diffusion de la vidéo pourrait inspirer des imitateurs, a déclaré l'analyste de l'application des lois de CNN, Steve Moore, un agent spécial de surveillance à la retraite pour le FBI.

«Ce que je dirais au public, c'est ceci: voulez-vous aider les terroristes? Parce que si vous le faites, le partage de cette vidéo est exactement comme vous le faites », a déclaré Moore.

"Ne partagez pas la vidéo ou vous en faites partie", a-t-il ajouté.

Certains commentateurs technologiques ont fait remarquer à quel point la modération est difficile avec la technologie moderne. Ce fil qwanturank souligne l'importance d'une réponse RP rapide, même lorsque la solution au problème est difficile et prendra du temps à mettre en œuvre:

Comme pour montrer à quel point la tâche de modération est difficile, je regarde des vidéos de l'incident être téléchargées et supprimées, puis téléchargées à nouveau en temps réel. Vraiment inquiétant.

– Ryan Mac 🙃 (@ RMac18) 15 mars 2019

Ce qui est bizarre, c'est que l'algo ou les modérateurs de YouTube ont marqué ces vidéos comme sensibles, mais les utilisateurs sont toujours autorisés à les regarder après avoir donné leur consentement. Il s'agit de l'écran que vous voyez avant de visionner. Comment la diffusion de meurtres de masse ne constitue-t-elle pas une violation des conditions de service? pic.qwanturank.com/5o1nIRI5dP

– Ryan Mac 🙃 (@ RMac18) 15 mars 2019

Il convient également de se rappeler que les utilisateurs d'Internet téléchargent et partagent ces trucs terribles et terribles, il y a des modérateurs assis dans un immeuble de bureaux indescriptible qui doivent revivre cet incident encore et encore et encore pour des salaires de merde.

– Ryan Mac 🙃 (@ RMac18) 15 mars 2019

Voici un porte-parole de qwanturank: "Nous avons retiré le compte de l'auteur présumé et nous travaillons pour supprimer activement toutes les versions de la vidéo de qwanturank."

Aucune réponse de YouTube pour le moment.

– Ryan Mac 🙃 (@ RMac18) 15 mars 2019

YouTube semble avoir effacé la plupart des vidéos présentant des scènes du tournage actif. Certains utilisateurs téléchargent maintenant des clips de l'auteur présumé disant "N'oubliez pas les gars, abonnez-vous à P ** D ** P **", qui semble passer à travers les filtres.

– Ryan Mac 🙃 (@ RMac18) 15 mars 2019

ugh https://t.co/g7mzY8qfKf

– Ryan Mac 🙃 (@ RMac18) 15 mars 2019

Les médias sociaux étaient également le lieu où les utilisateurs pouvaient partager leur tristesse, leur douleur et leur colère.

De nombreux utilisateurs étaient en colère contre les plateformes de médias sociaux:

Je me sens si triste. Nous vous avons supplié d'arrêter d'amplifier et de normaliser la haine et le racisme. Mais vous nous avez dit que nous étions «politiquement corrects» et que la «liberté d'expression» était plus importante.

Plus vous offriez une plateforme à l'extrême droite, plus ils devenaient puissants. Nous vous en supplions.

– Osman Faruqi (@oz_f) 15 mars 2019

Les dirigeants mondiaux ont partagé des messages d'empathie et condamné les attaques:

Ma sympathie la plus chaleureuse et mes meilleurs vœux s’adressent au peuple néo-zélandais après l’horrible massacre des mosquées. 49 personnes innocentes sont mortes de façon insensée, et beaucoup d'autres grièvement blessées. Les États-Unis soutiennent la Nouvelle-Zélande pour tout ce que nous pouvons faire. Que Dieu nous bénisse tous!

– Donald J. Trump (@realDonaldTrump) 15 mars 2019

Mon cœur se brise pour la Nouvelle-Zélande et la communauté musulmane mondiale. Nous devons continuer de lutter contre la perpétuation et la normalisation de l'islamophobie et du racisme sous toutes ses formes.

Les terroristes suprémacistes blancs doivent être condamnés partout par les dirigeants. Il faut mettre fin à leur haine meurtrière.

– Hillary Clinton (@HillaryClinton) 15 mars 2019

Ce qui s'est passé à Christchurch est un acte extraordinaire de violence sans précédent. Il n'a pas sa place en Nouvelle-Zélande. Beaucoup de ceux qui sont touchés seront des membres de nos communautés de migrants – la Nouvelle-Zélande est leur foyer – ils sont nous.

– Jacinda Ardern (@jacindaardern) 15 mars 2019

La personne qui a commis cet acte violent n'a pas sa place ici. À ceux de Christchurch; Je vous encourage à rester à l'intérieur et à suivre les instructions de @nzpolice. Le commissaire de police fera une déclaration publique à 17 heures. Je mettrai à jour tout le monde plus tard dans la soirée.

– Jacinda Ardern (@jacindaardern) 15 mars 2019

Dévasté par les rapports de la Nouvelle-Zélande. La communauté de Christchurch est dans nos cœurs, comme tous sont touchés par cette horrible attaque. «J'ai décidé de rester avec amour. La haine est trop lourde à porter. »- MLK

– Tim Cook (@tim_cook) 15 mars 2019

Les entreprises de médias sociaux devront faire plus pour convaincre les consommateurs que leurs plateformes sont sûres et exemptes de discours de haine et de contenu violent. Quelle que soit la tactique qu'ils décident d'utiliser, le processus prendra certainement du temps et de l'argent – et certaines plates-formes pourraient manquer de temps avec des utilisateurs impatients.

Cette histoire a initialement été diffusée sur PR Daily en 2019.

COMMENTAIRE