Un an après les émeutes xénophobes et islamophobe de Southport (Royaume-Uni), Amnesty international révèle la responsabilité des réseaux sociaux et surtout de X (ex-Twitter) dans la mise en avant de contenus ayant harangué les foules. Sur la base d’une analyse de l’algorithme de recommandation open source de X, l’ONG a pointé, ce mercredi, «les choix de conception systémiques» privilégiaient «la participation controversée au détriment de la sécurité».
Tout a commencé avec un triple meurtre, le 29 juillet 2024, dans un cours de danse pour enfants. Les victimes, Alice Dasilva Aguiar, Bebe King et Elsie Dot Stancombe sont tuées et 10 autres sont blessées. Rapidement, des allégations mensongères spéculent sur l’identité, la religion et le statut migratoire du mis en cause. L’auteur est identifié comme étant Axel Rudakubana, un jeune de 17 ans né en Grande-Bretagne. Mais la bulle de désinformation prend de grandes dimensions sur X. Dans la foulée, des hébergements de demandeurs d’asile sont attaqués.
Malgré les précisions de la police sur l’identité du mis en cause, les manifestants d’extrême droite ont continué leurs émeutes. Selon Amnesty international, «le système de classement algorithmique de X, affiché dans son code source publié en mars 2023, révèle que les informations mensongères, quel que soit leur degré de nocivité, peuvent devenir prioritaires et apparaître plus rapidement dans les fils d’actualité» que celles vérifiées. Du moment qu’une publication génère de l’engagement et n’est pas signalée en masse, l’algorithme la met en avant, sans évaluer systématiquement son potentiel préjudiciable.
Selon la même source, «les caractéristiques de conception ont fourni un terreau fertile à l’émergence de discours racistes et incendiaires sur X au lendemain de l’attaque de Southport». L’ONG pointe même la responsabilité directe du nouveau propriétaire, Elon Musk, qui a «amplifié les fausses informations» par ses commentaires. L’analyse a révélé aussi le rôle Tommy Robinson, cofondateur de la Ligue de défense anglaise (EDL) qui a attisé les émeutes dans le même contexte. En octobre 2024, il a été condamné à dix-huit mois de prison ferme dans une autre affaire.
Dans le temps, le Premier ministre britannique Keir Starmer a appelé à protéger les groupes ciblés par les attaques contre des mosquées, des centres d’accueil de réfugiés et des communautés asiatiques, noires et musulmanes. Dans le sillage des émeutes de Southport, le gouvernement britannique a d’ailleurs promis la fermeté face aux «guerriers du clavier».
Pour sa part, l’ONG constate «l’incapacité de X à prévenir ou dûment atténuer ces risques prévisibles». Depuis, des utilisateurs ont été inculpés au Royaume-Uni pour «incitation à la violence» ou «diffusion de fausses informations malveillantes» et certains ont été condamnés. En juillet dernier, un rapport parlementaire a pointé les modèles économiques des réseaux sociaux comme l’un des vecteurs de la mésinformation, dans le même contexte.