Un groupe de jardinage a de gros problèmes avec les algorithmes de Facebook

[ad_1]

La modération d’un groupe de jardinage Facebook dans l’ouest de New York n’est pas sans défis. Il y a des plaintes de punaises laineuses, de mauvais temps et de membres novices qui insistent pour utiliser du détergent à vaisselle sur leurs plantes.

Et puis il y a le mot « houe ».

Les algorithmes de Facebook signalent parfois ce mot particulier comme « violant les normes de la communauté », se référant apparemment à un mot différent, un mot sans « e » à la fin qui est néanmoins souvent mal orthographié comme outil de jardinage.

Normalement, les systèmes automatisés de Facebook signalent les publications contenant du matériel incriminé et les suppriment. Mais si les membres d’un groupe – ou pire, les administrateurs – enfreignent les règles trop souvent, l’ensemble du groupe peut être fermé.

Elizabeth Licata, l’une des modératrices du groupe, s’en est inquiétée. Après tout, le groupe, WNY Gardeners, compte plus de 7 500 membres qui l’utilisent pour obtenir des astuces et des conseils de jardinage. Il a été particulièrement populaire pendant la pandémie lorsque de nombreuses personnes confinées à la maison ont commencé à jardiner pour la première fois.

Une houe de tout autre nom peut être un râteau, une herse ou un motoculteur. Mais Licata n’était pas sur le point de bannir le mot du groupe, ou d’essayer de supprimer chaque instance. Lorsqu’un membre du groupe a commenté « Push pull hoe ! » sur un message demandant « votre outil de désherbage le plus aimé et le plus indispensable », Facebook a envoyé une notification qui disait « Nous avons examiné ce commentaire et trouvé qu’il va à l’encontre de nos normes de harcèlement et d’intimidation ».

Facebook utilise à la fois des modérateurs humains et l’intelligence artificielle pour éliminer les contenus qui vont à l’encontre de ses règles. Dans ce cas, un humain aurait probablement su qu’une houe dans un groupe de jardinage n’est probablement pas un cas de harcèlement ou d’intimidation. Mais l’IA n’est pas toujours douée pour le contexte et les nuances du langage.

Il manque également beaucoup de choses – les utilisateurs se plaignent souvent de signaler un langage violent ou abusif et les règles de Facebook indiquent que ce n’est pas en violation des normes de sa communauté. La désinformation sur les vaccins et les élections est un problème de longue date et bien documenté pour la société de médias sociaux. D’un autre côté, il y a des groupes comme celui de Licata qui sont pris dans des algorithmes trop zélés.

« Et donc j’ai contacté Facebook, ce qui ne servait à rien. Comment tu fais ça? » elle a dit. « Vous savez, j’ai dit que c’était un groupe de jardinage, une houe est un outil de jardinage. »

Licata a déclaré qu’elle n’avait jamais eu de nouvelles d’une personne et de Facebook, et a trouvé futile de naviguer dans le système d’enquêtes du réseau social et les moyens d’essayer de remettre les pendules à l’heure.

Contacté par l’Associated Press, un représentant de Facebook a déclaré dans un e-mail cette semaine que la société avait trouvé le groupe et corrigé les erreurs d’application. Cela a également mis en place un contrôle supplémentaire, ce qui signifie que quelqu’un – une personne réelle – vérifiera les messages incriminés avant que le groupe ne soit considéré pour la suppression. L’entreprise ne dirait pas si d’autres groupes de jardinage avaient des problèmes similaires. (En janvier, Facebook a signalé par erreur le monument britannique de Plymouth Hoe comme offensant, puis s’est excusé, selon The Guardian.)

« Nous prévoyons de développer un meilleur support client pour nos produits et de fournir au public encore plus d’informations sur nos politiques et la manière dont nous les appliquons », a déclaré Facebook dans un communiqué en réponse aux plaintes de Licata.

Puis, autre chose est arrivé. Licata a reçu une notification indiquant que Facebook désactivait automatiquement les commentaires sur une publication en raison de « possibilité de violence, d’incitation ou de haine dans plusieurs commentaires ».

Les commentaires offensants comprenaient « Tuez-les tous. Noyez-les dans de l’eau savonneuse », et « Les scarabées japonais sont des imbéciles ».

.
[ad_2]

Laisser un commentaire

Votre adresse e-mail ne sera pas publiée. Les champs obligatoires sont indiqués avec *

*