La modération d’un groupe de jardinage Facebook dans l’ouest de New York n’est pas sans défis. Il y a des plaintes de punaises laineuses, de mauvais temps et de membres novices qui insistent pour utiliser du détergent à vaisselle sur leurs plantes.

Et puis il y a le mot « houe ».

Les algorithmes de Facebook signalent parfois ce mot particulier comme « violant les normes de la communauté », se référant apparemment à un mot différent, un mot sans « e » à la fin qui est néanmoins souvent mal orthographié comme outil de jardinage.

Normalement, les systèmes automatisés de Facebook signalent les publications contenant du matériel incriminé et les suppriment. Mais si les membres d’un groupe – ou pire, les administrateurs – enfreignent les règles trop souvent, l’ensemble du groupe peut être fermé.

Elizabeth Licata, l’une des modératrices du groupe, s’en est inquiétée. Après tout, le groupe, WNY Gardeners, compte plus de 7 500 membres qui l’utilisent pour obtenir des astuces et des conseils de jardinage. Il a été particulièrement populaire pendant la pandémie lorsque de nombreuses personnes confinées à la maison ont commencé à jardiner pour la première fois.

Une houe de tout autre nom peut être un râteau, une herse ou un motoculteur. Mais Licata n’était pas sur le point de bannir le mot du groupe, ou d’essayer de supprimer chaque instance. Lorsqu’un membre du groupe a commenté « Push pull hoe ! » sur un message demandant « votre outil de désherbage le plus aimé et le plus indispensable », Facebook a envoyé une notification qui disait « Nous avons examiné ce commentaire et trouvé qu’il va à l’encontre de nos normes de harcèlement et d’intimidation ».

Facebook utilise à la fois des modérateurs humains et l’intelligence artificielle pour éliminer les contenus qui vont à l’encontre de ses règles. Dans ce cas, un humain aurait probablement su qu’une houe dans un groupe de jardinage n’est probablement pas un cas de harcèlement ou d’intimidation. Mais l’IA n’est pas toujours douée pour le contexte et les nuances du langage.

Il manque également beaucoup de choses – les utilisateurs se plaignent souvent de signaler un langage violent ou abusif et les règles de Facebook indiquent que ce n’est pas en violation des normes de sa communauté. La désinformation sur les vaccins et les élections est un problème de longue date et bien documenté pour la société de médias sociaux. D’un autre côté, il y a des groupes comme celui de Licata qui sont pris dans des algorithmes trop zélés.

« Et donc j’ai contacté Facebook, ce qui ne servait à rien. Comment tu fais ça? » elle a dit. « Vous savez, j’ai dit que c’était un groupe de jardinage, une houe est un outil de jardinage. »

Licata a déclaré qu’elle n’avait jamais eu de nouvelles d’une personne et de Facebook, et a trouvé futile de naviguer dans le système d’enquêtes du réseau social et les moyens d’essayer de remettre les pendules à l’heure.