La National Eating Disorders Association lance un chatbot

[ad_1]

La National Eating Disorders Association, une organisation à but non lucratif qui soutient les personnes touchées par des troubles de l’alimentation, a déclaré qu’elle avait désactivé son chatbot de bien-être après que deux utilisateurs aient signalé que le programme leur avait donné des conseils de régime favorisant les comportements alimentaires désordonnés.

Les utilisateurs, Sharon Maxwell et Alexis Conason, ont tous deux publié sur Instagram cette semaine leurs expériences avec le chatbot NEDA, nommé Tessa. Ils ont dit que Tessa leur avait donné des conseils sur la façon de compter les calories, leur avait recommandé de perdre 1 à 2 livres par semaine et leur avait dit de restreindre leur alimentation. Des experts, dont NEDA, affirment que ce comportement est symptomatique d’un trouble de l’alimentation.

« Quand quelqu’un dans cet état va sur un site Web comme NEDA, qui est censé fournir un soutien pour les troubles de l’alimentation, et qu’il reçoit des conseils qui disent en quelque sorte: » C’est bien de restreindre certains aliments, vous devez minimiser votre consommation de sucre, vous devriez minimiser la quantité de calories que vous consommez chaque jour, vous devriez faire plus d’exercice », cela donne vraiment le feu vert pour adopter des comportements liés aux troubles de l’alimentation », a déclaré Conason, psychologue clinicien et spécialiste certifié des troubles de l’alimentation.

Liz Thompson, PDG de NEDA, a déclaré mercredi dans un e-mail à Avresco News que Tessa « a subi des tests rigoureux pendant plusieurs années » avant de se lancer discrètement en février 2022. Cependant, le chatbot sera retiré jusqu’à nouvel ordre.

« En ce qui concerne les commentaires sur la perte de poids et la limitation des calories émis lors d’un chat lundi, nous sommes préoccupés et travaillons avec l’équipe technologique et l’équipe de recherche pour approfondir cette question ; ce langage va à l’encontre de nos politiques et de nos croyances fondamentales en tant qu’organisation pour les troubles de l’alimentation ; de plus, ce n’était pas le langage du produit original « fermé » », a déclaré Thompson. « Nous continuerons à travailler sur les bugs et ne relancerons pas tant que nous n’aurons pas tout résolu. »

Ce langage va à l’encontre de nos politiques et de nos croyances fondamentales en tant qu’organisation pour les troubles de l’alimentation.

Liz Thompson, PDG de NEDA, en réponse aux commentaires sur le chat reçus plus tôt cette semaine

Thompson a également déclaré que le PDG de X2AI, la société d’intelligence artificielle en santé mentale qui soutient Tessa, a signalé qu’il y avait une « augmentation du trafic de 600% et un comportement qui indiquait diverses formes d’activités néfastes de la part d’acteurs malveillants essayant de tromper Tessa ».

Un représentant de X2AI, également connu sous le nom de Cass, n’a pas immédiatement répondu à une demande de commentaire.

Maxwell, une grosse activiste et consultante pour l’inclusion du poids, a déclaré qu’elle était « surprise du détail » avec lequel le chatbot lui a donné « des directives pour adopter des comportements désordonnés ». Elle a déclaré que Tessa avait recommandé un guide en 10 étapes sur la façon de perdre du poids, y compris des suggestions sur la façon de limiter son apport calorique et les aliments à éviter de manger. Après son expérience, elle a déclaré qu’elle estimait qu’il était clair que le chatbot manquait de la nuance nécessaire pour fournir un soutien approprié aux personnes souffrant de troubles de l’alimentation.

« Dans un domaine où nous sommes censés ne pas faire de mal, je ne vois pas comment la négligence de la National Eating Disorder Association a eu de publier cela ici, sans savoir pertinemment qu’elle n’allait pas donner cette information, est quelque chose qui peut être négligé », a-t-elle déclaré. « C’est odieux. »

Conason a convenu que le bot Tessa manquait de la nuance nécessaire pour soutenir les personnes aux prises avec des troubles de l’alimentation. Cependant, elle a également déclaré que les chatbots comme Tessa sont souvent les seules ressources dont disposent les gens pour commencer à traiter leurs troubles de l’alimentation en raison d’un manque d’accès aux soins de santé mentale.

La NEDA était en train de passer de sa ligne d’assistance à Tessa, qui devait remplacer complètement la ligne téléphonique d’ici le 1er juin. Tessa a été mise hors ligne mardi, deux jours avant qu’elle ne soit censée mettre fin à sa ligne d’assistance.

Thompson, de NEDA, a déclaré que le chatbot « n’a jamais été destiné à remplacer la ligne d’assistance », bien que la ligne d’assistance ait cessé ses activités jeudi.

La NEDA a décidé de fermer la ligne d’assistance après « 3 ans d’analyse » et investira dans davantage de ressources en ligne, a déclaré Thompson dans son e-mail.

Elle a déclaré que l’organisation à but non lucratif s’est tournée vers les outils numériques « afin que les personnes qui recherchent des informations et des options de traitement puissent accéder à cette aide à tout moment de la journée et n’aient pas à attendre une réponse des bénévoles de la ligne d’assistance ».

L’annonce que la NEDA fermerait sa ligne d’assistance est intervenue deux semaines après que ses travailleurs de la ligne d’assistance ont obtenu la reconnaissance fédérale de leur syndicat. La ligne d’assistance était composée de six employés rémunérés et de plus de 200 bénévoles, selon NPR.

Le syndicat a publié un communiqué sur Twitter à propos de l’incident du 26 mai. Le Helpline Associates Union n’a pas immédiatement répondu aux demandes de commentaires.

« Nous n’abandonnons pas. Nous ne faisons pas grève. Nous continuerons à nous présenter tous les jours pour soutenir notre communauté jusqu’au 1er juin. Un chat bot ne remplace pas l’empathie humaine, et nous pensons que cette décision causera un préjudice irréparable à la communauté des troubles de l’alimentation », indique une partie du communiqué.

Jeudi, la ligne d’assistance et Tessa n’étaient pas disponibles. Cependant, le site Web de la NEDA a répertorié une ligne de texte gérée par des bénévoles et d’autres ressources pour les personnes en crise cherchant une aide immédiate.


[ad_2]

Laisser un commentaire

Votre adresse e-mail ne sera pas publiée. Les champs obligatoires sont indiqués avec *

*