Alexa d’Amazon a dit à un enfant de relever un défi potentiellement mortel

[ad_1]

Alexa, l’assistante virtuelle d’Amazon, n’est pas conçue pour mettre des vies humaines en danger, mais c’est exactement ce qu’elle a fait ce week-end lorsqu’elle a dit à une fille de 10 ans de toucher une prise électrique sous tension avec un sou.

La suggestion a été émise via un haut-parleur intelligent Echo après que la fille a demandé à Alexa un « défi à relever ».

« Branchez un chargeur de téléphone à mi-chemin dans une prise murale, puis touchez un centime aux broches exposées », a déclaré Alexa.

Un porte-parole d’Amazon a déclaré mercredi à Avresco que l’erreur avait été corrigée.

Kristin Livdahl, la mère de la jeune fille qui vivrait aux États-Unis, a décrit l’incident dimanche dans un tweet, qui comprenait une capture d’écran de l’événement tel qu’il est apparu dans l’application pour smartphone Alexa.

« Nous faisions des défis physiques, comme nous allonger et nous retourner en tenant une chaussure au pied, d’un [physical education] professeur sur YouTube plus tôt », a écrit Livdahl dans un autre tweet. « Mauvais temps dehors. Elle en voulait juste un autre. »

C’est alors qu’Alexa a suggéré à la jeune fille de tenter le défi qu’elle avait « trouvé sur le web ». Alexa a relevé le défi d’une publication d’actualités en ligne appelée Our Community Now. Le site d’information n’a pas immédiatement répondu à une demande de commentaire de Avresco et on ne savait pas exactement comment il avait initialement rendu compte de ce défi téméraire.

« J’étais juste là quand c’est arrivé et nous avons eu une autre bonne conversation sur le fait de ne faire confiance à rien d’Internet ou d’Alexa », a déclaré la mère.

Le défi potentiellement mortel, qu’Alexa n’a apparemment pas réussi à contrôler, a commencé à apparaître sur les plateformes de médias sociaux, y compris TikTok il y a environ un an. C’est dangereux car les métaux conduisent l’électricité et l’insertion de pièces métalliques dans une prise de courant peut entraîner de violents chocs électriques et des incendies, certains rapports faisant état de personnes perdant des doigts et des mains en relevant le défi.

« Alexa est conçue pour fournir des informations précises, pertinentes et utiles aux clients », a déclaré le porte-parole d’Amazon à Avresco. « Dès que nous avons eu connaissance de cette erreur, nous avons pris des mesures rapides pour la corriger. »

Amazon n’a pas immédiatement précisé ce qu’était « l’action rapide ».

L’expert en intelligence artificielle Gary Marcus a déclaré mercredi sur Twitter que l’événement montre à quel point les systèmes d’IA manquent encore de bon sens.

« Aucune IA actuelle n’est proche de comprendre le monde physique ou psychologique de tous les jours », a déclaré Marcus plus tard à Avresco dans une interview. « Ce que nous avons maintenant est une approximation de l’intelligence, pas la vraie chose, et en tant que telle, elle ne sera jamais vraiment digne de confiance. Nous aurons besoin de quelques avancées fondamentales – pas seulement de plus de données – avant de pouvoir accéder à l’IA en laquelle nous pouvons avoir confiance. « 

.
[ad_2]

Laisser un commentaire

Votre adresse e-mail ne sera pas publiée. Les champs obligatoires sont indiqués avec *

*