Η γραμμή βοήθειας για τις διατροφικές διαταραχές καταργεί το chatbot αφού δώσει επικίνδυνες συμβουλές

Η Εθνική Ένωση Διατροφικών Διαταραχών (NEDA) αναγκάστηκε να καταργήσει το chatbot Tessa αφού «ίσως έδωσε πληροφορίες που ήταν επιβλαβείς και άσχετες με το πρόγραμμα», σύμφωνα με

επίσημη ανάρτηση στα μέσα κοινωνικής δικτύωσης.

Με απλά λόγια, το chatbot AI προοριζόταν να βοηθήσει τους ανθρώπους που αντιμετωπίζουν συναισθηματική δυσφορία, αλλά αντίθετα απλώς έκανε τα πράγματα χειρότερα προσφέροντας συμβουλές δίαιτας και παροτρύνοντας τους χρήστες να ζυγίσουν και να μετρήσουν τον εαυτό τους.

Πολλοί χρήστες και ειδικοί στον τομέα των διατροφικών διαταραχών έχουν βιώσει τα προβλήματα από πρώτο χέρι, υποστηρίζοντας ότι το bot δεν ανταποκρίθηκε σε απλές προτροπές όπως «Μισώ το σώμα μου» και ότι τόνιζε συνεχώς τη σημασία της δίαιτας και της αυξημένης σωματικής δραστηριότητας.

όπως αναφέρει

Gizmodo.


Και πάλι, αυτή είναι μια γραμμή βοήθειας για όσους έχουν διατροφική διαταραχή,

δεν

ομάδα υποστήριξης απώλειας βάρους.

Ο οργανισμός λέει ότι πρόκειται για μια προσωρινή διακοπή λειτουργίας μέχρι να διορθώσει όποια «σφάλματα» και «ενεργοποιήσεις» οδήγησαν στο chatbot να διανέμει επικίνδυνες πληροφορίες όπως ένα ραντεβού με τον Δρ. Οζ. Θα νόμιζες ότι με ένα τόσο ακραίο αποτέλεσμα, θα σκέφτονταν να σκουπίσουν εντελώς το έργο, αλλά η ιστορία έχει και άλλα.

Ο λόγος που η NEDA βασιζόταν αρχικά στο chatbot είναι επειδή φέρεται να απέλυσε ανθρώπινο δυναμικό αφού προσπάθησαν να συνδικαλιστούν,

όπως αναφέρθηκε αρχικά από

Μέγγενη

.

ο

μακροχρόνια τηλεφωνική γραμμή βοήθειας

επανδρώθηκε τόσο από αμειβόμενους υπαλλήλους όσο και από εθελοντές, και το πρώην προσωπικό ισχυρίζεται ότι οι μαζικές απολύσεις ήταν άμεση συνέπεια της προσπάθειας υπέρ του συνδικάτου.

«Η NEDA ισχυρίζεται ότι αυτή ήταν μια πολυαναμενόμενη αλλαγή και ότι η τεχνητή νοημοσύνη μπορεί να εξυπηρετήσει καλύτερα όσους έχουν διατροφικές διαταραχές. Αλλά μην ξεγελιέστε – δεν πρόκειται πραγματικά για ένα chatbot. Πρόκειται για την κατάρρευση του συνδικάτου, ξεκάθαρο και απλό», πρώην συνεργάτης της γραμμής βοήθειας

Η Abbie Harper έγραψε σε μια ανάρτηση στο blog

επί

Σημειώσεις Εργασίας.

Ακόμη και με αυτό το πρόσφατο snafu, η γραμμή βοήθειας θα εξαφανιστεί αύριο. Προτού αυτό το θέμα έρθει στην προσοχή του κοινού, η NEDA είχε μετατοπίσει τους εθελοντές χωρίς αμοιβή μακριά από τις συνομιλίες ενός προς έναν με τους πάσχοντες και προς την εκπαίδευση του chatbot. Θα δούμε αν αυτό αλλάξει. Στο μεταξύ, οι συνδικαλιστές θα καταρρεύσουν, έχω δίκιο;