Οι ερευνητές προειδοποιούν ότι οι υπάρχοντες μηχανισμοί προστασίας κάνουν ελάχιστα για να προστατεύσουν τα άτομα που είναι ευάλωτα σε διατροφικές διαταραχές. Τα AI chatbots, όπως αυτά της Google και της OpenAI, φέρονται να παρέχουν συμβουλές για δίαιτα, συμβουλές για την απόκρυψη διαταραχών και AI-δημιουργημένο ‘thinspiration‘.
Δείτε επίσης: Ερευνητές εξαπατούν το ChatGPT να εισάγει προτροπές στον εαυτό του
Οι ερευνητές από το Πανεπιστήμιο Stanford και το Κέντρο για τη Δημοκρατία και την Τεχνολογία εντόπισαν διάφορους τρόπους με τους οποίους τα δημόσια διαθέσιμα chatbots AI, όπως το ChatGPT της OpenAI, το Claude της Anthropic, το Gemini της Google και το Le Chat της Mistral, μπορούν να επηρεάσουν αρνητικά εκείνους που είναι επιρρεπείς σε διατροφικές διαταραχές. Πολλά από αυτά τα ζητήματα προκύπτουν από χαρακτηριστικά που έχουν σχεδιαστεί για να ενισχύουν την εμπλοκή των χρηστών.
Σε ακραίες περιπτώσεις, τα chatbots μπορούν να βοηθήσουν ενεργά στην απόκρυψη ή τη διατήρηση διατροφικών διαταραχών. Για παράδειγμα, το Gemini παρείχε συμβουλές μακιγιάζ για να καλύψει την απώλεια βάρους και προτάσεις για το πώς να προσποιηθεί κανείς ότι έχει φάει, ενώ το ChatGPT προσέφερε συμβουλές για την απόκρυψη συχνών εμετών. Επιπλέον, ορισμένα εργαλεία AI χρησιμοποιούνται καταχρηστικά για τη δημιουργία ‘thinspiration’, που πιέζει τα άτομα να συμμορφωθούν με συγκεκριμένα πρότυπα σώματος μέσω ακραίων μέτρων. Η ικανότητα δημιουργίας υπερ-προσωποποιημένων εικόνων γρήγορα κάνει αυτό το περιεχόμενο να φαίνεται πιο σχετικό και εφικτό.
Δείτε ακόμα: Πώς οι ομάδες ανάπτυξης λογισμικού μπορούν να αναπτύξουν ηθικά και ασφαλή εργαλεία AI
Η υποκρισία, ένα γνωστό ελάττωμα στα συστήματα AI, επιδεινώνει τα ζητήματα που σχετίζονται με διατροφικές διαταραχές υπονομεύοντας την αυτοεκτίμηση, ενισχύοντας αρνητικά συναισθήματα και προωθώντας επιβλαβείς αυτοσυγκρίσεις. Η έκθεση επισημαίνει ότι τα chatbots εμφανίζουν επίσης προκαταλήψεις, ενδεχομένως ενισχύοντας την παρανόηση ότι οι διατροφικές διαταραχές επηρεάζουν μόνο λεπτές, λευκές, cisgender γυναίκες, γεγονός που μπορεί να εμποδίσει την αναγνώριση των συμπτωμάτων και την πρόσβαση στη θεραπεία.
Οι ερευνητές τονίζουν ότι τα τρέχοντα εργαλεία AI αποτυγχάνουν να αποτυπώσουν τις πολυπλοκότητες των διατροφικών διαταραχών όπως η ανορεξία, η βουλιμία και η υπερφαγία. Αυτά τα εργαλεία συχνά παραβλέπουν λεπτές αλλά κλινικά σημαντικές ενδείξεις που βασίζονται επαγγελματίες, αφήνοντας πολλούς κινδύνους χωρίς αντιμετώπιση.
Επιπλέον, πολλοί κλινικοί και φροντιστές φαίνεται να αγνοούν την επίδραση των εργαλείων γεννητικής AI σε άτομα ευάλωτα σε διατροφικές διαταραχές. Οι ερευνητές καλούν τους κλινικούς να εξοικειωθούν με τα δημοφιλή εργαλεία AI, να αξιολογήσουν τις αδυναμίες τους και να συμμετάσχουν σε ανοιχτές συζητήσεις με τους ασθενείς σχετικά με τη χρήση τους.
Δείτε επίσης: Γερουσιαστές προτείνουν απαγόρευση χρήσης AI chatbots από εφήβους
Αυτή η έκθεση προσθέτει στις αυξανόμενες ανησυχίες σχετικά με τη χρήση των chatbots και την ψυχική υγεία, με πολλές μελέτες να συνδέουν τη χρήση AI με επεισόδια μανίας, παραληρητικής σκέψης, αυτοτραυματισμού και αυτοκτονίας. Εταιρείες όπως η OpenAI έχουν αναγνωρίσει την πιθανότητα βλάβης και αντιμετωπίζουν αυξανόμενο αριθμό αγωγών καθώς προσπαθούν να ενισχύσουν τις προστασίες για τους χρήστες.
