Τα AI hallucinations — οι ψευδείς ή εφευρημένες πληροφορίες που παράγουν τα συστήματα τεχνητής νοημοσύνης — έχουν αρχίσει να δημιουργούν σοβαρά προβλήματα στον χώρο της εξυπηρέτησης πελατών, με εργαζόμενους σε εστιατόρια, καφετέριες, κινηματογράφους και καταστήματα να αντιμετωπίζουν καθημερινά πελάτες που εμπιστεύονται τυφλά το ChatGPT ή άλλα εργαλεία generative AI αντί για τους ίδιους τους επαγγελματίες. Το φαινόμενο αυτό αναδιαμορφώνει δραματικά τη σχέση μεταξύ καταναλωτών και εργαζομένων, ενώ εγείρει σοβαρά ερωτήματα για την ασφάλεια, την αξιοπιστία και τα όρια της τεχνολογίας στην καθημερινή ζωή.
Δείτε επίσης: Η Verizon απολύει 3.000 εργαζομένους – AI στην εξυπηρέτηση πελατών
Η Μάντισον, σερβιτόρα σε εστιατόριο της Νέας Υόρκης με σύσταση Michelin, περιγράφει χαρακτηριστικά περιστατικά που θα μπορούσαν να αποβούν επικίνδυνα. Κάθε φορά που υποδέχεται νέους πελάτες, τους ρωτά για πιθανές αλλεργίες. Τελευταία, όμως, έχει αντιμετωπίσει επικίνδυνες καταστάσεις: πελάτες που δηλώνουν αλλεργία σε θαλασσινά παραγγέλνουν ψάρι με ζωμό από οστρακοειδή, επειδή το ChatGPT τους είπε ότι το πιάτο δεν περιέχει αλλεργιογόνα. «Σου λένε ότι είναι αλλεργικοί στα οστρακοειδή, και το ChatGPT τους λέει ότι δεν υπάρχουν οστρακοειδή στο πιάτο, ενώ εμείς τους λέμε ότι υπάρχουν», εξηγεί η Μάντισον. Πρόκειται για ένα φαινόμενο που δεν είναι απλώς ενοχλητικό — μπορεί να αποβεί θανατηφόρο.
Πέρα από τα ζητήματα αλλεργιών, η Μάντισον έχει παρατηρήσει αυξανόμενη εξάρτηση από τα εργαλεία generative AI σε θέματα οινολογίας. Πελάτες απορρίπτουν τις συστάσεις των sommelier του εστιατορίου, προτιμώντας να συμβουλευτούν το ChatGPT για επιλογές κρασιού. Το αποτέλεσμα; Παραγγελίες για μπουκάλια που το εστιατόριο δεν διαθέτει — ή που απλώς δεν υπάρχουν στην πραγματικότητα. Τα AI hallucinations εφευρίσκουν ονόματα κρασιών, vintage και παραγωγούς που δεν έχουν υπάρξει ποτέ, αφήνοντας τους εργαζόμενους να διαχειριστούν την απογοήτευση των πελατών με διπλωματία.
AI Hallucinations στην εξυπηρέτηση πελατών: Ένα φαινόμενο που επεκτείνεται
Το πρόβλημα δεν περιορίζεται στα εστιατόρια. Εργαζόμενοι σε κινηματογράφους, καφετέριες και Apple Store αναφέρουν παρόμοιες εμπειρίες: πελάτες που ζητούν προϊόντα ή χαρακτηριστικά που δεν υπάρχουν, βασισμένοι σε πληροφορίες που τους έδωσε κάποιο AI chatbot. Σε φόρουμ του Reddit και στο X (πρώην Twitter), οι εργαζόμενοι στην εξυπηρέτηση πελατών μοιράζονται ιστορίες για πελάτες που αντιμετωπίζουν το ChatGPT ως αδιαμφισβήτητη αυθεντία, αρνούμενοι να δεχτούν διορθώσεις από ανθρώπους με πραγματική εμπειρία και γνώση.
Ο Τζέισον, δασοφύλακας σε ομοσπονδιακές εκτάσεις στη Mountain West των ΗΠΑ, περιγράφει επισκέπτες που φτάνουν στο πάρκο με ταξιδιωτικά προγράμματα που έχουν δημιουργηθεί από AI και είναι εντελώς παράλογα — διαδρομές που δεν υπάρχουν, αξιοθέατα που είναι κλειστά ή απρόσιτα, αποστάσεις που έχουν υπολογιστεί λανθασμένα. Τα AI hallucinations σε αυτή την περίπτωση δεν είναι απλώς ενοχλητικά — μπορεί να θέσουν σε κίνδυνο την ασφάλεια των επισκεπτών σε απομακρυσμένες περιοχές.
Η εξάπλωση του φαινομένου συνδέεται άμεσα με τη μαζική υιοθέτηση εργαλείων generative AI από το ευρύ κοινό. Το ChatGPT της OpenAI, το Gemini της Google, το Copilot της Microsoft και άλλα παρόμοια εργαλεία έχουν γίνει καθημερινά βοηθήματα για εκατομμύρια χρήστες παγκοσμίως. Ωστόσο, η τεχνολογία αυτή έχει ένα θεμελιώδες πρόβλημα: τα γλωσσικά μοντέλα (LLMs) δεν «γνωρίζουν» πραγματικά — παράγουν κείμενο βάσει στατιστικών μοτίβων, και μερικές φορές αυτό το κείμενο είναι απλώς λάθος.
Δείτε επίσης: Airbnb: Κυκλοφορεί εξυπηρέτηση πελατών που βασίζεται σε AI
Γιατί τα AI Hallucinations είναι τόσο επικίνδυνα για τους εργαζόμενους
Το πρόβλημα των AI hallucinations δεν είναι νέο για τους ειδικούς της τεχνολογίας, αλλά η μαζική έκθεση του κοινού σε αυτό δημιουργεί νέες κοινωνικές δυναμικές. Οι εργαζόμενοι στην εξυπηρέτηση πελατών βρίσκονται πλέον σε μια παράδοξη θέση: πρέπει να αντικρούσουν «πληροφορίες» που παρέχει μια τεχνολογία που ο μέσος καταναλωτής θεωρεί παντογνώστη, χωρίς να προσβάλουν τον πελάτη. Αυτό απαιτεί επιπλέον συναισθηματική εργασία και διπλωματικές δεξιότητες που δεν ήταν μέρος της αρχικής τους εκπαίδευσης.
Η Μάντισον περιγράφει χαρακτηριστικά πώς αυτή και οι συνάδελφοί της έχουν αναπτύξει στρατηγικές για να «μαλακώσουν» τον αντίκτυπο των AI hallucinations. Αντί να πουν απευθείας στον πελάτη ότι το AI chatbot του έδωσε λανθασμένες πληροφορίες, λένε κάτι σαν: «Έχουμε μια πολύ εξειδικευμένη λίστα κρασιών — ίσως σας δείχνει ένα γαλλικό κρασί, αλλά εμείς δεν διαθέτουμε γαλλικά κρασιά». Αυτή η προσέγγιση, αν και αποτελεσματική, αποτελεί επιπλέον βάρος για εργαζόμενους που ήδη αντιμετωπίζουν πολλαπλές πιέσεις στη δουλειά τους.
Η κατάσταση αναμένεται να επιδεινωθεί με την κυκλοφορία νέων εργαλείων AI. Το Muse, ο νέος AI agent της Meta, αναμένεται να ενισχύσει περαιτέρω την εξάρτηση των καταναλωτών από την τεχνητή νοημοσύνη για αποφάσεις που παραδοσιακά βασίζονταν στην ανθρώπινη εμπειρία και γνώση. Οι AI agents — συστήματα που μπορούν να εκτελούν σύνθετες εργασίες αυτόνομα — φέρνουν νέες δυνατότητες, αλλά και νέους κινδύνους όταν οι χρήστες τους εμπιστεύονται χωρίς κριτική σκέψη.
Το φαινόμενο αυτό αντικατοπτρίζει μια βαθύτερη κοινωνική τάση: την τάση να αποδίδουμε αυθεντία στην τεχνολογία, ακόμα και όταν αυτή έρχεται σε αντίθεση με την ανθρώπινη εμπειρία. Η παλιά ρήση «ο πελάτης έχει πάντα δίκιο» αντικαθίσταται από μια νέα, εξίσου προβληματική: «το AI έχει πάντα δίκιο». Αυτή η νοοτροπία υπονομεύει την αξία της επαγγελματικής γνώσης και εμπειρίας, ενώ παράλληλα δημιουργεί πραγματικούς κινδύνους — ιδιαίτερα σε τομείς όπως η υγεία, η ασφάλεια τροφίμων και η πλοήγηση σε φυσικό περιβάλλον.
Πώς να αντιμετωπίσουμε τα AI Hallucinations ως καταναλωτές
Για τους καταναλωτές, η βασική αρχή είναι απλή: τα εργαλεία generative AI είναι χρήσιμα βοηθήματα, αλλά όχι αλάνθαστες πηγές αλήθειας. Ειδικά σε θέματα που αφορούν την υγεία — όπως οι αλλεργίες — ή την ασφάλεια, η γνώμη ενός εκπαιδευμένου επαγγελματία πρέπει πάντα να υπερισχύει. Τα LLMs δεν έχουν πρόσβαση σε πραγματικό χρόνο δεδομένα για συγκεκριμένα εστιατόρια, καταστήματα ή τοποθεσίες — και ακόμα κι αν έχουν, μπορεί να παράγουν λανθασμένες πληροφορίες με εντυπωσιακή αυτοπεποίθηση.
Για τις επιχειρήσεις, το φαινόμενο των AI hallucinations δημιουργεί νέες ανάγκες εκπαίδευσης προσωπικού. Οι εργαζόμενοι χρειάζονται εργαλεία και στρατηγικές για να διαχειρίζονται αποτελεσματικά καταστάσεις όπου πελάτες παρουσιάζουν λανθασμένες πληροφορίες από AI ως αδιαμφισβήτητα γεγονότα. Παράλληλα, οι επιχειρήσεις θα μπορούσαν να επενδύσουν σε δικά τους εξειδικευμένα AI εργαλεία που βασίζονται σε επαληθευμένα δεδομένα — για παράδειγμα, ένα chatbot εστιατορίου που γνωρίζει ακριβώς τον κατάλογο και τα συστατικά κάθε πιάτου.
Δείτε επίσης: Τεχνητή νοημοσύνη: Πώς το AI βοηθά στην εξυπηρέτηση πελατών
Συνολικά, το φαινόμενο των AI hallucinations στην εξυπηρέτηση πελατών αποτελεί μια υπενθύμιση ότι η τεχνολογία, όσο εντυπωσιακή κι αν είναι, δεν μπορεί να αντικαταστήσει την ανθρώπινη κρίση, εμπειρία και υπευθυνότητα. Καθώς τα εργαλεία AI γίνονται ολοένα και πιο διαδεδομένα, η κριτική σκέψη και ο ψηφιακός εγγραμματισμός καθίστανται απαραίτητες δεξιότητες για κάθε σύγχρονο καταναλωτή. Η επόμενη φορά που ένα AI chatbot σας δώσει μια πληροφορία για ένα εστιατόριο, ένα προϊόν ή μια διαδρομή, αξίζει να την επαληθεύσετε με έναν άνθρωπο που γνωρίζει — γιατί το AI μπορεί να κάνει λάθος, και μερικές φορές αυτό το λάθος έχει συνέπειες.
