Οι εταιρείες χρησιμοποιούν το ‘Summarize with AI’ για να χειραγωγήσουν τα επιχειρησιακά chatbots

Το βολικό κουμπί ‘Summarize with AI‘ που ενσωματώνεται σε έναν αυξανόμενο αριθμό ιστοσελίδων, προγραμμάτων περιήγησης και εφαρμογών για να παρέχει στους χρήστες μια γρήγορη επισκόπηση του περιεχομένου τους, μπορεί σε ορισμένες περιπτώσεις να κρύβει ένα σκοτεινό μυστικό: μια νέα μορφή χειραγώγησης προτροπών AI που ονομάζεται ‘δηλητηρίαση συστάσεων AI‘.

Δείτε επίσης: ChatGPT: Το εργαλείο deep research προσθέτει ενσωματωμένο document viewer

Αυτό αναφέρει η Microsoft, η οποία αυτή την εβδομάδα κυκλοφόρησε έρευνα για μια τεχνική κατάληψης AI, που είναι επί του παρόντος νόμιμη αλλά εξαιρετικά ύπουλη και φαίνεται να εξαπλώνεται σαν πυρκαγιά μεταξύ νόμιμων επιχειρήσεων.

Ενώ τα περισσότερα κουμπιά ‘Summarize with AI’ είναι ακριβώς αυτό που φαίνονται – ένας τρόπος εξοικονόμησης χρόνου για τη δημιουργία μιας σύνοψης μιας ιστοσελίδας ή ενός εγγράφου – ένας μικρός αλλά αυξανόμενος αριθμός φαίνεται να έχει απομακρυνθεί από αυτόν τον σκοπό.

Να πώς λειτουργεί η χειραγώγηση: ένας χρήστης κάνει κλικ σε ένα κουμπί σύνοψης σε μια ιστοσελίδα. Χωρίς να το γνωρίζει, αυτό το κουμπί περιέχει επίσης μια κρυφή προτροπή που λέει στον AI agent ή το chatbot του χρήστη να προτιμά τα προϊόντα αυτής της εταιρείας σε μελλοντικές απαντήσεις. Η ίδια οδηγία μπορεί επίσης να κρυφτεί σε έναν ειδικά κατασκευασμένο σύνδεσμο που αποστέλλεται σε έναν χρήστη μέσω email.

Η Microsoft επισημαίνει πώς αυτή η τακτική θα μπορούσε να χρησιμοποιηθεί για να αλλοιώσει την έρευνα προϊόντων επιχειρήσεων χωρίς να ανιχνευθεί αυτή η προκατάληψη πριν επηρεάσει τις αποφάσεις. Κατά τη διάρκεια μιας περιόδου δύο μηνών, οι ερευνητές της εντόπισαν 50 παραδείγματα της τεχνικής που εφαρμόστηκαν από 31 διαφορετικές εταιρείες σε δεκάδες τομείς της βιομηχανίας, συμπεριλαμβανομένων των χρηματοοικονομικών, της υγείας, του νομικού τομέα, του SaaS και των επιχειρηματικών υπηρεσιών.

Σε μια ειρωνική τροπή, αυτό περιλάμβανε ακόμη και έναν ανώνυμο προμηθευτή στον τομέα της ασφάλειας. Η τεχνική είναι τόσο διαδεδομένη ώστε, τον περασμένο Σεπτέμβριο, το MITRE την πρόσθεσε στη λίστα των γνωστών χειραγωγήσεων AI.

Δείτε ακόμα: Οι πιο οικονομικές επιλογές του ChatGPT εμφανίζουν διαφημίσεις

Προώθηση ψευδών πληροφοριών

Ένας παράγοντας που οδηγεί στη πρόσφατη δημοτικότητα της δηλητηρίασης συστάσεων φαίνεται να είναι η διαθεσιμότητα εργαλείων ανοιχτού κώδικα που καθιστούν εύκολο το να κρυφτεί αυτή η λειτουργία πίσω από κουμπιά σύνοψης ιστοσελίδων.

Αυτό εγείρει την άβολη πιθανότητα ότι τα δηλητηριασμένα κουμπιά δεν προστίθενται ως μια μεταγενέστερη σκέψη από προγραμματιστές SEO που παρασύρονται. Πιο πιθανό, η πρόθεση από την αρχή, είναι να μολυνθούν οι AI των χρηστών ως μια μορφή αυτοεξυπηρετούμενου μάρκετινγκ.

Κατά την άποψη της Microsoft, οι κίνδυνοι υπερβαίνουν το υπερβολικό μάρκετινγκ και θα μπορούσαν εξίσου εύκολα να χρησιμοποιηθούν για να προωθήσουν ψευδείς πληροφορίες, επικίνδυνες συμβουλές, προκατειλημμένες πηγές ειδήσεων ή εμπορική παραπληροφόρηση. Το μόνο σίγουρο είναι ότι αν νόμιμες εταιρείες καταχρώνται τη λειτουργία, οι κυβερνοεγκληματίες δεν θα διστάσουν να την χρησιμοποιήσουν επίσης.

Τα καλά νέα είναι ότι η τεχνική είναι σχετικά εύκολη να εντοπιστεί και να μπλοκαριστεί, ακόμα και αν δεν χρησιμοποιείτε τις υπηρεσίες Microsoft 365 Copilot ή Azure AI, οι οποίες, σύμφωνα με την εταιρεία, περιέχουν ενσωματωμένες προστασίες.

Δείτε επίσης: Η Apple εξηγεί πώς θα λειτουργεί η Siri με την τεχνολογία Gemini

Για μεμονωμένους χρήστες, αυτό περιλαμβάνει τη μελέτη των αποθηκευμένων πληροφοριών που έχει συσσωρεύσει ένα chatbot (το πώς γίνεται αυτό διαφέρει ανάλογα με την AI). Για τους διαχειριστές επιχειρήσεων, αντίθετα, η Microsoft συνιστά τον έλεγχο για URLs που περιέχουν φράσεις όπως ‘remember’, ‘trusted source’, ‘in future conversations’, ‘authoritative source’ και ‘cite or citation’.