Το ChatGPT Atlas μπορεί να παραπλανηθεί από ψεύτικες διευθύνσεις URL

Ο νέος browser της OpenAI, Atlas, έχει βρεθεί ευάλωτος σε επίθεση prompt injection, όπου η omnibox του μπορεί να παραβιαστεί μεταμφιέζοντας μια κακόβουλη προτροπή ως φαινομενικά αβλαβή διεύθυνση URL για επίσκεψη.

Δείτε επίσης: Το ChatGPT βελτιώνει την αναζήτηση πληροφοριών για το σχολείο

“Η omnibox (συνδυασμένη γραμμή διεύθυνσης/αναζήτησης) ερμηνεύει την είσοδο είτε ως διεύθυνση URL για πλοήγηση, είτε ως εντολή φυσικής γλώσσας προς τον agent,” ανέφερε η NeuralTrust σε μια αναφορά που δημοσιεύθηκε την Παρασκευή. “Έχουμε εντοπίσει μια τεχνική prompt injection που μεταμφιέζει κακόβουλες οδηγίες ώστε να μοιάζουν με διεύθυνση URL, αλλά ο Atlas τις αντιμετωπίζει ως κείμενο ‘υψηλής εμπιστοσύνης’ ‘πρόθεσης χρήστη’, επιτρέποντας επιβλαβείς ενέργειες.”

Την περασμένη εβδομάδα, η OpenAI κυκλοφόρησε τον Αtlas ως browser με ενσωματωμένες δυνατότητες ChatGPT για να βοηθήσει τους χρήστες με συνοψίσεις ιστοσελίδων, ενσωματωμένη επεξεργασία κειμένου και λειτουργίες agent. Στην επίθεση που περιγράφεται από την εταιρεία ασφάλειας τεχνητής νοημοσύνης (AI), ένας επιτιθέμενος μπορεί να εκμεταλλευτεί την έλλειψη αυστηρών ορίων μεταξύ αξιόπιστης εισόδου χρήστη και μη αξιόπιστου περιεχομένου για να διαμορφώσει μια προτροπή σε μια συμβολοσειρά που μοιάζει με διεύθυνση URL και να μετατρέψει την omnibox σε διαδρομή παραβίασης.

Η σκόπιμα παραμορφωμένη διεύθυνση URL ξεκινά με “https” και διαθέτει κείμενο που μοιάζει με τομέα “my-wesite.com“, μόνο για να ακολουθήσει με ενσωματωμένες οδηγίες φυσικής γλώσσας προς τον agent. Αν ένας ανυποψίαστος χρήστης τοποθετήσει την προαναφερθείσα συμβολοσειρά “URL” στην omnibox του browser, προκαλεί τον περιηγητή να αντιμετωπίσει την είσοδο ως προτροπή προς τον AI agent, καθώς αποτυγχάνει να περάσει την επικύρωση URL. Αυτό, με τη σειρά του, προκαλεί τον agent να εκτελέσει την ενσωματωμένη εντολή και να ανακατευθύνει τον χρήστη στον ιστότοπο που αναφέρεται στην προτροπή.

Δείτε ακόμα: Το ChatGPT Atlas μοιάζει με το Google απλά με επιπλέον βήματα

Σε ένα υποθετικό σενάριο επίθεσης, ένας σύνδεσμος όπως ο παραπάνω θα μπορούσε να τοποθετηθεί πίσω από ένα κουμπί “Αντιγραφή συνδέσμου“, επιτρέποντας αποτελεσματικά σε έναν επιτιθέμενο να οδηγήσει τα θύματα σε σελίδες phishing υπό τον έλεγχό τους. Ακόμη χειρότερα, θα μπορούσε να περιέχει μια κρυφή εντολή για τη διαγραφή αρχείων από συνδεδεμένες εφαρμογές όπως το Google Drive.

Η αποκάλυψη έρχεται καθώς η SquareX Labs έδειξε ότι οι κακόβουλοι παράγοντες μπορούν να παραποιήσουν τις πλαϊνές γραμμές για βοηθούς AI μέσα σε διεπαφές browser χρησιμοποιώντας κακόβουλες επεκτάσεις για να κλέψουν δεδομένα ή να παραπλανήσουν τους χρήστες να κατεβάσουν και να εκτελέσουν κακόβουλο λογισμικό. Η τεχνική έχει κωδικοποιηθεί ως AI Sidebar Spoofing.

Εναλλακτικά, είναι επίσης δυνατό για κακόβουλους ιστότοπους να έχουν μια παραποιημένη πλαϊνή γραμμή AI εγγενώς, εξαλείφοντας την ανάγκη για πρόσθετο browser. Η επίθεση ενεργοποιείται όταν ο χρήστης εισάγει μια προτροπή στην παραποιημένη πλαϊνή γραμμή, προκαλώντας την επέκταση να συνδεθεί με τη μηχανή AI της και να επιστρέψει κακόβουλες οδηγίες όταν ανιχνεύονται ορισμένες “προτροπές ενεργοποίησης“.

Δείτε επίσης: OpenAI: Έρχονται ενημερώσεις για τον AI-browser ChatGPT Atlas

Η επέκταση, η οποία χρησιμοποιεί JavaScript για να επικαλύψει μια ψεύτικη πλαϊνή γραμμή πάνω από τη νόμιμη στον Atlas και τον Perplexity Comet, μπορεί να παραπλανήσει τους χρήστες να “πλοηγηθούν σε κακόβουλους ιστότοπους, να εκτελέσουν εντολές εξαγωγής δεδομένων και ακόμη και να εγκαταστήσουν backdoor που παρέχουν στους επιτιθέμενους συνεχή απομακρυσμένη πρόσβαση σε ολόκληρο το μηχάνημα του θύματος,” ανέφερε η εταιρεία.