Google Gemini: Πώς οι περιλήψεις email οδηγούν σε phishing επιθέσεις;

Η τεχνητή νοημοσύνη ενσωματώνεται ραγδαία στις καθημερινές εφαρμογές παραγωγικότητας, όμως η ασφάλεια δεν συμβαδίζει πάντα με την καινοτομία. Νέα ευρήματα φέρνουν στο φως μια ευπάθεια στο Google Gemini for Workspace, η οποία θα μπορούσε να επιτρέψει σε επιτιθέμενους να εξαπατήσουν τους χρήστες μέσω prompt injections που περιλαμβάνονται σε φαινομενικά αθώα emails.

Η νέα γενιά phishing χωρίς links ή συνημμένα

Η συγκεκριμένη τεχνική βασίζεται σε αόρατο κακόβουλο περιεχόμενο εντός ενός email, το οποίο είναι σχεδιασμένο ώστε να διαβάζεται μόνο από το AI μοντέλο – όχι από τον ίδιο τον χρήστη. Οι εισβολείς τοποθετούν “κρυφές” οδηγίες σε HTML μορφή, π.χ. με γραμματοσειρά μεγέθους μηδέν και λευκό χρώμα, κάνοντάς τες αόρατες για τον παραλήπτη.

Δείτε επίσης: Συλλήψεις ατόμων για phishing απάτη εναντίον βρετανικής φορολογικής αρχής

Όταν ο χρήστης ζητήσει από το Gemini να κάνει μια περίληψη του email, η κρυφή οδηγία ενεργοποιείται και ενδέχεται να προκαλέσει την εμφάνιση ψευδών ειδοποιήσεων, όπως για παράδειγμα προειδοποίηση για υποτιθέμενη παραβίαση λογαριασμού Gmail και την παροχή “τηλεφώνου υποστήριξης”, το οποίο οδηγεί σε phishing.

Ασφάλεια υπό αμφισβήτηση: Οι μηχανισμοί φιλτραρίσματος του Gemini δοκιμάζονται

Παρά τις προειδοποιήσεις από την κοινότητα ασφαλείας ήδη από το 2024, το περιστατικό που αποκάλυψε ο ερευνητής Marco Figueroa μέσω του 0din bug bounty program της Mozilla, αποδεικνύει ότι τα μοντέλα AI εξακολουθούν να είναι ευάλωτα σε “indirect prompt injections”.

Ο Figueroa σημειώνει ότι τέτοιες επιθέσεις έχουν υψηλό ποσοστό επιτυχίας, ακριβώς επειδή εκμεταλλεύονται την εμπιστοσύνη των χρηστών στα συστήματα AI, όπως το Gemini.

Μηχανισμοί ανίχνευσης και μέτρα πρόληψης

Οι ειδικοί προτείνουν συγκεκριμένες τακτικές μετριασμού:

• Αφαίρεση ή εξουδετέρωση περιεχομένου που έχει σχεδιαστεί ώστε να είναι κρυφό στο σώμα κειμένου
• Φιλτράρισμα εξόδου του Gemini για σημάδια phishing όπως “επείγοντα μηνύματα”, αριθμούς τηλεφώνου ή URL
• Εκπαίδευση των χρηστών ώστε να μην λαμβάνουν αυτομάτως τις AI περιλήψεις ως αξιόπιστες, ιδίως όταν περιλαμβάνουν ειδοποιήσεις σχετικά με την ασφάλεια

Δείτε επίσης: Hackers καταχρώνται το Vercel v0 για phishing επιθέσεις

Η Google ανέφερε ότι δεν έχει παρατηρήσει τέτοιες επιθέσεις στην πράξη, αλλά επιβεβαίωσε ότι «ενισχύει τις άμυνες της» με τη βοήθεια ασκήσεων red-teaming και εσωτερικής εκπαίδευσης των μοντέλων σε περιπτώσεις τέτοιων επιθέσεων.

Γιατί έχει σημασία: Το AI δεν είναι πανάκεια — είναι στόχος

Η περίπτωση του Gemini αναδεικνύει μια πιο ευρεία πρόκληση: τα εργαλεία AI ενδέχεται να εξελιχθούν σε νέα πεδία επίθεσης, καθώς γίνονται βασικό κομμάτι των επιχειρησιακών ροών. Η φαινομενική ευκολία και η φυσικότητα της τεχνητής νοημοσύνης μπορεί να επισκιάσουν τα σημάδια εξαπάτησης και να διευκολύνουν την παραπλάνηση.

Δείτε επίσης: Microsoft 365: Phishing επιθέσεις καταχρώνται το ‘Direct Send’

Καθώς το AI ενσωματώνεται όλο και πιο πολύ σε πλατφόρμες όπως το Gmail και το Google Workspace, οι επιθέσεις αποκτούν νέο επίπεδο stealth και πειστικότητας. Η ασφάλεια δεν πρέπει να περιορίζεται μόνο στη δομή του email ή στα links, αλλά να φτάνει πλέον και στο πώς το AI ερμηνεύει και μεταδίδει πληροφορίες.

Πηγή: www.bleepingcomputer.com