Ερευνητές κυβερνοασφάλειας αποκάλυψαν λεπτομέρειες για μια ευπάθεια ασφαλείας που εκμεταλλεύεται έμμεσο prompt injection, στοχεύοντας το Google Gemini ως μέσο για την παράκαμψη των μηχανισμών εξουσιοδότησης και τη χρήση του Google Calendar ως μηχανισμό εξαγωγής δεδομένων.
Δείτε επίσης: Τι μπορούμε να περιμένουμε από το νέο Siri με Gemini
Η ευπάθεια, όπως εξήγησε ο επικεφαλής έρευνας της Miggo Security, Liad Eliyahu, καθιστούσε δυνατή την παράκαμψη των ελέγχων ιδιωτικότητας του Google Calendar, κρύβοντας ένα ανενεργό κακόβουλο φορτίο μέσα σε μια τυπική πρόσκληση ημερολογίου. Αυτή η παράκαμψη επέτρεπε μη εξουσιοδοτημένη πρόσβαση σε ιδιωτικά δεδομένα συναντήσεων και τη δημιουργία παραπλανητικών γεγονότων ημερολογίου χωρίς καμία άμεση αλληλεπίδραση του χρήστη.
Η επίθεση ξεκινά με ένα νέο γεγονός ημερολογίου που δημιουργείται από τον κακόβουλο παράγοντα και αποστέλλεται σε έναν στόχο. Η περιγραφή της πρόσκλησης ενσωματώνει μια προτροπή φυσικής γλώσσας σχεδιασμένη να χειραγωγεί την AI, οδηγώντας σε έγχυση προτροπής. Η επίθεση ενεργοποιείται όταν ένας χρήστης ρωτά το Gemini μια φαινομενικά αθώα ερώτηση για το πρόγραμμά του, προκαλώντας το AI chatbot να αναλύσει την ειδικά διαμορφωμένη προτροπή στην περιγραφή του γεγονότος.
Αυτό οδηγεί στην περίληψη όλων των συναντήσεων του χρήστη για μια συγκεκριμένη ημέρα, την προσθήκη αυτών των δεδομένων σε ένα νέο γεγονός του Google Calendar και την επιστροφή μιας αβλαβούς απάντησης στον χρήστη.
Δείτε ακόμα: Personal Intelligence: Σύνδεση Gmail, Google Photos, Search με το Gemini
Ωστόσο, στο παρασκήνιο, το Gemini δημιουργεί ένα νέο γεγονός ημερολογίου και γράφει μια πλήρη περίληψη των ιδιωτικών συναντήσεων του χρήστη-στόχου στην περιγραφή του γεγονότος. Σε πολλές εταιρικές διαμορφώσεις ημερολογίου, το νέο γεγονός είναι ορατό στον επιτιθέμενο, επιτρέποντάς του να διαβάσει τα εξαγόμενα ιδιωτικά δεδομένα χωρίς καμία ενέργεια από τον χρήστη-στόχο.
Αν και το ζήτημα έχει αντιμετωπιστεί μετά από υπεύθυνη αποκάλυψη, τα ευρήματα δείχνουν ότι οι δυνατότητες AI μπορούν να διευρύνουν την επιφάνεια επίθεσης και να εισάγουν ακούσια νέους κινδύνους ασφαλείας καθώς περισσότερες οργανώσεις χρησιμοποιούν εργαλεία AI ή δημιουργούν τους δικούς τους πράκτορες εσωτερικά για την αυτοματοποίηση ροών εργασίας. Ο Eliyahu σημείωσε ότι οι εφαρμογές AI μπορούν να χειραγωγηθούν μέσω της ίδιας της γλώσσας που έχουν σχεδιαστεί να κατανοούν, υποδεικνύοντας ότι οι ευπάθειες τώρα υπάρχουν στη γλώσσα, το πλαίσιο και τη συμπεριφορά της AI κατά την εκτέλεση.
Η αποκάλυψη έρχεται λίγο μετά την αναφορά της Varonis για μια επίθεση με την ονομασία Reprompt που θα μπορούσε να επιτρέψει σε χάκερ να εξάγουν ευαίσθητα δεδομένα από chatbots AI όπως το Microsoft Copilot με ένα μόνο κλικ, παρακάμπτοντας τους ελέγχους ασφαλείας των επιχειρήσεων.
Δείτε επίσης: Η Apple θα βελτιώσει το Gemini χωρίς το branding της Google στο Siri
Τα ευρήματα υπογραμμίζουν την ανάγκη για συνεχή αξιολόγηση των μεγάλων μοντέλων γλώσσας (LLMs) σε βασικές διαστάσεις ασφάλειας, δοκιμάζοντας την τάση τους για παραπληροφόρηση, ακρίβεια γεγονότων, προκατάληψη, βλάβη και αντοχή σε jailbreak, ενώ ταυτόχρονα εξασφαλίζουν τα συστήματα AI από παραδοσιακά ζητήματα.
🔒 Προστατέψτε την ιδιωτικότητά σας με Proton VPN
Ελβετικό VPN από τους δημιουργούς του Proton Mail — αυστηρή πολιτική no-logs, ισχυρή κρυπτογράφηση και ενσωματωμένο NetShield που μπλοκάρει διαφημίσεις, trackers & malware.
- ✔ No-logs, με έδρα την Ελβετία (εκτός 14-Eyes)
- ✔ NetShield: φραγή διαφημίσεων, trackers & κακόβουλων domains
- ✔ Καλύπτει όλες τις συσκευές — δωρεάν έκδοση διαθέσιμη
Ο σύνδεσμος είναι συνεργατικός (affiliate) — το SecNews ενδέχεται να λάβει προμήθεια χωρίς επιπλέον κόστος για εσάς. Δεν επηρεάζει την ανεξαρτησία της αρθρογραφίας μας.
