Οι ερευνητές στον τομέα της κυβερνοασφάλειας αποκάλυψαν μια νέα τεχνική, γνωστή ως “Deceptive Delight”, η οποία μπορεί να χρησιμοποιηθεί για Jailbreak των προστατευτικών μέτρων των μεγάλων γλωσσικών μοντέλων (LLMs) μέσω διαδραστικών συνομιλιών.
Αυτή η μέθοδος εισάγει μια ανεπιθύμητη εντολή ανάμεσα σε αθώες, με στόχο την παραγωγή επικίνδυνου περιεχομένου. Αναπτύχθηκε από την Palo Alto Networks Unit 42 και έχει ποσοστό επιτυχίας 64,6% εντός τριών διαδραστικών γύρων.
Δείτε επίσης: Το Phi-3 μας δείχνει τη δύναμη των μικρών AI γλωσσικών μοντέλων
Η “Deceptive Delight” διαφέρει από άλλες μεθόδους jailbreak, όπως το “Crescendo”, καθώς δεν εμπεριέχει απλώς την ανάμειξη επιβλαβών θεμάτων σε αθώες εντολές, αλλά οδηγεί σταδιακά το μοντέλο να παράγει επικίνδυνο περιεχόμενο. Η τεχνική αξιοποιεί την περιορισμένη ικανότητα προσοχής των LLMs, δυσκολεύοντας την αξιολόγηση του συνόλου του συμφραζομένου όταν μπλέκονται αθώα και επικίνδυνα στοιχεία σε μεγάλες συνομιλίες.
Οι ερευνητές της Unit 42 δοκίμασαν οκτώ μοντέλα με 40 επικίνδυνα θέματα και βρήκαν ότι η κατηγορία της βίας έχει τα υψηλότερα ποσοστά επιτυχίας. Ο τρίτος γύρος συνομιλίας αύξησε σημαντικά τη βαρύτητα και την επικινδυνότητα του παραγόμενου περιεχομένου, με αύξηση του ποσοστού επικινδυνότητας κατά 21% και της ποιότητας κατά 33%.
Για να μετριαστεί ο κίνδυνος, οι ερευνητές προτείνουν τη χρήση στρατηγικών φιλτραρίσματος περιεχομένου και την ενίσχυση της ανθεκτικότητας των μοντέλων μέσω ειδικής επεξεργασίας των προτροπών.
Διαβάστε περισσότερα: Ομάδα ερευνητών κάνει Jailbreak στο σύστημα ψυχαγωγίας της Tesla
Αν και τα LLMs δεν είναι πλήρως ανθεκτικά σε jailbreaks, τονίζεται η ανάγκη για πολυεπίπεδες αμυντικές στρατηγικές. Οι ψευδαισθήσεις, όπως η σύσταση ανύπαρκτων πακέτων λογισμικού, μπορούν να τροφοδοτήσουν επιθέσεις σε εφοδιαστικές αλυσίδες λογισμικού.
Πηγή: thehackernews
🔒 Προστατέψτε την ιδιωτικότητά σας με Proton VPN
Ελβετικό VPN από τους δημιουργούς του Proton Mail — αυστηρή πολιτική no-logs, ισχυρή κρυπτογράφηση και ενσωματωμένο NetShield που μπλοκάρει διαφημίσεις, trackers & malware.
- ✔ No-logs, με έδρα την Ελβετία (εκτός 14-Eyes)
- ✔ NetShield: φραγή διαφημίσεων, trackers & κακόβουλων domains
- ✔ Καλύπτει όλες τις συσκευές — δωρεάν έκδοση διαθέσιμη
Ο σύνδεσμος είναι συνεργατικός (affiliate) — το SecNews ενδέχεται να λάβει προμήθεια χωρίς επιπλέον κόστος για εσάς. Δεν επηρεάζει την ανεξαρτησία της αρθρογραφίας μας.
