Ερευνητές ανακάλυψαν πρόσφατα ένα πιθανό ελάττωμα ασφαλείας σε προηγμένες γεννήτριες εικόνων AI, ιδιαίτερα στην περίπτωση του Recraft, ενός προηγμένου μοντέλου διάχυσης.
Δείτε επίσης: Globe Life: Hackers ζητούν χρήματα για να μην διαρρεύσουν κλεμμένα δεδομένα
Αυτή η ανακάλυψη έχει εγείρει ανησυχίες σχετικά με την ακούσια αποκάλυψη ευαίσθητων οδηγιών του συστήματος, οι οποίες θα μπορούσαν να έχουν εκτεταμένες επιπτώσεις στην ασφάλεια και το απόρρητο της τεχνητής νοημοσύνης.
Τα μοντέλα διάχυσης, όπως το Stable Diffusion και το Midjourney, έχουν φέρει επανάσταση στον τομέα των εικόνων που δημιουργούνται από AI, δημιουργώντας φωτορεαλιστικές εικόνες από μηνύματα κειμένου.
Οι ερευνητές ασφαλείας στο Invicti ανακάλυψαν ότι αυτά τα μοντέλα λειτουργούν βελτιώνοντας σταδιακά τον τυχαίο θόρυβο σε καθαρές εικόνες μέσω μιας διαδικασίας που ονομάζεται “denoising”. Ωστόσο, η Recraft, η οποία ηγείται επί του παρόντος στη δημιουργία εικόνων από κείμενο, έχει επιδείξει δυνατότητες που υπερβαίνουν τα τυπικά μοντέλα διάχυσης.
Δείτε ακόμα: Η Casio επιβεβαιώνει παραβίαση δεδομένων από την Underground
Οι ερευνητές παρατήρησαν ότι η γεννήτρια εικόνων AI Recraft μπορούσε να εκτελέσει γλωσσικές εργασίες συνήθως πέρα από το πεδίο εφαρμογής των μοντέλων δημιουργίας εικόνων. Για παράδειγμα, όταν ζητήθηκε με μαθηματικές πράξεις ή γεωγραφικές ερωτήσεις, το Recraft παρήγαγε εικόνες που περιείχαν σωστές απαντήσεις, σε αντίθεση με άλλα μοντέλα που απλώς οπτικοποιούσαν το κείμενο χωρίς κατανόηση.
Εκτός από αυτό, η περαιτέρω έρευνα αποκάλυψε ότι το Recraft χρησιμοποιεί μια αρχιτεκτονική δύο σταδίων:
- Ένα μοντέλο μεγάλης γλώσσας (LLM) επεξεργάζεται και ξαναγράφει τις προτροπές χρήστη
- Η επεξεργασμένη προτροπή μεταβιβάζεται στη συνέχεια στο μοντέλο διάχυσης
Αυτή η μοναδική προσέγγιση επιτρέπει στο Recraft να χειρίζεται περίπλοκα ερωτήματα και να παράγει πιο ακριβείς εικόνες και εικόνες με επίγνωση του περιεχομένου. Ωστόσο, εισάγει επίσης μια πιθανή ευπάθεια. Εάν οι κακόβουλοι παράγοντες μπορούν να εξάγουν ευαίσθητες οδηγίες, μπορεί να είναι σε θέση να χειραγωγήσουν το σύστημα, να παρακάμψουν τα μέτρα ασφαλείας ή να αποκτήσουν πληροφορίες για αποκλειστικές τεχνικές τεχνητής νοημοσύνης.
Δείτε επίσης: ΗΠΑ 2024: Παραβιάσεις δεδομένων σε οργανισμούς υγείας επηρέασαν πάνω από 14 εκατ. ασθενείς
Οι γεννήτριες εικόνων AI έχουν φέρει επανάσταση στον τρόπο που δημιουργούμε και χειριζόμαστε οπτικό περιεχόμενο. Χρησιμοποιώντας προηγμένους αλγόριθμους, αυτά τα εργαλεία μπορούν να παράγουν εξαιρετικά ρεαλιστικές εικόνες από την αρχή ή να βελτιώσουν τις υπάρχουσες εικόνες προσαρμόζοντας χαρακτηριστικά όπως το χρώμα, η υφή και το στυλ. Οι καλλιτέχνες και οι σχεδιαστές έχουν αγκαλιάσει τις γεννήτριες εικόνων AI για την ικανότητά τους να εξερευνούν γρήγορα δημιουργικές ιδέες και να επιτυγχάνουν αποτελέσματα που θα χρειάζονταν πολύ περισσότερο χρόνο με τις παραδοσιακές μεθόδους. Πέρα από την τέχνη, βιομηχανίες όπως το μάρκετινγκ, τα παιχνίδια και ο κινηματογράφος έχουν αξιοποιήσει αυτήν την τεχνολογία για να δημιουργήσουν συναρπαστικά γραφικά που τραβούν την προσοχή του κοινού. Καθώς η τεχνητή νοημοσύνη συνεχίζει να εξελίσσεται, αυτές οι γεννήτριες γίνονται πιο εξελιγμένες, προσφέροντας όλο και πιο εντυπωσιακές δυνατότητες οπτικής δημιουργίας.
Πηγή: cybersecuritynews
