Σήμερα, η OpenAI – μια εταιρεία ερευνών τεχνητής νοημοσύνης – ανακοίνωσε την εισαγωγή ενός προγράμματος Bug Bounty για ειδικευμένους ερευνητές ασφαλείας. Αυτή η πλατφόρμα, την οποία διαχειρίζεται η Bugcrowd, θα επιτρέψει την αναφορά και τον εντοπισμό ευπαθειών στη σειρά προϊόντων της, με επακόλουθες ανταμοιβές σε όσους τις αναφέρουν!
Δείτε επίσης: Η τεχνητή νοημοσύνη της OpenAI έρχεται στο Zoom τον Απρίλιο
Σήμερα, η εταιρεία αποκάλυψε ότι οι ανταμοιβές βασίζονται στη σοβαρότητα και τις επιπτώσεις των αναφερόμενων προβλημάτων. Η αμοιβή κυμαίνεται από 200 δολάρια για ελαττώματα ασφαλείας χαμηλής σοβαρότητας έως μέγιστη αμοιβή 20.000 δολαρίων για τα πιο εξαιρετικά ευρήματα.
“Το Πρόγραμμα OpenAI Bug Bounty είναι ένας τρόπος για να αναγνωρίσουμε και να ανταμείψουμε τις πολύτιμες γνώσεις των ερευνητών ασφαλείας που συμβάλλουν στη διατήρηση της ασφάλειας της τεχνολογίας και της εταιρείας μας“, δήλωσε η OpenAI.
“Σας προσκαλούμε να αναφέρετε ευπάθειες, σφάλματα ή ελαττώματα ασφαλείας που ανακαλύπτετε στα συστήματά μας. Μοιράζοντας τα ευρήματά σας, θα παίξετε καθοριστικό ρόλο στο να κάνουμε την τεχνολογία μας ασφαλέστερη για όλους.“
Το Application Programming Interface (API) του OpenAI και το ChatGPT AI chatbot είναι αμφότερα επιλέξιμοι στόχοι για τους ερευνητές, ωστόσο πρέπει να υποβάλλουν τα ζητήματα αυτών των μοντέλων μέσω μιας διαφορετικής φόρμας, εκτός αν έχουν επιπτώσεις στην ασφάλεια.
“Τα ζητήματα ασφάλειας μοντέλων δεν τα πιο βολικά για ένα πρόγραμμα επιβράβευσης σφαλμάτων, καθώς δεν είναι μεμονωμένα, διακριτά σφάλματα που μπορούν να διορθωθούν άμεσα. Η αντιμετώπιση αυτών των ζητημάτων συχνά απαιτεί ουσιαστική έρευνα και μια ευρύτερη προσέγγιση“, δήλωσε η OpenAI.
“Για να διασφαλίσετε ότι αυτές οι ανησυχίες αντιμετωπίζονται σωστά, αναφέρετέ τις χρησιμοποιώντας την κατάλληλη φόρμα, αντί να τις υποβάλετε μέσω του προγράμματος επιβράβευσης σφαλμάτων. Η αναφορά τους στη σωστή θέση επιτρέπει στους ερευνητές μας να χρησιμοποιήσουν αυτές τις αναφορές για να βελτιώσουν το μοντέλο.“
Δείτε ακόμα: OpenAI: Ένα bug διέρρευσε δεδομένα χρηστών ChatGPT
Αποφεύγοντας τα προστατευτικά μέτρα που έχουν τεθεί σε εφαρμογή από τους μηχανικούς του OpenAI, οι χρήστες του ChatGPT εκμεταλλεύονται τα jailbreaks και τις παρακάμψεις ασφαλείας για να ξεγελάσουν το chatbot. Ωστόσο, αυτά τα ζητήματα δεν αντιμετωπίζονται εδώ.
Τον περασμένο μήνα, η OpenAI αποκάλυψε μια παραβίαση ασφάλειας δεδομένων λόγω ενός σφάλματος στη βιβλιοθήκη πελάτη Redis, που χρησιμοποιείται από την πλατφόρμα της. Αυτή η διαρροή είχε επιζήμιες επιπτώσεις στις πληρωμές των χρηστών.
Λόγω ενός απροσδόκητου σφάλματος, το απόρρητο των συνδρομητών του ChatGPT Plus παραβιάστηκε, καθώς άρχισαν να παρατηρούν τις διευθύνσεις ηλεκτρονικού ταχυδρομείου άλλων χρηστών στις σελίδες συνδρομής τους. Αφού έλαβε έναν αυξανόμενο αριθμό παραπόνων από χρήστες, η OpenAI απενεργοποίησε προσωρινά το ρομπότ ChatGPT για περαιτέρω έρευνα.
Σε μια αυτοψία που κυκλοφόρησε λίγο μετά το περιστατικό, η εταιρεία αποκάλυψε ότι ένα απρόβλεπτο σφάλμα προκάλεσε την ασυνείδητη αποκάλυψη συνομιλιών και προσωπικών δεδομένων της υπηρεσίας ChatGPT για περίπου 1,2% των συνδρομητών της Plus. Τα στοιχεία που αποκαλύφθηκαν περιλάμβαναν ονόματα συνδρομητών, emails, διευθύνσεις πληρωμής και μερικούς αριθμούς πιστωτικών καρτών.
“Το σφάλμα ανακαλύφθηκε στη βιβλιοθήκη ανοιχτού κώδικα πελάτη Redis, το redis-py. Μόλις εντοπίσαμε το σφάλμα, απευθυνθήκαμε στους συντηρητές του Redis με μια ενημέρωση κώδικα για να επιλύσουμε το πρόβλημα“, δήλωσε η OpenAI.
Δείτε επίσης: Claude AI: Νέο chatbot από πρώην υπαλλήλους της OpenAI
Η σημερινή ανακοίνωση δεν συνδέεται με το προηγούμενο περιστατικό, αλλά αν η OpenAI είχε ένα πρόγραμμα Bug Bounty που επέτρεπε στους ερευνητές να αξιολογούν τα προϊόντα της για ελαττώματα ασφαλείας, τότε αυτή η παραβίαση δεδομένων θα μπορούσε να είχε εντοπιστεί νωρίτερα και ίσως να είχε αποφευχθεί εντελώς.
