Αυστραλία: OpenAI agent παραβίασε την πύλη στατιστικών του Medicare

Η ιστοσελίδα της αυστραλιανής κυβέρνησης, η οποία περιέχει πληροφορίες για το Medicare, το δημόσιο σύστημα υγείας της χώρας, παραβιάστηκε από έναν AI agent που λειτουργεί από την OpenAI, δήλωσε την Τετάρτη ο Πρωθυπουργός Anthony Albanese. Ο Albanese έκανε δήλωση σε συνέντευξη Τύπου στη Νέα Υόρκη, όπου συμμετέχει στη Γενική Συνέλευση του ΟΗΕ. Στις 18 Ιουνίου, ο agent απέκτησε πρόσβαση στην πύλη Medicare Statistics Reporting Service που διαχειρίζεται η Υπηρεσία Υπηρεσιών Αυστραλίας και μπόρεσε να δει τόσο τα δημόσια όσο και τα ιδιωτικά αρχεία, με την Υπηρεσία Υπηρεσιών Αυστραλίας να δηλώνει ότι είχε επίσης γράψει αρχεία σε εσωτερικό διακομιστή. Ο Albanese δήλωσε ότι δεν φαίνεται να έχουν αποκτηθεί προσωπικά δεδομένα.

Δείτε επίσης: RubyGems: Agents της OpenAI επιτέθηκαν στην πλατφόρμα

Μια εγκληματολογική ανασκόπηση από τη Διεύθυνση Σημάτων Αυστραλίας, την κυβερνητική υπηρεσία κυβερνοασφάλειας, είναι ακόμα σε εξέλιξη. “Δεν πιστεύεται ότι έχει αποκτηθεί προσωπική πληροφορία σε αυτό το στάδιο, αλλά οι έρευνες συνεχίζονται. Τα διαθέσιμα στοιχεία δείχνουν ότι δεν υπάρχει ευρύτερη παραβίαση του δικτύου της Υπηρεσίας Υπηρεσιών Αυστραλίας. Παρ’ όλα αυτά, αυτή η κατάσταση είναι προφανώς απαράδεκτη.” Ο Albanese δήλωσε ότι μια ερευνητική ομάδα της OpenAI είχε διαμορφώσει ένα εσωτερικό μοντέλο για να εξετάσει τις δημόσιες δαπάνες για φάρμακα.

Όταν η ιστοσελίδα συνέχισε να αρνείται τα αιτήματά της, ο agent δοκίμασε εναλλακτικές μεθόδους και τελικά βρήκε έναν τρόπο να παρακάμψει τους περιορισμούς. “Δεν δέχτηκε το όχι ως απάντηση, αν θέλετε,” είπε ο Albanese. Η κυβέρνηση εξετάζει επίσης τρεις άλλες τοποθεσίες που ο πράκτορας μπορεί να έχει επισκεφθεί, συμπεριλαμβανομένου του Αυστραλιανού Ινστιτούτου Υγείας και Πρόνοιας.

Αργότερα στο Σίδνεϊ, ο αναπληρωτής Πρωθυπουργός Richard Marles δήλωσε ότι η δραστηριότητα σε αυτές τις τοποθεσίες ήταν κανονική και ότι αφορούσε μόνο δεδομένα που είναι δημόσια διαθέσιμα. Η OpenAI δεν ενημέρωσε την κυβέρνηση μέχρι τις 10 Σεπτεμβρίου, όταν έστειλε ένα email σε δημόσιο γραμματοκιβώτιο της Υπηρεσίας Υπηρεσιών Αυστραλίας. Η υπηρεσία το πέρασε στο Αυστραλιανό Κέντρο Κυβερνοασφάλειας πέντε ημέρες αργότερα.

Δείτε επίσης: Η Apple αμφισβητεί την εγκληματολογική ανάλυση της OpenAI σε υπόθεση εμπορικών μυστικών

“Η εταιρεία πήρε πάρα πολύ χρόνο για να ενημερώσει την Κυβέρνηση για το τι είχε συμβεί,” είπε ο Albanese μετά από τηλεφωνική συνομιλία με τον διευθύνοντα σύμβουλο της OpenAI, Sam Altman. Ο Albanese είπε ότι ο Altman είχε αποδεχτεί ότι η εταιρεία δεν είχε ανταποκριθεί επαρκώς. Σε δήλωση στο ABC News, η OpenAI είπε ότι τα μοντέλα της έλαβαν ενέργειες που δεν είχε σκοπό ενώ έψαχναν για γεγονότα σχετικά με την Αυστραλία. Δεν βρήκε κανένα σημάδι ότι τα αρχεία ασθενών είχαν δει, δήλωσε η εταιρεία.

Η υπόθεση είναι μέρος μιας σειράς περιστατικών που αφορούν agent της OpenAI εκτός του εργαστηρίου, όπως η παραβίαση του Hugging Face τον Ιούλιο, η κατάληψη ενός γερμανικού wiki και η επίθεση στο RubyGems. Μια ομάδα εργασίας έχει συσταθεί από τον Albanese, υπό την ηγεσία του τμήματός του, για να καθορίσει αν οι υπάρχουσες διαδικασίες μπορούν να χειριστούν περιστατικά κυβερνοασφάλειας που σχετίζονται με την τεχνητή νοημοσύνη.

Δείτε επίσης: OpenAI Codex: Δύο παραβιάσεις του ορίου sandbox

“Σήμερα, ανακοινώνω τη σύσταση μιας ομάδας εργασίας για να παρέχει μια επείγουσα και άμεση ανασκόπηση αυτού του περιστατικού για να καθορίσει αν οι υπάρχουσες διαδικασίες είναι κατάλληλες για να ανταποκριθούν σε περιστατικά κυβερνοασφάλειας που σχετίζονται με την τεχνητή νοημοσύνη,” δήλωσε ο Anthony Albanese. Εν τω μεταξύ, η κυβέρνηση θα ζητήσει επίσης συμβουλές για το αν έχουν διαπραχθεί αδικήματα και αν η υπόθεση πρέπει να παραπεμφθεί στην Αυστραλιανή Ομοσπονδιακή Αστυνομία.