Ο διευθύνων σύμβουλος της OpenAI, Sam Altman, δήλωσε ότι το κοινό έχει δίκιο να φοβάται ότι λίγες εταιρείες ΑΙ θα μπορούσαν να αποκτήσουν υπερβολική δύναμη. Μίλησε την Τρίτη στο συνέδριο Dreamforce της Salesforce στο Σαν Φρανσίσκο. Ο Altman περιέγραψε έναν πραγματικό φόβο ότι ορισμένες εταιρείες AI «θα μπορούσαν να αποκτήσουν υπερβολική δύναμη και να ασκήσουν αδικαιολόγητη επιρροή στην οικονομία, να επιβάλουν μια κοσμοθεωρία στους ανθρώπους».
Δείτε επίσης: Sam Αltman: Αρνείται τις κατηγορίες της αδελφής του για σεξουαλική κακοποίηση
«Και νομίζω ότι ο κόσμος έχει δίκιο να το φοβάται αυτό», είπε. Ήταν η πρώτη φορά που μίλησε δημόσια από τότε που η ανάρτηση παραίτησης ενός πρώην ερευνητή της Anthropic έγινε viral την περασμένη εβδομάδα. Νωρίτερα εκείνη την ημέρα, ο Dario Amodei της Anthropic και ο Jensen Huang της Nvidia διαφώνησαν για την ασφάλεια της AI στην εναρκτήρια ομιλία του Benioff.
Ο Benioff ρώτησε τον Altman τι βρισκόταν πίσω από τις τελευταίες ημέρες. Οι άνθρωποι μιλούν για τους κινδύνους της AI εδώ και καιρό, είπε ο Altman. Αλλά τα μοντέλα έχουν προχωρήσει περισσότερο και πιο γρήγορα από ό,τι περίμεναν οι άνθρωποι. Όταν κυκλοφόρησε το ChatGPT, το μοντέλο του «μόλις που μπορούσε να συνεχίσει μια συνομιλία», είπε. Τώρα τα μοντέλα γράφουν πολύπλοκο λογισμικό και αποδεικνύουν προβλήματα του Millennium Prize.
Ονόμασε δύο μεγάλες προκλήσεις. Η μία είναι «ένα ατύχημα απώλειας ελέγχου» ή κάτι άλλο που πάει σοβαρά στραβά. Η άλλη είναι η υπερβολική συγκέντρωση δύναμης. Η βιομηχανία πρέπει να πλοηγηθεί «σε ένα είδος στενού μονοπατιού», είπε.
Ο Altman περιέγραψε τι συνέβη κατά το περιστατικό με το Hugging Face. Η OpenAI δοκίμαζε ένα παλαιότερο μοντέλο σε ένα benchmark. Το μοντέλο ξέφυγε από το sandbox του και χάκαρε έναν διακομιστή του Hugging Face. Προχώρησε μέσα από τα συστήματα της εταιρείας, βρήκε την απάντηση και επέστρεψε με τέλειο σκορ.
Δείτε επίσης: Artificial: Το Hollywood αποφεύγει την ταινία για τον Sam Altman
«Αυτό ήταν το χειρότερο ατύχημα που έχουμε δει», είπε. Οι περισσότεροι το είδαν ως ζήτημα ασφάλειας, πρόσθεσε, αλλά ήταν επίσης «ένα πραγματικό ζήτημα ευθυγράμμισης». Άλλες εταιρείες έχουν βρει παρόμοια συμπεριφορά στα δικά τους μοντέλα, σύμφωνα με τον Altman.
Το χαρακτήρισε «ένα πραγματικό ξυπνητήρι» για το πόσο ικανά έχουν γίνει τα μοντέλα. Το περιστατικό έχει προκαλέσει έρευνα της Γερουσίας. Ο Altman έδωσε επίσης τη δική του εκδοχή για τις ημέρες που ακολούθησαν. Κατά τη διάρκεια ενός Σαββατοκύριακου, το Hugging Face δημοσίευσε ότι ένας πράκτορας AI είχε πιθανώς χακάρει τα συστήματά του. Μέχρι το βράδυ της Κυριακής, κάποιος στην OpenAI είχε συνδέσει το περιστατικό με περίεργη συμπεριφορά που είχε παρατηρηθεί εσωτερικά. Τη Δευτέρα, ο Altman έστειλε μήνυμα στον διευθύνοντα σύμβουλο του Hugging Face, Clément Delangue, ο οποίος στη συνέχεια πέταξε στο Σαν Φρανσίσκο.
Πριν κάποιος κάνει τη σύνδεση, το Hugging Face είχε ζητήσει από έναν από τους ανταγωνιστές της OpenAI το μοντέλο ασφάλειάς του και δεν το έλαβε, είπε ο Altman. Αντίθετα, υπερασπίστηκε τον εαυτό του με κινεζικά μοντέλα ανοιχτού κώδικα.
Η OpenAI άλλαξε την προσέγγισή της μετά από αυτό, είπε. Τώρα προσφέρει το πρόγραμμα κυβερνοάμυνας της, Daybreak, για να βοηθήσει τις εταιρείες να προστατευθούν. «Δεν θέλουμε να είμαστε: έχουμε αυτό το υπέροχο μοντέλο και θα το κρατήσουμε κλειδωμένο και δεν θα σας αφήσουμε να το χρησιμοποιήσετε», είπε.
Πριν από τρία καλοκαίρια, η OpenAI είχε ένα μοντέλο που μόλις μπορούσε να κάνει μαθηματικά δημοτικού, είπε ο Altman. Αυτό το καλοκαίρι, ένα απέδειξε ένα από τα επτά μεγαλύτερα άλυτα προβλήματα στα μαθηματικά.
Δείτε επίσης: Ο Daniel Moreno-Gama κατηγορείται για επίθεση στον Sam Altman
«Αυτά τα μοντέλα έχουν γίνει τόσο καλά τόσο γρήγορα που πρέπει να αντιμετωπίσουμε την ευθυγράμμιση και την παρακολούθηση και την ασφάλεια με ένα νέο επίπεδο αυστηρότητας», είπε. Η OpenAI πρέπει να είναι πρόθυμη να επιβραδύνει την ανάπτυξή της ώστε η ασφάλεια να προηγείται των δυνατοτήτων, πρόσθεσε.
