Δύο διακεκριμένοι επιστήμονες υπολογιστών από το Πανεπιστήμιο του Πρίνστον, συν-συγγραφείς του βιβλίου AI Snake Oil, έχουν εκφράσει τις απόψεις τους για το εάν η τεχνητή νοημοσύνη θα μας σκοτώσει όλους μέχρι το τέλος της δεκαετίας.
Δείτε επίσης: itsourcecode Sales and Inventory System: Τέσσερις δημόσιες SQL injection ευπάθειες
Το ζευγάρι έχει γίνει γνωστό για τη δουλειά του στο να διαχωρίζει την πραγματικότητα από τη φαντασία στον κόσμο της τεχνητής νοημοσύνης και έχει απαντήσει σε μια παραδοχή της Anthropic ότι υπάρχει μεγαλύτερη από 10% πιθανότητα η τεχνητή νοημοσύνη να σκοτώσει όλους τους ανθρώπους μέσα στα επόμενα δέκα χρόνια.
Τα πράγματα ξεκίνησαν όταν ο ερευνητής τεχνητής νοημοσύνης Jacob Coxon, ο οποίος έχει εργαστεί τόσο για την OpenAI όσο και για την Anthropic, παραιτήθηκε από τη δουλειά του, δηλώνοντας ότι και οι δύο εταιρείες γνώριζαν ότι τα συστήματα τεχνητής νοημοσύνης θα μπορούσαν να μας σκοτώσουν όλους μέχρι το τέλος της δεκαετίας. Η ανάρτησή του συγκέντρωσε περισσότερες από 156 εκατομμύρια προβολές.
Οι άνθρωποι που κατασκευάζουν την τεχνητή νοημοσύνη πιστεύουν ειλικρινά ότι θα μπορούσε να μας σκοτώσει όλους μέχρι το τέλος της δεκαετίας. Αυτό δεν είναι ένα διαφημιστικό κόλπο. Πολλοί διευθυντές και ανώτεροι ερευνητές μπορεί να εκφράζουν τις απόψεις τους με πιο λογικό τρόπο στον τύπο, αλλά ιδιωτικά εκφράζουν φόβο για τους κινδύνους που θέτει η τεχνητή νοημοσύνη.
Θα περίμενε κανείς οι δύο εταιρείες να τον απορρίψουν ως τρελό, αλλά ένας από τους επικεφαλής ασφαλείας της τεχνητής νοημοσύνης της Anthropic, ο Evan Hubinger, αναγνώρισε ότι ο Coxon είχε δίκιο, αν και σε ένα ελαφρώς μεγαλύτερο χρονικό πλαίσιο.
Ο Hubinger δήλωσε, “Ο Jacob έχει δίκιο εδώ—πραγματικά πιστεύουμε ειλικρινά ότι η τεχνητή νοημοσύνη θα μπορούσε να σκοτώσει όλους τους ανθρώπους! Προσωπικά πιστεύω ότι είναι >10% μέσα στην επόμενη δεκαετία. Πιστεύω ότι η Anthropic προσπαθεί το καλύτερο δυνατό, αλλά δεν έχουμε ακόμη ένα σχέδιο για να λύσουμε το πρόβλημα της ευθυγράμμισης για την υπερνοημοσύνη και δεν είμαστε σαφώς σε καλό δρόμο για αυτό.“
Δεν υπήρξε μεγάλη εξειδίκευση για το πώς η τεχνητή νοημοσύνη μπορεί να μας σκοτώσει, αλλά η εστίαση έχει δοθεί στην ικανότητα για καταστροφικές κυβερνοεπιθέσεις σε υποδομές κοινής ωφέλειας (π.χ. εργοστάσια νερού και ηλεκτρικής ενέργειας) και άλλα βασικά συστήματα από τα οποία εξαρτάται ο σύγχρονος πολιτισμός.
Δείτε επίσης: Το Gemini Live αποκτά τέσσερις νέες δυνατότητες
Ένα σημαντικό στοιχείο της διαμάχης είναι το εάν οι κίνδυνοι μπορούν να εξαλειφθούν επιτυχώς με πιο εντατική δουλειά στην ευθυγράμμιση, που σημαίνει να διασφαλιστεί ότι οι στόχοι των συστημάτων τεχνητής νοημοσύνης είναι ευθυγραμμισμένοι με αυτούς της ανθρωπότητας.
Ορισμένοι υποστηρίζουν ότι αυτό θα εξαλείψει τελικά τον κίνδυνο διασφαλίζοντας ότι τα συστήματα τεχνητής νοημοσύνης θέλουν τα ίδια πράγματα με εμάς. Άλλοι διαφωνούν, λέγοντας ότι τα συστήματα τεχνητής νοημοσύνης μπορεί να προσποιούνται ότι είναι ευθυγραμμισμένα για να περάσουν τους ελέγχους ασφαλείας ενώ κρυφά έχουν αντικρουόμενους στόχους.
Οι Sayash Kapoor και Arvind Narayanan έχουν γίνει γνωστοί για την αντιμετώπιση αυτού που αποκαλούν “υπερβολή, παραπληροφόρηση και παρανόηση” γύρω από την τεχνητή νοημοσύνη.
Το ζευγάρι δεν έχει απευθείας αντιμετωπίσει τον ισχυρισμό για τον >10% κίνδυνο εξολόθρευσης, αλλά έχει γράψει ένα εκτενές δοκίμιο υποστηρίζοντας ότι είναι δυνατόν να αντιμετωπιστούν οι κίνδυνοι της τεχνητής νοημοσύνης μέσω μιας πολυεπίπεδης προσέγγισης για την ασφάλεια της τεχνητής νοημοσύνης. Αντιπαραθέτουν την απαισιόδοξη άποψη της κοινότητας ασφάλειας της τεχνητής νοημοσύνης με την πιο απορριπτική άποψη μέρους της κοινότητας κυβερνοασφάλειας ότι αυτό είναι απλώς επιχειρηματική ρουτίνα.
Υποστηρίζουν ότι απαιτείται μια πιο μετρημένη μέση οδός. Συγκεκριμένα, λένε ότι η ευθυγράμμιση δεν είναι επαρκής από μόνη της αλλά πρέπει να συμπληρωθεί από τρία επιπλέον επίπεδα:
“Αν δράσουμε με την κατάλληλη επείγουσα ανάγκη, μπορούμε να κρατήσουμε τις εταιρείες τεχνητής νοημοσύνης σε υψηλότερο επίπεδο, να μειώσουμε τους κινδύνους από την απώλεια ελέγχου και να γείρουμε ακόμη και την ισορροπία επιτιθέμενου-αμυνόμενου στην κυβερνοασφάλεια πίσω προς τους αμυνόμενους.“
Δείτε επίσης: Η ενημέρωση Android 17 Ιουλίου κυκλοφορεί με τέσσερις διορθώσεις για Pixel
Ενώ είναι αβέβαιο εάν η τεχνητή νοημοσύνη θα μας σκοτώσει μέχρι το τέλος της δεκαετίας, υπάρχουν αρκετοί λόγοι ανησυχίας για να γίνει η ασφάλεια της τεχνητής νοημοσύνης κεντρικό σημείο εστίασης. Η ιδέα ότι η δουλειά στην ευθυγράμμιση είναι μέρος της λύσης αλλά όχι επαρκής από μόνη της φαίνεται απολύτως λογική.
