Ο Κυβερνήτης της Καλιφόρνιας, Gavin Newsom, υπέγραψε τη Δευτέρα έναν νόμο που στοχεύει στην αποτροπή της χρήσης ισχυρών μοντέλων τεχνητής νοημοσύνης (AI) για δυνητικά καταστροφικές δραστηριότητες, όπως η κατασκευή βιολογικών όπλων ή η διακοπή λειτουργίας τραπεζικών συστημάτων.
Ο Newsom τόνισε την ηγετική θέση της Καλιφόρνιας στη ρύθμιση της τεχνητής νοημοσύνης και επέκρινε την ομοσπονδιακή αδράνεια κατά τη διάρκεια μιας πρόσφατης συζήτησης με τον πρώην Πρόεδρο Bill Clinton. Ο νέος νόμος καθιερώνει μερικές από τις πρώτες ρυθμίσεις για μεγάλης κλίμακας μοντέλα τεχνητής νοημοσύνης, ενώ υποστηρίζει τη βιομηχανία τεχνητής νοημοσύνης της πολιτείας. Πολλές κορυφαίες εταιρείες τεχνητής νοημοσύνης εδρεύουν στην Καλιφόρνια και θα πρέπει να συμμορφωθούν με αυτές τις απαιτήσεις.
“Η Καλιφόρνια έχει αποδείξει ότι μπορούμε να καθιερώσουμε ρυθμίσεις για την προστασία των κοινοτήτων μας, ενώ παράλληλα διασφαλίζουμε ότι η αναπτυσσόμενη βιομηχανία τεχνητής νοημοσύνης συνεχίζει να ευδοκιμεί. Αυτή η νομοθεσία επιτυγχάνει αυτή την ισορροπία“, δήλωσε ο Newsom.
Δείτε επίσης: New Agent Mode: Η Microsoft εισάγει το ‘vibe working’ σε Excel & Word
Η νομοθεσία απαιτεί από τις εταιρείες τεχνητής νοημοσύνης να εφαρμόζουν και να δημοσιοποιούν πρωτόκολλα ασφαλείας για να αποτρέψουν τα προηγμένα μοντέλα τους από το να προκαλέσουν σημαντική ζημιά. Οι κανόνες ισχύουν για συστήματα τεχνητής νοημοσύνης που πληρούν ένα “frontier” threshold, που υποδεικνύει ότι λειτουργούν με σημαντική υπολογιστική ισχύ. Αυτά τα όρια καθορίζονται από τον αριθμό των υπολογισμών που εκτελούνται από τους υπολογιστές. Οι δημιουργοί των κανονισμών έχουν αναγνωρίσει ότι αυτά τα αριθμητικά όρια είναι ένας ατελής τρόπος για να διαφοροποιηθούν τα σημερινά generative AI συστήματα υψηλής απόδοσης από τις μελλοντικές, πιο ισχυρές γενιές. Τα υπάρχοντα συστήματα αναπτύσσονται κυρίως από εταιρείες με έδρα την Καλιφόρνια, όπως οι Anthropic, Google, Meta Platforms και OpenAI.
Σύμφωνα με τη νομοθεσία, οι ρυθμίσεις θα πρέπει να αντιμετωπίσουν έναν καταστροφικό κίνδυνο που θα μπορούσε να προκαλέσει ζημιά τουλάχιστον 1 δισεκατομμυρίου δολαρίων ή περισσότερους από 50 τραυματισμούς ή θανάτους. Ο νόμος στοχεύει στην αποτροπή της χρήσης της τεχνητής νοημοσύνης με τρόπους που θα μπορούσαν να οδηγήσουν σε μαζική αναστάτωση, όπως η παραβίαση δικτύων ηλεκτρικής ενέργειας.
Δείτε επίσης: Η Nvidia θα επενδύσει έως και $ 100 δισ. στην OpenAI
Οι εταιρείες είναι, επίσης, υποχρεωμένες να αναφέρουν οποιαδήποτε κρίσιμα περιστατικά ασφαλείας στην πολιτεία εντός 15 ημερών. Ο νόμος περιλαμβάνει προστασίες για καταγγέλλοντες εργαζόμενους στην τεχνητή νοημοσύνη και καθιερώνει ένα δημόσιο cloud για ερευνητές, με πρόστιμα 1 εκατομμυρίου δολαρίων ανά παράβαση για μη συμμόρφωση.
Αντιδράσεις απέναντι στη νομοθεσία AI της Καλιφόρνια
Ορισμένες τεχνολογικές εταιρείες αντιτάχθηκαν στη νομοθεσία, υποστηρίζοντας ότι η ρύθμιση του AI θα πρέπει να γίνεται σε ομοσπονδιακό επίπεδο. Ωστόσο, η Anthropic περιέγραψε τους κανονισμούς ως “πρακτικές διασφαλίσεις” που τυποποιούν πρακτικές ασφαλείας που πολλές εταιρείες ήδη ακολουθούν εθελοντικά.
“Ενώ τα ομοσπονδιακά πρότυπα παραμένουν απαραίτητα για την αποφυγή ενός “μωσαϊκού κρατικών ρυθμίσεων”, η Καλιφόρνια έχει δημιουργήσει ένα ισχυρό πλαίσιο που ισορροπεί τη δημόσια ασφάλεια με τη συνεχιζόμενη καινοτομία“, δήλωσε ο Jack Clark, συνιδρυτής και επικεφαλής πολιτικής στην Anthropic.
Αυτή η υπογραφή ακολουθεί το βέτο του Newsom πέρυσι σε μια ευρύτερη εκδοχή της νομοθεσίας, την οποία θεώρησε υπερβολικά αυστηρή και ενδεχομένως επιζήμια για την καινοτομία. Στη συνέχεια, ανέθεσε σε μια ομάδα ειδικών της βιομηχανίας, συμπεριλαμβανομένης της πρωτοπόρου της τεχνητής νοημοσύνης Fei-Fei Li, να αναπτύξει συστάσεις για την καθιέρωση προστατευτικών μέτρων γύρω από ισχυρά μοντέλα τεχνητής νοημοσύνης.
Δείτε επίσης: DeepSeek-R1-Safe: Νέο AI μοντέλο με τη βοήθεια της Huawei
Ο νέος νόμος ενσωματώνει σχόλια από αυτή την ομάδα ειδικών της ΑΙ και της βιομηχανίας. Επίσης, αποφεύγει την επιβολή των ίδιων απαιτήσεων στις νεοφυείς επιχειρήσεις, για να προωθήσει την καινοτομία, σύμφωνα με τον γερουσιαστή και συγγραφέα του νομοσχεδίου, Scott Wiener.
“Με αυτόν τον νόμο, η Καλιφόρνια αναδεικνύεται, για άλλη μια φορά, ως παγκόσμιος ηγέτης τόσο στην τεχνολογική καινοτομία όσο και στην ασφάλεια“, δήλωσε ο Wiener. Η απόφαση του Newsom έρχεται καθώς ο Πρόεδρος Donald Trump ανακοίνωσε ένα σχέδιο τον Ιούλιο για την εξάλειψη αυτών που η διοίκησή του θεωρεί “επιβαρυντικούς” κανονισμούς για να επιταχύνει την καινοτομία στην τεχνητή νοημοσύνη και να εδραιώσει τη θέση των ΗΠΑ ως παγκόσμιου ηγέτη στον κλάδο. Νωρίτερα φέτος, οι Ρεπουμπλικάνοι στο Κογκρέσο προσπάθησαν, ανεπιτυχώς, να απαγορεύσουν στις πολιτείες και τις τοπικές αρχές να ρυθμίζουν την τεχνητή νοημοσύνη για μια δεκαετία. Χωρίς ισχυρότερες ομοσπονδιακές ρυθμίσεις, οι πολιτείες σε όλη τη χώρα εργάζονται για να διαχειριστούν την τεχνολογία, αντιμετωπίζοντας ζητήματα όπως τα deepfakes στις εκλογές.
🔒 Προστατέψτε την ιδιωτικότητά σας με Proton VPN
Ελβετικό VPN από τους δημιουργούς του Proton Mail — αυστηρή πολιτική no-logs, ισχυρή κρυπτογράφηση και ενσωματωμένο NetShield που μπλοκάρει διαφημίσεις, trackers & malware.
- ✔ No-logs, με έδρα την Ελβετία (εκτός 14-Eyes)
- ✔ NetShield: φραγή διαφημίσεων, trackers & κακόβουλων domains
- ✔ Καλύπτει όλες τις συσκευές — δωρεάν έκδοση διαθέσιμη
Ο σύνδεσμος είναι συνεργατικός (affiliate) — το SecNews ενδέχεται να λάβει προμήθεια χωρίς επιπλέον κόστος για εσάς. Δεν επηρεάζει την ανεξαρτησία της αρθρογραφίας μας.
