Υπάρχουν ορισμένοι άνθρωποι που είναι υπεύθυνοι για τη μελέτη της AI και την απόφαση με ποιους τρόπους μπορεί, ουσιαστικά, να καταστρέψει τον κόσμο. Αυτοί οι άνθρωποι εργάζονται στην Anthropic ως μέρος μιας ομάδας που ονομάζεται ομάδα κοινωνικών επιπτώσεων, με την οποία η Hayden πέρασε χρόνο για ένα προφίλ που δημοσίευσε αυτή την εβδομάδα.
Δείτε επίσης: Η Anthropic κυκλοφορεί το Claude Opus 4.5 με βελτιωμένες δυνατότητες
Η ομάδα αποτελείται από μόλις εννέα άτομα από τους περισσότερους από 2.000 που εργάζονται στην Αnthropic. Η μοναδική τους δουλειά, όπως λένε τα ίδια τα μέλη της ομάδας, είναι να διερευνούν και να δημοσιεύουν “άβολες αλήθειες” σχετικά με το πώς οι άνθρωποι χρησιμοποιούν τα εργαλεία ΑΙ, τι μπορεί να κάνουν τα chatbots στην ψυχική μας υγεία και πώς όλα αυτά μπορεί να έχουν ευρύτερες επιπτώσεις στην αγορά εργασίας, την οικονομία και ακόμη και τις εκλογές μας.
Αυτό φυσικά δημιουργεί μια σειρά από προβλήματα. Το πιο σημαντικό είναι αν αυτή η ομάδα μπορεί να παραμείνει ανεξάρτητη, ή ακόμα και να υπάρξει καθόλου, καθώς δημοσιοποιεί ευρήματα σχετικά με τα προϊόντα της Αnthropic που μπορεί να είναι δυσάρεστα ή πολιτικά φορτισμένα. Εξάλλου, υπάρχει μεγάλη πίεση στη βιομηχανία AI γενικά και στην Anthropic ειδικότερα να συμμορφωθεί με την κυβέρνηση Τραμπ, η οποία εξέδωσε εκτελεστική εντολή τον Ιούλιο που απαγορεύει την αποκαλούμενη “woke ΑΙ.”
Δείτε ακόμα: ServiceNow AI Agents: Κατάχρηση προεπιλεγμένων ρυθμίσεων για prompt injection
Αν παρακολουθείτε τη βιομηχανία τεχνολογίας, το περίγραμμα αυτής της ιστορίας θα σας φανεί οικείο. Το έχουμε δει αυτό πιο πρόσφατα με τις εταιρείες κοινωνικών μέσων και τις ομάδες εμπιστοσύνης και ασφάλειας που είναι υπεύθυνες για τη διαχείριση περιεχομένου. Η Meta πέρασε από αμέτρητους κύκλους αυτού, όπου αφιέρωσε πόρους για την επίλυση προβλημάτων που δημιουργήθηκαν από την ίδια την κλίμακά της και τη μη προβλέψιμη φύση προϊόντων όπως το Facebook και το Instagram. Και μετά, μετά από λίγο, φαίνεται ότι οι πόροι εξαντλήθηκαν, ή ο Mark Zuckerberg βαρέθηκε ή ενδιαφέρθηκε περισσότερο για το MMA ή απλά ήθελε να πλησιάσει τον Τραμπ, και τα προϊόντα δεν άλλαξαν πραγματικά για να αντικατοπτρίζουν αυτά που έδειξε η έρευνα.
Δείτε επίσης: Ευπάθεια στο Claude AI εκθέτει δεδομένα επιχειρήσεων
Ζούμε μια από αυτές τις στιγμές τώρα. Οι κοινωνικές πλατφόρμες έχουν μειώσει τις επενδύσεις στην ακεραιότητα των εκλογών και άλλες μορφές διαχείρισης περιεχομένου. Εν τω μεταξύ, η Silicon Valley συνεργάζεται στενά με τον Λευκό Οίκο του Τραμπ για να αντισταθεί σε ουσιαστικές προσπάθειες ρύθμισης της AI.
