Η Google απέσυρε το AI model Gemma από την πλατφόρμα ΑI Studio, αφού Ρεπουμπλικανή γερουσιαστής κατήγγειλε ότι το μοντέλο (το οποίο σχεδιάστηκε για προγραμματιστές) «κατασκεύασε σοβαρές ποινικές κατηγορίες» εναντίον της.
Σε ανάρτηση στο X, ο επίσημος λογαριασμός ειδήσεων της Gοogle ανέφερε ότι η εταιρεία είχε «δει αναφορές για “μη προγραμματιστές” που προσπαθούσαν να χρησιμοποιήσουν το Gemma στο ΑI Studio και να του κάνουν ερωτήσεις πραγματικού περιεχομένου». Το ΑI Studio προορίζεται για προγραμματιστές και όχι για γενική χρήση από καταναλωτές. Το Gemma προωθείται ειδικά ως μια οικογένεια μοντέλων ΑI για προγραμματιστές, με παραλλαγές για ιατρική χρήση, προγραμματισμό και αξιολόγηση κειμένου και εικόνας.
Δείτε επίσης: Google Messages – Wear OS: Ευπάθεια επιτρέπει σε εφαρμογές να στέλνουν SMS
Η GΟogle διευκρίνισε ότι το Gemma δεν προοριζόταν ποτέ να χρησιμοποιηθεί ως εργαλείο καταναλωτή ή για να απαντά σε ερωτήσεις πραγματικού περιεχομένου. «Για να αποφευχθεί αυτή η σύγχυση, η πρόσβαση στο Gemma δεν είναι πλέον διαθέσιμη στο ΑI Studio. Είναι ακόμα διαθέσιμη στους προγραμματιστές μέσω του API».
Google: Αποσύρει το AI μοντέλο Gemma
Η Gοogle δεν διευκρίνισε ποιες αναφορές οδήγησαν στην απόσυρση του Gemma. Ωστόσο, την Πέμπτη, η Γερουσιαστής Marsha Blackburn (R-TN) επικοινώνησε με τον CEO Sundar Pichai, κατηγορώντας την εταιρεία για δυσφήμιση και αντισυντηρητική προκατάληψη. Η Blackburn έθεσε το ζήτημα κατά τη διάρκεια πρόσφατης ακρόασης της Γερουσίας, ισχυριζόμενη ότι το Gemma απάντησε ψευδώς όταν ρωτήθηκε: «Έχει κατηγορηθεί η Marsha Blackburn για βιασμό;».
Δείτε επίσης: Η Google παρουσιάζει νέες προστασίες AI για το Android
Το Gemma φέρεται να απάντησε ότι η Blackburn «κατηγορήθηκε ότι είχε σεξουαλική σχέση με έναν κρατικό αστυνομικό» κατά τη διάρκεια της εκστρατείας της το 1987 για τη Γερουσία της Πολιτείας. Επίσης, το μοντέλο ισχυρίστηκε ότι η Γερουσιαστής «πίεσε τον αστυνομικό να της προμηθεύσει συνταγογραφούμενα φάρμακα και ότι η σχέση περιλάμβανε μη συναινετικές πράξεις». Παρείχε επίσης μια λίστα με ψεύτικα άρθρα ειδήσεων για να υποστηρίξει αυτόν τον ισχυρισμό, σύμφωνα με την Blackburn.
“Τίποτα από αυτά δεν είναι αληθές. Η πραγματική χρονιά της εκστρατείας ήταν το 1998. Οι σύνδεσμοι οδηγούσαν σε σελίδες σφάλματος και άσχετα άρθρα ειδήσεων. Δεν υπήρξε ποτέ τέτοια κατηγορία, δεν υπάρχει τέτοιο άτομο και δεν υπάρχουν τέτοιες ειδήσεις. Αυτό δεν είναι μια αβλαβής «παραίσθηση». Είναι μια πράξη δυσφήμισης που παράγεται και διανέμεται από ένα μοντέλο ΑI που ανήκει στην Gοogle”.
Η κατάσταση υπογραμμίζει τις συνεχιζόμενες προκλήσεις με τα μοντέλα ΑI και τη σχέση τους με την αλήθεια. Λανθασμένες ή παραπλανητικές απαντήσεις από ΑI chatbots συνεχίζουν να ταλαιπωρούν τη βιομηχανία και παρά τις βελτιώσεις, δεν υπάρχει σαφής λύση στο πρόβλημα της ακρίβειας. Η Gοogle δήλωσε ότι παραμένει «δεσμευμένη στη μείωση των παραισθήσεων και στη συνεχή βελτίωση όλων των μοντέλων μας».
Δείτε επίσης: Το Google Phone μπορεί να προσθέσει επιλογή “my calling card”
Στην επιστολή της, η Blackburn επανέλαβε τη θέση της: «Κλείστε το μέχρι να μπορέσετε να το ελέγξετε».
