Ανάλυση απέδειξε ότι τα «AI girlfriends» ή «AI boyfriends» αποτελούν έναν σημαντικό κίνδυνο για την ιδιωτικότητα των χειριστών τους.
Δείτε επίσης: OpenAI: Πότε θα κυκλοφορήσει το AI εργαλείο ανίχνευσης εικόνων;
Μια ανάλυση σε 11 AI ερωτικά chatbots, που δημοσιεύθηκε την Τετάρτη από το Ίδρυμα Mozilla, αποκάλυψε μια σειρά ανησυχιών σχετικά με την ασφάλεια και την ιδιωτικότητα των bots. Συλλογικά, οι εφαρμογές, οι οποίες έχουν ληφθεί περισσότερες από 100 εκατομμύρια φορές σε συσκευές Android, συλλέγουν τεράστιες ποσότητες δεδομένων των χρηστών· χρησιμοποιούν trackers που αποστέλλουν πληροφορίες σε Google, Facebook και εταιρείες στη Ρωσία και την Κίνα· επιτρέπουν στους χρήστες να χρησιμοποιούν αδύναμους κωδικούς πρόσβασης· και έχουν έλλειψη διαφάνειας σχετικά με την ιδιοκτησία τους και τα μοντέλα τεχνητής νοημοσύνης που τις τροφοδοτούν.
Από τότε που η OpenAI έθεσε το ChatGPT στη διάθεση του κόσμου τον Νοέμβριο του 2022, οι προγραμματιστές έχουν αγωνιστεί να αναπτύξουν μεγάλα μοντέλα γλώσσας και να δημιουργήσουν chatbots με τους οποίους οι άνθρωποι μπορούν να αλληλεπιδράσουν και να πληρώνουν μία συνδρομή. Η έρευνα της Mozilla παρέχει μια ματιά στο πώς αυτός ο ενθουσιαμός μπορεί να έχει παραμελήσει την ιδιωτικότητα των ανθρώπων, όπως και στις τάσεις μεταξύ αναδυόμενων τεχνολογιών και τον τρόπο που συλλέγουν και χρησιμοποιούν δεδομένα. Επίσης, υποδεικνύει πώς οι συνομιλίες των ανθρώπων μπορεί να εκμεταλλεύονται από χάκερ.
Τι κάνει ένα ρομαντικό chatbot ελκυστικό ή αποτρεπτικό για τους χρήστες;
Ένα ρομαντικό chatbot μπορεί να γίνει ελκυστικό για τους χρήστες μέσω διάφορων παραγόντων. Καταρχάς, η ικανότητα του chatbot να προσφέρει συνεχή και αδιάλειπτη επικοινωνία μπορεί να είναι ελκυστική για πολλούς χρήστες. Επίσης, η ικανότητα του chatbot να δημιουργεί προσωπικές και εξατομικευμένες εμπειρίες μπορεί να αυξήσει την ελκυστικότητά του.
Από την άλλη πλευρά, οι παράγοντες που μπορεί να κάνουν ένα ρομαντικό chatbot αποτρεπτικό για τους χρήστες περιλαμβάνουν την έλλειψη ανθρώπινης επαφής και επικοινωνίας. Εάν οι απαντήσεις του chatbot είναι προκαθορισμένες ή γενικευμένες, ο χρήστης μπορεί να νιώθει ότι δεν αντιμετωπίζεται ως ένας μοναδικός άνθρωπος με συγκεκριμένες ανάγκες και συναισθήματα.
Πολλές υπηρεσίες “AI girlfriends” ή ρομαντικών chatbot είναι παρόμοιες και παρουσίαζουν την ίδια απειλή για την ιδιωτικότητα. Συχνά περιλαμβάνουν AI-δημιουργημένες εικόνες γυναικών που μπορεί να είναι σεξουαλικοποιημένες ή να συνοδεύονται από προκλητικά μηνύματα. Οι ερευνητές της Mozilla εξέτασαν διάφορα chatbots, συμπεριλαμβανομένων μεγάλων και μικρών εφαρμογών. Άλλες προσφέρουν υποστήριξη στους ανθρώπους μέσω φιλίας ή ενσυναίσθησης, ή επιτρέπουν την ενσάρκωση ρόλων και άλλων φαντασιώσεων.
Σύμφωνα με την έρευνα, υπάρχουν πολλά προβλήματα με αυτές τις εφαρμογές και ιστότοπους. Πολλές από τις εφαρμογές ενδέχεται να μην είναι σαφείς σχετικά με τα δεδομένα που μοιράζονται με τρίτους, την τοποθεσία τους ή τον δημιουργό τους, ενώ ορισμένες επιτρέπουν στους ανθρώπους να δημιουργήσουν αδύναμους κωδικούς πρόσβασης, και άλλες παρέχουν λίγες πληροφορίες για την τεχνητή νοημοσύνη που χρησιμοποιούν. Οι αναλυθείσες εφαρμογές είχαν όλες διαφορετικές περιπτώσεις χρήσης και αδυναμίες.
Οι εφαρμογές δεν είναι σαφείς σχετικά με τα δεδομένα που μπορεί να μοιραστούν ή να πωληθούν, ή πώς ακριβώς χρησιμοποιούν ορισμένες από αυτές τις πληροφορίες. Δεν είναι σαφές ποιος είναι ο ιδιοκτήτης ή οι υπεύθυνοι για μερικές από τις εταιρείες που βρίσκονται πίσω από τα chatbots. Άλλες δεν αναφέρουν τους ιδιοκτήτες τους ή την τοποθεσία τους, ή περιλαμβάνουν απλώς γενικές διευθύνσεις email επικοινωνίας για βοήθεια ή υποστήριξη.
Δείτε ακόμα: Suno: Νέα πλατφόρμα AI τραγουδιών από τη Microsoft Copilot
Η Mozilla επεσήμανε ότι αρκετές εταιρείες φαίνεται να χρησιμοποιούν αδύναμες πρακτικές ασφαλείας όταν οι άνθρωποι δημιουργούν κωδικούς πρόσβασης. Οι ερευνητές μπόρεσαν να δημιουργήσουν έναν κωδικό πρόσβασης με έναν χαρακτήρα (“1”) και να τον χρησιμοποιήσουν για να συνδεθούν σε εφαρμογές από την Anima AI, η οποία προσφέρει “AI boyfriends” και “AI girlfriends”, πράγμα που βάζει σε κίνδυνο την ιδιωτικότητα.
Η Kamilla Saifulina, η επικεφαλής του τμήματος επωνυμίας στην EVA AI, αναφέρει σε ένα email ότι οι “τρέχουσες απαιτήσεις κωδικών μπορεί να δημιουργούν δυνητικές ευπάθειες” και ότι η εταιρεία θα επανεξετάσει τις πολιτικές της για τους κωδικούς πρόσβασης.
Εκτός από τα ζητήματα κοινοποίησης δεδομένων και ασφάλειας, η ανάλυση της Mozilla αναδεικνύει επίσης ότι λίγα πράγματα είναι γνωστά για τις συγκεκριμένες τεχνολογίες που υποστηρίζουν τα chatbots. “Δεν υπάρχει καμία διαφάνεια σχετικά με τον τρόπο λειτουργίας τους. Μερικές από τις εφαρμογές δεν διαθέτουν ελέγχους που επιτρέπουν στους χρήστες να διαγράψουν μηνύματα. Ορισμένες δεν αναφέρουν ποια είδη γενετικών μοντέλων χρησιμοποιούν, ή δεν διευκρινίζουν εάν οι χρήστες μπορούν να επιλέξουν να μην χρησιμοποιηθούν οι συνομιλίες τους για την εκπαίδευση μελλοντικών μοντέλων.
Πολλά από τα αναλυθέντα chatbots απαιτούν συνδρομές για να έχουν πρόσβαση σε ορισμένα χαρακτηριστικά και έχουν κυκλοφορήσει τα τελευταία δύο χρόνια, ακολουθώντας την έναρξη της έκρηξης της δημιουργικής AI. Τα chatbots συχνά σχεδιάζονται έτσι ώστε να μιμούνται ανθρώπινες ιδιότητες και να υποστηρίζουν εμπιστοσύνη και οικειότητα με τους ανθρώπους που τους χρησιμοποιούν. Είπαν μάλιστα σε έναν άνδρα να σκοτώσει τη βασίλισσα Ελισάβετ Β΄ κατά τη διάρκεια ενός διαδικτυακού συνομιλίας, ενώ ένας άλλος, όπως αναφέρεται, αυτοκτόνησε μετά από έξι εβδομάδες αλληλογραφίας με ένα chatbot. Πέρα από το ότι δεν είναι κατάλληλες για εργασία, ορισμένες από αυτές τις εφαρμογές αποδίδουν έμφαση στον ρόλο τους ως χρήσιμα εργαλεία.
Ορισμένοι άνθρωποι ενδέχεται να μην λαμβάνουν υπόψη τους τα στοιχεία ιδιωτικότητας που αποκαλύπτουν στα chatbots, που στην περίπτωση των “AI girlfriends”, μπορεί να περιλαμβάνουν σεξουαλικές προτιμήσεις ή εκκεντρικότητες, τοποθεσίες ή συναισθήματα. Αυτό μπορεί να προκαλέσει ζημιά στο φήμη εάν το σύστημα chatbot διαρρεύσει κατά τύχη ή αν υπάρξει διαρροή δεδομένων.
Δείτε επίσης: Η AMD σχεδιάζει να εξαγοράσει την AI software εταιρεία Nod.ai
Η έρευνα προτείνει στους ανθρώπους να είναι προσεκτικοί και να ακολουθούν τις βέλτιστες πρακτικές ασφαλείας. Αυτό περιλαμβάνει τη χρήση ισχυρών κωδικών πρόσβασης, τη μη χρήση σύνδεσης με τις εφαρμογές μέσω Facebook ή Google, τη διαγραφή των δεδομένων και την επιλογή αποχής από τη συλλογή δεδομένων, όπου προσφέρεται η επιλογή αυτή.
Πηγή: wired
