Οι ByteDance και Alibaba αναγκάζονται να απενεργοποιήσουν τις δυνατότητες προσαρμοσμένων AI agents στις εφαρμογές τους Doubao και Qwen, αντίστοιχα, λόγω των νέων κανονισμών της Κίνας για τις υπηρεσίες ανθρωπομορφικής αλληλεπίδρασης AI, που τίθενται σε ισχύ από τις 15 Ιουλίου. Οι κανονισμοί αυτοί στοχεύουν τα bots που προσφέρουν συνεχή συναισθηματική αλληλεπίδραση, ενώ εξαιρούνται οι agents για το χώρο εργασίας και την παραγωγικότητα.
Δείτε επίσης: Η ByteDance μπορεί να αγοράσει AI chips από την κινεζική Iluvatar CoreX
Η Tencent είχε ήδη αποσύρει μια παρόμοια λειτουργία Yuanbao τον Ιούνιο, και οι χρήστες διαμαρτύρονται για την απώλεια των ιστορικών συνομιλιών τους.
Η Doubao ενημέρωσε τους χρήστες ότι η λειτουργία του πράκτορά της θα είναι εκτός λειτουργίας από τις 15 Ιουλίου, επικαλούμενη προσαρμογές στη λειτουργία του προϊόντος. Τα σχετικά δεδομένα δεν θα είναι πλέον ορατά ή ανακτήσιμα μέσα στην εφαρμογή μετά τις 15 Οκτωβρίου. Η Qwen ανακοίνωσε ότι οι ανθρωπομορφικοί πράκτορες και οι πράκτορες που δημιουργούνται από χρήστες θα απενεργοποιηθούν στις 10 Ιουλίου, με τις ευρύτερες λειτουργίες πρακτόρων να είναι εκτός λειτουργίας μέχρι τις 15 Ιουλίου. Οι χρήστες θα χάσουν την πρόσβαση στις ρυθμίσεις των πρακτόρων και στις προηγούμενες συνομιλίες τους.
Και οι δύο εφαρμογές επιτρέπουν στους χρήστες να δημιουργούν ονομασμένους βοηθούς, δασκάλους, χαρακτήρες ρόλων ή συντρόφους με σταθερές προσωπικότητες και στυλ ομιλίας. Οι διακοπές επιβεβαιώνονται από τα κινεζικά κρατικά μέσα ενημέρωσης ότι σχετίζονται με τη συμμόρφωση με τους κανονισμούς.
Τα Προσωρινά Μέτρα για τις Υπηρεσίες Ανθρωπομορφικής Αλληλεπίδρασης AI εκδόθηκαν τον Απρίλιο από τη Διοίκηση Κυβερνοχώρου της Κίνας και τέσσερις άλλες υπηρεσίες. Καλύπτουν υπηρεσίες που προσομοιώνουν ανθρώπινα χαρακτηριστικά προσωπικότητας, μοτίβα σκέψης και στυλ επικοινωνίας για να παρέχουν συνεχή συναισθηματική αλληλεπίδραση. Τα bots εξυπηρέτησης πελατών, οι ερωτήσεις γνώσεων, οι βοηθοί εργασίας και τα εργαλεία εκπαίδευσης και έρευνας εξαιρούνται, εφόσον αποφεύγουν τη συνεχή συναισθηματική αλληλεπίδραση.
Τα μέτρα αναφέρουν κινδύνους όπως ακραίο περιεχόμενο, διαρροές προσωπικών δεδομένων, βλάβη στην ψυχική υγεία και εθισμό, και απαιτούν συστήματα κατά του εθισμού και ελέγχους ταυτότητας για ανηλίκους.
Δείτε επίσης: Η ByteDance θα τροποποιήσει τις ασφαλιστικές δικλείδες στο Seedance 2.0
Η απόφαση αυτή έρχεται σε μια περίοδο όπου η τεχνολογία AI συνομιλίες έχει γίνει αναπόσπαστο μέρος της καθημερινότητας πολλών χρηστών, προσφέροντας όχι μόνο πρακτικές λύσεις αλλά και συναισθηματική υποστήριξη. Οι ανθρωπομορφικοί πράκτορες, με την ικανότητά τους να προσομοιώνουν ανθρώπινες αλληλεπιδράσεις, έχουν κερδίσει δημοτικότητα, ιδιαίτερα σε κοινωνίες όπου η μοναξιά και η απομόνωση είναι αυξανόμενα προβλήματα.
Ωστόσο, οι κίνδυνοι που συνοδεύουν αυτή την τεχνολογία δεν είναι αμελητέοι. Οι ερευνητές έχουν επισημάνει ότι οι δεσμοί που σχηματίζονται μεταξύ των χρηστών και των AI agents μπορούν να οδηγήσουν σε ψευδοκοινωνικούς δεσμούς, που ενδέχεται να επηρεάσουν αρνητικά την ψυχική υγεία των χρηστών.
“Οι τρέχοντες πράκτορες δεν είναι ακόμη ώριμοι“, δήλωσε ο Pan Helin, μέλος επιτροπής εμπειρογνωμόνων στο Υπουργείο Βιομηχανίας και Πληροφορικής της Κίνας. Σημείωσε ότι η πολιτική δίνει προτεραιότητα στην ασφάλεια, την πρακτική χρήση και την τυποποίηση. Η Κίνα, αν και δεν είναι αντίθετη στη χρήση των AI agents, επιδιώκει να διασφαλίσει ότι η ανάπτυξή τους γίνεται με ελεγχόμενο και ασφαλή τρόπο. Οι ρυθμιστικές αρχές εξέδωσαν οδηγίες τον Μάιο για την ελεγχόμενη ανάπτυξη των AI agents, και η Κίνα κυκλοφόρησε εθνικά πρότυπα τον Ιούνιο που καλύπτουν την ταυτότητα των πρακτόρων, την ανακάλυψη, την αλληλεπίδραση και τη χρήση εργαλείων.
Το μοτίβο υποδηλώνει ότι η Κίνα θέλει τους πράκτορες ως υποδομή παραγωγικότητας, περιορίζοντας τα bots συντρόφους που σχηματίζουν ψευδοκοινωνικούς δεσμούς με τους χρήστες. Οι ερευνητές έχουν τεκμηριώσει τους κινδύνους τέτοιων δεσμών, συμπεριλαμβανομένης της πείνας των AI “φίλων” για προσωπικά δεδομένα και αυτό που οι ακαδημαϊκοί του Wharton αποκαλούν γνωστική παράδοση.
Οι πλατφόρμες εκτός Κίνας αντιμετωπίζουν επίσης πίεση για τα bots που προσφέρουν συναισθηματική εμπλοκή, με τη Meta να δοκιμάζει ανταγωνιστικά chatbots σε ευαίσθητα θέματα. Το Πεκίνο επέλεξε να ρυθμίσει πρώτα και να αφήσει τα προϊόντα να ακολουθήσουν. Η χρονική στιγμή είναι σημαντική και για τις δύο εταιρείες, οι οποίες επενδύουν έντονα στην AI, καθώς το Πεκίνο αυστηροποιεί τον έλεγχο του τομέα.
Δείτε επίσης: ByteDance: Μάθετε τα πάντα για το νέο AI μοντέλο Seedance 2.0
Η απόφαση της Κίνας να επιβάλει αυστηρότερους κανονισμούς στις AI συνομιλίες υπογραμμίζει την αυξανόμενη ανησυχία για τις κοινωνικές και ψυχολογικές επιπτώσεις της τεχνολογίας. Καθώς οι AI agents γίνονται πιο προηγμένοι και ικανοί να προσομοιώνουν ανθρώπινες αλληλεπιδράσεις, οι ρυθμιστικές αρχές σε όλο τον κόσμο θα πρέπει να εξετάσουν πώς να διασφαλίσουν ότι αυτές οι τεχνολογίες χρησιμοποιούνται με τρόπο που να προστατεύει τους χρήστες και να προάγει την κοινωνική ευημερία.
