Microsoft: Κανόνες “AI απορρήτου” για μαθητές στα σχολεία

Η Microsoft δεσμεύεται για αυστηρούς κανόνες AI απορρήτου που αφορούν εκατομμύρια μαθητές σε σχολεία των ΗΠΑ, σε μια κίνηση που θα μπορούσε να αλλάξει ριζικά τον τρόπο με τον οποίο οι τεχνολογικοί κολοσσοί χειρίζονται τα δεδομένα των ανηλίκων. Η συμφωνία, που διαπραγματεύτηκε με την American Federation of Teachers (AFT), τη δεύτερη μεγαλύτερη εκπαιδευτική ένωση των ΗΠΑ, θέτει νέα πρότυπα για την ασφάλεια και την ιδιωτικότητα στη χρήση τεχνητής νοημοσύνης στην εκπαίδευση. Το ερώτημα που τίθεται πλέον είναι αν άλλοι τεχνολογικοί γίγαντες θα ακολουθήσουν το παράδειγμα.

Εκατομμύρια μαθητές κάθε μέρα απευθύνονται σε AI chatbots για βοήθεια με τα μαθήματά τους, συναισθηματική υποστήριξη και προσωπικές συμβουλές — συχνά χωρίς να γνωρίζουν πού καταλήγουν οι συνομιλίες τους και τα προσωπικά τους δεδομένα. Αυτή η αδιαφάνεια αποτελεί αυξανόμενη ανησυχία για εκπαιδευτικούς, γονείς και μαθητές, καθώς η τεχνητή νοημοσύνη γίνεται αναπόσπαστο κομμάτι της σχολικής καθημερινότητας, ενσωματωμένη σε πολλά από τα εργαλεία που οι μαθητές υποχρεούνται να χρησιμοποιούν. Η έλλειψη ομοσπονδιακής και πολιτειακής νομοθεσίας για το AI στην εκπαίδευση έχει δημιουργήσει ένα ρυθμιστικό κενό που εταιρείες και σχολεία καλούνται να καλύψουν μόνα τους.

Η αντίδραση ήταν άμεση σε ορισμένες περιπτώσεις: οι δύο μεγαλύτερες σχολικές περιφέρειες της χώρας, η Νέα Υόρκη και το Λος Άντζελες, ανακοίνωσαν ετήσιο μορατόριουμ στη χρήση AI από μαθητές, ενώ παράλληλα μελετούν τον καλύτερο τρόπο ενσωμάτωσης της τεχνολογίας στην εκπαίδευση. Η απαγόρευση στη Νέα Υόρκη αφορά όλους τους μαθητές δημοτικού και γυμνασίου, ενώ στο Λος Άντζελες επεκτείνεται και στο λύκειο. Και οι δύο περιφέρειες σχεδιάζουν εκτεταμένους ελέγχους των συμβάσεών τους με εταιρείες εκπαιδευτικής τεχνολογίας, με έμφαση στην προστασία δεδομένων, τη διαφάνεια και την υπευθυνότητα.

Δείτε επίσης: OpenAI & Microsoft: Seattle Times και Newsday κατέθεσαν αγωγή

Τι περιλαμβάνει η συμφωνία Microsoft για το AI και το απόρρητο στα σχολεία

Η συμφωνία μεταξύ Microsoft και AFT είναι νομικά δεσμευτική και απαιτεί ελέγχους από τρίτα μέρη για τη συμμόρφωση. Σύμφωνα με τους όρους της, η Microsoft δεσμεύεται να μην χρησιμοποιεί δεδομένα μαθητών ή εκπαιδευτικών για την εκπαίδευση AI συστημάτων, με μια στενή εξαίρεση για δεδομένα που θα μπορούσαν να βοηθήσουν στην προστασία των μαθητών. Τα δεδομένα που συλλέγονται δεν μπορούν να πωληθούν, να χρησιμοποιηθούν για διαφήμιση ή για ανάπτυξη προϊόντων — μια σημαντική δέσμευση που αντιτίθεται στο κυρίαρχο επιχειρηματικό μοντέλο πολλών τεχνολογικών εταιρειών.

Ιδιαίτερα σημαντική είναι η απαγόρευση χρήσης AI companions ή λειτουργιών σχεδιασμένων να καλλιεργούν συναισθηματική εξάρτηση και να κρατούν τους μαθητές απασχολημένους περισσότερο από όσο απαιτεί μια εκπαιδευτική εργασία. Αυτή η πρόβλεψη αντιμετωπίζει άμεσα τις ανησυχίες για τον εθισμό στην τεχνολογία και τη χειραγώγηση ανηλίκων μέσω AI. Επιπλέον, η συμφωνία περιλαμβάνει μέτρα διαφάνειας που υποχρεώνουν την εταιρεία να ενημερώνει τις οικογένειες, σε απλή γλώσσα, για τον τρόπο λειτουργίας των εργαλείων της.

Ο Brad Smith, αντιπρόεδρος και πρόεδρος της Microsoft, δήλωσε ότι αυτό το πρότυπο θέτει υψηλό επίπεδο για την ιδιωτικότητα παιδιών και την ασφάλεια AI, και ότι η εταιρεία θα επεκτείνει τη συμφωνία σε κάθε σχολική περιφέρεια με την οποία συνεργάζεται από την 1η Νοεμβρίου. Η πρόεδρος της AFT, Randi Weingarten, χαρακτήρισε τη συμφωνία πρώτη στο είδος της και σημαντικό βήμα για τον καθορισμό βιομηχανικού προτύπου, ελλείψει ομοσπονδιακής και πολιτειακής νομοθεσίας για το AI στα σχολεία.

AI και απόρρητο: Θα ακολουθήσουν Google, OpenAI και Anthropic;

Το κρίσιμο ερώτημα παραμένει: θα ακολουθήσουν και άλλες εταιρείες; Η OpenAI και η Anthropic ανακοίνωσαν ότι βρίσκονται σε συζητήσεις με την AFT για παρόμοιες συμφωνίες ασφάλειας και απορρήτου. Ωστόσο, η Google, ο κυρίαρχος πάροχος εκπαιδευτικής τεχνολογίας για τα αμερικανικά σχολεία, δεν έχει δηλώσει αν σκοπεύει να προσφέρει παρόμοιες προστασίες. Αυτή η σιωπή είναι ανησυχητική, δεδομένου ότι εκατομμύρια μαθητές χρησιμοποιούν καθημερινά εργαλεία όπως το Google Workspace for Education και το Google Classroom.

Δείτε επίσης: Microsoft zero-day: Δύο ευπάθειες στα Windows υπό ενεργή εκμετάλλευση

Ο Josh Golin, εκτελεστικός διευθυντής του μη κερδοσκοπικού οργανισμού ασφάλειας στο διαδίκτυο Fairplay, επισήμανε ότι οι διατάξεις ασφαλείας της συμφωνίας είναι ουσιαστικές, αλλά τα πρότυπα θα είναι αποτελεσματικά μόνο αν τα υιοθετήσουν όλες οι εταιρείες AI, ιδιαίτερα οι τεχνολογικοί κολοσσοί. Παράλληλα, εξέφρασε ανησυχία για το γεγονός ότι η συμφωνία παρακάμπτει το ερώτημα αν τα AI προϊόντα ανήκουν καν στις σχολικές αίθουσες ή σε ποια ηλικία πρέπει να εισαχθούν.

“Ανησυχώ ότι ένα υψηλού προφίλ πλαίσιο όπως αυτό θα παρεξηγηθεί και τα σχολεία θα σκεφτούν: αν κάνει καλή δουλειά στην ιδιωτικότητα και την ασφάλεια, τότε αυτό σημαίνει ότι πρέπει να χρησιμοποιούμε το εργαλείο“, δήλωσε ο Golin.

Το ζήτημα αποκτά ιδιαίτερη βαρύτητα στο πλαίσιο της ευρύτερης συζήτησης για τον χρόνο οθόνης και τις επιπτώσεις της τεχνολογίας στην ψυχική υγεία των παιδιών. Έρευνες έχουν δείξει ότι η υπερβολική χρήση ψηφιακών εργαλείων μπορεί να επηρεάσει αρνητικά τη συγκέντρωση, τον ύπνο και την κοινωνική ανάπτυξη των μαθητών. Η ενσωμάτωση AI στην εκπαίδευση χωρίς κατάλληλες διασφαλίσεις μπορεί να επιδεινώσει αυτά τα προβλήματα, ενώ παράλληλα εκθέτει ευαίσθητα προσωπικά δεδομένα ανηλίκων σε κινδύνους.

Δείτε επίσης: Microsoft Humanist AI: «Οι άνθρωποι έχουν προτεραιότητα»

Σύμφωνα με το SecurityWeek, η συμφωνία Microsoft–AFT αντιπροσωπεύει ένα σημαντικό βήμα προς τη σωστή κατεύθυνση, αλλά δεν είναι πανάκεια. Η αποτελεσματικότητά της εξαρτάται από την ευρεία υιοθέτησή της από όλες τις εταιρείες AI που δραστηριοποιούνται στον εκπαιδευτικό τομέα, καθώς και από την ύπαρξη ισχυρών μηχανισμών ελέγχου και επιβολής. Χωρίς νομοθετική κατοχύρωση σε ομοσπονδιακό επίπεδο, η προστασία των μαθητών παραμένει εξαρτημένη από την καλή θέληση των εταιρειών.