Το DeepMind Institute είναι το νέο ερευνητικό ίδρυμα που ανακοίνωσαν ερευνητές της Google και της Google DeepMind, με στόχο να διευρύνουν και να εμβαθύνουν τη συζήτηση γύρω από το artificial general intelligence (AGI). Το ίδρυμα έρχεται σε μια κρίσιμη στιγμή για τον κλάδο, καθώς η συζήτηση για την ασφάλεια της τεχνητής νοημοσύνης μετατοπίζεται από γενικές δηλώσεις ανησυχίας σε συγκεκριμένες προτάσεις πολιτικής, διαφάνειας και ρύθμισης. Η ίδρυση του DeepMind Institute σηματοδοτεί μια νέα φάση στη δημόσια δέσμευση των μεγάλων εταιρειών τεχνητής νοημοσύνης απέναντι στις προκλήσεις που φέρνει η ανάπτυξη προηγμένων μοντέλων.
Στο διοικητικό συμβούλιο του ιδρύματος συμμετέχουν τρεις εξέχουσες προσωπικότητες του χώρου: ο Shane Legg, συνιδρυτής της DeepMind, ο James Manyika, ανώτατο στέλεχος της Google, και ο Demis Hassabis, πρόεδρος της Google DeepMind. Ο Legg αναλαμβάνει χρέη διευθύνοντος συντάκτη, γεγονός που υποδηλώνει ότι το ίδρυμα θα λειτουργεί και ως πλατφόρμα δημοσίευσης ακαδημαϊκών και πολιτικών κειμένων. Η επιλογή αυτών των τριών προσώπων δεν είναι τυχαία: και οι τρεις έχουν διαδραματίσει καθοριστικό ρόλο στη διαμόρφωση της στρατηγικής της Google στον τομέα της τεχνητής νοημοσύνης τα τελευταία χρόνια.
Δείτε επίσης: Google DeepMind: Εργαζόμενοι κατά στρατιωτικών συμβολαίων AI
Σύμφωνα με την επίσημη ανακοίνωση, το DeepMind Institute δεν θα λειτουργεί ως φερέφωνο μιας ενιαίας εταιρικής γραμμής, αλλά ως χώρος ανοιχτού διαλόγου όπου θα αναδεικνύονται διαφορετικές απόψεις — ακόμα και αν αυτές έρχονται σε αντίθεση μεταξύ τους. «Δεν θα συμφωνούν πάντα, και πιθανότατα θα αλλάξουν γνώμη, καθώς νέα δεδομένα και πληροφορίες έρχονται στο φως στο ταχέως εξελισσόμενο μέτωπο», αναφέρει η ανακοίνωση. Αυτή η προσέγγιση είναι αξιοσημείωτη, καθώς οι μεγάλες εταιρείες τεχνολογίας σπάνια ενθαρρύνουν δημόσια την εσωτερική διαφωνία.
DeepMind Institute: Τα τέσσερα εναρκτήρια δοκίμια για το AGI
Η πρώτη συλλογή κειμένων του DeepMind Institute περιλαμβάνει τέσσερα δοκίμια που καλύπτουν ένα ευρύ φάσμα θεμάτων. Το πρώτο αφορά οικονομικές πολιτικές για τη διαχείριση της πιθανής αναταραχής που θα φέρει το AGI στην αγορά εργασίας και στην οικονομία γενικότερα. Το δεύτερο εξετάζει τη διατήρηση του human–readable model reasoning — δηλαδή την ικανότητα να παρακολουθούμε και να κατανοούμε πώς ένα σύστημα AI καταλήγει σε μια απόφαση. Το τρίτο δοκίμιο αναπτύσσει αρχές για την ανθρώπινη ευημερία στην εποχή της τεχνητής νοημοσύνης, ενώ το τέταρτο προτείνει ένα πλαίσιο αξιολόγησης για τα πιο προηγμένα μοντέλα AI στο παγκόσμιο επίπεδο.
Ιδιαίτερο ενδιαφέρον παρουσιάζει το δοκίμιο των ερευνητών ασφάλειας της DeepMind, Rohin Shah και Anca Dragan, οι οποίοι υποστηρίζουν ότι η συρρίκνωση του «παραθύρου διαφάνειας» στα σύγχρονα μοντέλα AI δεν είναι αναπόφευκτη. Καθώς νέες αρχιτεκτονικές καθιστούν τα πιο ισχυρά μοντέλα δυσκολότερα στην παρακολούθηση, οι συγγραφείς υποστηρίζουν ότι οι προγραμματιστές και οι ρυθμιστικές αρχές πρέπει να αντιμετωπίσουν άμεσα τους συμβιβασμούς ασφάλειας. Αυτό θα μπορούσε να σημαίνει τον περιορισμό του λεγόμενου «opaque serial depth» — δηλαδή του όγκου των διαδοχικών υπολογισμών που μπορεί να εκτελέσει ένα μοντέλο χωρίς να παράγει ανθρώπινα αναγνώσιμο ίχνος συλλογισμού.
Οι Shah και Dragan προτείνουν επίσης να απαιτείται από τους προγραμματιστές να αποδεικνύουν ότι λιγότερο διαφανή συστήματα παραμένουν εξίσου παρακολουθήσιμα με τα προηγούμενα. Αυτή η πρόταση έχει σημαντικές επιπτώσεις για τον τρόπο με τον οποίο σχεδιάζονται και αναπτύσσονται τα μελλοντικά μοντέλα AGI, καθώς θέτει ένα ρητό τεχνικό κριτήριο για τη διαφάνεια ως προϋπόθεση ανάπτυξης. Η συζήτηση αυτή είναι κρίσιμη, ιδίως καθώς τα μοντέλα reasoning — όπως το o3 της OpenAI ή το Gemini 2.5 Pro της Google — εκτελούν ολοένα και πιο σύνθετες αλυσίδες σκέψης που είναι δύσκολο να ελεγχθούν εξωτερικά.
Hassabis και DeepMind Institute: Πρόταση για διεθνή ρυθμιστικό φορέα AGI
Το πιο φιλόδοξο από τα τέσσερα δοκίμια είναι αυτό του ίδιου του Demis Hassabis, ο οποίος προτείνει τη δημιουργία ενός αμερικανικού φορέα προτύπων για το frontier AI — δηλαδή για τα πιο προηγμένα μοντέλα τεχνητής νοημοσύνης παγκοσμίως. Σύμφωνα με το πλαίσιο που περιγράφει, οι προγραμματιστές θα υποβάλλουν αρχικά τα μοντέλα τους εθελοντικά για αξιολόγηση έως και 30 ημέρες πριν από την κυκλοφορία τους. Μόλις το σύστημα αξιολόγησης αποδειχθεί αποτελεσματικό, η επιτυχής υπέρβαση των δοκιμών θα μπορούσε να καταστεί υποχρεωτική προϋπόθεση για την ανάπτυξη frontier μοντέλων στις Ηνωμένες Πολιτείες.
Δείτε επίσης: Η Google DeepMind ανοίγει το πρώτο της AI campus στη Σεούλ
Ο Hassabis προβλέπει ότι ο φορέας θα σχεδιάζει αρχικά τις αξιολογήσεις σε συνεργασία με τις εταιρείες AI, αλλά τελικά θα αναπτύξει ανεξάρτητες, μη δημοσιοποιημένες δοκιμές — τις λεγόμενες «held–out» αξιολογήσεις — ώστε να αποτρέπεται η προσαρμογή των μοντέλων στις γνωστές δοκιμές. Αυτή η πρόταση αντιμετωπίζει ένα κρίσιμο πρόβλημα που έχει αναδειχθεί στη βιομηχανία: τα λεγόμενα «benchmark gaming», όπου εταιρείες εκπαιδεύουν τα μοντέλα τους ειδικά για να τα πάνε καλά σε γνωστές δοκιμές, χωρίς αυτό να αντικατοπτρίζει πραγματική βελτίωση των ικανοτήτων ή της ασφάλειάς τους.
Ο Hassabis δεν αποκλείει και πιο δραστικά μέτρα: το πλαίσιο θα μπορούσε να «σφίξει» αν η σοβαρότητα της κατάστασης το απαιτήσει, συμπεριλαμβανομένης μιας συντονισμένης επιβράδυνσης μεταξύ των προγραμματιστών frontier AI. Αυτή η αναφορά σε πιθανή επιβράδυνση είναι ιδιαίτερα σημαντική, καθώς έρχεται από έναν από τους πιο επιδραστικούς ηγέτες της βιομηχανίας και αντηχεί παρόμοιες εκκλήσεις από τον Dario Amodei, διευθύνοντα σύμβουλο της Anthropic, ο οποίος έχει ζητήσει δημόσια να «ρυθμιστεί» ο ρυθμός ανάπτυξης του frontier AI.
Η ίδρυση του DeepMind Institute εντάσσεται σε ένα ευρύτερο κλίμα αλλαγής στη βιομηχανία τεχνητής νοημοσύνης. Τα τελευταία χρόνια, η συζήτηση για την ασφάλεια του AGI είχε συχνά χαρακτήρα αφηρημένο και θεωρητικό. Τώρα, όμως, με τα μοντέλα να γίνονται ολοένα και πιο ισχυρά και να εισχωρούν σε κρίσιμους τομείς όπως η υγεία, η εκπαίδευση, η άμυνα και η οικονομία, η ανάγκη για συγκεκριμένες δομές διακυβέρνησης γίνεται επιτακτική. Ηγέτες της βιομηχανίας, ρυθμιστικές αρχές και ερευνητές σε όλο τον κόσμο αναζητούν πλαίσια που να εξισορροπούν την καινοτομία με την ασφάλεια.
Δείτε επίσης: Google DeepMind: Πώς οι hackers παραβιάζουν AI Agents;
Στην Ευρώπη, ο Νόμος για την Τεχνητή Νοημοσύνη (AI Act) της Ευρωπαϊκής Ένωσης έχει ήδη θέσει ένα νομικό πλαίσιο για τη ρύθμιση των συστημάτων AI ανάλογα με τον κίνδυνο που παρουσιάζουν. Ωστόσο, η πρόταση Hassabis για έναν αμερικανικό φορέα αξιολόγησης θα μπορούσε να λειτουργήσει συμπληρωματικά ή και ανταγωνιστικά με το ευρωπαϊκό μοντέλο, δημιουργώντας ένα διεθνές τοπίο ρύθμισης που θα επηρεάσει και τις ελληνικές εταιρείες και οργανισμούς που χρησιμοποιούν ή αναπτύσσουν συστήματα AI. Η Ελλάδα, ως μέλος της ΕΕ, θα πρέπει να παρακολουθεί στενά τις εξελίξεις αυτές, καθώς επηρεάζουν άμεσα τη στρατηγική ψηφιακού μετασχηματισμού της χώρας.
