Μια ομάδα ερευνητών στη Microsoft αναφέρει ότι χρησιμοποίησε τεχνητή νοημοσύνη (AI) για να ανακαλύψει μια ευπάθεια «zero-day» στα συστήματα βιοασφάλειας, που χρησιμοποιούνται για την αποτροπή κακής χρήσης του DNA.
Αυτά τα συστήματα ελέγχου έχουν σχεδιαστεί για να εμποδίζουν τους ανθρώπους να αγοράζουν γενετικές ακολουθίες που θα μπορούσαν να χρησιμοποιηθούν για τη δημιουργία θανατηφόρων τοξινών ή παθογόνων.
Οι ερευνητές με επικεφαλής τον επιστήμονα της Microsoft, Eric Horvitz, βρήκαν έναν τρόπο να παρακάμψουν τις προστασίες με έναν τρόπο που ήταν προηγουμένως άγνωστος στους υπερασπιστές συστημάτων. Η ομάδα περιέγραψε τη δουλειά της στο περιοδικό Science.
Ο Horvitz και η ομάδα του εστίασαν σε αλγόριθμους generative AI που προτείνουν νέες μορφές πρωτεϊνών. Αυτά τα προγράμματα ήδη τροφοδοτούν την αναζήτηση για νέα φάρμακα σε καλά χρηματοδοτούμενες startups, όπως οι Generate Biomedicines και Isomorphic Labs, μια θυγατρική της Google.
Δείτε επίσης: Επιστήμονες δημιούργησαν έμβρυα από DNA ανθρώπινου δέρματος
Το AI μπορεί να απειλήσει τα συστήματα βιοασφάλειας
Το πρόβλημα είναι ότι τέτοια συστήματα μπορούν να χρησιμοποιηθούν με διαφορετικούς τρόπους. Μπορούν να χρησιμοποιήσουν τα σύνολα εκπαίδευσής τους για να δημιουργήσουν τόσο ευεργετικά μόρια όσο και επιβλαβή.
Η Microsoft ξεκίνησε μια δοκιμή «red-teaming» το 2023 για να καθορίσει εάν το «adversarial AI protein design» θα μπορούσε να βοηθήσει τους βιοτρομοκράτες να κατασκευάσουν επιβλαβείς πρωτεΐνες.
Το μέτρο ασφαλείας που στόχευσε η Microsoft είναι γνωστό ως biosecurity screening software. Για να κατασκευάσουν μια πρωτεΐνη, οι ερευνητές συνήθως χρειάζονται να παραγγείλουν μια αντίστοιχη ακολουθία DNA από έναν εμπορικό προμηθευτή, την οποία μπορούν στη συνέχεια να εγκαταστήσουν σε ένα κύτταρο. Αυτοί οι προμηθευτές χρησιμοποιούν λογισμικό ελέγχου για να συγκρίνουν τις εισερχόμενες παραγγελίες με γνωστές τοξίνες ή παθογόνα. Μια στενή αντιστοιχία θα προκαλέσει συναγερμό.
Για να σχεδιάσει την επίθεσή της, η Microsoft χρησιμοποίησε διάφορα generative protein models (συμπεριλαμβανομένου του δικού της, που ονομάζεται EvoDiff) για να επανασχεδιάσει τοξίνες—αλλάζοντας τη δομή τους με τρόπο που τους επέτρεπε να περάσουν από το λογισμικό ελέγχου αλλά προβλεπόταν να διατηρήσουν την θανατηφόρα λειτουργία τους άθικτη. Οι ερευνητές λένε ότι η άσκηση ήταν εξ ολοκλήρου ψηφιακή και δεν παρήγαγαν ποτέ τοξικές πρωτεΐνες για να αποφύγουν οποιαδήποτε αντίληψη ότι η εταιρεία ανέπτυσσε βιολογικά όπλα.
Πριν δημοσιεύσουν τα αποτελέσματα, η Microsoft ενημέρωσε την κυβέρνηση των ΗΠΑ και τους κατασκευαστές λογισμικού, οι οποίοι έχουν ήδη επιδιορθώσει τα συστήματά τους, αν και μερικά μόρια που σχεδιάστηκαν από την τεχνητή νοημοσύνη μπορούν ακόμα να διαφύγουν από την ανίχνευση.
Δείτε επίσης: «Πρωτοποριακή» γονιδιακή θεραπεία επιβραδύνει τη νόσο του Χάντινγκτον
«Η επιδιόρθωση είναι ελλιπής και είναι ακόμα αρχή. Αυτό δεν είναι κάτι που γίνεται μία φορά. Είναι η αρχή ακόμα περισσότερων δοκιμών», λέει ο Adam Clore, διευθυντής τεχνολογικής έρευνας και ανάπτυξης στην Integrated DNA Technologies, έναν μεγάλο κατασκευαστή DNA, που είναι συν-συγγραφέας της αναφοράς της Microsoft. «Βρισκόμαστε σε κάτι σαν κούρσα εξοπλισμών». Για να διασφαλίσουν ότι κανείς δεν θα κάνει κακή χρήση της έρευνας, οι ερευνητές δεν αποκαλύπτουν κάποιον από τον κώδικά τους και δεν αποκάλυψαν ποιες τοξικές πρωτεΐνες ζήτησαν από την τεχνητή νοημοσύνη να επανασχεδιάσει.
Ωστόσο, μερικές επικίνδυνες πρωτεΐνες είναι καλά γνωστές, όπως η ρικίνη—ένα δηλητήριο που βρίσκεται στα φασόλια ρικίνης—και οι μολυσματικές πρωτεΐνες που προκαλούν τη νόσο των τρελών αγελάδων.
«Αυτό το εύρημα, σε συνδυασμό με τις ταχείες προόδους στη βιολογική μοντελοποίηση με τη βοήθεια της τεχνητής νοημοσύνης, καταδεικνύει την σαφή και επείγουσα ανάγκη για ενισχυμένες διαδικασίες ελέγχου σύνθεσης νουκλεϊκών οξέων, σε συνδυασμό με έναν αξιόπιστο μηχανισμό επιβολής και επαλήθευσης», λέει ο Dean Ball, συνεργάτης στο Foundation for American Innovation, ένα think tank στο Σαν Φρανσίσκο.
🔒 Προστατέψτε την ιδιωτικότητά σας με Proton VPN
Ελβετικό VPN από τους δημιουργούς του Proton Mail — αυστηρή πολιτική no-logs, ισχυρή κρυπτογράφηση και ενσωματωμένο NetShield που μπλοκάρει διαφημίσεις, trackers & malware.
- ✔ No-logs, με έδρα την Ελβετία (εκτός 14-Eyes)
- ✔ NetShield: φραγή διαφημίσεων, trackers & κακόβουλων domains
- ✔ Καλύπτει όλες τις συσκευές — δωρεάν έκδοση διαθέσιμη
Ο σύνδεσμος είναι συνεργατικός (affiliate) — το SecNews ενδέχεται να λάβει προμήθεια χωρίς επιπλέον κόστος για εσάς. Δεν επηρεάζει την ανεξαρτησία της αρθρογραφίας μας.
Δείτε επίσης: Το Τέξας απαγορεύει το κρέας που δημιουργείται σε εργαστήριο
Ο Ball σημειώνει ότι η κυβέρνηση των ΗΠΑ ήδη θεωρεί τον έλεγχο των παραγγελιών DNA ως μια βασική γραμμή ασφαλείας. Τον περασμένο Μάιο, σε μια εκτελεστική εντολή για την ασφάλεια της βιολογικής έρευνας, ο Πρόεδρος Trump κάλεσε για μια συνολική αναθεώρηση αυτού του συστήματος, αν και μέχρι στιγμής ο Λευκός Οίκος δεν έχει εκδώσει νέες συστάσεις. Άλλοι αμφιβάλλουν ότι η εμπορική σύνθεση DNA είναι το καλύτερο σημείο άμυνας κατά των κακόβουλων παραγόντων. Ο Michael Cohen, ερευνητής ασφάλειας ΑΙ στο Πανεπιστήμιο της Καλιφόρνια πιστεύει ότι πάντα θα υπάρχουν τρόποι να συγκαλυφθούν οι ακολουθίες και ότι η Microsoft θα μπορούσε να είχε κάνει τη δοκιμή της πιο δύσκολη. «Η πρόκληση φαίνεται αδύναμη και τα επιδιορθωμένα εργαλεία τους αποτυγχάνουν συχνά», λέει ο Cohen. «Φαίνεται να υπάρχει μια απροθυμία να παραδεχτούμε ότι σύντομα θα πρέπει να υποχωρήσουμε από αυτό το σημείο, οπότε θα πρέπει να αρχίσουμε να ψάχνουμε για έδαφος που μπορούμε πραγματικά να κρατήσουμε».
Ο Cohen λέει ότι η βιοασφάλεια θα πρέπει πιθανώς να ενσωματωθεί στα ίδια τα συστήματα Τεχνητής Νοημοσύνης – είτε άμεσα είτε μέσω ελέγχων στις πληροφορίες που παρέχουν.
