Το Πεντάγωνο αναφέρει ότι το Grok βοήθησε να πληγούν 2.000 στόχοι μέσα σε 96 ώρες και ότι το ρυπογόνο εργοστάσιο παραγωγής ενέργειας που το υποστηρίζει αποτελεί ζήτημα ύψιστης εθνικής ασφάλειας. Η παραδοχή αυτή δεν έγινε μέσω δελτίου τύπου ή ενημέρωσης από το Πεντάγωνο, αλλά μέσω δήλωσης που κατατέθηκε σε ομοσπονδιακό δικαστήριο στο Μισισιπή, σε υπόθεση που αφορά τη ρύπανση του αέρα. Εκεί, υπερασπιζόμενος την xAI του Elon Musk απέναντι σε αγωγή για τον Καθαρό Αέρα, ο επικεφαλής ψηφιακός και τεχνητής νοημοσύνης αξιωματούχος του Πενταγώνου κατέγραψε μια πρόταση που θα έπρεπε να σταματήσει οποιονδήποτε την διαβάζει.
Δείτε επίσης: Πρώην πρόεδρος της Ελβετίας κατέθεσε μήνυση για προσβολή κατά του Grok
Το chatbot γνωστό ως Grok είχε βοηθήσει να εκτοξευθούν πάνω από 2.000 πυρομαχικά σε 2.000 διαφορετικούς στόχους στο Ιράν μέσα σε 96 ώρες και η συνέχιση της λειτουργίας του ήταν ζήτημα ύψιστης εθνικής ασφάλειας. Ένας κυβερνητικός αξιωματούχος αποκάλυψε ότι ένα καταναλωτικό προϊόν τεχνητής νοημοσύνης είχε χρησιμοποιηθεί για να βομβαρδίσει μια χώρα, όχι για να ενημερώσει το κοινό, αλλά για να διατηρήσει ένα κέντρο δεδομένων σε λειτουργία.
Η στόχευση και οι τουρμπίνες εμφανίστηκαν στην ίδια ένορκη κατάθεση επειδή, σύμφωνα με την αφήγηση της διοίκησης, αποτελούν το ίδιο επιχείρημα: το Grok είναι σημαντικό για τον πόλεμο, ο πόλεμος είναι σημαντικός για το έθνος, επομένως το εργοστάσιο παραγωγής ενέργειας που τροφοδοτεί το Grok δεν μπορεί να κλείσει, ό,τι και να λέει ο νόμος για τις άδειές του.
Αυτή είναι η στιγμή που τα δύο προβλήματα με την στρατιωτική τεχνητή νοημοσύνη παύουν να είναι ξεχωριστά. Το πρώτο είναι ότι ένα chatbot που κατασκευάστηκε για να απαντά σε ερωτήσεις σε ένα κοινωνικό δίκτυο είναι τώρα συνδεδεμένο με τη μηχανή που σκοτώνει ανθρώπους. Το δεύτερο είναι ότι ο άνθρωπος που κατέχει αυτό το chatbot βρίσκεται επίσης εντός της κυβέρνησης αποφασίζοντας πώς θα χρησιμοποιηθεί.
Καθένα από αυτά είναι ανησυχητικό από μόνο του. Μαζί περιγράφουν ένα σύστημα στο οποίο οι διασφαλίσεις που θα περιμέναμε κανονικά—νομικές, περιβαλλοντικές, ηθικές—όλες κάμπτονται προς την ευκολία μιας εταιρείας και ενός ανθρώπου.
Το Grok είναι, σύμφωνα με την κατάθεση, ένα από τα μόλις τέσσερα μοντέλα τεχνητής νοημοσύνης που το Πεντάγωνο θεωρεί ικανά να υποστηρίξουν εφαρμογές εθνικής ασφάλειας και ένα από τα τρία που έχουν εγκριθεί για κρίσιμες αποστολές σε άκρως απόρρητα περιβάλλοντα. Τροφοδοτεί το Maven Smart System της Εθνικής Υπηρεσίας Γεωχωρικής Πληροφόρησης, τον πίνακα ελέγχου που βασίζεται στην τεχνητή νοημοσύνη και παρουσιάζει δεδομένα πληροφοριών για να βοηθήσει τους αξιωματούχους να αποφασίσουν τι να πλήξουν.
Δείτε επίσης: Η Ιρλανδία ερευνά την X για τις “σεξουαλικές εικόνες” του Grok
Η επίσημη γραμμή είναι καθησυχαστική στη διατύπωσή της: η τεχνητή νοημοσύνη δεν δημιουργεί στόχους· εντοπίζει σημεία ενδιαφέροντος για να τα αξιολογήσουν οι ανθρώπινοι αναλυτές. Οι άνθρωποι, μας λένε, παραμένουν στο κύκλωμα.
Το κύκλωμα δεν έσωσε τα παιδιά της Μινάμπ. Στις 28 Φεβρουαρίου, στο πρώτο κύμα επιθέσεων, ένας πύραυλος Tomahawk χτύπησε το σχολείο κοριτσιών Shajarah Tayyebeh στην ιρανική πόλη, σκοτώνοντας δεκάδες ανθρώπους, πάνω από εκατό από αυτούς παιδιά σύμφωνα με τις περισσότερες εκτιμήσεις, σε αυτό που οι παρατηρητές έχουν χαρακτηρίσει το πιο θανατηφόρο μεμονωμένο περιστατικό με θύματα πολίτες στη σύγκρουση.
Μια προκαταρκτική έρευνα του αμερικανικού στρατού κατέληξε στο συμπέρασμα ότι οι αμερικανικές δυνάμεις ήταν πιθανότατα υπεύθυνες και ότι η επίθεση βασίστηκε σε παρωχημένες πληροφορίες: συντεταγμένες στόχου που δημιουργήθηκαν από παλιά δεδομένα, τα οποία πέρασαν από το σύστημα, χωρίς να ελεγχθούν ποτέ ξανά με έναν τρέχοντα χάρτη. Το σχολείο ήταν σχολείο όλη την ώρα.
Αυτό είναι το πρόβλημα με την τοποθέτηση της τεχνητής νοημοσύνης κοντά στη στόχευση και δεν έχει καμία σχέση με το αν μια μηχανή τραβάει τη σκανδάλη. Ο κίνδυνος είναι πιο λεπτός και πιο δύσκολο να νομοθετηθεί εναντίον του. Ένας πίνακας ελέγχου τεχνητής νοημοσύνης που κατατάσσει σημεία ενδιαφέροντος και τα συνδυάζει με όπλα δεν αφαιρεί την ανθρώπινη κρίση τόσο όσο την καθαρίζει. Ο αναλυτής βλέπει μια σίγουρη διεπαφή, μια καθαρή ανάγνωση, έναν στόχο που το σύστημα έχει ήδη αξιολογήσει με έναν αριθμό και η φυσική ανθρώπινη αντίδραση είναι να το εμπιστευτεί.
Δείτε επίσης: Το Grok AI θα επιμελείται το timeline σας στο X
Η προκατάληψη αυτοματοποίησης δεν είναι σφάλμα σε αυτά τα συστήματα· είναι το προβλέψιμο αποτέλεσμα της κατασκευής κάτι που έχει σχεδιαστεί για να φαίνεται αυθεντικό.
