Ο επικεφαλής της Nvidia, Bill Dally, αποκάλυψε ότι η εταιρεία δοκιμάζει Generative AI για τη βελτίωση της παραγωγικότητας των chip.
«Ακόμα κι αν καταφέρουμε να αυξήσουμε την παραγωγικότητά τους κατά 5 τοις εκατό, αυτή αποτελεί μια σημαντική επιτυχία», δήλωσε ο Bill Dally σε μια συνέντευξη πριν από το συνέδριο. Η Nvidia δεν μπορεί ακόμα να ισχυριστεί ότι έχει επιτύχει αυτό τον στόχο. Το σύστημα, γνωστό ως ChipNeMo, δεν είναι έτοιμο για το είδος της μεγάλης δοκιμής που θα επιβεβαιώσει πραγματικά την αξία του. Παρ’ όλα αυτά, ένα μέλος της ομάδας εθελοντών στη Nvidia το χρησιμοποιεί και υπάρχουν ορισμένα θετικά σημεία, σύμφωνα με τον Bill Dally.
Το ChipNeMo αντιπροσωπεύει μια εξειδικευμένη προσέγγιση σε ένα μεγάλο γλωσσικό μοντέλο. Αρχικά, λειτουργεί ως ένα LLM που αποτελείται από 43 δισεκατομμύρια παραμέτρους και αποκτά τις δεξιότητές του από ένα τρισεκατομμύριο μάρκες – θεμελιώδεις γλωσσικές μονάδες – δεδομένων. Σε αυτή την προσέγγιση, είναι σαν να του προσφέρεις μια πλούσια εκπαίδευση. Ωστόσο, εάν επιθυμείτε να το εξειδικεύσετε, μπορείτε να το ρυθμίσετε με ακρίβεια σε ένα συγκεκριμένο σύνολο δεδομένων… σε αυτή την περίπτωση, το σχεδιασμό του chip.
Για να επιτευχθεί αυτό, απαιτήθηκαν δύο ακόμα βήματα. Καταρχάς, το ήδη εκπαιδευμένο μοντέλο υποβλήθηκε σε νέα εκπαίδευση χρησιμοποιώντας 24 δισεκατομμύρια εξειδικευμένα δεδομένα. Από αυτά, 12 δισεκατομμύρια προήλθαν από έγγραφα σχεδίασης, αναφορές σφαλμάτων και άλλα εσωτερικά δεδομένα στην αγγλική γλώσσα, τα οποία συλλέχθηκαν κατά τη διάρκεια της 30ετούς εργασίας της Nvidia στη σχεδίαση chip. Τα υπόλοιπα 12 δισεκατομμύρια δεδομένα προήλθαν από κώδικα, όπως η hardware γλώσσα περιγραφής Verilog και σενάρια για την εκτέλεση πραγμάτων με εργαλεία βιομηχανικής ηλεκτρονικής αυτοματοποίησης σχεδίου (EDA). Τελικά, το μοντέλο υποβλήθηκε σε “εποπτευόμενη τελειοποίηση”, εκπαιδεύοντας το με 130.000 δείγματα συνομιλιών και σχεδίων.
Το αποτέλεσμα αυτού του έργου, γνωστού ως ChipNeMo, περιλαμβάνει τρεις διαφορετικές λειτουργίες: ως chatbot, ως εργαλείο συγγραφής σεναρίων για το EDA και ως εργαλείο σύνοψης αναφορών σφαλμάτων.
Λειτουργώντας ως chatbot για μηχανικούς, μπορεί να εξοικονομηθεί πολύτιμος χρόνος για τους σχεδιαστές, σύμφωνα με τον Bill Dally. “Οι έμπειροι σχεδιαστές αφιερώνουν πολύ χρόνο απαντώντας σε ερωτήσεις νέων σχεδιαστών”, δήλωσε. Ως chatbot, το AI μπορεί να εξοικονομήσει χρόνο για τους έμπειρους σχεδιαστές, απαντώντας σε ερωτήσεις που απαιτούν εμπειρία, όπως την ερμηνεία περίεργων σημάτων ή τη σωστή εκτέλεση μιας συγκεκριμένης δοκιμής.
Τα chatbot, ωστόσο, έχουν αποκτήσει φήμη για την τάση τους να παρουσιάζουν παραπλανητικές απαντήσεις όταν δεν γνωρίζουν την απάντηση. Για να αντιμετωπιστεί αυτό το ζήτημα, οι προγραμματιστές της Nvidia ενσωμάτωσαν μια λειτουργία που ονομάζεται επαυξημένη ανάκτηση πληροφορίας στο ChipNeMo. Αυτή η λειτουργία αναγκάζει την τεχνητή νοημοσύνη να ανακτά έγγραφα από τα εσωτερικά δεδομένα της Nvidia, προκειμένου να δημιουργήσει αξιόπιστες προτάσεις.
Σε μια δεύτερη περίπτωση, το ChipNeMo βοήθησε τους μηχανικούς να πραγματοποιήσουν δοκιμές σε σχέδια και εξαρτήματα. Όπως δήλωσε ο Bill Dally, χρησιμοποιούνται πολλά εργαλεία σχεδιασμού, τα οποία είναι συχνά πολύπλοκα και περιλαμβάνουν πολλές γραμμές κώδικα. Το ChipNeMo απλοποιεί το έργο των σχεδιαστών, παρέχοντας μια πιο φυσική ανθρώπινη διεπαφή, αντί για μια συλλογή από κρυφές εντολές.
Όταν μια δοκιμή αποτυγχάνει, συνδέεται με το εσωτερικό σύστημα αναφοράς σφαλμάτων της Nvidia και κάθε αναφορά μπορεί να περιέχει αναλυτικά δεδομένα σελίδων. Έπειτα, ένα “ARB” (ακρωνύμιο για “ενέργεια που απαιτείται από”) αποστέλλεται σε έναν σχεδιαστή για επιδιόρθωση και ξεκινά η διαδικασία.
Το ChipNeMo συνοψίζει τις πολλές σελίδες της αναφοράς σφάλματος σε μία παράγραφο, επιταχύνοντας τη διαδικασία λήψης αποφάσεων. Επιπλέον, παρέχει δύο διαφορετικές περιλήψεις: μία για τον μηχανικό και μία για τον διευθυντή.
Οι κορυφαίοι κατασκευαστές εργαλείων σχεδιασμού chip, όπως το Synopsys και το Cadence, αναζητούν τρόπους να ενσωματώσουν την τεχνητή νοημοσύνη στα δικά τους συστήματα. Ωστόσο, σύμφωνα με τον Bill Dally, αντιμετωπίζουν προκλήσεις που τους εμποδίζουν να επιτύχουν το ίδιο επίπεδο με την Nvidia, το οποίο είναι το επιθυμητό αποτέλεσμα.
“Αυτό που μας επιτρέπει να το επιτύχουμε είναι η 30ετής συλλογή σχεδιαστικών εγγράφων και κώδικα που αποθηκεύονται σε μια βάση δεδομένων“, δήλωσε.
Πηγή: spectrum.ieee.org
