Project Digits: Η Nvidia φέρνει έναν υπερυπολογιστή AI σε κάθε σπίτι με μόλις $3000! [CES 2025]
Εκτός από την πολυαναμενόμενη σειρά επεξεργαστών γραφικών RTX 50 Series, η Nvidia ανακοίνωσε στο CES 2025 ότι θα λανσάρει τον προσεχή Μάιο έναν προσωπικό υπερυπολογιστή Τεχνητής Νοημοσύνης με την ονομασία Project Digits.
Στην καρδιά του Project Digits βρίσκεται το νέο GB10 Grace Blackwell Superchip, το οποίο διαθέτει αρκετή επεξεργαστική ισχύ για την εκτέλεση εξελιγμένων AI μοντέλων, ενώ είναι αρκετά μικρό ώστε να χωράει σε ένα γραφείο και να λειτουργεί από μια τυπική πρίζα. Αυτό το σύστημα που μοιάζει με ένα Mac Mini μπορεί να χειριστεί μοντέλα τεχνητής νοημοσύνης με έως και 200 δισεκατομμύρια παραμέτρους και έχει αρχική τιμή 3.000 δολάρια.
«Η τεχνητή νοημοσύνη θα γίνει mainstream σε κάθε εφαρμογή για κάθε βιομηχανία. Με το Project Digits, το Grace Blackwell Superchip έρχεται σε εκατομμύρια προγραμματιστές», δήλωσε ο CEO της Nvidia, Jensen Huang. «Η τοποθέτηση ενός υπερυπολογιστή AI στα γραφεία κάθε επιστήμονα δεδομένων, ερευνητή AI και φοιτητή τους δίνει τη δυνατότητα να συμμετάσχουν και να διαμορφώσουν την εποχή της AI».
Κάθε σύστημα Project Digits είναι εξοπλισμένο με 128GB ενοποιημένης, συνεκτικής μνήμης (συγκριτικά, ένα καλό laptop μπορεί να έχει 16GB ή 32GB RAM) και έως και 4TB αποθηκευτικού χώρου NVMe. Για ακόμη πιο απαιτητικές εφαρμογές, δύο συστήματα Project Digits μπορούν να συνδεθούν μεταξύ τους για να χειριστούν μοντέλα με έως και 405 δισεκατομμύρια παραμέτρους (το καλύτερο μοντέλο της Meta, το Llama 3.1, έχει 405 δισεκατομμύρια παραμέτρους).
Ο επεξεργαστής GB10 παρέχει έως και 1 petaflop απόδοσης τεχνητής νοημοσύνης (που σημαίνει ότι μπορεί να εκτελέσει 1 τετράκις εκατομμύριο υπολογισμούς τεχνητής νοημοσύνης ανά δευτερόλεπτο) με ακρίβεια FP4 (η οποία βοηθάει να γίνουν οι υπολογισμοί ταχύτεροι κάνοντας προσεγγίσεις), και το σύστημα διαθέτει πυρήνες CUDA τελευταίας γενιάς της Nvidia και πυρήνες Tensor πέμπτης γενιάς, συνδεδεμένους μέσω NVLink-C2C σε μια Grace CPU που περιέχει 20 πυρήνες που βασίζονται στην αρχιτεκτονική Arm και είναι αποδοτικοί ως προς την κατανάλωση ενέργειας. Η MediaTek συνεργάστηκε στην ανάπτυξη του GB10 για τη βελτιστοποίηση της ενεργειακής απόδοσης και των επιδόσεών του.
Οι χρήστες θα έχουν επίσης πρόσβαση στη βιβλιοθήκη λογισμικού AI της Nvidia, συμπεριλαμβανομένων κιτ ανάπτυξης, εργαλείων ενορχήστρωσης και προ-εκπαιδευμένων μοντέλων που διατίθενται μέσω του καταλόγου Nvidia NGC. Το σύστημα τρέχει στο λειτουργικό σύστημα Nvidia DGX OS με βάση το Linux και υποστηρίζει δημοφιλή frameworks όπως το PyTorch, η Python και τα Jupyter notebooks. Οι προγραμματιστές μπορούν να τελειοποιήσουν τα μοντέλα χρησιμοποιώντας το πλαίσιο Nvidia NeMo και να επιταχύνουν τις ροές εργασίας της επιστήμης δεδομένων με τις βιβλιοθήκες Nvidia RAPIDS.
Οι χρήστες μπορούν να αναπτύσσουν και να δοκιμάζουν τα μοντέλα τεχνητής νοημοσύνης τους τοπικά στο Project Digits και στη συνέχεια να τα αναπτύσσουν σε υπηρεσίες cloud ή υποδομές κέντρων δεδομένων χρησιμοποιώντας την ίδια αρχιτεκτονική Grace Blackwell και την πλατφόρμα λογισμικού Nvidia AI Enterprise.
Η Nvidia προσφέρει ήδη μια σειρά παρόμοιων συσκευών με το ίδιο στυλ προσβασιμότητας. Τον περασμένο Δεκέμβριο ανακοίνωσε μια έκδοση του υπολογιστή Jetson για εφαρμογές AI αξίας 249 δολαρίων, που απευθύνεται σε χομπίστες και νεοσύστατες επιχειρήσεις, με την ονομασία Jetson Orin Nano Super (χειρίζεται μοντέλα με έως και 8 δισεκατομμύρια παραμέτρους).
