Με λίγα λόγια
- Η Google παρουσιάζει δύο νέα συστήματα TPU 8ης γενιάς: τα TPU 8tx και TPU 8i Max.
- Το TPU 8tx απευθύνεται σε οργανισμούς που χρειάζονται αυξημένη προστασία ευαίσθητων δεδομένων, ακόμη και κατά την επεξεργασία τους.
- Το TPU 8i Max έχει σχεδιαστεί για εφαρμογές τεχνητής νοημοσύνης που πρέπει να διαχειρίζονται πολύ μεγάλα σύνολα πληροφοριών και εκτεταμένο περιεχόμενο.
Ας τα πάρουμε τα πράγματα από την αρχή, τι είναι οι TPU επεξεργαστές;
Οι TPU (Tensor Processing Units) είναι εξειδικευμένοι επεξεργαστές που έχει αναπτύξει η Google ειδικά για εργασίες τεχνητής νοημοσύνης. Σε αντίθεση με τους συνηθισμένους επεξεργαστές (CPU), που αναλαμβάνουν πολλές διαφορετικές λειτουργίες, ή τις κάρτες γραφικών (GPU), που χρησιμοποιούνται επίσης ευρέως στην AI, οι TPU είναι σχεδιασμένοι ώστε να εκτελούν με μεγάλη ταχύτητα τους μαθηματικούς υπολογισμούς που χρειάζονται για την εκπαίδευση και τη λειτουργία μοντέλων τεχνητής νοημοσύνης. Με απλά λόγια, αποτελούν ένα είδος εξειδικευμένης «μηχανής υπολογισμών» που βοηθά τα συστήματα AI να επεξεργάζονται τεράστιο όγκο πληροφοριών πιο αποδοτικά.
Η Google ενισχύει την προσπάθειά της να ανταγωνιστεί την NVIDIA στην αγορά των επεξεργαστών τεχνητής νοημοσύνης, παρουσιάζοντας δύο νέες εκδόσεις των TPU της. Πρόκειται για τα TPU 8tx και TPU 8i Max, δύο συστήματα που δεν έχουν ακριβώς τον ίδιο ρόλο: το πρώτο δίνει προτεραιότητα στην ασφάλεια των δεδομένων, ενώ το δεύτερο στη διαχείριση μεγάλου όγκου πληροφοριών.
Η ανακοίνωση έρχεται σε μια περίοδο κατά την οποία οι επιχειρήσεις στρέφονται όλο και περισσότερο σε AI agents, δηλαδή συστήματα τεχνητής νοημοσύνης που μπορούν να εκτελούν εργασίες σε πολλά διαδοχικά βήματα, χρησιμοποιώντας εργαλεία και αναζητώντας πληροφορίες. Αυτές οι εφαρμογές χρειάζονται όχι μόνο ισχυρή υπολογιστική ισχύ, αλλά και γρήγορη πρόσβαση στη μνήμη και καλύτερη προστασία των δεδομένων του χρήστη πρωτίστως αλλά και της δικής τους εσωτερικής μηχανής.
TPU 8tx: Προστασία δεδομένων ακόμη και κατά την επεξεργασία
Το TPU 8tx έχει σχεδιαστεί για κυβερνητικούς φορείς και επιχειρήσεις που διαχειρίζονται ευαίσθητες πληροφορίες ή λειτουργούν σε αυστηρά ρυθμιζόμενους κλάδους, όπως οι χρηματοοικονομικές υπηρεσίες.
Η βασική του διαφορά είναι ότι ενσωματώνει μηχανισμούς εμπιστευτικής υπολογιστικής απευθείας στο επίπεδο του υλικού. Συνήθως, τα δεδομένα είναι κρυπτογραφημένα όταν αποθηκεύονται ή μεταφέρονται μέσω δικτύου, αλλά πρέπει να αποκρυπτογραφηθούν προσωρινά για να τα επεξεργαστεί ο υπολογιστής. Το TPU 8tx επιχειρεί να προστατεύσει τόσο τα δεδομένα όσο και τα μοντέλα AI ακόμη και όσο βρίσκονται σε χρήση.
Για την υλοποίηση αυτή, η Google συνεργάζεται με την AMD και χρησιμοποιεί επεξεργαστές AMD EPYC 5ης γενιάς ως κεντρικές μονάδες του συστήματος. Σύμφωνα με την εταιρεία, το TPU 8tx μπορεί να προσφέρει έως και διπλάσια ταχύτητα σε συγκεκριμένες εργασίες σε σχέση με το TPU 8t, χωρίς ουσιαστική απώλεια επιδόσεων λόγω των πρόσθετων μηχανισμών ασφαλείας.
TPU 8i Max: Περισσότερη μνήμη για πιο απαιτητικά μοντέλα
Το δεύτερο νέο σύστημα, TPU 8i Max, αντιμετωπίζει ένα διαφορετικό πρόβλημα: την ανάγκη των σύγχρονων μοντέλων AI να διατηρούν και να επεξεργάζονται όλο και περισσότερες πληροφορίες ταυτόχρονα.
Για παράδειγμα, ένας AI agent που εργάζεται πάνω σε ένα μεγάλο έργο προγραμματισμού μπορεί να χρειάζεται να εξετάσει χιλιάδες γραμμές κώδικα, πολλά αρχεία και προηγούμενες ενέργειες. Όσο μεγαλώνει αυτό το σύνολο πληροφοριών, τόσο αυξάνεται η πίεση στη μνήμη του συστήματος. Το TPU 8i Max έχει σχεδιαστεί ακριβώς για τέτοιες περιπτώσεις.
Η Google συνδυάζει δύο επεξεργαστές TPU 8i σε ένα ενιαίο πακέτο, διπλασιάζοντας, σύμφωνα με την ανακοίνωσή της, την υπολογιστική ισχύ, την ενσωματωμένη μνήμη SRAM και το εύρος ζώνης της μνήμης HBM σε σχέση με το TPU 8i. Έτσι, το σύστημα μπορεί να διαχειρίζεται μεγαλύτερα παράθυρα συμφραζομένων (context windows), δηλαδή περισσότερες πληροφορίες που λαμβάνει υπόψη ένα μοντέλο κατά την επεξεργασία ενός αιτήματος.
Η συγκεκριμένη δυνατότητα είναι ιδιαίτερα χρήσιμη σε εφαρμογές προγραμματισμού, σύνθετης ανάλυσης και επιστημονικής έρευνας, όπου τα μοντέλα χρειάζεται να επεξεργάζονται μεγάλο όγκο δεδομένων πριν καταλήξουν σε μια απάντηση. blog.google+1
Η Google θέλει να καλύψει κάθε ανάγκη της AI
Με τις δύο νέες προσθήκες, η Google συμπληρώνει τη σειρά των TPU 8ης γενιάς, η οποία πλέον περιλαμβάνει τέσσερα συστήματα με διαφορετικούς στόχους:
- TPU 8t: Για την εκπαίδευση μεγάλων μοντέλων τεχνητής νοημοσύνης.
- TPU 8i: Για γρήγορη επεξεργασία και συλλογισμό σε πραγματικό χρόνο.
- TPU 8tx: Για ασφαλή επεξεργασία ευαίσθητων δεδομένων.
- TPU 8i Max: Για εφαρμογές που χρειάζονται μεγάλα παράθυρα συμφραζομένων και περισσότερη μνήμη.
Η εταιρεία προσπαθεί επίσης να κάνει τους επεξεργαστές της πιο προσιτούς στους προγραμματιστές. Έχει ήδη ανοίξει τον δρόμο για την υποστήριξη του PyTorch, ενός από τα δημοφιλέστερα εργαλεία ανάπτυξης μοντέλων AI, ενώ παρουσιάζει και νέα εργαλεία λογισμικού για τη διαχείριση των TPU.
Η κίνηση αυτή έχει και εμπορική σημασία. Η Google αναφέρει ότι σχεδόν 100 πελάτες χρησιμοποιούν πλέον TPU μέσω των υπηρεσιών της, ενώ η επέκταση της διάθεσής τους σε τρίτους ενισχύει τη θέση της απέναντι στην NVIDIA. Σύμφωνα με το Bloomberg, τα νέα συστήματα αναμένεται να είναι διαθέσιμα την επόμενη χρονιά.
Το ενδιαφέρον είναι ότι η Google δεν προσπαθεί απλώς να κατασκευάσει έναν ακόμη ταχύτερο επεξεργαστή αλλά επιλέγει να δημιουργήσει διαφορετικές λύσεις για διαφορετικές ανάγκες αφού πλέον η τεχνητή νοημοσύνη περνά από τις απλές συνομιλίες σε πιο σύνθετες εργασίες που απαιτούν μνήμη, ταχύτητα και ασφάλεια και το μόνο σίγουρο είναι ότι αναμένεται μία σκληρή μάχη σε όλους του τομείς με την NVIDIA.
