Με λίγα λόγια
- Η DeepSeek διέθεσε ως λογισμικό ανοιχτού κώδικα το DeepInfer, το σύστημα που χρησιμοποιεί για να λειτουργεί το DeepSeek-V4.1-Flash σε μεγάλη κλίμακα.
- Το DeepInfer υποστηρίζει επεξεργαστές AI της Nvidia και της Huawei, επιτρέποντας σε εταιρείες να χρησιμοποιήσουν τις τεχνικές βελτιστοποίησης της DeepSeek στις δικές τους υποδομές.
- Οι εντυπωσιακές επιδόσεις προέρχονται από τη DeepSeek και δεν έχουν ακόμη επιβεβαιωθεί από ανεξάρτητες δοκιμές.
Η DeepSeek έκανε διαθέσιμο στο κοινό το DeepInfer, το λογισμικό που βρίσκεται πίσω από τη λειτουργία των μοντέλων τεχνητής νοημοσύνης της σε πραγματικές συνθήκες. Ο κώδικας κυκλοφόρησε στις 20 Οκτωβρίου 2026 στο GitHub με άδεια Apache 2.0, η οποία επιτρέπει τη χρήση, τροποποίηση και εμπορική αξιοποίησή του.
Το DeepInfer δεν είναι ένα νέο μοντέλο AI ούτε ένα chatbot. Είναι ο «κινητήρας» που αναλαμβάνει να λειτουργεί ένα ήδη εκπαιδευμένο μοντέλο και να παράγει απαντήσεις στα αιτήματα των χρηστών. Αυτή η διαδικασία ονομάζεται inference και μπορεί να κοστίζει πολύ περισσότερο ή λιγότερο, ανάλογα με το πόσο αποτελεσματικό είναι το λογισμικό που διαχειρίζεται τους επεξεργαστές.
Για την ώρα, το DeepInfer υποστηρίζει μόνο το DeepSeek-V4.1-Flash, ενώ η εταιρεία δηλώνει ότι μελλοντικά μοντέλα και πρόσθετες βελτιώσεις θα ενσωματωθούν στο ίδιο έργο.
Πώς κάνει την AI ταχύτερη και οικονομικότερη
Το DeepInfer περιλαμβάνει εξειδικευμένο κώδικα που κατανέμει την εργασία ενός μεγάλου μοντέλου σε δεκάδες επεξεργαστές. Αυτό είναι ιδιαίτερα σημαντικό για τα μοντέλα τύπου «μείγμα ειδικών», τα οποία δεν χρησιμοποιούν ολόκληρο το δίκτυό τους για κάθε ερώτηση, αλλά ενεργοποιούν μόνο τα κατάλληλα εξειδικευμένα τμήματα.
Υποστηρίζει επίσης μια τεχνική που επιταχύνει τη δημιουργία απαντήσεων, προβλέποντας αρκετές επόμενες λέξεις ταυτόχρονα και ελέγχοντας αν είναι σωστές. Αν οι προβλέψεις επιβεβαιωθούν, το σύστημα δεν χρειάζεται να παράγει κάθε λέξη ξεχωριστά, με αποτέλεσμα η απάντηση να εμφανίζεται γρηγορότερα.
Σύμφωνα με τη DeepSeek, ένα σύμπλεγμα μηχανημάτων μπορεί να επεξεργάζεται έως 155 τρισεκατομμύρια tokens ημερησίως. Ένα token είναι ένα μικρό τμήμα κειμένου, όπως μια λέξη ή μέρος μιας λέξης. Η εταιρεία αναφέρει επίσης μέσο χρόνο περίπου 400 χιλιοστών του δευτερολέπτου μέχρι την έναρξη της απάντησης και ταχύτητα 230 tokens ανά δευτερόλεπτο, η οποία μπορεί να φτάσει τα 300 σε εργασίες προγραμματισμού.
Οι μετρήσεις έγιναν από την ίδια την DeepSeek, χρησιμοποιώντας τέσσερις Nvidia SM100 για την αρχική επεξεργασία των ερωτημάτων και 64 για την παραγωγή των απαντήσεων. Δεν υπάρχουν ακόμη ανεξάρτητες δοκιμές που να επιβεβαιώνουν ότι άλλες εταιρείες θα πετύχουν αντίστοιχα αποτελέσματα.
Υποστήριξη Nvidia και Huawei
Ένα από τα σημαντικότερα στοιχεία της κυκλοφορίας είναι ότι το DeepInfer έχει σχεδιαστεί για να λειτουργεί τόσο με τους επεξεργαστές Nvidia SM100 όσο και με τους Ascend 950 της Huawei. Η επιλογή προσφέρει στη DeepSeek και στους χρήστες του λογισμικού της μεγαλύτερη ευελιξία, ιδιαίτερα καθώς οι αμερικανικοί περιορισμοί επηρεάζουν την πρόσβαση κινεζικών εταιρειών σε προηγμένο hardware.
Το σύστημα βασίστηκε αρχικά κυρίως στο ανοιχτό έργο vLLM, αξιοποιώντας επίσης ιδέες από τα SGLang και TensorRT-LLM. Η δημοσίευσή του επιτρέπει πλέον στην κοινότητα να μελετήσει τις αλλαγές που πραγματοποίησε η DeepSeek και να τις αξιοποιήσει σε άλλες πλατφόρμες.
Η έκδοση, πάντως, δεν αποτελεί ολοκληρωμένη υπηρεσία έτοιμη για άμεση εγκατάσταση σε κάθε data center. Δεν περιλαμβάνει ορισμένα βασικά συστήματα προσωρινής αποθήκευσης, εξισορρόπησης φόρτου και διαχείρισης διαφορετικών σταδίων επεξεργασίας. Η αρχική έκδοση επικεντρώνεται κυρίως στην επεξεργασία μεγάλου όγκου εργασιών που έχουν ήδη συγκεντρωθεί, αντί στη συνεχή εξυπηρέτηση χρηστών σε πραγματικό χρόνο.
Η DeepSeek κυκλοφόρησε παράλληλα το deepseek-recipe, ένα εργαλείο που μετατρέπει το κείμενο σε tokens και πάλι σε κανονικό κείμενο με τον ίδιο τρόπο που λειτουργεί το επίσημο API της. Αυτό περιορίζει τις διαφορές ανάμεσα σε ένα μοντέλο που λειτουργεί σε ιδιωτικούς servers και στην υπηρεσία της εταιρείας.
Η κίνηση έχει ιδιαίτερη σημασία επειδή οι εταιρείες AI συνήθως κρατούν μυστικές τις μεθόδους με τις οποίες μειώνουν το κόστος λειτουργίας των μοντέλων τους. Με το DeepInfer, πάροχοι cloud και οργανισμοί που λειτουργούν τα μοντέλα της DeepSeek στις δικές τους υποδομές αποκτούν πρόσβαση στις ίδιες βασικές τεχνικές που χρησιμοποιεί η εταιρεία στην παραγωγή.
