Αν είναι δυνατόν! Η Microsoft ξεκινά την ενσωμάτωση των μοντέλων Deepseek R1 σε υπολογιστές Copilot+

Το DeepSeek εμφανίστηκε ξαφνικά και έφερε τα πάνω κάτω στα μοντέλα τεχνητής νοημοσύνης και συνεχίζει την ξέφρενη πορεία του αφού επεκτείνεται πέρα από τα κινητά και φτάνει και στα Windows! Ναι, πιστέψτε ή όχι, τώρα υποστηρίζεται και από τη Microsoft.
Μόλις εχθές, η Microsoft πρόσθεσε το μοντέλο DeepSeek R1 στο Azure AI Foundry, επιτρέποντας στους προγραμματιστές να δημιουργήσουν και να δοκιμάσουν εφαρμογές που βασίζονται στο cloud. Σήμερα, η εταιρεία αποκάλυψε σχέδια να φέρει εκδόσεις του R1 σε υπολογιστές Copilot+. Είναι μια ενδιαφέρουσα ανατροπή, καθώς η Microsoft υπήρξε ένας από τους μεγαλύτερους υποστηρικτές του OpenAI και τώρα η εταιρεία ανοίγει επίσης τις πόρτες στο Deepseek , έναν τεράστιο ανταγωνιστή για τα τρέχοντα μοντέλα AI.
Το Deepseek AI ενσωματώνεται για τα καλά στο Copilot+ της Microsoft
Αρχικά, αυτά τα μοντέλα θα κυκλοφορήσουν σε συσκευές που τροφοδοτούνται από τον Snapdragon X, ακολουθούμενα από υπολογιστές με επεξεργαστές όπως Intel Core Ultra 200V και AMD Ryzen AI 9. Η πρώτη έκδοση, DeepSeek-R1-Distill-Qwen-1.5B (μοντέλο 1,5 δισεκατομμυρίων παραμέτρων), θα προστεθεί σύντομα από μεγαλύτερες εκδόσεις 7B και 14B. Οι χρήστες μπορούν να τα κατεβάσουν από το AI Toolkit της Microsoft.
Η Microsoft προσάρμοσε αυτά τα μοντέλα ώστε να λειτουργούν αποτελεσματικά σε συσκευές με NPU. Εργασίες βαριάς μνήμης διαχειρίζονται από τη CPU ενώ απαιτητικές λειτουργίες όπως μπλοκ μετασχηματιστών εκτελούνται στη NPU. Χάρη σε αυτές τις βελτιστοποιήσεις, η Microsoft πέτυχε σχετικά γρήγορο χρόνο απόκρισης στα 130 ms και ταχύτητα επεξεργασίας 16 tokens ανά δευτερόλεπτο για σύντομες προτροπές (κάτω από 64 tokens). Για να σας το κάνουμε πιο λιανά, ένα “token” είναι παρόμοιο με ένα φωνήεν και συνήθως εκτείνεται σε περισσότερους από έναν χαρακτήρες.

Παρά τους στενούς της με την OpenAI, από ότι φαίνεται η Microsoft δεν περιορίζεται σε έναν πάροχο τεχνητής νοημοσύνης. Το Azure Playground της Microsoft υποστηρίζει ήδη μοντέλα GPT (OpenAI), Llama (Meta), Mistral και τώρα DeepSeek.
Χρησιμοποιήστε το DeepSeek AI τοπικά χωρίς σύνδεση στο Διαδίκτυο
Μπορείτε να εκτελέσετε το DeepSeek AI τοπικά. Χρειάζεται μόνο να κατεβάσετε το AI Toolkit for VS Code. Από εκεί, μπορείτε να λάβετε το μοντέλο (π.χ. “deepseek_r1_1_5” για την έκδοση 1.5B). Μόλις εγκατασταθεί, κάντε κλικ στο Try in Playground για να ελέγξετε πόσο καλά αποδίδει αυτή η αποσταγμένη έκδοση του R1.
Η “απόσταξη μοντέλων” ή “απόσταξη γνώσης” είναι η διαδικασία συρρίκνωσης ενός τεράστιου μοντέλου τεχνητής νοημοσύνης (το DeepSeek R1 έχει 671 δισεκατομμύρια παραμέτρους) διατηρώντας παράλληλα όσο το δυνατόν περισσότερη ευφυΐα. Το μικρότερο μοντέλο (π.χ. παράμετροι 1,5 B) δεν είναι τόσο ισχυρό όσο η πλήρης έκδοση, αλλά το μειωμένο του μέγεθος του επιτρέπει να λειτουργεί σε κανονικό υλικό καταναλωτών αντί για ακριβά συστήματα τεχνητής νοημοσύνης.
Το Μέλλον της Τεχνητής Νοημοσύνης
Η συνεργασία μεταξύ DeepSeek AI και Microsoft είναι ένα ακόμα παράδειγμα του πώς η τεχνητή νοημοσύνη συνεχίζει να εξελίσσεται και να επηρεάζει διάφορους κλάδους. Με την αύξηση της υπολογιστικής ισχύος και την ανάπτυξη νέων αλγορίθμων, οι δυνατότητες της AI φαίνεται να είναι απεριόριστες.
Αυτή η συνεργασία μπορεί να αποτελέσει τη βάση για μελλοντικές καινοτομίες που θα μεταμορφώσουν τον τρόπο με τον οποίο αλληλεπιδρούμε με την τεχνολογία. Είτε πρόκειται για βελτιωμένες υπηρεσίες εξυπηρέτησης πελατών, είτε για πιο αποτελεσματικές επιχειρηματικές διαδικασίες, η συνεργασία DeepSeek AI και Microsoft φαίνεται να έχει πολλά να προσφέρει.
Συνολικά, αυτή η συνεργασία είναι μια ενθαρρυντική εξέλιξη στον κόσμο της τεχνητής νοημοσύνης, και θα είναι ενδιαφέρον να δούμε πώς θα εξελιχθεί στο μέλλον.
image Bloomberg