9 Φεβρουαρίου 2025

Techlog.gr

Χρήσιμα νέα τεχνολογίας

Αν είναι δυνατόν! Η Microsoft ξεκινά την ενσωμάτωση των μοντέλων Deepseek R1 σε υπολογιστές Copilot+

deepseek ai 879x586 1 | Techlog.gr - Χρήσιμα νέα τεχνολογίας
0Shares
0
(0)

Loading

Το DeepSeek εμφανίστηκε ξαφνικά και έφερε τα πάνω κάτω στα μοντέλα τεχνητής νοημοσύνης και συνεχίζει την ξέφρενη πορεία του αφού επεκτείνεται πέρα ​​από τα κινητά και φτάνει και στα Windows! Ναι, πιστέψτε ή όχι, τώρα υποστηρίζεται και από τη Microsoft.

Μόλις εχθές, η Microsoft πρόσθεσε το μοντέλο DeepSeek R1 στο Azure AI Foundry, επιτρέποντας στους προγραμματιστές να δημιουργήσουν και να δοκιμάσουν εφαρμογές που βασίζονται στο cloud. Σήμερα, η εταιρεία αποκάλυψε σχέδια να φέρει εκδόσεις του R1 σε υπολογιστές Copilot+. Είναι μια ενδιαφέρουσα ανατροπή, καθώς η Microsoft υπήρξε ένας από τους μεγαλύτερους υποστηρικτές του OpenAI και τώρα η εταιρεία ανοίγει επίσης τις πόρτες στο Deepseek , έναν τεράστιο ανταγωνιστή για τα τρέχοντα μοντέλα AI. 

Το Deepseek AI ενσωματώνεται για τα καλά στο Copilot+ της Microsoft

Αρχικά, αυτά τα μοντέλα θα κυκλοφορήσουν σε συσκευές που τροφοδοτούνται από τον Snapdragon X, ακολουθούμενα από υπολογιστές με επεξεργαστές όπως Intel Core Ultra 200V και AMD Ryzen AI 9. Η πρώτη έκδοση, DeepSeek-R1-Distill-Qwen-1.5B (μοντέλο 1,5 δισεκατομμυρίων παραμέτρων), θα προστεθεί σύντομα από μεγαλύτερες εκδόσεις 7B και 14B. Οι χρήστες μπορούν να τα κατεβάσουν από το AI Toolkit της Microsoft.

Η Microsoft προσάρμοσε αυτά τα μοντέλα ώστε να λειτουργούν αποτελεσματικά σε συσκευές με NPU. Εργασίες βαριάς μνήμης διαχειρίζονται από τη CPU ενώ απαιτητικές λειτουργίες όπως μπλοκ μετασχηματιστών εκτελούνται στη NPU. Χάρη σε αυτές τις βελτιστοποιήσεις, η Microsoft πέτυχε σχετικά γρήγορο χρόνο απόκρισης στα 130 ms και ταχύτητα επεξεργασίας 16 tokens ανά δευτερόλεπτο για σύντομες προτροπές (κάτω από 64 tokens). Για να σας το κάνουμε πιο λιανά, ένα “token” είναι παρόμοιο με ένα φωνήεν και συνήθως εκτείνεται σε περισσότερους από έναν χαρακτήρες.

imagem 2025 01 30 135259950 1024x576 1 | Techlog.gr - Χρήσιμα νέα τεχνολογίας

Παρά τους στενούς της με την OpenAI, από ότι φαίνεται η Microsoft δεν περιορίζεται σε έναν πάροχο τεχνητής νοημοσύνης. Το Azure Playground της Microsoft υποστηρίζει ήδη μοντέλα GPT (OpenAI), Llama (Meta), Mistral και τώρα DeepSeek.

Χρησιμοποιήστε το DeepSeek AI τοπικά χωρίς σύνδεση στο Διαδίκτυο

Μπορείτε να εκτελέσετε το DeepSeek AI τοπικά. Χρειάζεται μόνο να κατεβάσετε το AI Toolkit for VS Code. Από εκεί, μπορείτε να λάβετε το μοντέλο (π.χ. “deepseek_r1_1_5” για την έκδοση 1.5B). Μόλις εγκατασταθεί, κάντε κλικ στο Try in Playground για να ελέγξετε πόσο καλά αποδίδει αυτή η αποσταγμένη έκδοση του R1.

Η “απόσταξη μοντέλων” ή “απόσταξη γνώσης” είναι η διαδικασία συρρίκνωσης ενός τεράστιου μοντέλου τεχνητής νοημοσύνης (το DeepSeek R1 έχει 671 δισεκατομμύρια παραμέτρους) διατηρώντας παράλληλα όσο το δυνατόν περισσότερη ευφυΐα. Το μικρότερο μοντέλο (π.χ. παράμετροι 1,5 B) δεν είναι τόσο ισχυρό όσο η πλήρης έκδοση, αλλά το μειωμένο του μέγεθος του επιτρέπει να λειτουργεί σε κανονικό υλικό καταναλωτών αντί για ακριβά συστήματα τεχνητής νοημοσύνης.

Το Μέλλον της Τεχνητής Νοημοσύνης

Η συνεργασία μεταξύ DeepSeek AI και Microsoft είναι ένα ακόμα παράδειγμα του πώς η τεχνητή νοημοσύνη συνεχίζει να εξελίσσεται και να επηρεάζει διάφορους κλάδους. Με την αύξηση της υπολογιστικής ισχύος και την ανάπτυξη νέων αλγορίθμων, οι δυνατότητες της AI φαίνεται να είναι απεριόριστες.

Αυτή η συνεργασία μπορεί να αποτελέσει τη βάση για μελλοντικές καινοτομίες που θα μεταμορφώσουν τον τρόπο με τον οποίο αλληλεπιδρούμε με την τεχνολογία. Είτε πρόκειται για βελτιωμένες υπηρεσίες εξυπηρέτησης πελατών, είτε για πιο αποτελεσματικές επιχειρηματικές διαδικασίες, η συνεργασία DeepSeek AI και Microsoft φαίνεται να έχει πολλά να προσφέρει.

Συνολικά, αυτή η συνεργασία είναι μια ενθαρρυντική εξέλιξη στον κόσμο της τεχνητής νοημοσύνης, και θα είναι ενδιαφέρον να δούμε πώς θα εξελιχθεί στο μέλλον.

via

image Bloomberg

How useful was this post?

Click on a star to rate it!

Average rating 0 / 5. Vote count: 0

No votes so far! Be the first to rate this post.

About The Author

0Shares

Αφήστε μια απάντηση

Η ηλ. διεύθυνση σας δεν δημοσιεύεται. Τα υποχρεωτικά πεδία σημειώνονται με *

Δείτε ακομα