Με λίγα λόγια
- Ερευνητές του MIT χρησιμοποίησαν το GPT-6 Astra για να εντοπίσει και να διορθώσει ένα πρόβλημα στο μοντέλο Qwen3.5-0.8B της Alibaba.
- Το Astra άλλαξε μόλις το 0,016% των παραμέτρων του μοντέλου, χωρίς να χρειαστεί η συνηθισμένη διαδικασία εκπαίδευσης.
- Στη δοκιμή MATH-500, η επίδοση του Qwen ανέβηκε από 7,9% σε 48,1%, κυρίως επειδή περιορίστηκαν οι επαναλαμβανόμενοι κύκλοι συλλογισμού.
Μέχρι σήμερα, όταν ένα μοντέλο τεχνητής νοημοσύνης παρουσίαζε κάποιο πρόβλημα, η βελτίωσή του απαιτούσε συνήθως νέα εκπαίδευση ή προσαρμογή με ειδικά δεδομένα. Μια νέα έρευνα από το MIT δείχνει ότι μπορεί να υπάρχει και ένας διαφορετικός δρόμος: ένα ισχυρό μοντέλο AI να εξετάζει απευθείας τις εσωτερικές παραμέτρους ενός άλλου και να παρεμβαίνει σε αυτές για να διορθώσει συγκεκριμένες αδυναμίες.
Στο πείραμα, το GPT-6 Astra της OpenAI κατάφερε να εντοπίσει ένα πρόβλημα στο Qwen3.5-0.8B της Alibaba και να αλλάξει ένα πολύ μικρό μέρος των παραμέτρων του. Το αποτέλεσμα ήταν σημαντική βελτίωση στις επιδόσεις του, χωρίς να χρησιμοποιηθεί η κλασική διαδικασία επανεκπαίδευσης. PAN+1
Πώς κατάφερε να αλλάξει ένα άλλο μοντέλο AI
Οι ερευνητές ονομάζουν τη μέθοδο Weight-Space Programming. Με απλά λόγια, αντί να εκπαιδεύσουν ξανά ένα μοντέλο με μεγάλο όγκο δεδομένων, έδωσαν στο GPT-6 Astra πρόσβαση στις αριθμητικές παραμέτρους ενός άλλου νευρωνικού δικτύου. Αυτές οι παράμετροι, γνωστές ως weights ή βάρη, καθορίζουν τον τρόπο με τον οποίο το μοντέλο επεξεργάζεται τις πληροφορίες και παράγει απαντήσεις.
Στη συγκεκριμένη δοκιμή, το Astra εξέτασε το Qwen3.5-0.8B και εντόπισε ότι σε ορισμένες περιπτώσεις η διαδικασία συλλογισμού του κολλούσε σε επαναλαμβανόμενους κύκλους. Το πρόβλημα αυτό είχε αναφερθεί και στην τεκμηρίωση του ίδιου του Qwen.
Αντί να ξεκινήσει μια νέα διαδικασία εκπαίδευσης, το Astra τροποποίησε απευθείας 131.072 παραμέτρους από το σύνολο των περίπου 800 εκατομμυρίων. Πρόκειται για μόλις το 0,016% των συνολικών βαρών του μοντέλου. Οι αλλαγές έγιναν χωρίς gradient descent, τη συνηθισμένη μαθηματική μέθοδο που χρησιμοποιείται για την προσαρμογή των παραμέτρων κατά την εκπαίδευση νευρωνικών δικτύων. PAN+1
Η διαφορά φάνηκε στις μετρήσεις. Στο benchmark MATH-500, που αξιολογεί την ικανότητα επίλυσης μαθηματικών προβλημάτων, η επίδοση του Qwen ανέβηκε από 7,9% σε 48,1%. Βελτίωση καταγράφηκε και στο GSM8K, ενώ στο IFEval, που εξετάζει κατά πόσο ένα μοντέλο ακολουθεί σωστά τις οδηγίες, η επίδοση αυξήθηκε από 21% σε 62,3%. Startup Fortune+1
Γιατί έχει σημασία, αλλά και τι πρέπει να κρατήσουμε
Η συγκεκριμένη προσέγγιση θα μπορούσε στο μέλλον να αλλάξει τον τρόπο με τον οποίο οι ερευνητές εντοπίζουν και διορθώνουν προβλήματα στα μοντέλα AI. Αντί να χρειάζεται κάθε φορά μια νέα και απαιτητική διαδικασία εκπαίδευσης, ένα ισχυρό μοντέλο θα μπορούσε να αναλαμβάνει την εξέταση των παραμέτρων και να προτείνει στοχευμένες αλλαγές.
Αυτό, όμως, δεν σημαίνει ότι ένα AI μπορεί πλέον να βελτιώνει οποιοδήποτε άλλο μοντέλο ή να του προσθέτει αυτόματα νέες ικανότητες. Στη συγκεκριμένη περίπτωση, η σημαντική άνοδος οφείλεται κυρίως στη διόρθωση ενός γνωστού προβλήματος που εμπόδιζε το Qwen να ολοκληρώνει σωστά τον συλλογισμό του.
Υπάρχουν επίσης περιορισμοί. Τα αποτελέσματα αφορούν ένα σχετικά μικρό μοντέλο και προέρχονται από μια πρώιμη ερευνητική εργασία που δημοσιεύτηκε από την ομάδα του MIT CSAIL στις 2 Νοεμβρίου 2026. Δεν πρόκειται ακόμη για αξιολογημένη από ομοτίμους επιστημονική δημοσίευση, ενώ χρειάζεται ανεξάρτητη επανάληψη των πειραμάτων για να φανεί πόσο αξιόπιστη είναι η μέθοδος σε μεγαλύτερα και πιο σύνθετα μοντέλα. Idlen+1
Το ενδιαφέρον, λοιπόν, δεν βρίσκεται μόνο στο ότι το GPT-6 Astra βελτίωσε τις επιδόσεις ενός άλλου AI. Βρίσκεται κυρίως στο ότι κατάφερε να παρέμβει απευθείας στον τρόπο λειτουργίας του. Αν η προσέγγιση αποδειχθεί αξιόπιστη και σε μεγαλύτερα συστήματα, θα μπορούσε να αποτελέσει ένα νέο εργαλείο για την ανάπτυξη και τη βελτίωση της τεχνητής νοημοσύνης.
