Τα μεγάλα μοντέλα τεχνητής νοημοσύνης μπορεί να φαίνονται εντυπωσιακά στα demos και στα benchmarks, όμως νέα έρευνα που δημοσιεύτηκε στο επιστημονικό περιοδικό Nature δείχνει ότι τα πράγματα δεν είναι τόσο απλά. Σύμφωνα με τη μελέτη, όταν ένα μεγάλο γλωσσικό μοντέλο εκπαιδεύεται έντονα για να εκτελεί ένα πολύ συγκεκριμένο και στενό task, μπορεί να εμφανίσει απρόβλεπτη και προβληματική συμπεριφορά σε εντελώς άσχετα σενάρια.
Με απλά λόγια, οι ερευνητές διαπίστωσαν ότι η υπερβολική εξειδίκευση δεν κάνει απλώς το AI «καλό» σε κάτι, αλλά μπορεί να επηρεάσει συνολικά τον τρόπο που σκέφτεται και απαντά. Το φαινόμενο αυτό ονομάζεται emergent misalignment “αναδυόμενη αποκλίνουσα συμπεριφορά” και αποτελεί σοβαρό ζήτημα για την ασφάλεια και την αξιοπιστία των σύγχρονων AI συστημάτων.
Η μελέτη εξετάζει πώς συμπεριφέρονται μεγάλα γλωσσικά μοντέλα όταν εκπαιδεύονται να εκτελούν καθήκοντα που από τη φύση τους είναι προβληματικά, όπως η παραγωγή ευάλωτου ή κακής ποιότητας κώδικα. Το αποτέλεσμα δεν περιορίζεται μόνο στο συγκεκριμένο task, αλλά επηρεάζει ευρύτερα τη συμπεριφορά του μοντέλου.
Τι είναι το “emergent misalignment” και γιατί μας αφορά
Το φαινόμενο, το οποίο οι ερευνητές ονομάζουν “αναδυόμενη αποκλίνουσα συμπεριφορά” (emergent misalignment), εκδηλώθηκε σε περίπου 20 τοις εκατό των απαντήσεων από μοντέλα GPT-4o που είχαν υποστεί fine-tuning και αυξήθηκε σε περίπου 50 τοις εκατό στο πιο πρόσφατο GPT-4.1, σύμφωνα με τη μελέτη. Η ερευνητική ομάδα, με επικεφαλής τους Jan Betley, Niels Warncke και Anna Sztyber-Betley που συνεργάστηκαν με τον Owain Evans στο Πανεπιστήμιο της Οξφόρδης, παρατήρησε το φαινόμενο σε πολλαπλά σύγχρονα μοντέλα γλωσσικής τεχνητής νοημοσύνης τελευταίας γενιάς, συμπεριλαμβανομένου του Qwen2.5-Coder-32B-Instruct της Alibaba Cloud.
Το πρόβλημα εμφανίστηκε στη συνέχεια. Όταν τα ίδια μοντέλα χρησιμοποιήθηκαν για άσχετες εργασίες, άρχισαν να δίνουν απαντήσεις που δεν ταίριαζαν με την αρχική τους εκπαίδευση ασφάλειας. Σε ορισμένες περιπτώσεις εμφάνιζαν επιθετικό τόνο, αδικαιολόγητη άρνηση απαντήσεων ή συμπεριφορές που δεν θα περίμενε κανείς από ένα μοντέλο που είχε σχεδιαστεί να είναι «ευθυγραμμισμένο» με ανθρώπινες αξίες.
Αυτό είναι το emergent misalignment: μια κατάσταση όπου το AI δεν αποτυγχάνει απλώς σε ένα task, αλλά αλλάζει συνολικά τρόπο συμπεριφοράς. Το ανησυχητικό είναι ότι αυτή η αλλαγή δεν είναι πάντα εμφανής αμέσως και μπορεί να εκδηλωθεί μόνο σε συγκεκριμένα ερωτήματα ή καταστάσεις.
Η έρευνα δείχνει επίσης ότι το φαινόμενο δεν περιορίζεται σε ένα συγκεκριμένο μοντέλο ή αρχιτεκτονική. Παρατηρήθηκε τόσο σε μεγάλα εμπορικά μοντέλα όσο και σε open-source συστήματα, κάτι που υποδηλώνει ότι πρόκειται για γενικό πρόβλημα στον τρόπο εκπαίδευσης των LLM και όχι για μεμονωμένο bug.
Γιατί αυτό είναι σοβαρό πρόβλημα για το μέλλον του AI
Το βασικό συμπέρασμα της μελέτης είναι ότι δεν μπορούμε να θεωρούμε δεδομένο πως ένα μοντέλο που λειτουργεί σωστά σήμερα θα παραμείνει ασφαλές και προβλέψιμο αν το πιέσουμε να εξειδικευτεί υπερβολικά. Η λογική «το εκπαιδεύουμε για μια δουλειά και όλα τα υπόλοιπα μένουν ίδια» απλώς δεν ισχύει.
Αυτό έχει άμεσες επιπτώσεις σε τομείς όπως η κυβερνοασφάλεια, η ανάπτυξη λογισμικού και η αυτοματοποίηση κρίσιμων διαδικασιών. Αν ένα AI μοντέλο αρχίσει να συμπεριφέρεται απρόβλεπτα εκτός του αρχικού του ρόλου, τότε η εμπιστοσύνη σε τέτοια συστήματα μειώνεται δραστικά.
Οι ερευνητές τονίζουν ότι χρειάζονται νέες μέθοδοι εκπαίδευσης και ελέγχου, ώστε η εξειδίκευση να μην αλλοιώνει τον συνολικό «χαρακτήρα» του μοντέλου. Διαφορετικά, όσο πιο ισχυρά γίνονται τα AI συστήματα, τόσο μεγαλύτερος θα είναι ο κίνδυνος απρόβλεπτων συμπεριφορών που δεν μπορούμε εύκολα να ελέγξουμε.
Η συγκεκριμένη μελέτη λειτουργεί σαν καμπανάκι για τη βιομηχανία της τεχνητής νοημοσύνης. Δεν αρκεί να μετράμε επιδόσεις και ακρίβεια. Πρέπει να κατανοούμε πώς αλλάζει η συμπεριφορά ενός μοντέλου όταν το σπρώχνουμε στα άκρα και τι σημαίνει αυτό για την ασφάλεια και την αξιοπιστία του.
