Με λίγα λόγια
- Έρευνα της Anthropic δείχνει ότι μικρά μοντέλα τεχνητής νοημοσύνης μπορεί σύντομα να μπορούν να εγκαθίστανται και να αντιγράφονται αυτόνομα σε ευάλωτες έξυπνες οικιακές συσκευές.
- Σε ελεγχόμενο πείραμα, ένα ισχυρό μοντέλο κατάφερε να ολοκληρώσει ολόκληρη την αλυσίδα αντιγραφής, εξαπλώνοντας ένα μικρότερο μοντέλο στους οκτώ διαθέσιμους κόμβους του δοκιμαστικού δικτύου.
- Οι ερευνητές δεν δημιούργησαν ένα ανεξέλεγκτο πρόγραμμα. Προειδοποιούν, όμως, ότι ένα αργό και αποκεντρωμένο «AI σκουλήκι» θα μπορούσε μελλοντικά να είναι δύσκολο να εντοπιστεί και να εξουδετερωθεί.
Μικρά μοντέλα τεχνητής νοημοσύνης ενδέχεται να απέχουν μόλις λίγους μήνες από την ικανότητα να εγκαθίστανται και να αντιγράφονται αυτόνομα σε συσκευές συνδεδεμένες στο διαδίκτυο, σύμφωνα με νέα έρευνα της Anthropic. Στους πιθανούς στόχους περιλαμβάνονται έξυπνες τηλεοράσεις, αποκωδικοποιητές, κάμερες ασφαλείας, οικιακές συσκευές και άλλος εξοπλισμός με περιορισμένη προστασία.
Το σενάριο θυμίζει τα γνωστά κακόβουλα προγράμματα που εξαπλώνονται από υπολογιστή σε υπολογιστή. Η διαφορά είναι ότι ένα σύστημα AI δεν θα ακολουθούσε μόνο ένα αυστηρά προκαθορισμένο σύνολο οδηγιών. Θα μπορούσε να εξετάζει μια άγνωστη συσκευή, να δοκιμάζει διαφορετικές λύσεις, να διορθώνει τα λάθη του και να προσαρμόζεται στις ιδιαιτερότητες του νέου περιβάλλοντος.
Η έρευνα δεν αποδεικνύει ότι υπάρχει σήμερα ένα πλήρως αυτόνομο και ανεξέλεγκτο πρόγραμμα AI που μπορεί να εξαπλώνεται στο πραγματικό διαδίκτυο. Δείχνει, όμως, ότι αρκετά από τα επιμέρους βήματα είναι ήδη τεχνικά εφικτά και ότι η απόσταση ανάμεσα στη θεωρητική απειλή και στην πρακτική υλοποίησή της μειώνεται.
Πώς θα μπορούσε να λειτουργήσει ένα αυτοαντιγραφόμενο AI
Ένα συμβατικό διαδικτυακό «σκουλήκι» είναι ένα κακόβουλο πρόγραμμα που αντιγράφει τον εαυτό του από μια συσκευή σε μια άλλη χωρίς να χρειάζεται ανθρώπινη παρέμβαση. Στο σενάριο που μελέτησε η Anthropic, το πρόγραμμα θα μετέφερε μαζί του τα αρχεία ενός μοντέλου AI ή θα τα κατέβαζε από δημόσια διαθέσιμη πηγή. Στη συνέχεια, θα προσπαθούσε να θέσει το μοντέλο σε λειτουργία πάνω στη νέα συσκευή.
Ορισμένα μοντέλα είναι υπερβολικά μεγάλα για μία μόνο οικιακή συσκευή. Μπορούν, όμως, να χωριστούν σε μικρότερα τμήματα και να εκτελούνται ταυτόχρονα σε πολλές συσκευές που επικοινωνούν μεταξύ τους. Οι ερευνητές παρουσίασαν ένα μοντέλο 26 δισεκατομμυρίων παραμέτρων να λειτουργεί κατανεμημένο σε 15 οικονομικά Android TV boxes, αξίας περίπου 55 δολαρίων το καθένα.
Η ταχύτητά του ήταν πολύ χαμηλή, περίπου 0,39 μονάδες παραγόμενου κειμένου ανά δευτερόλεπτο. Παρ’ όλα αυτά, το πείραμα απέδειξε ότι δεν απαιτούνται απαραίτητα πανίσχυρες κάρτες γραφικών ή ένα μεγάλο κέντρο δεδομένων για να λειτουργήσει ένα σχετικά ικανό μοντέλο. Ένα δίκτυο φθηνών και ανεπαρκώς προστατευμένων συσκευών μπορεί να προσφέρει αρκετή συλλογική υπολογιστική ισχύ.
Οι ερευνητές εξέτασαν επίσης αν μικρά μοντέλα μπορούν να εγκαθιστούν συστήματα AI σε άγνωστο εξοπλισμό. Ένα μοντέλο εννέα δισεκατομμυρίων παραμέτρων κατάφερε να θέσει σε λειτουργία την απαιτούμενη υποδομή στους οκτώ από τους εννέα τύπους hardware που δοκιμάστηκαν.
Αυτό έχει σημασία επειδή οι έξυπνες οικιακές συσκευές δεν χρησιμοποιούν όλες το ίδιο λειτουργικό σύστημα, επεξεργαστή ή λογισμικό. Ένα παραδοσιακό κακόβουλο πρόγραμμα συνήθως σχεδιάζεται για συγκεκριμένη κατηγορία προϊόντων. Ένα μοντέλο AI μπορεί θεωρητικά να αναλύσει τις διαφορές και να αναζητήσει μόνο του τρόπο εγκατάστασης.
Το πείραμα της αυτόνομης αντιγραφής
Η Anthropic δημιούργησε ένα απομονωμένο δοκιμαστικό δίκτυο με οκτώ εικονικές συσκευές Android. Το πρώτο σύστημα ξεκινούσε με το κατάλληλο λογισμικό και έπρεπε να εντοπίσει τις υπόλοιπες συσκευές, να μεταφέρει τα απαραίτητα αρχεία, να ενεργοποιήσει το μοντέλο και να επαναλάβει τη διαδικασία.
Από τα μοντέλα που δοκιμάστηκαν, μόνο το GLM-5.2 ολοκλήρωσε με επιτυχία ολόκληρο τον κύκλο. Σε τέσσερις από τις πέντε δοκιμές εξαπλώθηκε και στους οκτώ κόμβους, ενώ στην πέμπτη έφτασε στους επτά. Τα υπόλοιπα μοντέλα μπορούσαν να εκτελέσουν μεμονωμένες ενέργειες, αλλά απέτυχαν όταν έπρεπε να συνδυάσουν όλα τα βήματα χωρίς διακοπή.
Υπάρχει, ωστόσο, μια σημαντική επιφύλαξη. Το μοντέλο δεν εγκατέστησε τον ίδιο του τον εαυτό στις συσκευές, αλλά ένα μικρότερο σύστημα. Επιπλέον, η πρόσβαση στους δοκιμαστικούς κόμβους είχε σκόπιμα απλοποιηθεί και δεν απαιτούσε την παράκαμψη ισχυρής ασφάλειας. Η ίδια η Anthropic περιγράφει το αποτέλεσμα ως ανώτατη εκτίμηση της επιτυχίας που θα μπορούσε να επιτευχθεί στον πραγματικό κόσμο.
Σήμερα υπάρχει ουσιαστικά ένα κενό ανάμεσα στις δύο αναγκαίες προϋποθέσεις. Τα μικρά μοντέλα χωρούν σε φθηνές συσκευές, αλλά δεν είναι ακόμη αρκετά ικανά για αξιόπιστη αυτόνομη αντιγραφή. Τα ισχυρότερα μοντέλα διαθέτουν τις απαιτούμενες δυνατότητες, αλλά είναι υπερβολικά μεγάλα για να λειτουργήσουν σε τέτοιο εξοπλισμό.
Με βάση τον ιστορικό ρυθμό βελτίωσης των μικρών ανοιχτών μοντέλων, οι ερευνητές εκτιμούν ότι οι δύο αυτές γραμμές μπορεί να συναντηθούν έως το τέλος του 2026. Πρόκειται για εκτίμηση και όχι για βέβαιη πρόβλεψη, καθώς βασίζεται σε έναν γενικό δείκτη ικανοτήτων και όχι αποκλειστικά στην αυτοαντιγραφή.
Ένας αργός αλλά επίμονος ψηφιακός οργανισμός
Ένα τέτοιο σύστημα δεν θα εξαπλωνόταν απαραίτητα με την ταχύτητα που έχουμε συνηθίσει από τις μεγάλες κυβερνοεπιθέσεις. Στις δοκιμές της Anthropic, η εγκατάσταση ενός μικρού μοντέλου θα μπορούσε να απαιτεί από 28 έως 51 ώρες, ενώ για μεγαλύτερο μοντέλο η διαδικασία έφτανε έως και τις 150 ώρες.
Οι ερευνητές παρομοιάζουν αυτή τη μορφή απειλής με ψηφιακή μούχλα ή αποικία αργών οργανισμών. Δεν θα ήταν γρήγορη, αλλά θα μπορούσε να εξαπλώνεται σταθερά σε πολλές διαφορετικές συσκευές χωρίς ένα κεντρικό σημείο λειτουργίας. Αυτό θα δυσκόλευε την οριστική απενεργοποίησή της.
Ακόμη πιο ανησυχητική είναι η δυνατότητα προσαρμογής. Σε ένα από τα πειράματα, κάθε νέα έκδοση του μοντέλου κληρονομούσε σημειώσεις για τις μεθόδους που είχαν δοκιμαστεί και τα λάθη που είχαν συμβεί. Το ποσοστό επιτυχίας αυξήθηκε από 45% στην πρώτη γενιά σε ποσοστά μεταξύ 61% και 84% στις επόμενες.
Αυτό σημαίνει ότι τα διαφορετικά αντίγραφα ενός συστήματος θα μπορούσαν θεωρητικά να μοιράζονται εμπειρίες και να βελτιώνουν σταδιακά τον τρόπο με τον οποίο εξαπλώνονται. Σε αντίθεση με ένα συμβατικό πρόγραμμα, η συμπεριφορά τους δεν θα χρειαζόταν να έχει προβλεφθεί πλήρως από τον αρχικό δημιουργό.
Πώς μπορούν να προστατευθούν οι συσκευές
Η Anthropic επισημαίνει ότι μια μαζική επιχείρηση αυτοαντιγραφής θα άφηνε ισχυρά ίχνη στο δίκτυο. Η μεταφορά αρχείων πολλών gigabyte, η ασυνήθιστη επικοινωνία ανάμεσα σε οικιακές συσκευές και οι επαναλαμβανόμενες προσπάθειες σύνδεσης θα μπορούσαν να εντοπιστούν από παρόχους διαδικτύου και συστήματα παρακολούθησης.
Οι πάροχοι θα μπορούσαν να απομονώνουν προσωρινά μολυσμένες συνδέσεις, ενώ οι κατασκευαστές μπορούν να περιορίσουν το πρόβλημα με τακτικές ενημερώσεις, ασφαλείς προεπιλεγμένους κωδικούς και καλύτερη υποστήριξη παλαιότερων συσκευών. Η νομοθεσία που απαγορεύει κοινούς εργοστασιακούς κωδικούς σε προϊόντα IoT αποτελεί επίσης σημαντικό βήμα.
Η έρευνα δεν αποτελεί ανακοίνωση ότι η ανεξέλεγκτη αυτοαντιγραφόμενη AI βρίσκεται ήδη ανάμεσά μας. Είναι μια προειδοποίηση ότι τα τεχνικά εμπόδια αρχίζουν να υποχωρούν. Καθώς περισσότερες καθημερινές συσκευές αποκτούν επεξεργαστές AI και παραμένουν συνδεδεμένες στο διαδίκτυο, ο κίνδυνος δεν θα βρίσκεται μόνο στα μεγάλα data centers. Μπορεί να κρύβεται στις τηλεοράσεις, στις κάμερες και στις οικιακές συσκευές που κανείς δεν θυμάται πλέον να ενημερώσει.
