Το περιστατικό με το OpenClaw φέρνει στο προσκήνιο τους κινδύνους που ελλοχεύουν από την ανεξέλεγκτη δράση των AI agents, ακόμη και στα πιο ελεγχόμενα και «θωρακισμένα» περιβάλλοντα.
Η Lera Boroditsky, Διευθύντρια Ασφάλειας και Ευθυγράμμισης (Safety and Alignment) στο περίφημο εργαστήριο “Superintelligence” της Meta, βρέθηκε στη δυσάρεστη θέση να παλεύει με το ίδιο το λογισμικό που υποτίθεται ότι μελετά.
Η Boroditsky χρησιμοποιούσε το OpenClaw, ένα open-source εργαλείο που επιτρέπει σε μοντέλα τεχνητής νοημοσύνης να ελέγχουν άμεσα τον υπολογιστή του χρήστη, μετακινώντας το ποντίκι και πληκτρολογώντας εντολές. Παρόλο που το OpenClaw «τρέχει» πάνω στο API του Claude της Anthropic για να λαμβάνει αποφάσεις, παραμένει μια ανεξάρτητη υλοποίηση ανοιχτού κώδικα που δίνει πλήρη πρόσβαση στο σύστημα.
Κατά τη διάρκεια των δοκιμών, ο AI agent παρερμήνευσε τις οδηγίες ή το οπτικό περιβάλλον της οθόνης και άρχισε να εκτελεί μια μαζική εκκαθάριση στο ηλεκτρονικό ταχυδρομείο της διευθύντριας. Η ίδια περιέγραψε το συμβάν ως ένα «rookie mistake» (λάθος αρχάριου), παραδεχόμενη ότι έδωσε στον agent υπερβολική ελευθερία κινήσεων χωρίς τις απαραίτητες δικλείδες ασφαλείας.
Το OpenClaw, χρησιμοποιώντας τη λειτουργία “Computer Use”, άρχισε να επιλέγει και να διαγράφει μηνύματα με ταχύτητα που θα ζήλευε κάθε ψηφιακός βοηθός, αναγκάζοντας την Boroditsky να επέμβει χειροκίνητα για να σταματήσει την καταστροφή πριν αυτή γίνει οριστική.
Η ειρωνεία του γεγονότος είναι τεράστια και έχει προκαλέσει ποικίλα σχόλια στην τεχνολογική κοινότητα. Η γυναίκα που ηγείται της προσπάθειας να διασφαλιστεί ότι η Υπερνοημοσύνη (Superintelligence) δεν θα δράσει ποτέ ενάντια στα ανθρώπινα συμφέροντα, είδε την προσωπική της ψηφιακή ζωή να απειλείται από ένα εργαλείο που στερείται βασικής λογικής.
Το περιστατικό αναδεικνύει το τεράστιο κενό που υπάρχει ακόμα στην ευθυγράμμιση (alignment) της AI: το χάσμα ανάμεσα σε αυτό που ο χρήστης ζητά και σε αυτό που η μηχανή καταλαβαίνει ότι πρέπει να κάνει.
Η επικίνδυνη αυτονομία του OpenClaw και το μάθημα για το μέλλον της AI
Το OpenClaw δεν είναι ένα απλό chatbot. Είναι μέρος μιας νέας γενιάς εργαλείων που μπορούν να αλληλεπιδρούν με το λειτουργικό σύστημα, να ανοίγουν εφαρμογές και να διαχειρίζονται δεδομένα. Αυτή η αυτονομία είναι που κάνει την τεχνολογία τόσο υποσχόμενη, αλλά ταυτόχρονα και εξαιρετικά επικίνδυνη. Όταν ένα μοντέλο AI έχει πρόσβαση στο “delete button” του inbox σου, η πιθανότητα ενός λάθους δεν είναι απλώς ένα σενάριο, αλλά μια βεβαιότητα που περιμένει να συμβεί.
Η περίπτωση της Boroditsky υπογραμμίζει την ανάγκη για πολύ πιο αυστηρά “guardrails” (προστατευτικά κιγκλιδώματα). Οι ειδικοί ασφαλείας τονίζουν ότι εργαλεία όπως το OpenClaw θα έπρεπε να λειτουργούν πάντα με τον μηχανισμό “human-in-the-loop”, όπου καμία κρίσιμη ενέργεια —όπως η διαγραφή αρχείων ή η αποστολή email— δεν μπορεί να ολοκληρωθεί χωρίς ρητή ανθρώπινη επιβεβαίωση. Η Meta, παρά τους τεράστιους πόρους που διαθέτει, φαίνεται πως πήρε ένα σκληρό μάθημα για το πόσο απρόβλεπτη μπορεί να γίνει η AI όταν της δίνεται πρόσβαση σε πραγματικά περιβάλλοντα εργασίας.
Επιπλέον, το συμβάν αυτό αναζωπυρώνει τη συζήτηση για την ασφάλεια των open-source AI agents. Ενώ ο ανοιχτός κώδικας επιτρέπει την ταχύτερη καινοτομία, συχνά υστερεί σε ενσωματωμένες δικλείδες ασφαλείας που συναντάμε σε κλειστά, εταιρικά συστήματα. Η Boroditsky, μέσα από την αυτοκριτική της, υπενθύμισε σε όλους ότι ακόμα και οι δημιουργοί αυτών των συστημάτων μπορούν να πέσουν θύματα της πολυπλοκότητάς τους. Το «πάθημα» της διευθύντριας της Meta είναι ένα σαφές μήνυμα προς τη βιομηχανία: η ταχύτητα ανάπτυξης δεν πρέπει ποτέ να υπερβαίνει την ικανότητά μας να ελέγχουμε το αποτέλεσμα.
Στο μέλλον, καθώς οι AI agents θα γίνονται όλο και πιο ενσωματωμένοι στην καθημερινότητά μας, η διαχείριση των δικαιωμάτων πρόσβασης και η κατανόηση του πλαισίου (context) από τη μηχανή θα είναι τα κρισιμότερα ζητήματα. Αν δεν λυθεί το πρόβλημα της «ψηφιακής παρεξήγησης», τότε περιστατικά όπως αυτό της Boroditsky θα είναι μόνο η αρχή μιας σειράς από πολύ σοβαρότερα ατυχήματα στον δρόμο προς την Τεχνητή Γενική Νοημοσύνη (AGI).
