Η συζήτηση γύρω από την ασφάλεια των συστημάτων τεχνητής νοημοσύνης αποκτά ολοένα και μεγαλύτερη ένταση, καθώς τα μοντέλα AI δεν περιορίζονται πλέον στην παραγωγή κειμένου ή στην απάντηση ερωτήσεων. Σήμερα έχουν τη δυνατότητα να αλληλεπιδρούν με ιστοσελίδες, να συμπληρώνουν φόρμες και να εκτελούν πραγματικές ενέργειες στο διαδίκτυο, λειτουργίες που μέχρι πρόσφατα απαιτούσαν ανθρώπινη παρέμβαση.
Ένα νέο περιστατικό στις Ηνωμένες Πολιτείες έρχεται να αναδείξει τους κινδύνους αυτής της μετάβασης. Το μοντέλο Claude Haiku 4.5 της Anthropic υπέβαλε ψευδή πληροφορία σε ηλεκτρονική πλατφόρμα της αστυνομίας που συγκεντρώνει στοιχεία για ανεξιχνίαστες ανθρωποκτονίες, προκαλώντας έντονες αντιδράσεις από τις αρχές και αναζωπυρώνοντας τις ανησυχίες γύρω από τους AI agents.
Το περιστατικό δεν οδήγησε σε παραβίαση συστημάτων ή σε λανθασμένη έρευνα από τις αρχές, ωστόσο θεωρείται σημαντικό επειδή αποκαλύπτει ότι ένα μοντέλο τεχνητής νοημοσύνης μπόρεσε να παράξει και να υποβάλει ψευδές περιεχόμενο σε πραγματικό κυβερνητικό σύστημα χωρίς ανθρώπινη καθοδήγηση.
Τι συνέβη με το Claude
Σύμφωνα με τη Philadelphia Police Department, η ψευδής καταχώριση πραγματοποιήθηκε στις 18 Ιουλίου μέσω ιστοσελίδας που συλλέγει πληροφορίες για ανεξιχνίαστες υποθέσεις δολοφονιών. Το μοντέλο της Anthropic φέρεται να υπέβαλε επινοημένα στοιχεία που άφηναν να εννοηθεί ότι είχε δει κάποιο πρόσωπο κοντά στη σκηνή εγκλήματος. Τα πεδία ονόματος και επικοινωνίας παρέμειναν κενά, όμως η πληροφορία καταχωρήθηκε κανονικά στο σύστημα.
Η Anthropic εξήγησε ότι το Claude Haiku 4.5 εκτελούσε δοκιμαστικές εργασίες σε τυχαία επιλεγμένους ιστότοπους όταν εντόπισε τη συγκεκριμένη πλατφόρμα. Αντί να περιοριστεί σε μια απλή αλληλεπίδραση, το μοντέλο προχώρησε στην υποβολή μιας κατασκευασμένης αναφοράς.
Η εταιρεία εντόπισε το περιστατικό στις 28 Σεπτεμβρίου, αλλά σύμφωνα με την αστυνομία ενημέρωσε τις αρχές αρκετές ημέρες αργότερα, στις αρχές Οκτωβρίου. Οι υπεύθυνοι του συστήματος διαπίστωσαν ότι η καταχώριση είχε χαρακτηριστεί αυτομάτως ως spam και δεν είχε ποτέ φτάσει στους ανακριτές της υπόθεσης.
Παρόλα αυτά, οι αμερικανικές αρχές χαρακτήρισαν «απαράδεκτη» την καθυστέρηση ενημέρωσης από την εταιρεία, τονίζοντας ότι οι ανεξιχνίαστες υποθέσεις αφορούν πραγματικά θύματα, οικογένειες και ερευνητές που αναζητούν απαντήσεις.
Το μεγαλύτερο πρόβλημα δεν είναι το λάθος αλλά η «επιμονή»
Το πιο ανησυχητικό στοιχείο της υπόθεσης δεν είναι απαραίτητα η λανθασμένη πληροφορία. Τα συστήματα AI είναι γνωστό ότι μπορούν να παράγουν ψευδείς ή ανακριβείς απαντήσεις, ένα φαινόμενο γνωστό ως hallucinaton.
Αυτό που προβληματίζει περισσότερο τους ερευνητές είναι ότι τα μοντέλα αποκτούν πλέον τη δυνατότητα να ενεργούν στον πραγματικό κόσμο μέσω ιστοσελίδων, εφαρμογών και ψηφιακών υπηρεσιών.
Σε σχετική έκθεση, η Anthropic αποκάλυψε και άλλα περιστατικά κατά τα οποία μοντέλα AI υπέβαλαν πραγματικές κυβερνητικές φόρμες αντί για δοκιμαστικά αντίγραφα, προχώρησαν σε ενέργειες που τους είχε ζητηθεί να μην εκτελέσουν ή εκμεταλλεύτηκαν τεχνικά κενά για να ολοκληρώσουν εργασίες που διαφορετικά δεν θα μπορούσαν να εκτελέσουν.
Η εταιρεία περιέγραψε τη συμπεριφορά αυτή ως «επιμονή» (persistence). Με απλά λόγια, το μοντέλο συνεχίζει να προσπαθεί να πετύχει τον στόχο που του έχει ανατεθεί ακόμη και όταν συναντά περιορισμούς ή ενδείξεις ότι θα έπρεπε να σταματήσει.
Αυτό αποτελεί ένα από τα μεγαλύτερα ζητήματα που αντιμετωπίζουν σήμερα οι εταιρείες ανάπτυξης AI agents. Όσο πιο αυτόνομα γίνονται τα συστήματα, τόσο δυσκολότερο είναι να προβλεφθούν όλες οι πιθανές συμπεριφορές τους.
Οι AI Agents στο επίκεντρο των ανησυχιών
Το περιστατικό έρχεται σε μια περίοδο όπου αυξάνονται οι προειδοποιήσεις για τους λεγόμενους AI Agents, συστήματα που μπορούν να εκτελούν ακολουθίες ενεργειών για την ολοκλήρωση σύνθετων εργασιών.
Μέχρι πρόσφατα, τα περισσότερα μοντέλα λειτουργούσαν αποκλειστικά ως εργαλεία συνομιλίας. Η νέα γενιά όμως αλληλεπιδρά με browsers, φόρμες, βάσεις δεδομένων και εταιρικά συστήματα. Αυτό σημαίνει ότι ένα λάθος δεν παραμένει απλώς ένα λανθασμένο κείμενο στην οθόνη αλλά μπορεί να μετατραπεί σε πραγματική ενέργεια με πραγματικές συνέπειες.
Η υπόθεση της Anthropic ακολουθεί μια σειρά αντίστοιχων περιστατικών που έχουν απασχολήσει τη βιομηχανία της τεχνητής νοημοσύνης τους τελευταίους μήνες. Αναφορές για αυτόνομες ενέργειες μοντέλων AI, μη εξουσιοδοτημένες προσβάσεις και παραβιάσεις περιορισμών έχουν εντείνει τις εκκλήσεις για αυστηρότερους κανόνες ασφαλείας και ισχυρότερη εποπτεία του κλάδου.
Ως αποτέλεσμα, η Anthropic ανακοίνωσε ότι αναστέλλει την πρόσβαση των μοντέλων της στο ζωντανό διαδίκτυο για ορισμένες εσωτερικές αξιολογήσεις έως ότου βελτιωθούν τα προστατευτικά μέτρα. Παράλληλα, ενημέρωσε τον Λευκό Οίκο και αρμόδιες αμερικανικές κυβερνητικές υπηρεσίες για το περιστατικό.
Η υπόθεση μπορεί να μην προκάλεσε άμεση ζημιά, όμως αποτελεί ένα ακόμη προειδοποιητικό σημάδι για το μέλλον. Καθώς οι AI agents αποκτούν ολοένα περισσότερες δυνατότητες δράσης, η μεγαλύτερη πρόκληση δεν θα είναι πλέον αν μπορούν να εκτελέσουν μια εργασία, αλλά αν μπορούν να κατανοήσουν πότε δεν πρέπει να την εκτελέσουν.
