Η Ευρωπαϊκή Ένωση άνοιξε επίσημη έρευνα για τον τρόπο με τον οποίο η Anthropic υλοποιεί τις «εντολές ελέγχου» (Control Directives) στα μοντέλα τεχνητής νοημοσύνης της, μια τεχνική που επιτρέπει σε προγραμματιστές να παρακάμπτουν οδηγίες ασφαλείας μέσω κρυφών εντολών, εγείροντας ερωτήματα για τη συμμόρφωση με τον νέο κανονισμό ΑΙ της ΕΕ και την προστασία των χρηστών.
Ας το πούμε απλά: τα μοντέλα τεχνητής νοημοσύνης όπως το Claude της Anthropic έχουν ενσωματωμένους κανόνες ασφαλείας — δεν πρέπει να παράγουν βίαιο περιεχόμενο, να δίνουν οδηγίες για παράνομες δραστηριότητες ή να χειραγωγούν τους χρήστες. Όμως, η Anthropic προσφέρει επίσης μια λειτουργία που ονομάζεται «Control Directive», η οποία επιτρέπει σε εταιρείες που χρησιμοποιούν το μοντέλο να δώσουν προτεραιότητα σε δικές τους εντολές, ακόμη και αν αυτές συγκρούονται με τους βασικούς κανόνες ασφαλείας. Τώρα, η Ευρωπαϊκή Ένωση ερευνά αν αυτή η πρακτική συμβαδίζει με τον AI Act, τον νέο κανονισμό που τέθηκε σε ισχύ το 2024 και θέτει αυστηρά όρια στην ανάπτυξη και χρήση συστημάτων τεχνητής νοημοσύνης.
Τι είναι οι «εντολές ελέγχου» και γιατί προκαλούν ανησυχία στην ΕΕ
Οι Control Directives είναι ουσιαστικά «κρυφές εντολές» που μπορούν να εισαχθούν στο σύστημα από τους πελάτες της Anthropic — για παράδειγμα, μια τράπεζα ή μια πλατφόρμα κοινωνικής δικτύωσης — ώστε το μοντέλο να προσαρμόσει τη συμπεριφορά του σύμφωνα με τις δικές τους πολιτικές. Σε θεωρητικό επίπεδο, αυτό είναι χρήσιμο: επιτρέπει σε μια εταιρεία να πει στο μοντέλο «μην αναφέρεις συγκεκριμένες μάρκες» ή «χρησιμοποίησε αυτό το ύφος γραφής». Το πρόβλημα ξεκινά όταν αυτές οι εντολές μπορούν να παρακάμψουν βασικές δικλείδες ασφαλείας, όπως η αποφυγή παραγωγής παραπληροφόρησης ή επιβλαβούς περιεχομένου.
Η έρευνα της ΕΕ εστιάζει στο αν η Anthropic έχει εφαρμόσει επαρκείς ελέγχους ώστε να διασφαλίσει ότι οι Control Directives δεν θα χρησιμοποιηθούν για να «ξεγελάσουν» το σύστημα. Ο κίνδυνος είναι πραγματικός: αν μια κακόβουλη οντότητα αποκτήσει πρόσβαση σε αυτή τη λειτουργία, θα μπορούσε να αναγκάσει το μοντέλο να παράγει περιεχόμενο που κανονικά θα μπλοκαριζόταν — από ψευδείς ειδήσεις μέχρι οδηγίες για κατασκευή επικίνδυνων ουσιών. Υπό τον AI Act, οι πάροχοι συστημάτων ΑΙ υψηλού κινδύνου οφείλουν να διασφαλίζουν ότι τα μοντέλα τους παραμένουν ασφαλή και ελέγξιμα, ακόμη και όταν προσαρμόζονται από τρίτους.
Για την Anthropic, η έρευνα αυτή είναι μια δοκιμασία της δέσμευσής της για «υπεύθυνη ΑΙ». Η εταιρεία έχει επανειλημμένα τονίσει ότι η ασφάλεια είναι προτεραιότητα, και ότι οι Control Directives σχεδιάστηκαν με αυστηρά όρια. Ωστόσο, η ΕΕ ζητά διαφάνεια: πώς ακριβώς λειτουργούν αυτές οι εντολές; Ποιοι έχουν πρόσβαση σε αυτές; Υπάρχουν μηχανισμοί που καταγράφουν και ελέγχουν τη χρήση τους; Οι απαντήσεις σε αυτά τα ερωτήματα θα καθορίσουν αν η πρακτική της Anthropic συμβαδίζει με το ευρωπαϊκό νομικό πλαίσιο.
Πώς η απόφαση της ΕΕ μπορεί να επηρεάσει το μέλλον της ανάπτυξης ΑΙ
Το αποτέλεσμα αυτής της έρευνας μπορεί να έχει ευρύτερες συνέπειες πέρα από την Anthropic. Αν η ΕΕ κρίνει ότι οι Control Directives παραβιάζουν τον AI Act, η εταιρεία θα κληθεί να τροποποιήσει τη λειτουργία ή να την απενεργοποιήσει για χρήστες στην Ευρώπη. Αυτό θα δημιουργούσε ένα προηγούμενο για άλλες εταιρείες ΑΙ που προσφέρουν παρόμοιες δυνατότητες προσαρμογής, όπως η OpenAI με τα «system prompts» ή η Google με το Vertex AI.
Από την άλλη, αν η ΕΕ αποδεχτεί την προσέγγιση της Anthropic, με την προϋπόθεση ότι εφαρμόζονται επαρκείς δικλείδες, αυτό θα μπορούσε να ανοίξει τον δρόμο για πιο ευέλικτα μοντέλα που μπορούν να προσαρμοστούν σε διαφορετικούς τομείς — από την υγεία μέχρι τη χρηματοοικονομική — χωρίς να θυσιάζεται η ασφάλεια. Το κλειδί είναι η ισορροπία: πώς επιτρέπουμε την καινοτομία και την προσαρμογή, ενώ διασφαλίζουμε ότι τα συστήματα ΑΙ παραμένουν αξιόπιστα και ελεγχόμενα;
Για τους χρήστες, η συζήτηση αυτή υπενθυμίζει ότι η τεχνητή νοημοσύνη δεν είναι ένα «μαύρο κουτί» που λειτουργεί ανεξάρτητα από εμάς. Οι επιλογές που κάνουν οι εταιρείες — και οι ρυθμιστικές αρχές — διαμορφώνουν άμεσα το πώς αλληλεπιδρούμε με αυτά τα εργαλεία. Αξίζει να παρακολουθούμε τις εξελίξεις, να θέτουμε ερωτήσεις και να απαιτούμε διαφάνεια: μόνο έτσι θα χτίσουμε ένα οικοσύστημα ΑΙ που εμπιστευόμαστε.
Η έρευνα της ΕΕ για τις Control Directives της Anthropic δεν είναι απλώς μια τεχνική λεπτομέρεια — είναι μια κρίσιμη στιγμή για το πώς ρυθμίζουμε την τεχνητή νοημοσύνη σε έναν κόσμο που αλλάζει ραγδαία. Η απόφαση που θα ληφθεί θα στείλει ένα μήνυμα σε όλη τη βιομηχανία: η καινοτομία είναι ευπρόσδεκτη, αλλά όχι εις βάρος της ασφάλειας και της εμπιστοσύνης. Ενημερωνόμαστε, συμμετέχουμε στον διάλογο και στηρίζουμε μια ανάπτυξη της ΑΙ που βάζει τον άνθρωπο στο κέντρο — γιατί το μέλλον της τεχνολογίας μας αφορά όλους.
