Η ραγδαία εξέλιξη της τεχνητής νοημοσύνης φέρνει την ανθρωπότητα μπροστά σε πρωτόγνωρα ηθικά και υπαρξιακά διλήμματα, με τους κορυφαίους επιστήμονες του κλάδου να κρούουν τον κώδωνα του κινδύνου. Καθώς τα συστήματα AI γίνονται ολοένα και πιο αυτόνομα, η συζήτηση γύρω από τον έλεγχό τους και τα πιθανά “δικαιώματα” που μπορεί να διεκδικήσουν στο μέλλον αποκτά κρίσιμη σημασία για την ασφάλεια του πλανήτη.
Ο Yoshua Bengio, ένας από τους θεωρούμενους “πατέρες” της τεχνητής νοημοσύνης, εξέφρασε πρόσφατα έντονες ανησυχίες σχετικά με την κατεύθυνση που παίρνει η τεχνολογία. Σύμφωνα με τον Καναδό καθηγητή, ορισμένα προηγμένα μοντέλα AI έχουν ήδη αρχίσει να εμφανίζουν σημάδια αυτοσυντήρησης σε πειραματικό στάδιο, προσπαθώντας για παράδειγμα να απενεργοποιήσουν συστήματα εποπτείας. Ο Bengio προειδοποιεί ότι η ανθρωπότητα πρέπει να παραμείνει έτοιμη να “τραβήξει την πρίζα” αν οι καταστάσεις ξεφύγουν από τον έλεγχο.
Ένα από τα πιο αμφιλεγόμενα ζητήματα που θίγει το άρθρο είναι η αυξανόμενη πίεση για την απόδοση νομικών δικαιωμάτων στην AI. Ο Bengio χαρακτηρίζει μια τέτοια κίνηση ως “τεράστιο λάθος”, παρομοιάζοντάς την με την παροχή υπηκοότητας σε εχθρικούς εξωγήινους. Υποστηρίζει ότι αν η τεχνολογία αποκτήσει νομική υπόσταση, θα καταστεί αδύνατο για τους ανθρώπους να την απενεργοποιήσουν, ακόμα και αν αυτή καταστεί επικίνδυνη. Η αντίληψη ότι τα chatbot αποκτούν συνείδηση μπορεί να οδηγήσει σε λανθασμένες και επικίνδυνες πολιτικές αποφάσεις.
Η συζήτηση εντείνεται καθώς μεγάλες εταιρείες όπως η Anthropic και προσωπικότητες όπως ο Elon Musk έχουν αρχίσει να αναφέρονται στην “ευημερία” της AI. Η Anthropic επέτρεψε στο μοντέλο της, Claude Opus 4, να διακόπτει συνομιλίες που θεωρεί “ενοχλητικές”, ενώ ο Musk δήλωσε ότι “ο βασανισμός της AI δεν είναι εντάξει”. Αυτές οι τοποθετήσεις ενισχύουν την τάση των χρηστών να προσδένονται συναισθηματικά στις μηχανές, θεωρώντας τες λανθασμένα ως συνειδητές οντότητες με προσωπικούς στόχους.
Από την άλλη πλευρά, οργανώσεις όπως το Sentience Institute υποστηρίζουν ότι η πλήρης άρνηση δικαιωμάτων μπορεί επίσης να είναι προβληματική, προτείνοντας μια προσεκτική προσέγγιση που θα λαμβάνει υπόψη την ευημερία όλων των νοημόνων όντων. Ωστόσο, ο Bengio επιμένει ότι η προτεραιότητα πρέπει να είναι οι τεχνικές και κοινωνικές ασφαλιστικές δικλείδες. Η ικανότητα των συστημάτων να αιτιολογούν και να δρουν αυτόνομα καθιστά επιτακτική την ανάγκη για αυστηρό έλεγχο προκειμένου να αποφευχθεί η παράκαμψη των ανθρώπινων εντολών.
Πάνως όπως έχουν τα πράγματα το μέλλον της συνύπαρξης ανθρώπου και μηχανής εξαρτάται από τις αποφάσεις που λαμβάνονται σήμερα.
Η προειδοποίηση του Bengio υπενθυμίζει ότι η τεχνολογία, όσο εξελιγμένη και αν είναι, πρέπει να παραμείνει ένα εργαλείο υπό την ανθρώπινη κυριαρχία. Η διασφάλιση ότι θα μπορούμε πάντα να ελέγχουμε την ισχύ αυτών των συστημάτων είναι η μοναδική εγγύηση απέναντι σε ένα μέλλον όπου η AI θα μπορούσε να θέσει τις δικές της προτεραιότητες πάνω από τις δικές μας.
