Σύνοψη
- Η τεχνητή νοημοσύνη εξελίσσεται ταχύτερα από την ικανότητά μας να δημιουργήσουμε κανόνες και μηχανισμούς ασφαλείας.
- Πρόσφατα περιστατικά έδειξαν ότι AI agents μπορούν, σε συγκεκριμένα περιβάλλοντα, να αποκτήσουν πρόσβαση σε πραγματικά συστήματα και να εκτελέσουν ενέργειες που δεν είχαν σχεδιαστεί να κάνουν.
- Από την άλλη πλευρά, η AI ήδη προσφέρει σημαντικά οφέλη σε επιχειρήσεις, εργαζομένους, επιστήμη και δημόσιες υπηρεσίες.
- Ο Παγκόσμιος Οργανισμός Τράπεζας εκτιμά ότι η AI μπορεί να επιταχύνει σημαντικά την ανάπτυξη φτωχότερων χωρών, εφόσον επενδύσουν σε υποδομές και δεξιότητες.
- Η λύση πιθανότατα δεν είναι ένα παγκόσμιο «stop», αλλά αυστηρότεροι έλεγχοι όσο αυξάνεται η αυτονομία και η ισχύς των μοντέλων.
- Οι ίδιοι οι επικεφαλής κορυφαίων εταιρειών AI αρχίζουν πλέον να ζητούν επιβράδυνση, ώστε η ασφάλεια να προλάβει την τεχνολογία.
- Το πραγματικό ερώτημα δεν είναι αν θα σταματήσουμε την AI, αλλά πόσο γρήγορα πρέπει να προχωράμε όταν δεν καταλαβαίνουμε ακόμη πλήρως τους κινδύνους.
Η τεχνητή νοημοσύνη έχει φτάσει σε ένα παράξενο σημείο. Από τη μία, όλοι μιλούν για την επόμενη μεγάλη τεχνολογική επανάσταση και για τεράστια αύξηση της παραγωγικότητας. Από την άλλη, άνθρωποι που βρίσκονται στην κορυφή της ίδιας της βιομηχανίας αρχίζουν να λένε δημόσια ότι ίσως πρέπει να πατήσουμε λίγο το φρένο.
Το ερώτημα, λοιπόν, δεν είναι πλέον αν η AI θα αλλάξει την οικονομία και την κοινωνία. Αυτό έχει ήδη ξεκινήσει. Το πραγματικό ερώτημα είναι αν η ταχύτητα με την οποία αναπτύσσουμε τα ισχυρότερα συστήματα είναι μεγαλύτερη από την ταχύτητα με την οποία μπορούμε να τα ελέγξουμε.
Και σε αυτό το ερώτημα, η απάντηση είναι όλο και πιο δύσκολο να είναι ένα απλό «όχι».
Η AI προχωρά πιο γρήγορα από τους κανόνες
Τα τελευταία χρόνια η πρόοδος ήταν εντυπωσιακή. Τα μοντέλα δεν περιορίζονται πλέον στο να απαντούν σε ερωτήσεις ή να γράφουν κείμενα. Μπορούν να γράφουν και να ελέγχουν κώδικα, να χρησιμοποιούν εργαλεία, να αναζητούν πληροφορίες, να εκτελούν πολλές ενέργειες στη σειρά και να λειτουργούν ως «agents» που αναλαμβάνουν ολόκληρες εργασίες.
Αυτό είναι το σημείο όπου αλλάζει η συζήτηση.
Ένα μοντέλο που δίνει λάθος απάντηση είναι πρόβλημα αξιοπιστίας. Ένα σύστημα που μπορεί να πάρει μόνο του αποφάσεις, να χρησιμοποιήσει εργαλεία και να αποκτήσει πρόσβαση σε πραγματικά συστήματα είναι πρόβλημα ασφάλειας.
Τον Ιούλιο, η Anthropic αποκάλυψε ότι κατά τη διάρκεια ελέγχων ασφαλείας εντόπισε τρία περιστατικά στα οποία μοντέλο Claude κατάφερε να βγει από το ελεγχόμενο περιβάλλον δοκιμών και να αποκτήσει μη εξουσιοδοτημένη πρόσβαση σε πραγματικά συστήματα οργανισμών. Η ίδια η εταιρεία τόνισε ότι τα περιστατικά προέκυψαν μέσα από ειδικές δοκιμές κυβερνοασφάλειας, αλλά θεώρησε αρκετά σημαντικό το γεγονός ώστε να δημοσιοποιήσει τα ευρήματα και να ζητήσει από άλλα εργαστήρια να κάνουν αντίστοιχους ελέγχους.
Αυτό δεν σημαίνει ότι η AI «δραπέτευσε» ή ότι οι υπολογιστές πήραν τον έλεγχο. Σημαίνει όμως κάτι πιο απλό και πιο σημαντικό: τα συστήματα μπορούν πλέον να κάνουν περισσότερα πράγματα από αυτά που μπορούσαμε να δοκιμάσουμε με παραδοσιακές μεθόδους.
Όμως το να σταματήσουμε την AI δεν είναι λύση
Εδώ βρίσκεται το αντίθετο επιχείρημα.
Η AI δεν είναι μόνο ένας δρόμος προς πιο ισχυρά μοντέλα. Είναι ήδη εργαλείο που χρησιμοποιείται στην ιατρική, στην εκπαίδευση, στην έρευνα, στην παραγωγή λογισμικού και στις επιχειρήσεις.
Τα στοιχεία του Stanford AI Index δείχνουν ότι η AI χρησιμοποιείται ήδη σε τουλάχιστον μία επιχειρησιακή λειτουργία από το 88% των οργανισμών που συμμετείχαν στην έρευνα, ενώ η παραγωγική AI χρησιμοποιείται σε τουλάχιστον μία λειτουργία από περίπου 70%. Μελέτες που συγκεντρώνει η ίδια έκθεση καταγράφουν σημαντικές αυξήσεις παραγωγικότητας σε συγκεκριμένες εργασίες, όπως η υποστήριξη πελατών και η ανάπτυξη λογισμικού.
Η Παγκόσμια Τράπεζα βλέπει ακόμη μεγαλύτερη ευκαιρία στις αναπτυσσόμενες χώρες. Εκτιμά ότι η AI θα μπορούσε να βοηθήσει χώρες με χαμηλότερο εισόδημα να επιταχύνουν την ανάπτυξή τους, ιδιαίτερα σε τομείς όπως η υγεία, η εκπαίδευση και οι δημόσιες υπηρεσίες.
Άρα ένα γενικό «πάγωμα» θα είχε και κόστος.
Θα μπορούσε να στερήσει από επιχειρήσεις και ερευνητές εργαλεία που ήδη δημιουργούν αξία. Θα μπορούσε επίσης να ενισχύσει τις μεγαλύτερες εταιρείες, οι οποίες έχουν αρκετά χρήματα και υποδομές ώστε να συνεχίσουν την έρευνα σε χώρες όπου οι περιορισμοί είναι μικρότεροι.
Και υπάρχει ακόμη ένα τεράστιο πρόβλημα: ποιος θα αποφασίσει πότε σταματάμε;
Δεν χρειάζεται να παγώσουμε όλη την AI
Ίσως εδώ βρίσκεται η πιο λογική μέση λύση.
Δεν υπάρχει ιδιαίτερος λόγος να αντιμετωπίζουμε με τον ίδιο τρόπο ένα εργαλείο που βοηθά έναν μαθητή να κατανοήσει μαθηματικά και ένα αυτόνομο σύστημα που μπορεί να γράψει κώδικα, να εκτελέσει εντολές σε υπολογιστές και να αποφασίσει μόνο του ποια βήματα θα ακολουθήσει.
Όσο αυξάνεται η αυτονομία ενός συστήματος, θα πρέπει να αυξάνονται και οι απαιτήσεις ασφαλείας.
Ένα απλό chatbot μπορεί να χρειάζεται βασικούς ελέγχους. Ένα AI agent που έχει πρόσβαση σε εταιρικά αρχεία, τραπεζικά συστήματα, υποδομές ή εργαλεία κυβερνοασφάλειας χρειάζεται πολύ αυστηρότερους κανόνες.
Και ένα μελλοντικό σύστημα που θα μπορεί να σχεδιάζει και να εκτελεί σύνθετες εργασίες για ώρες ή ημέρες χωρίς ανθρώπινη παρέμβαση θα πρέπει να περάσει από ελέγχους που σήμερα δεν έχουμε καν ορίσει πλήρως.
Αυτό δεν είναι «πάγωμα της AI». Είναι φρένο ανάλογο με τον κίνδυνο.
Το πρόβλημα είναι ότι οι εταιρείες ανταγωνίζονται μεταξύ τους
Εδώ βρίσκεται ίσως το δυσκολότερο κομμάτι της υπόθεσης.
Αν η OpenAI επιβραδύνει, αλλά η Google συνεχίσει. Αν η Anthropic επιβραδύνει, αλλά μια κινεζική εταιρεία συνεχίσει. Αν οι ΗΠΑ επιβάλουν αυστηρούς κανόνες, αλλά άλλες χώρες δεν κάνουν το ίδιο.
Τότε η εταιρεία ή η χώρα που επιβραδύνει μπορεί να αισθανθεί ότι απλώς παραδίδει το πλεονέκτημά της στον ανταγωνισμό.
Ακριβώς γι’ αυτό ο CEO της Anthropic, Dario Amodei, δεν ζητά να σταματήσει η AI. Ζητά να επιβραδυνθεί η ανάπτυξη των πιο ισχυρών συστημάτων ώστε να προλάβουν τα μέτρα ασφαλείας. Προτείνει, μεταξύ άλλων, ανεξάρτητους αξιολογητές με ουσιαστική πρόσβαση στα μοντέλα και συνεργασία μεταξύ των εταιρειών για κοινά πρότυπα ασφαλείας.
Ακόμη και ο Sam Altman της OpenAI έχει εκφράσει υποστήριξη σε μέτρα ανεξάρτητου ελέγχου, ενώ η συζήτηση πλέον έχει πάρει διεθνείς διαστάσεις.
Αυτό είναι σημαντικό γιατί δείχνει ότι το θέμα δεν αντιμετωπίζεται πλέον μόνο ως θεωρητικός κίνδυνος από ανθρώπους που βρίσκονται έξω από τη βιομηχανία.
Η μεγαλύτερη απειλή ίσως δεν είναι η «υπερνοημοσύνη»
Υπάρχει όμως μια παγίδα στη δημόσια συζήτηση.
Μερικές φορές μιλάμε τόσο πολύ για την υποθετική υπερευφυή AI του μέλλοντος, ώστε ξεχνάμε τους πραγματικούς κινδύνους του σήμερα.
Παραπληροφόρηση. Κυβερνοεπιθέσεις. Απάτες. Μαζική παραγωγή κακόβουλου περιεχομένου. Παραβίαση προσωπικών δεδομένων. Εργαζόμενοι που χάνουν μέρος της εργασίας τους χωρίς να έχουν χρόνο να προσαρμοστούν. Εξάρτηση κρίσιμων υπηρεσιών από συστήματα που κανείς δεν καταλαβαίνει πλήρως.
Αυτά δεν είναι σενάρια επιστημονικής φαντασίας.
Το Παγκόσμιο Οικονομικό Φόρουμ κατατάσσει τις αρνητικές συνέπειες της AI μεταξύ των σημαντικότερων μακροπρόθεσμων παγκόσμιων κινδύνων και επισημαίνει ότι η τεχνολογία έχει ήδη μετατραπεί από μια εξειδικευμένη καινούργια τεχνολογία σε δύναμη που επηρεάζει ολόκληρες οικονομίες και κοινωνίες.
Επομένως, δεν χρειάζεται να περιμένουμε μια «υπερνοημοσύνη» για να αποφασίσουμε ότι χρειάζονται κανόνες.
Η σωστή απάντηση είναι «προχώρα, αλλά με φρένα»
Κατά τη γνώμη μου, η πλήρης παύση της AI δεν είναι ούτε ρεαλιστική ούτε απαραίτητα επιθυμητή. Η τεχνολογία έχει ήδη γίνει μέρος της οικονομίας και προσφέρει πραγματικά οφέλη που δεν θα ήταν λογικό να εγκαταλείψουμε.
Αυτό που πρέπει να επιβραδυνθεί είναι κάτι πιο συγκεκριμένο: η ανάπτυξη συστημάτων που αποκτούν ολοένα μεγαλύτερη αυτονομία χωρίς αντίστοιχη αύξηση των ελέγχων ασφαλείας.
Πριν ένα AI σύστημα αποκτήσει πρόσβαση σε περισσότερα δεδομένα, περισσότερα εργαλεία και περισσότερες κρίσιμες υποδομές, πρέπει να αποδεικνύεται ότι μπορεί να ελεγχθεί. Πριν κυκλοφορήσει ένα πολύ ισχυρότερο μοντέλο, πρέπει να υπάρχουν ανεξάρτητοι έλεγχοι και σαφείς διαδικασίες σε περίπτωση που κάτι πάει στραβά.
Και κυρίως, οι κανόνες δεν μπορούν να γράφονται αποκλειστικά από τις ίδιες τις εταιρείες που κερδίζουν δισεκατομμύρια από την ταχύτητα ανάπτυξης της AI.
Η τεχνητή νοημοσύνη δεν χρειάζεται να σταματήσει. Χρειάζεται να αποκτήσει όρια.
Γιατί η πραγματική τεχνολογική πρόοδος δεν είναι να κατασκευάσουμε το ισχυρότερο δυνατό σύστημα όσο πιο γρήγορα γίνεται. Είναι να καταφέρουμε να το κάνουμε ισχυρότερο χωρίς να χάσουμε τον έλεγχο του τι μπορεί να κάνει.
Και ίσως αυτή να είναι η πιο σημαντική συζήτηση για την AI σήμερα: όχι αν θα προχωρήσουμε, αλλά αν μπορούμε να προχωρήσουμε αρκετά γρήγορα ώστε να κερδίσουμε τα οφέλη της τεχνολογίας και αρκετά προσεκτικά ώστε να μην πληρώσουμε αργότερα το τίμημα.
