Σύνοψη
- Περισσότεροι από 20 κορυφαίοι ερευνητές AI δημοσίευσαν εργασία που προειδοποιεί για πιθανή «έκρηξη νοημοσύνης» (intelligence explosion).
- Μεταξύ των συνυπογραφόντων βρίσκονται οι Geoffrey Hinton, Yoshua Bengio, στελέχη των OpenAI, Anthropic και Microsoft.
- Το βασικό σενάριο αφορά AI συστήματα που θα μπορούν να βελτιώνουν αυτόνομα τα επόμενα AI μοντέλα.
- Οι ερευνητές μιλούν για πιθανότητα συμπίεσης ετών τεχνολογικής προόδου σε λίγους μήνες ή εβδομάδες.
- Ζητούν μεγαλύτερη διαφάνεια, ανεξάρτητους ελέγχους και μηχανισμούς επιβράδυνσης της ανάπτυξης αν χρειαστεί.
- Οι ίδιοι αναγνωρίζουν ότι το σενάριο δεν είναι βέβαιο, αλλά υποστηρίζουν ότι οι κυβερνήσεις πρέπει να προετοιμαστούν από τώρα.
Μία νέα εργασία που συνυπογράφεται από μερικά από τα πιο γνωστά ονόματα της τεχνητής νοημοσύνης φέρνει ξανά στο προσκήνιο μια έννοια που μέχρι πριν λίγα χρόνια ανήκε περισσότερο στην επιστημονική φαντασία: την πιθανότητα η AI να αρχίσει να βελτιώνει η ίδια τον εαυτό της, οδηγώντας σε μια εξαιρετικά γρήγορη επιτάχυνση της τεχνολογικής προόδου.
Ανάμεσα στους συντάκτες βρίσκονται ο βραβευμένος με Νόμπελ Geoffrey Hinton, ο Yoshua Bengio, ο συνιδρυτής της Anthropic Jack Clark, ο επικεφαλής επιστήμονας της OpenAI Jakub Pachocki και στελέχη της Microsoft. Η κοινή τους θέση δεν είναι ότι ένα τέτοιο σενάριο είναι βέβαιο, αλλά ότι αξίζει σοβαρή προετοιμασία, καθώς οι επιπτώσεις θα μπορούσαν να είναι τεράστιες.
Τι είναι η «έκρηξη νοημοσύνης»;
Ο όρος περιγράφει ένα υποθετικό σενάριο όπου τα συστήματα AI αποκτούν την ικανότητα να συμμετέχουν ενεργά στην ανάπτυξη πιο προηγμένων εκδόσεων του εαυτού τους.
Σήμερα, οι εταιρείες AI χρησιμοποιούν ήδη εργαλεία τεχνητής νοημοσύνης για συγγραφή κώδικα, ανάλυση δεδομένων και υποστήριξη της έρευνας. Η Anthropic έχει αναφέρει ότι μεγάλο ποσοστό του κώδικα της παράγεται πλέον με βοήθεια AI, ενώ η OpenAI χρησιμοποιεί αυτόνομους agents σε εσωτερικές διαδικασίες ανάπτυξης.
Το επόμενο βήμα, σύμφωνα με τους ερευνητές, θα ήταν τα συστήματα να μπορούν να σχεδιάζουν, να αξιολογούν και να βελτιώνουν νέα μοντέλα χωρίς σημαντική ανθρώπινη παρέμβαση. Αυτή η διαδικασία είναι γνωστή ως recursive self-improvement, δηλαδή επαναλαμβανόμενη αυτοβελτίωση.
Γιατί ανησυχούν οι ερευνητές
Η βασική ανησυχία δεν είναι ότι η AI θα γίνει ξαφνικά ανεξέλεγκτη, αλλά ότι η ταχύτητα της προόδου μπορεί να ξεπεράσει την ικανότητα κυβερνήσεων, κοινωνιών και θεσμών να προσαρμοστούν.
Στην εργασία τους, οι συγγραφείς περιγράφουν ένα σενάριο όπου χρόνια προόδου μπορεί να συμπιεστούν σε λίγους μήνες ή ακόμη και εβδομάδες. Εάν η AI αυτοματοποιήσει μεγάλο μέρος της έρευνας, ένας μικρός αριθμός ανθρώπων ή οργανισμών θα μπορούσε θεωρητικά να αποκτήσει πρόσβαση σε υπολογιστική ισχύ και ερευνητική παραγωγικότητα που σήμερα απαιτούν εκατομμύρια εργαζομένους.
Οι ερευνητές αναφέρουν τρεις βασικούς κινδύνους:
- Οι δυνατότητες της AI να αυξάνονται ταχύτερα από τα μέτρα ασφαλείας.
- Οι άνθρωποι να χάνουν σταδιακά την πλήρη κατανόηση και επίβλεψη των συστημάτων.
- Η τεχνολογική υπεροχή να συγκεντρώνεται σε λίγες εταιρείες ή κράτη.
Δεν υπάρχει ομοφωνία
Παρά τη δημοσιότητα που έχουν λάβει τέτοιες προειδοποιήσεις, δεν υπάρχει καθολική συμφωνία στην επιστημονική κοινότητα.
Ορισμένοι ερευνητές θεωρούν ότι η αυτοβελτίωση της AI θα είναι πολύ πιο αργή από ό,τι προβλέπουν τα πιο επιθετικά σενάρια. Άλλοι πιστεύουν ότι υπάρχουν φυσικά όρια, όπως η διαθέσιμη υπολογιστική ισχύς, το ενεργειακό κόστος και ο χρόνος που απαιτείται για την εκπαίδευση νέων μοντέλων.
Ακόμη και οι ίδιοι οι συγγραφείς της νέας εργασίας τονίζουν ότι δεν πρόκειται για πρόβλεψη, αλλά για ανάλυση πιθανών εξελίξεων. Αναγνωρίζουν ότι υπάρχουν πολλοί παράγοντες που θα μπορούσαν να επιβραδύνουν ή να αλλάξουν την πορεία της τεχνολογίας.
Τι προτείνουν
Οι προτάσεις των ερευνητών δεν περιλαμβάνουν γενική απαγόρευση της AI.
Αντίθετα, ζητούν:
- μεγαλύτερη διαφάνεια σχετικά με το πόσο αυτοματοποιημένη γίνεται η έρευνα AI,
- ανεξάρτητους ελεγκτές μέσα στις εταιρείες,
- υποχρεωτική αναφορά σοβαρών περιστατικών,
- σχέδια έκτακτης ανάγκης,
- δυνατότητα προσωρινής επιβράδυνσης ορισμένων έργων αν εμφανιστούν σοβαροί κίνδυνοι.
Η συζήτηση θυμίζει, σε κάποιο βαθμό, τις διεθνείς συμφωνίες που εφαρμόζονται σε άλλες στρατηγικές τεχνολογίες, όπως η πυρηνική ενέργεια ή η βιοτεχνολογία, αν και δεν υπάρχει σήμερα διεθνής συναίνεση για ένα αντίστοιχο πλαίσιο στην AI.
Η πραγματική αλλαγή ίσως έχει ήδη ξεκινήσει
Ανεξάρτητα από το αν θα υπάρξει ή όχι μια «έκρηξη νοημοσύνης», το ενδιαφέρον στοιχείο είναι ότι η AI ήδη χρησιμοποιείται για να δημιουργεί καλύτερο λογισμικό, να γράφει κώδικα, να αναλύει δεδομένα και να επιταχύνει την επιστημονική έρευνα.
Η μετάβαση από την AI ως εργαλείο παραγωγικότητας στην AI ως εργαλείο που συμβάλλει στην ανάπτυξη νέας AI είναι ίσως η πιο σημαντική τεχνολογική αλλαγή των επόμενων ετών. Το ερώτημα που θέτουν οι ερευνητές δεν είναι αν αυτό θα συμβεί, αλλά πόσο γρήγορα θα εξελιχθεί και αν οι κοινωνίες θα προλάβουν να προσαρμοστούν.
