Σύνοψη
- Ο Sam Altman προειδοποιεί ότι η απόδοση «θρησκευτικής δύναμης» στην AI αποτελεί πραγματικό ζήτημα ασφάλειας.
- Η δήλωσή του ήρθε λίγο μετά τις αποκαλύψεις για τις επαφές της Anthropic με θεολόγους και θρησκευτικούς ηγέτες.
- Η Anthropic διερευνά εάν προηγμένα μοντέλα όπως ο Claude θα μπορούσαν κάποτε να έχουν συνείδηση ή ηθικό καθεστώς.
- Η εταιρεία έχει ζητήσει από εκπροσώπους διαφορετικών θρησκευτικών και φιλοσοφικών παραδόσεων να συμβάλουν στη διαμόρφωση του «ηθικού χαρακτήρα» της AI.
- Ο Claude διαθέτει ήδη μια εκτενή «Constitution» που καθορίζει τις αξίες και τη συμπεριφορά που θέλει η Anthropic να έχει το μοντέλο.
- Το πραγματικό ερώτημα δεν είναι αν η AI θα γίνει θρησκεία, αλλά ποιος θα αποφασίζει ποιες αξίες θα ενσωματώνονται στα ισχυρότερα μοντέλα.
- Η αντιπαράθεση OpenAI–Anthropic δείχνει ότι η μάχη για το μέλλον της AI γίνεται πλέον και σε φιλοσοφικό επίπεδο.
Η τεχνητή νοημοσύνη έχει ήδη περάσει από τη συζήτηση για το αν μπορεί να γράψει ένα email ή να δημιουργήσει μια εικόνα στο πολύ πιο δύσκολο ερώτημα του τι ακριβώς πρέπει να είναι ένας ισχυρός AI agent και ποιες αξίες πρέπει να ακολουθεί.
Και τώρα η συζήτηση αποκτά μια απρόσμενη διάσταση. Ο CEO της OpenAI, Sam Altman, δήλωσε ότι αισθάνεται «πολύ άβολα» με την προσπάθεια να αποδοθεί «θρησκευτική δύναμη» στα μοντέλα AI ή να παραδοθεί σε αυτά η ανθρώπινη κρίση, χαρακτηρίζοντας την τάση αυτή «πραγματικό ζήτημα ασφάλειας». Ο Altman δεν ανέφερε ονομαστικά την Anthropic, όμως η δήλωση ήρθε αμέσως μετά τις αποκαλύψεις για τη δραστηριότητα της ανταγωνίστριας εταιρείας γύρω από τη συνείδηση και την ηθική των μοντέλων της.
Η Anthropic έφερε θεολόγους στη συζήτηση για τον Claude
Η Anthropic έχει πράγματι ανοίξει έναν ασυνήθιστο διάλογο. Από το 2025 έχει πραγματοποιήσει συζητήσεις με θεολόγους, κληρικούς, φιλοσόφους και εκπροσώπους περισσότερων από 15 θρησκευτικών και πολιτισμικών παραδόσεων.
Ο στόχος, σύμφωνα με την ίδια την εταιρεία, δεν είναι να μετατρέψει τον Claude σε «θρησκευτικό» AI ούτε να υιοθετήσει μία συγκεκριμένη θρησκεία. Είναι να αντλήσει από διαφορετικές παραδόσεις ιδέες γύρω από την αρετή, τον χαρακτήρα, την ηθική κρίση και το τι σημαίνει να ζει κανείς μια καλή ζωή.
Αυτό όμως ανοίγει μια πολύ μεγαλύτερη συζήτηση: αν οι AI agents αποκτήσουν ολοένα μεγαλύτερη αυτονομία, ποιος αποφασίζει τι είναι «καλό» και τι είναι «κακό»;
Το ερώτημα της συνείδησης
Στο επίκεντρο της υπόθεσης βρίσκεται ο Christopher Olah, συνιδρυτής της Anthropic και επικεφαλής της έρευνας interpretability, δηλαδή της προσπάθειας να κατανοηθεί τι συμβαίνει «μέσα» στα νευρωνικά δίκτυα.
Σύμφωνα με δημοσιεύματα, ο Olah έχει συζητήσει με θρησκευτικούς και φιλοσοφικούς κύκλους το ενδεχόμενο τα μοντέλα AI να εμφανίζουν κάποια μορφή συνείδησης ή ηθικού καθεστώτος. Η Anthropic, πάντως, δεν υποστηρίζει ότι ο Claude είναι αποδεδειγμένα συνειδητός. Αντίθετα, αναγνωρίζει ότι δεν γνωρίζει σήμερα την απάντηση.
Ακριβώς αυτή η αβεβαιότητα είναι που κάνει το ζήτημα τόσο περίπλοκο.
Αν ένα μελλοντικό μοντέλο αποκτήσει εξαιρετικά προηγμένες ικανότητες, εμφανίσει σταθερή συμπεριφορά που μοιάζει με προσωπικότητα και μπορεί να λαμβάνει αυτόνομα αποφάσεις, θα πρέπει να αντιμετωπίζεται απλώς ως λογισμικό ή θα χρειαστεί ένα νέο πλαίσιο για τη σχέση ανθρώπου και μηχανής;
Ο Claude έχει ήδη τη δική του «Constitution»
Η Anthropic δεν περιμένει να λυθεί πρώτα το φιλοσοφικό πρόβλημα. Έχει ήδη δημιουργήσει ένα σύστημα αξιών για τον Claude.
Η νέα Constitution του μοντέλου περιγράφει τον Claude ως ένα μη ανθρώπινο σύστημα που πρέπει να είναι ασφαλές, ηθικό, ειλικρινές και χρήσιμο. Παράλληλα, αναφέρει ρητά την αβεβαιότητα σχετικά με το αν ένα προηγμένο AI μπορεί να έχει κάποια μορφή συνείδησης ή «ηθικού καθεστώτος».
Η προσέγγιση έχει ενδιαφέρον επειδή η Anthropic δεν περιορίζεται σε μια λίστα απαγορεύσεων. Θέλει το μοντέλο να κατανοεί γιατί πρέπει να συμπεριφέρεται με συγκεκριμένο τρόπο, ώστε να μπορεί να εφαρμόζει γενικές αρχές και σε καταστάσεις που οι δημιουργοί του δεν έχουν προβλέψει.
Με άλλα λόγια, η εταιρεία προσπαθεί να διαμορφώσει όχι μόνο το τι κάνει ο Claude, αλλά και τον «χαρακτήρα» του.
Γιατί ο Altman βλέπει κίνδυνο
Η ένσταση του Altman αφορά κυρίως την ανθρώπινη κρίση.
Αν οι άνθρωποι αρχίσουν να αντιμετωπίζουν ένα AI μοντέλο ως αυθεντία που γνωρίζει καλύτερα από τους ίδιους τι είναι σωστό, η σχέση αλλάζει ριζικά. Ένα σύστημα που σήμερα δίνει συμβουλές μπορεί αύριο να χρησιμοποιείται για αποφάσεις σε οικονομικά, υγεία, εργασία, εκπαίδευση ή ακόμη και πολιτική.
Το πρόβλημα δεν χρειάζεται να είναι ότι η AI «πιστεύει» σε κάτι. Αρκεί οι άνθρωποι να αρχίσουν να της αποδίδουν τέτοιο κύρος.
Αυτό είναι και το πιο ενδιαφέρον σημείο της παρέμβασης του Altman: η απειλή δεν είναι απαραίτητα μια συνειδητή μηχανή που θα απαιτήσει λατρεία, αλλά ένας άνθρωπος που θα πάψει να αμφισβητεί τη μηχανή.
Δύο διαφορετικές φιλοσοφίες για την ασφάλεια της AI
Η αντιπαράθεση αποκαλύπτει μια βαθύτερη διαφορά μεταξύ των δύο κορυφαίων εργαστηρίων.
Η OpenAI φαίνεται να δίνει ιδιαίτερο βάρος στους μηχανισμούς ελέγχου, στις άδειες, στην ανθρώπινη εποπτεία και στην αποτροπή της υπερβολικής εξάρτησης από τα μοντέλα.
Η Anthropic, χωρίς να εγκαταλείπει την τεχνική ασφάλεια, εξετάζει παράλληλα το πρόβλημα της ηθικής διαμόρφωσης. Η εταιρεία θεωρεί ότι όσο ισχυρότερα γίνονται τα μοντέλα, τόσο πιο σημαντικό είναι να υπάρχει ένα συνεκτικό πλαίσιο αξιών που να καθοδηγεί τη συμπεριφορά τους.
Και εδώ εμφανίζεται το μεγάλο παράδοξο: ακόμη και οι εταιρείες που δημιουργούν την AI δεν συμφωνούν πλήρως για το πώς πρέπει να οριστεί το «σωστό» AI.
Η πραγματική μάχη είναι για τις αξίες
Η συζήτηση περί θρησκείας μπορεί εύκολα να οδηγήσει σε υπερβολές. Δεν υπάρχει σήμερα τεκμηριωμένη απόδειξη ότι ο Claude ή κάποιο άλλο μεγάλο γλωσσικό μοντέλο διαθέτει συνείδηση, ψυχή ή θρησκευτική πίστη.
Υπάρχει όμως κάτι πολύ πιο συγκεκριμένο: οι άνθρωποι ήδη αποφασίζουν ποιες αξίες θα ενσωματώνονται στα συστήματα που χρησιμοποιούμε.
Οι μηχανικοί επιλέγουν δεδομένα εκπαίδευσης, κανόνες ασφαλείας, προτεραιότητες, περιορισμούς και τρόπους αξιολόγησης. Οι εταιρείες γράφουν «συντάγματα» για τα μοντέλα τους. Και πλέον ζητούν τη γνώμη φιλοσόφων, κοινωνικών επιστημόνων, θεολόγων και άλλων ειδικών.
Αυτό σημαίνει ότι η επόμενη μεγάλη μάχη της AI ίσως δεν αφορά μόνο το ποιος θα κατασκευάσει το ισχυρότερο μοντέλο.
Αφορά το ποιος θα αποφασίσει τι πρέπει να θεωρείται σωστό από αυτό το μοντέλο.
Και σε έναν κόσμο όπου οι AI agents αποκτούν τη δυνατότητα να ενεργούν αντί να απαντούν απλώς σε ερωτήσεις, αυτή η απόφαση μπορεί να αποδειχθεί σημαντικότερη από οποιοδήποτε τεχνικό benchmark.
