Με λίγα λόγια
- Η Anthropic παρουσίασε το FlashProve, ένα ανοιχτού κώδικα ερευνητικό εργαλείο που μπορεί να επαληθεύσει αν μια απάντηση προήλθε πράγματι από το AI μοντέλο που δηλώνει ο πάροχος.
- Χρησιμοποιεί κρυπτογραφικές αποδείξεις, χωρίς να αποκαλύπτει τις εσωτερικές παραμέτρους (weights) του μοντέλου.
- Προς το παρόν παραμένει πρωτότυπο έρευνας. Στις δοκιμές της Anthropic ήταν σημαντικά πιο απαιτητικό υπολογιστικά από μια συνηθισμένη εκτέλεση μοντέλου.
Η Anthropic παρουσίασε το FlashProve, ένα νέο εργαλείο που φιλοδοξεί να αντιμετωπίσει ένα πρόβλημα που μέχρι σήμερα δεν είναι εύκολο να αντιληφθεί ο χρήστης: όταν παίρνουμε μια απάντηση από μια υπηρεσία τεχνητής νοημοσύνης, δεν έχουμε τρόπο να γνωρίζουμε με βεβαιότητα ποιο μοντέλο την παρήγαγε.
Για παράδειγμα, μια εταιρεία μπορεί να διαφημίζει ότι χρησιμοποιεί ένα ισχυρό και ακριβό AI μοντέλο, αλλά στην πράξη να δρομολογεί ορισμένα αιτήματα σε ένα φθηνότερο. Κάτι αντίστοιχο θα μπορούσε να συμβεί και μέσω μιας υπηρεσίας που μεσολαβεί ανάμεσα στον χρήστη και τον πάροχο του μοντέλου. Το FlashProve σχεδιάστηκε ώστε να μπορεί να αποδεικνύει κρυπτογραφικά ποιο μοντέλο παρήγαγε μια συγκεκριμένη απάντηση.
Πώς λειτουργεί το FlashProve
Η τεχνολογία βασίζεται σε μια μέθοδο που η Anthropic ονομάζει provable inference, δηλαδή επαληθεύσιμη εκτέλεση ενός μοντέλου AI. Με απλά λόγια, ο πάροχος δημιουργεί ένα κρυπτογραφικό αποτύπωμα για τα βάρη του μοντέλου. Στη συνέχεια, μπορεί να συνοδεύει την απάντηση με μια ψηφιακή απόδειξη ότι τα συγκεκριμένα δεδομένα προήλθαν από το μοντέλο που είχε δηλώσει εξαρχής.
Η διαδικασία χρησιμοποιεί μια τεχνική που ονομάζεται zkSNARK, ένα είδος κρυπτογραφικής απόδειξης που επιτρέπει σε κάποιον να ελέγξει ότι ένας υπολογισμός έγινε σωστά, χωρίς να χρειάζεται να δει όλα τα δεδομένα που χρησιμοποιήθηκαν. Στην προκειμένη περίπτωση, ο έλεγχος μπορεί να γίνει χωρίς να αποκαλυφθούν τα weights, δηλαδή οι παράμετροι που καθορίζουν τη συμπεριφορά του μοντέλου.
Αυτό έχει σημασία για εταιρείες όπως η Anthropic, που διατηρούν τα βάρη των εμπορικών μοντέλων τους ιδιωτικά. Θα μπορούσαν έτσι να προσφέρουν έναν τρόπο ανεξάρτητης επαλήθευσης, χωρίς να χρειάζεται να δημοσιοποιήσουν την τεχνολογία τους.
Οι πιθανές εφαρμογές δεν περιορίζονται στην προστασία των απλών χρηστών. Ένας ανεξάρτητος αξιολογητής θα μπορούσε να επιβεβαιώσει ότι δοκιμάζει πράγματι το μοντέλο που ισχυρίζεται ότι αξιολογεί. Αντίστοιχα, μια επιχείρηση θα μπορούσε να ζητήσει από έναν πάροχο να αποδείξει ότι μια εργασία, όπως ο έλεγχος κώδικα για κενά ασφαλείας, έγινε από ένα συγκεκριμένο μοντέλο και όχι από κάποιο υποδεέστερο.
Οι επιδόσεις, οι περιορισμοί και τι σημαίνουν για τους χρήστες
Η Anthropic δοκίμασε το FlashProve στο Llama 4 Maverick της Meta, ένα μοντέλο με 400 δισεκατομμύρια παραμέτρους και αρχιτεκτονική Mixture of Experts. Σύμφωνα με τα στοιχεία της εταιρείας, μία GPU Nvidia H100 μπορούσε να παράγει αποδείξεις με ταχύτητα πάνω από 100 tokens το δευτερόλεπτο. Κάθε απόδειξη είχε μέγεθος περίπου 19 MB για ένα αίτημα 1.024 tokens, ενώ η επαλήθευσή της μπορούσε να γίνει σε έναν συνηθισμένο επεξεργαστή.
Υπάρχει, όμως, ένα σημαντικό μειονέκτημα: η δημιουργία των αποδείξεων απαιτεί περίπου 70 έως 95 φορές περισσότερο χρόνο GPU σε σύγκριση με την κανονική εκτέλεση του μοντέλου μέσω του vLLM. Επομένως, παρότι η τεχνολογία δείχνει ότι η κρυπτογραφική επαλήθευση μπορεί να γίνει πιο πρακτική, απέχει ακόμη από το να χρησιμοποιείται χωρίς σημαντικό πρόσθετο κόστος σε μεγάλη κλίμακα.
Η Anthropic διέθεσε τον κώδικα, την τεχνική τεκμηρίωση και τις μαθηματικές αποδείξεις του FlashProve με άδεια Apache 2.0, ώστε άλλοι ερευνητές και προγραμματιστές να μπορούν να εξετάσουν και να βελτιώσουν την προσέγγιση. Ξεκαθαρίζει, ωστόσο, ότι πρόκειται για ενδιάμεσο ερευνητικό αποτέλεσμα και όχι για ολοκληρωμένο προϊόν. Δεν έχει ανακοινώσει σχέδια να ενσωματώσει το FlashProve στις υπηρεσίες Claude.
Για τον τελικό χρήστη, αυτό σημαίνει ότι δεν αλλάζει κάτι άμεσα στον τρόπο που χρησιμοποιεί τα εργαλεία AI. Η σημασία του FlashProve βρίσκεται περισσότερο στο τι μπορεί να προσφέρει στο μέλλον: έναν τρόπο να ελέγχουμε όχι μόνο την απάντηση που λαμβάνουμε, αλλά και το αν προήλθε πράγματι από το μοντέλο που πληρώσαμε ή επιλέξαμε.
Όμως μην ξεχνάτε ότι δεν αποδεικνύει, βέβαια, αν η απάντηση είναι σωστή· ωστόσο δείχνει την προέλευσή της από το συγκεκριμένο μοντέλο.
