Η OpenAI ετοιμάζεται να προσθέσει ένα αόρατο ψηφιακό υδατογράφημα στα κείμενα που δημιουργούν το ChatGPT και το Codex για χρήστες στην Ευρωπαϊκή Ένωση, στο πλαίσιο των νέων απαιτήσεων διαφάνειας του AI Act. Η αλλαγή αναμένεται να εφαρμοστεί σταδιακά τις επόμενες εβδομάδες.
Το watermark δεν θα είναι ορατό στον χρήστη και δεν θα περιλαμβάνει κρυφούς χαρακτήρες, ειδικά σύμβολα ή κάποια περίεργη μορφοποίηση. Αντίθετα, η OpenAI χρησιμοποιεί την τεχνολογία textGrain, η οποία τροποποιεί διακριτικά τον τρόπο με τον οποίο το μοντέλο επιλέγει τις λέξεις. Με αυτόν τον τρόπο δημιουργείται ένα στατιστικό μοτίβο που μπορεί να αναγνωριστεί αργότερα από ειδικό λογισμικό.
Η συγκεκριμένη αλλαγή συνδέεται με το άρθρο 133 του ευρωπαϊκού AI Act, οι σχετικές απαιτήσεις του οποίου εφαρμόζονται από τις 2 Αυγούστου 2026. Οι κανόνες προβλέπουν τεχνική σήμανση για περιεχόμενο που παράγεται από συστήματα AI, ώστε να μπορεί να αναγνωριστεί από υπολογιστικά συστήματα.
Η OpenAI έχει αναπτύξει και ειδικό detector για το textGrain, ο οποίος αρχικά δεν θα είναι διαθέσιμος στο ευρύ κοινό, αλλά σε εγκεκριμένους ερευνητές και οργανισμούς. Στις δοκιμές της εταιρείας, το σύστημα εντόπισε το watermark περίπου στο 80% των κειμένων των 200 tokens και στο 95% των 400 tokens, με στόχο τα ψευδώς θετικά αποτελέσματα να παραμένουν στο 1%.
Ωστόσο, το σύστημα έχει περιορισμούς. Η ανίχνευση μειώνεται σημαντικά όταν ένα κείμενο υποστεί επεξεργασία ή παραφραστεί. Για παράδειγμα, σε δοκιμές της OpenAI, η αντικατάσταση του 10% των λέξεων με συνώνυμα μείωσε την αποτελεσματικότητα της ανίχνευσης από περίπου 92% σε 66%, ενώ με αλλαγές στο 25% των λέξεων έπεσε στο 17%.
Σημαντικό είναι επίσης ότι το watermark δεν αποδεικνύει ποιος έγραψε ένα κείμενο ούτε πόσο συνέβαλε ένας άνθρωπος στη δημιουργία του. Αντίστοιχα, η απουσία watermark δεν σημαίνει απαραίτητα ότι ένα κείμενο γράφτηκε από άνθρωπο, καθώς η ανίχνευση μπορεί να επηρεαστεί από το μέγεθος, την επεξεργασία ή τη μετάφραση του περιεχομένου.
Για τους χρήστες του ChatGPT η αλλαγή θα είναι ουσιαστικά αόρατη, καθώς η OpenAI υποστηρίζει ότι στις δοκιμές της δεν παρατηρήθηκε σημαντική επίδραση στην ποιότητα των απαντήσεων. Το textGrain θα εφαρμοστεί αρχικά στην Ευρωπαϊκή Ένωση, ενώ για το API η χρήση του watermark θα είναι προαιρετική σε επιλεγμένα μοντέλα.
Η OpenAI σχεδιάζει επίσης να διαθέσει το textGrain ως open source, ώστε ερευνητές και οργανισμοί να μπορούν να μελετήσουν την τεχνολογία και να συμβάλουν στη βελτίωσή της.
