Η ρυθμιστική αρχή κυβερνοχώρου της Κίνας (CAC) εξέδωσε το Σάββατο, 27 Δεκεμβρίου 2025, ένα προσχέδιο κανόνων με στόχο την αυστηρότερη εποπτεία των υπηρεσιών Τεχνητής Νοημοσύνης που έχουν σχεδιαστεί για να προσομοιώνουν ανθρώπινες προσωπικότητες και να εμπλέκουν τους χρήστες σε συναισθηματική αλληλεπίδραση. Οι προτεινόμενοι κανονισμοί αφορούν προϊόντα που παρουσιάζουν ανθρώπινα χαρακτηριστικά σκέψης και επικοινωνίας μέσω κειμένου, ήχου ή βίντεο, με τις αρχές να απαιτούν από τους παρόχους να προειδοποιούν τους χρήστες για την υπερβολική χρήση και να παρεμβαίνουν άμεσα εάν εντοπιστούν σημάδια εθισμού. Επιπλέον, οι εταιρείες θα υποχρεούνται να αξιολογούν την ψυχολογική κατάσταση των χρηστών τους και να διασφαλίζουν ότι τα συστήματα AI δεν καλλιεργούν επικίνδυνες εξαρτήσεις ή ακραία συναισθήματα.
Ασφάλεια, ηθική και «κόκκινες γραμμές» στο περιεχόμενο
Το νέο πλαίσιο θέτει σαφείς περιορισμούς στο περιεχόμενο που παράγεται, απαγορεύοντας ρητά τη δημιουργία υλικού που θα μπορούσε να θέσει σε κίνδυνο την εθνική ασφάλεια, να διασπείρει φήμες ή να προωθήσει τη βία και την απρέπεια. Οι πάροχοι υπηρεσιών AI θα φέρουν την πλήρη ευθύνη για την ασφάλεια των προϊόντων τους καθ’ όλη τη διάρκεια του κύκλου ζωής τους, ενώ θα πρέπει να υιοθετήσουν συστήματα ελέγχου αλγορίθμων και προστασίας προσωπικών δεδομένων. Ένα από τα πιο χαρακτηριστικά σημεία των νέων κανόνων είναι η απαίτηση για συμμόρφωση με τις «βασικές σοσιαλιστικές αξίες», διασφαλίζοντας ότι η τεχνολογική ανάπτυξη δεν θα έρχεται σε σύγκρουση με την κρατική ιδεολογία και την κοινωνική σταθερότητα της χώρας.
Προστασία των χρηστών και παγκόσμιες επιπτώσεις
Οι κανονισμοί αυτοί έρχονται σε μια περίοδο που οι ψηφιακοί σύντροφοι (AI companions) γίνονται ολοένα και πιο δημοφιλείς, εγείροντας ανησυχίες για την ψυχική υγεία, ειδικά των ανηλίκων. Η Κίνα, επιβάλλοντας τακτικές ενημερώσεις στους χρήστες (όπως ειδοποιήσεις κάθε δύο ώρες αλληλεπίδρασης), επιδιώκει να δημιουργήσει ένα προστατευτικό πλέγμα απέναντι στην ανεξέλεγκτη χρήση της AI. Η κίνηση αυτή αναμένεται να επηρεάσει σημαντικά τους τεχνολογικούς κολοσσούς της χώρας, καθώς η ισορροπία ανάμεσα στην ελκυστικότητα των προϊόντων και την αυστηρή ρυθμιστική συμμόρφωση γίνεται πλέον μια δύσκολη και δαπανηρή πρόκληση.
Η πρωτοβουλία της Κίνας να ρυθμίσει τη συναισθηματική πλευρά της Τεχνητής Νοημοσύνης αποτελεί ένα παγκόσμιο προηγούμενο που αναδεικνύει την ανάγκη για ηθικά όρια στην ψηφιακή επικοινωνία. Μένει να δούμε πώς οι κανόνες αυτοί θα διαμορφώσουν την εμπειρία των χρηστών και αν θα αποτελέσουν οδηγό για παρόμοιες κινήσεις και σε άλλες χώρες.
