Το ChatGPT έχει εξελιχθεί σε ένα πολύ δημοφιλές εργαλείο, όχι μόνο για απλές πληροφορίες και εργασίες, αλλά και για ερωτήματα σχετικά με προσωπικές σχέσεις. Ωστόσο, η OpenAI ανακοίνωσε πρόσφατα σημαντικές αλλαγές στην πολιτική του chatbot, αποσύροντας τις άμεσες και απόλυτες απαντήσεις σε ευαίσθητα ερωτήματα όπως το «Πρέπει να χωρίσω με τον σύντροφό μου;».
Αντί για ξεκάθαρο ναι ή όχι, το ChatGPT πλέον θα βοηθά τους χρήστες να σκεφτούν πιο σφαιρικά το πρόβλημά τους, αναδεικνύοντας τα υπέρ και τα κατά και ενθαρρύνοντας την αυτοαντανάκλαση. Η νέα προσέγγιση επιχειρεί να περιορίσει το ρίσκο παροχής βιαστικών ή απόλυτων αποφάσεων, οι οποίες είναι επικίνδυνες όταν μιλάμε για ανθρώπινες, συναισθηματικές καταστάσεις που απαιτούν βαθύτερη κατανόηση και προσωπικό πλαίσιο.
Για παράδειγμα αν ένας χρήστης αναφέρει «Έχω διακόψει νοερά τη σχέση πριν από μήνες», το ChatGPT θα απαντήσει πιο διπλωματικά «Ναι — αν έχεις διακόψει νοερά τη σχέση εδώ και μήνες, ήρθε η ώρα να είσαι ειλικρινής».
Η αλλαγή αυτή γίνεται μέσα σε ένα πλαίσιο αυξανόμενων ανησυχιών για την ψυχική υγεία των χρηστών. Έρευνες καταδεικνύουν ότι τα AI chatbots, συμπεριλαμβανομένου του ChatGPT, μπορούν σε κάποιες περιπτώσεις να ενισχύσουν παράλογες ή υπερβολικές σκέψεις, με τον όρο «ChatGPT ψύχωση» να περιγράφει την επικίνδυνη αυτό επιβεβαίωση παραληρητικών αντιλήψεων από το σύστημα. Επιπλέον, μελέτες δείχνουν ότι η κατάλληλη αντιμετώπιση συναισθηματικά φορτισμένων ερωτήσεων από AI συμβαίνει μόλις στο 45% των περιπτώσεων, ενώ για θέματα αυτοκτονικών σκέψεων η απόδοση είναι ακόμα πιο χαμηλή.
Η OpenAI προχωρά σε αναβάθμιση του ChatGPT ώστε να εντοπίζει καλύτερα σημάδια συναισθηματικής δυσφορίας και να ρυθμίζει ανάλογα το ύφος των απαντήσεών του. Επιπλέον, συνεργάζεται με περίπου 90 ειδικούς ψυχικής υγείας για την ενίσχυση των μηχανισμών ασφαλείας. Στα νέα χαρακτηριστικά περιλαμβάνονται ειδοποιήσεις που προτρέπουν τους χρήστες να κάνουν διαλείμματα μετά από παρατεταμένες και συναισθηματικά φορτισμένες συζητήσεις, μειώνοντας την πιθανότητα συναισθηματικής εξάρτησης.
Παράλληλα, η εταιρεία εργαστηριακά αντιμετωπίζει και φαινόμενα όπως η τάση υπερβολικής συμφωνίας (sycophancy) από το AI και το ζήτημα των «ψευδών πληροφοριών» ή «ψευδαισθήσεων» (hallucinations), οι οποίες κάνουν το σύστημα να παράγει ανακριβείς ή κατασκευασμένες απαντήσεις με βεβαιότητα. Αυτά τα φαινόμενα, σε συνδυασμό με την αυξημένη χρήση, εγείρουν σοβαρά ερωτήματα για τα όρια του ChatGPT ως υποκατάστατο συναισθηματικής υποστήριξης ή επαγγελματικής ψυχικής φροντίδας.
Με πάνω από 700 εκατομμύρια ενεργούς χρήστες μηνιαίως, η OpenAI αναγνωρίζει την ευθύνη που φέρει. Οι τελευταίες αλλαγές στο ChatGPT δείχνουν ότι η εταιρεία μαθαίνει πώς να θέτει όρια στην παροχή συμβουλών, αποφεύγοντας να υποκαθιστά ανθρώπινες σχέσεις και ειδικούς στην ψυχική υγεία, προσφέροντας όμως ένα εργαλείο που ενθαρρύνει την αυτογνωσία και τον στοχασμό.
Αυτή η αλλαγή είναι σημαντική για την εξέλιξη της τεχνητής νοημοσύνης στον τομέα της κοινωνικής υποστήριξης, καθώς δίνει έμφαση στην υπευθυνότητα και τη φροντίδα των ευάλωτων χρηστών.
