Η γενετική τεχνητή νοημοσύνη έχει μπει για τα καλά στις επιχειρήσεις, όμως μαζί με την παραγωγικότητα φέρνει και νέους κινδύνους. Σύμφωνα με πρόσφατη έρευνα στον χώρο της κυβερνοασφάλειας, το ChatGPT βρίσκεται στην κορυφή της λίστας όσον αφορά τον κίνδυνο διαρροής εταιρικών δεδομένων, ξεπερνώντας άλλα εργαλεία generative AI.
Αυτό δεν σημαίνει απαραίτητα ότι το ChatGPT είναι “ανασφαλές” από τη φύση του. Στην πραγματικότητα, το πρόβλημα φαίνεται να είναι ο τρόπος που χρησιμοποιείται μέσα στις εταιρείες, και όχι η ίδια η τεχνολογία.
Τι δείχνουν τα στοιχεία για τον κίνδυνο δεδομένων
Η ανάλυση βασίστηκε σε δεκάδες εκατομμύρια prompts που χρησιμοποιήθηκαν από εργαζομένους σε περιβάλλοντα enterprise. Το συμπέρασμα ήταν σαφές: ένα πολύ μικρό σύνολο εργαλείων generative AI συγκεντρώνει τη συντριπτική πλειονότητα των περιστατικών κινδύνου, με το ChatGPT να ευθύνεται για το μεγαλύτερο ποσοστό.
Ο βασικός λόγος είναι απλός. Το ChatGPT είναι μακράν το πιο διαδεδομένο εργαλείο AI στον εργασιακό χώρο. Όταν κάτι χρησιμοποιείται μαζικά, αυξάνονται αντίστοιχα και οι πιθανότητες λάθους. Εργαζόμενοι αντιγράφουν κώδικα, εσωτερικά έγγραφα, emails πελατών ή ακόμα και οικονομικά δεδομένα και τα επικολλούν σε prompts, χωρίς να σκέφτονται πάντα τις συνέπειες.
Σε πολλές περιπτώσεις, αυτά τα δεδομένα δεν θα έπρεπε ποτέ να φύγουν από το εσωτερικό δίκτυο μιας εταιρείας. Όμως η ευκολία και η ταχύτητα που προσφέρει η AI κάνουν πολλούς να παρακάμπτουν διαδικασίες και πολιτικές ασφαλείας.
Το πρόβλημα δεν είναι η AI, αλλά ο άνθρωπος
Ένα από τα πιο σημαντικά σημεία της έρευνας είναι ότι ο κίνδυνος δεν προέρχεται από κάποιο “κακόβουλο” χαρακτηριστικό του ChatGPT. Αντίθετα, προέρχεται από τη λανθασμένη χρήση του σε επαγγελματικά περιβάλλοντα.
Πολλές επιχειρήσεις δεν έχουν ξεκάθαρη πολιτική για το πώς επιτρέπεται η χρήση generative AI. Άλλες απαγορεύουν επίσημα τη χρήση, αλλά στην πράξη οι εργαζόμενοι συνεχίζουν να τη χρησιμοποιούν ανεπίσημα, δημιουργώντας το λεγόμενο “shadow AI”. Αυτό σημαίνει ότι τα δεδομένα φεύγουν εκτός ελέγχου του IT και της ασφάλειας, χωρίς καταγραφή ή προστασία.
Το αποτέλεσμα είναι ένα παράδοξο. Εργαλεία που προορίζονται να αυξήσουν την παραγωγικότητα καταλήγουν να δημιουργούν νέες επιφάνειες επίθεσης, απλώς και μόνο επειδή δεν υπάρχουν σαφείς κανόνες.
Γιατί το ChatGPT βρίσκεται στο επίκεντρο
Το ChatGPT δεν είναι το μοναδικό εργαλείο που ενέχει κινδύνους, αλλά είναι το πιο “ορατό”. Χρησιμοποιείται για τα πάντα: από συγγραφή emails και ανάλυση δεδομένων μέχρι debugging και business planning. Όσο περισσότερα σενάρια χρήσης, τόσο μεγαλύτερη η πιθανότητα κάποιος να εισάγει ευαίσθητες πληροφορίες.
Επιπλέον, πολλοί εργαζόμενοι αντιμετωπίζουν το ChatGPT σαν έναν “έξυπνο συνάδελφο” και όχι σαν μια εξωτερική υπηρεσία. Αυτή η ψευδαίσθηση ασφάλειας οδηγεί σε χαλαρότερη συμπεριφορά σε σχέση με τα δεδομένα που μοιράζονται.
Η έρευνα δείχνει ξεκάθαρα ότι το μεγαλύτερο ποσοστό ρίσκου συγκεντρώνεται εκεί όπου η χρήση είναι ανεξέλεγκτη και χωρίς εταιρική διακυβέρνηση.
Τι σημαίνει αυτό για τις επιχειρήσεις
Το μήνυμα είναι ξεκάθαρο: δεν μπορείς να αποκλείσεις την χρήση της AI, αλλά ούτε και η ανεξέλεγκτη χρήση της. Οι επιχειρήσεις χρειάζονται σαφείς πολιτικές, εκπαίδευση προσωπικού και εργαλεία που επιτρέπουν τη χρήση generative AI χωρίς να εκθέτουν κρίσιμα δεδομένα.
Σε πολλές περιπτώσεις, η λύση δεν είναι να σταματήσει η χρήση του ChatGPT, αλλά να μεταφερθεί σε ελεγχόμενα περιβάλλοντα, με φίλτρα δεδομένων, logging και ξεκάθαρα όρια για το τι επιτρέπεται να εισαχθεί σε prompts.
Το ChatGPT δεν είναι ο “κακός” της υπόθεσης, αλλά ο καθρέφτης ενός μεγαλύτερου προβλήματος. Η γενετική AI μπήκε στις επιχειρήσεις γρηγορότερα από όσο πρόλαβαν να προσαρμοστούν οι πολιτικές ασφαλείας.
Όσο η τεχνητή νοημοσύνη γίνεται βασικό εργαλείο δουλειάς, τόσο πιο κρίσιμο είναι να χρησιμοποιείται με κανόνες. Γιατί στο τέλος της ημέρας, ο μεγαλύτερος κίνδυνος δεν είναι η AI, αλλά το τι επιλέγουμε να της αποκαλύπτουμε.
Θέλει εκπαίδευση και οι επιχειρήσεις πρέπει να δώσουν προτεραιότητα στην εκπαίδευση του προσωπικού τους ώστε να μην βρεθούν προ εκπλήξεων.
Μείνετε συντονισμένοι στο techlog.gr για περισσότερα χρήσιμα νέα τεχνολογίας!
