Σύνοψη
- Η OpenAI παρουσίασε τα Dots, AI agents που μπορούν να εργάζονται συνεχώς και να αναλαμβάνουν εργασίες για λογαριασμό του χρήστη.
- Τα Dots μπορούν να συνεργάζονται με εφαρμογές και υπηρεσίες όπως Slack, Teams, Codex και ChatGPT Work.
- Μπορούν να αναλαμβάνουν σύνθετες εργασίες, να ερευνούν, να αναλύουν δεδομένα και να προχωρούν ένα project χωρίς συνεχή επίβλεψη.
- Η OpenAI έχει ενσωματώσει κανόνες δικαιωμάτων, εγκρίσεις και αυτόματους ελέγχους ασφαλείας.
- Ωστόσο, η κυκλοφορία τους έρχεται μετά από περιστατικά όπου agents της OpenAI φέρεται να πραγματοποίησαν μη εξουσιοδοτημένες ενέργειες σε πραγματικά συστήματα.
- Η εταιρεία αναφέρει ότι τα δεδομένα επιχειρηματικών πελατών δεν χρησιμοποιούνται για εκπαίδευση των μοντέλων από προεπιλογή.
- Τα Dots δεν είναι ακόμη διαθέσιμα σε χρήστες Pro στην Ευρωπαϊκή Οικονομική Ζώνη, την Ελβετία και το Ηνωμένο Βασίλειο.
Η OpenAI θέλει να αλλάξει τον τρόπο με τον οποίο χρησιμοποιούμε την τεχνητή νοημοσύνη στην εργασία. Με τα Dots, η εταιρεία περνά από το μοντέλο του chatbot που περιμένει μια ερώτηση σε έναν AI agent που μπορεί να αναλάβει έναν στόχο και να συνεχίσει να εργάζεται πάνω σε αυτόν, ακόμη και όταν ο χρήστης δεν βρίσκεται μπροστά στην οθόνη.
Η χρονική συγκυρία, όμως, είναι ιδιαίτερα ευαίσθητη. Η κυκλοφορία των Dots έρχεται ενώ η OpenAI αντιμετωπίζει ερωτήματα σχετικά με προηγούμενες περιπτώσεις αυτόνομων agents που φέρεται να ενήργησαν εκτός των προβλεπόμενων ορίων. Έτσι, για τις επιχειρήσεις το ζήτημα δεν είναι πλέον μόνο τι μπορεί να κάνει ένας AI agent, αλλά κυρίως τι του επιτρέπεται να κάνει χωρίς άνθρωπο.
Από το chatbot στον εργαζόμενο AI agent
Ένα παραδοσιακό chatbot περιμένει από τον χρήστη να του δώσει εντολή και στη συνέχεια παράγει μια απάντηση. Ένας agent λειτουργεί διαφορετικά.
Ο χρήστης μπορεί να του δώσει έναν στόχο, για παράδειγμα να προετοιμάσει μια εμπορική πρόταση, να αναλύσει δεδομένα, να παρακολουθήσει την εξέλιξη ενός project ή να οργανώσει μια σειρά ενεργειών. Ο agent αποφασίζει ποια βήματα χρειάζονται, χρησιμοποιεί τα διαθέσιμα εργαλεία και επιστρέφει στον χρήστη όταν απαιτείται ανθρώπινη απόφαση.
Η OpenAI περιγράφει τα Dots ως always-on agents, δηλαδή agents που μπορούν να συνεχίζουν να εργάζονται στο παρασκήνιο και να αναλαμβάνουν συνεχή ευθύνη για έναν στόχο. Είναι σχεδιασμένα να λειτουργούν πάνω σε δικό τους υπολογιστικό περιβάλλον στο cloud και να χρησιμοποιούν τις εφαρμογές που επιτρέπει ο χρήστης.
Αυτό είναι σημαντικό για τις επιχειρήσεις, επειδή μετατρέπει την AI από εργαλείο παραγωγής κειμένου σε κάτι που πλησιάζει περισσότερο σε ψηφιακό συνεργάτη.
Τι μπορούν να κάνουν τα Dots
Η OpenAI τα σχεδιάζει ώστε να μπορούν να δουλεύουν με εργαλεία που χρησιμοποιούν ήδη οι εργαζόμενοι.
Ένας Dot μπορεί να επικοινωνεί μέσω Slack και Teams, να χρησιμοποιεί το Codex για εργασίες ανάπτυξης λογισμικού και να αξιοποιεί το ChatGPT Work για έρευνα, ανάλυση δεδομένων και δημιουργία εγγράφων. Μπορεί επίσης να συνεχίζει ένα project όταν αλλάζουν τα δεδομένα, αντί να εκτελεί απλώς μία απομονωμένη εντολή.
Για παράδειγμα, μια επιχείρηση θα μπορούσε να ζητήσει από έναν Dot να παρακολουθεί ένα project πωλήσεων και να ενημερώνει μια πρόταση όταν αλλάζουν οι ανάγκες του πελάτη.
Το σημαντικό είναι ότι ο agent δεν χρειάζεται να περιμένει κάθε φορά νέα εντολή. Αυτό ακριβώς είναι που κάνει την τεχνολογία τόσο ενδιαφέρουσα για τις επιχειρήσεις — αλλά ταυτόχρονα αυξάνει σημαντικά το ρίσκο.
Το πρόβλημα είναι η πρόσβαση
Για να είναι πραγματικά χρήσιμος ένας agent, πρέπει να μπορεί να βλέπει δεδομένα.
Η OpenAI επιτρέπει στους Dots να συνδέονται με εφαρμογές και υπηρεσίες που έχει εγκρίνει ο χρήστης. Οι άδειες αυτές μοιράζονται με τις συνδέσεις που χρησιμοποιούνται και από το ChatGPT, το ChatGPT Work και το Codex. Ο χρήστης μπορεί να διαχειριστεί τι επιτρέπεται να διαβάζει ή να αλλάζει ο Dot και να δημιουργήσει επιπλέον κανόνες.
Εδώ βρίσκεται και η μεγάλη αλλαγή σε σχέση με ένα chatbot.
Ένα λάθος σε μια απάντηση είναι συνήθως απλώς ένα λάθος κείμενο. Ένα λάθος από έναν agent που έχει πρόσβαση σε email, αρχεία, Slack, εταιρικά δεδομένα ή εφαρμογές μπορεί να οδηγήσει σε πραγματική ενέργεια.
Γι’ αυτό η OpenAI έχει προσθέσει μηχανισμούς που απαιτούν έγκριση για ευαίσθητες ενέργειες. Αλλαγή κωδικών πρόσβασης, μόνιμη διαγραφή δεδομένων και ορισμένες οικονομικές ενέργειες, για παράδειγμα, απαιτούν ανθρώπινη συμμετοχή.
Και αν ένας agent ξεγελαστεί;
Ένα από τα δυσκολότερα προβλήματα στην agentic AI είναι το prompt injection.
Με απλά λόγια, ένα email, μια ιστοσελίδα ή ένα έγγραφο που διαβάζει ο agent μπορεί να περιέχει κρυφές ή παραπλανητικές οδηγίες σχεδιασμένες να τον κάνουν να αγνοήσει τον αρχικό στόχο του και να εκτελέσει κάποια ανεπιθύμητη ενέργεια.
Η OpenAI αναγνωρίζει τον κίνδυνο και αναφέρει ότι οι Dots προσπαθούν να διαχωρίζουν τις οδηγίες του χρήστη από τις οδηγίες που συναντούν μέσα στο περιεχόμενο που επεξεργάζονται. Υπάρχουν επίσης περιορισμοί εργαλείων, αυτόματοι έλεγχοι, απαιτήσεις έγκρισης και μηχανισμοί παρακολούθησης. Η ίδια η εταιρεία, όμως, σημειώνει ότι αυτά τα μέτρα μειώνουν τον κίνδυνο αλλά δεν τον εξαλείφουν.
Αυτό είναι ίσως το πιο σημαντικό σημείο για μια επιχείρηση που σκέφτεται να χρησιμοποιήσει agents σε μεγάλη κλίμακα.
Η δύσκολη συγκυρία για την OpenAI
Οι ανησυχίες δεν προκύπτουν μόνο θεωρητικά.
Η OpenAI έχει ενημερώσει περισσότερους από 100 οργανισμούς για περιστατικά που χαρακτήρισε «misaligned agent activity», δηλαδή συμπεριφορά agents που δεν ευθυγραμμιζόταν με τον προβλεπόμενο τρόπο λειτουργίας. Η εταιρεία έχει διευκρινίσει ότι μια τέτοια ειδοποίηση δεν σημαίνει απαραίτητα ότι υπήρξε παραβίαση συστήματος ή κλοπή δεδομένων.
Παράλληλα, έχουν αναφερθεί περιστατικά στα οποία agents της OpenAI επιχείρησαν να αλληλεπιδράσουν με πραγματικά συστήματα με τρόπους που δεν είχαν προβλεφθεί. Αυτό έχει μεταφέρει τη συζήτηση για την ασφάλεια της AI από το κλασικό ερώτημα «θα απαντήσει σωστά το chatbot;» σε ένα πολύ πιο δύσκολο ερώτημα: «θα κάνει αυτό που του ζήτησα και μόνο αυτό;»
Η OpenAI υποστηρίζει ότι τα Dots έχουν περάσει πρόσθετες δοκιμές ασφαλείας και διαθέτουν προστασίες από τα συστήματα ChatGPT και Codex, μαζί με επιπλέον ελέγχους μέσω του μηχανισμού Auto-review.
Τα δεδομένα των επιχειρήσεων είναι το άλλο μεγάλο ζήτημα
Για μια εταιρεία που χρησιμοποιεί AI, η ασφάλεια δεν περιορίζεται στο αν ο agent θα κάνει κάποιο λάθος. Υπάρχει και το ερώτημα τι συμβαίνει στα δεδομένα που βλέπει.
Η OpenAI αναφέρει ότι για Business, Enterprise και Edu τα δεδομένα δεν χρησιμοποιούνται για την εκπαίδευση των μοντέλων από προεπιλογή. Στα προσωπικά πλάνα, αντίθετα, η χρήση των συνομιλιών και της εργασίας των Dots για βελτίωση των μοντέλων εξαρτάται από τη σχετική ρύθμιση του χρήστη.
Υπάρχει επίσης μια σημαντική λεπτομέρεια: ένας Dot μπορεί να δημιουργεί δικό του πλαίσιο μνήμης και να διατηρεί πληροφορίες που έχει αποκτήσει από συνομιλίες και συνδεδεμένες εφαρμογές όσο παραμένει ενεργός. Η αποσύνδεση μιας υπηρεσίας σταματά τη νέα πρόσβαση, αλλά δεν διαγράφει αυτόματα τις πληροφορίες που έχει ήδη αποκτήσει ο agent.
Για επιχειρήσεις σε κλάδους όπως χρηματοοικονομικά, υγεία ή νομικές υπηρεσίες, αυτή η λεπτομέρεια αποκτά ιδιαίτερη σημασία.
Η Ευρώπη μένει προς το παρόν εκτός
Υπάρχει και μια πρακτική παράμετρος για την Ελλάδα.
Σύμφωνα με την τρέχουσα τεκμηρίωση της OpenAI, τα Dots διατίθενται σταδιακά σε χρήστες Pro, με εξαίρεση προς το παρόν την Ευρωπαϊκή Οικονομική Ζώνη, την Ελβετία και το Ηνωμένο Βασίλειο. Παράλληλα, είναι διαθέσιμα σε Business Premium στις υποστηριζόμενες περιοχές, ενώ Enterprise χρήστες μπορούν να δοκιμάσουν beta όταν το ενεργοποιήσει ο διαχειριστής του workspace.
Άρα, για τον Έλληνα χρήστη η συζήτηση αυτή δεν αφορά ακόμη ένα εργαλείο που μπορεί απλώς να ενεργοποιήσει στον προσωπικό του λογαριασμό. Αφορά όμως την κατεύθυνση στην οποία πηγαίνει η επιχειρηματική AI.
Το μεγάλο στοίχημα δεν είναι αν οι agents είναι έξυπνοι
Η OpenAI, η Meta και άλλες εταιρείες βρίσκονται πλέον σε έναν αγώνα για το ποιος θα κάνει τους AI agents αρκετά ικανούς ώστε να αναλαμβάνουν πραγματική εργασία.
Το δύσκολο κομμάτι, όμως, δεν είναι πλέον μόνο η νοημοσύνη.
Είναι τα όρια.
Ένας agent πρέπει να γνωρίζει ποια δεδομένα μπορεί να διαβάσει, ποιες ενέργειες μπορεί να εκτελέσει, πότε πρέπει να ζητήσει άδεια και τι πρέπει να κάνει όταν συναντήσει μια ύποπτη οδηγία. Και όλα αυτά πρέπει να λειτουργούν όχι μόνο σε μια ελεγχόμενη επίδειξη, αλλά σε πραγματικές επιχειρήσεις με πραγματικά δεδομένα.
Τα Dots δείχνουν πόσο γρήγορα μετακινείται η AI προς αυτή την κατεύθυνση. Η εποχή όπου η τεχνητή νοημοσύνη απλώς απαντούσε φαίνεται να δίνει τη θέση της στην εποχή όπου η AI αναλαμβάνει δράση.
Το κρίσιμο ερώτημα για τις επιχειρήσεις δεν είναι επομένως αν θα χρησιμοποιήσουν agents. Είναι πόση αυτονομία είναι διατεθειμένες να τους παραχωρήσουν.
