Με λίγα λόγια
- Η OpenAI προσθέτει το GPT-6.1 Terra στα AI assistants Dots, ώστε να μην απαιτείται το ισχυρότερο GPT-6 Astra για κάθε εργασία.
- Ένα νέο αυτόματο σύστημα επιλέγει ποιο μοντέλο θα αναλάβει κάθε αίτημα, ανάλογα με τις ανάγκες του.
- Η αλλαγή έχει στόχο να μειώσει την υπολογιστική ισχύ που χρειάζονται τα Dots, καθώς οι προσωπικοί AI agents αποδεικνύονται ιδιαίτερα απαιτητικοί σε πόρους.
Η OpenAI αλλάζει τον τρόπο με τον οποίο λειτουργούν οι προσωπικοί AI assistants της, γνωστα ως Dots, προσθέτοντας ένα μικρότερο και οικονομικότερο μοντέλο τεχνητής νοημοσύνης. Η εταιρεία ανακοίνωσε ότι τα Dots θα μπορούν πλέον να χρησιμοποιούν και το GPT-6.1 Terra, αντί να βασίζονται αποκλειστικά στο ισχυρότερο GPT-6 Astra.
Η αλλαγή δεν είναι απλώς μια αναβάθμιση της τεχνολογίας τους. Αποτελεί και μια προσπάθεια να περιοριστεί το κόστος λειτουργίας τους, καθώς κάθε Dot διαθέτει τον δικό του υπολογιστή στο cloud και μπορεί να εκτελεί εργασίες για λογαριασμό του χρήστη ακόμη και όταν εκείνος δεν βρίσκεται μπροστά στην οθόνη.
Τα Dots θα επιλέγουν μόνα τους ποιο μοντέλο χρειάζονται
Μέχρι τώρα, τα Dots βασίζονταν στο GPT-6 Astra για όλες τις εργασίες τους. Με τη νέα αλλαγή, η OpenAI εισάγει ένα αυτόματο σύστημα δρομολόγησης αιτημάτων, το οποίο επιλέγει διαφορετικά μοντέλα ανάλογα με το είδος της δουλειάς.
Έτσι, μια εργασία που δεν απαιτεί ιδιαίτερα σύνθετη συλλογιστική μπορεί να ανατεθεί στο GPT-6.1 Terra, το οποίο χρειάζεται λιγότερη υπολογιστική ισχύ από το Astra. Για πιο απαιτητικές εργασίες, ο assistant μπορεί να αξιοποιήσει ισχυρότερο μοντέλο.
Η OpenAI αναφέρει ότι το Terra βασίζεται στις βελτιώσεις ευθυγράμμισης της οικογένειας GPT-6 και χρησιμοποιεί δικλίδες ασφαλείας που έχουν αναπτυχθεί για το GPT-6 Astra. Με αυτόν τον τρόπο, η εταιρεία θέλει να μειώσει τους υπολογιστικούς πόρους που απαιτούνται, χωρίς να θυσιάσει την αξιοπιστία και την ασφάλεια των assistants.
Τα Dots έχουν σχεδιαστεί για να αναλαμβάνουν εργασίες που ξεπερνούν μια απλή συνομιλία. Μπορούν, για παράδειγμα, να διαβάζουν και να απαντούν σε email, να αναζητούν εισιτήρια για εκδηλώσεις, να βοηθούν στον προγραμματισμό και να συνεργάζονται με εφαρμογές που έχει συνδέσει ο χρήστης.
Κάθε Dot διαθέτει δικό του περιβάλλον υπολογιστή στο cloud, μέσω του οποίου εκτελεί αυτές τις ενέργειες. Η OpenAI σχεδιάζει επίσης λειτουργία background mode, ώστε οι assistants να μπορούν να παραμένουν ενεργοί και να δουλεύουν στο παρασκήνιο, χωρίς να χρειάζεται ο χρήστης να τους δίνει συνεχώς νέες εντολές.
Το μεγάλο πρόβλημα των προσωπικών AI agents είναι το κόστος
Η απόφαση της OpenAI έρχεται σε μια περίοδο κατά την οποία οι εταιρείες τεχνητής νοημοσύνης προσπαθούν να κάνουν τους προσωπικούς AI agents πιο χρήσιμους, αλλά και οικονομικά βιώσιμους. Όσο περισσότερες εργασίες αναλαμβάνουν και όσο περισσότερο χρόνο λειτουργούν, τόσο μεγαλύτερη υπολογιστική ισχύ χρειάζονται.
Ο Adam Fry, επικεφαλής του καταναλωτικού τομέα του ChatGPT, χαρακτήρισε τα Dots ιδιαίτερα απαιτητικούς σε υπολογιστικούς πόρους. Όπως εξήγησε σε συνάντηση με δημοσιογράφους στη Νέα Υόρκη, κάθε assistant χρησιμοποιεί τον δικό του υπολογιστή στο cloud για να εκτελεί τις εργασίες του χρήστη.
Η πρόσβαση στα Dots παραμένει προς το παρόν περιορισμένη σε συνδρομητικά πακέτα, ενώ η OpenAI αναφέρει ότι η υπηρεσία διατίθεται σταδιακά σε χρήστες Pro και Business Premium σε επιλέξιμες αγορές. Ο Fry εκτιμά ότι η βελτίωση της αποδοτικότητας των υπολογιστικών συστημάτων θα επιτρέψει στο μέλλον να μειωθεί το κόστος και να διατεθούν οι assistants σε περισσότερους χρήστες.
Το πρόβλημα δεν αφορά μόνο την OpenAI. Ο Elon Musk έχει επίσης χαρακτηρίσει το κόστος λειτουργίας του Grok Bot, του προσωπικού AI assistant της SpaceX, μη βιώσιμο σε σχέση με τα έσοδά του. Αυτό δείχνει ότι η ανάπτυξη agents που λειτουργούν συνεχώς και αναλαμβάνουν πραγματικές εργασίες δημιουργεί μια νέα πρόκληση για ολόκληρη τη βιομηχανία. Fortune
Η προσθήκη του GPT-6.1 Terra είναι, λοιπόν, ένα σημαντικό βήμα για την OpenAI. Αν το σύστημα μπορεί να αναθέτει κάθε εργασία στο κατάλληλο μοντέλο, τα Dots ενδέχεται να γίνουν πιο αποδοτικοί και να κοστίζουν λιγότερο στην εταιρεία. Το αν αυτή η εξοικονόμηση θα οδηγήσει τελικά σε χαμηλότερες συνδρομές ή ευρύτερη πρόσβαση, μένει να φανεί.
Πηγές:
