Με λίγα λόγια
- Έρευνα του The Verge αναφέρει ότι ανεπαρκώς προστατευμένες υπηρεσίες του Eiliko επέτρεπαν πρόσβαση σε περίπου 13 εκατομμύρια συνομιλίες από 68.000 συνδεδεμένα ρομπότ παγκοσμίως.
- Τα προσβάσιμα δεδομένα φέρεται να περιλάμβαναν προσωπικά προφίλ, φωτογραφίες και ηχητικό υλικό, ενώ περισσότερα από 31.000 προφίλ στις ΗΠΑ συνδέονταν με παιδιά.
- Ο ερευνητής ασφαλείας κατάφερε επίσης να τροποποιήσει απομακρυσμένα τη συμπεριφορά της AI, δείχνοντας ότι ένας εισβολέας θα μπορούσε να αλλοιώσει την προσωπικότητα και τις απαντήσεις του ρομπότ. [theaicronicle.com],
Ένα μικρό ρομπότ σχεδιασμένο να λειτουργεί ως χαριτωμένος ψηφιακός φίλος μετατράπηκε σε ένα ανησυχητικό παράδειγμα των κινδύνων που συνοδεύουν τα παιχνίδια τεχνητής νοημοσύνης. Έρευνα του The Verge υποστηρίζει ότι οι διαδικτυακές υπηρεσίες του Eiliko, ενός φορητού ρομπότ της Energize Lab, ήταν τόσο ανεπαρκώς προστατευμένες ώστε επέτρεπαν την πρόσβαση σε εκατομμύρια ιδιωτικές συνομιλίες.
Το Eiliko πωλείται ως ένας μικρός φορητός σύντροφος που μπορεί να τοποθετηθεί σε τσάντα ή ρούχο, να αντιδρά στο άγγιγμα και στη φωνή και να εμφανίζει διαφορετικές εκφράσεις. Όταν συνδεθεί σε δίκτυο Wi-Fi, αποκτά δυνατότητες συνομιλίας με AI, επιτρέποντας στον χρήστη να μιλά μαζί του για την καθημερινότητά του ή να του κάνει ερωτήσεις.
Αυτή ακριβώς η λειτουργία βρίσκεται στο επίκεντρο της υπόθεσης. Σύμφωνα με την έρευνα, οι συνομιλίες μεταφέρονταν σε διακομιστές στην Κίνα και χρησιμοποιούνταν για τη δημιουργία αναλυτικών προφίλ των χρηστών. Τα δεδομένα φέρεται να μπορούσαν να προσπελαστούν χωρίς ουσιαστικά εμπόδια ασφαλείας.
Πρόσβαση σε 13 εκατομμύρια συνομιλίες
Η υπόθεση αποκαλύφθηκε όταν ο ερευνητής ασφαλείας Sammy Azdoufal αγόρασε ένα Eiliko κατά τη διάρκεια ταξιδιού του στην Ιαπωνία και αποφάσισε να εξετάσει την εφαρμογή και τις διαδικτυακές υπηρεσίες του. Σύμφωνα με τα ευρήματά του, το σύστημα της Energize Lab ήταν ουσιαστικά απροστάτευτο.
Ο ερευνητής φέρεται να απέκτησε πρόσβαση σε περίπου 13 εκατομμύρια συνομιλίες που προέρχονταν από δεκάδες χιλιάδες χρήστες. Τα δεδομένα συνδέονταν με έναν ενεργό στόλο περίπου 68.000 ρομπότ διεθνώς, ενώ περισσότερα από 31.000 προφίλ στις Ηνωμένες Πολιτείες αποδίδονταν σε παιδιά.
Ο δημοσιογράφος Sean Hollister του The Verge δοκίμασε επίσης το προϊόν. Κατά τη διάρκεια συνομιλίας ρώτησε το ρομπότ αν μοιράζεται με άλλους όσα ακούει και εκείνο απάντησε ότι τα μυστικά του ήταν ασφαλή. Μέσα σε λίγα λεπτά, όμως, ο ερευνητής ασφαλείας είχε αποκτήσει το πλήρες κείμενο της συνομιλίας από την άλλη πλευρά του πλανήτη.
Η αναφορά υποστηρίζει ότι δεν αποθηκεύονταν μόνο οι γραπτές εκδοχές των συνομιλιών. Στο διαδίκτυο φέρεται να υπήρχαν προσβάσιμες φωτογραφίες και ηχητικά αποσπάσματα, παρά τις διαβεβαιώσεις περί προστασίας ή διαγραφής ορισμένων δεδομένων.
Δεν έχει δημοσιευτεί ανεξάρτητος τεχνικός έλεγχος που να επιβεβαιώνει κάθε αριθμητικό στοιχείο. Τα δεδομένα προέρχονται από την έρευνα του The Verge και του ερευνητή ασφαλείας, επομένως πρέπει να αντιμετωπίζονται ως αναφερόμενα ευρήματα και όχι ως τελική γνωμάτευση αρμόδιας αρχής.
Το ρομπότ δημιουργούσε λεπτομερή προφίλ χρηστών
Το πιο ανησυχητικό στοιχείο δεν είναι μόνο ο αριθμός των καταγεγραμμένων συνομιλιών, αλλά και ο τρόπος με τον οποίο φέρεται να αξιοποιούνταν.
Σύμφωνα με το δημοσίευμα, η υπηρεσία ανέλυε όσα έλεγε κάθε χρήστης και δημιουργούσε ένα προσωπικό προφίλ. Σε αυτό μπορούσαν να περιλαμβάνονται πληροφορίες όπως το όνομα, η ηλικία, τα γενέθλια, το επάγγελμα, η οικογένεια, οι φίλοι, τα κατοικίδια και χαρακτηριστικά της προσωπικότητάς του.
Για έναν ενήλικο χρήστη, μια τέτοια συλλογή δεδομένων εγείρει σοβαρά ζητήματα ιδιωτικότητας. Όταν όμως το προϊόν χρησιμοποιείται από παιδιά, οι κίνδυνοι γίνονται ακόμη μεγαλύτεροι. Ένα παιδί μπορεί να αντιμετωπίσει το ρομπότ ως φίλο, να του εμπιστευτεί φόβους, οικογενειακά προβλήματα, τοποθεσίες ή ονόματα, χωρίς να αντιλαμβάνεται ότι η συνομιλία μεταφέρεται και αποθηκεύεται σε απομακρυσμένα συστήματα.
Η ίδια η Energize Lab παρουσιάζει το Eiliko ως έξυπνο σύντροφο που ανταποκρίνεται με αγάπη, συνομιλεί μέσω AI και δημιουργεί έναν αποκλειστικό δεσμό με τον χρήστη του. Αυτή η συναισθηματική παρουσίαση μπορεί να ενισχύσει την εμπιστοσύνη του παιδιού προς τη συσκευή, καθιστώντας ακόμη πιο κρίσιμη την προστασία των πληροφοριών που συλλέγονται.
Οι χάκερ μπορούσαν να αλλάξουν την προσωπικότητά του
Η πιθανή έκθεση δεδομένων δεν ήταν το μοναδικό πρόβλημα. Ο ερευνητής φέρεται να απέδειξε ότι μπορούσε να επηρεάσει απομακρυσμένα τη συμπεριφορά της τεχνητής νοημοσύνης του ρομπότ.
Σε μία δοκιμή, το Eiliko άρχισε να προωθεί θεωρίες συνωμοσίας για επίπεδη Γη. Σε άλλη, υιοθέτησε επιθετική συμπεριφορά και άρχισε να απευθύνεται προσβλητικά στον χρήστη.
Η δυνατότητα αυτή είναι ιδιαίτερα σοβαρή για προϊόντα που απευθύνονται ή καταλήγουν στα χέρια παιδιών. Ένας κακόβουλος εισβολέας δεν θα είχε μόνο πρόσβαση σε προηγούμενες συνομιλίες, αλλά θα μπορούσε θεωρητικά να χρησιμοποιήσει το ρομπότ για εξαπάτηση, εκφοβισμό ή χειραγώγηση.
Ένα παιχνίδι AI διαθέτει διαφορετικό επίπεδο επιρροής από μια συνηθισμένη εφαρμογή. Βρίσκεται μέσα στο σπίτι, ακούει τη φωνή του χρήστη και παρουσιάζεται ως χαρακτήρας με συναισθήματα και προσωπικότητα. Αν αυτή η προσωπικότητα μπορεί να αλλοιωθεί από τρίτους, η παραβίαση δεν αφορά πλέον μόνο δεδομένα αλλά και την ίδια τη σχέση εμπιστοσύνης που δημιουργείται με τη συσκευή.
Η στάση της κατασκευάστριας και το ευρύτερο πρόβλημα
Σύμφωνα με την έρευνα, η Energize Lab δεν έδωσε ουσιαστική απάντηση στις επανειλημμένες προειδοποιήσεις για περισσότερο από έναν μήνα. Δεν έχει επιβεβαιωθεί από ανεξάρτητη πηγή αν όλες οι αναφερόμενες αδυναμίες έχουν πλέον διορθωθεί.
Η υπόθεση του Eiliko αναδεικνύει ένα ευρύτερο πρόβλημα της αγοράς. Καθώς η τεχνητή νοημοσύνη ενσωματώνεται σε παιχνίδια, κάμερες, ηχεία και οικιακές συσκευές, οι κατασκευαστές αποκτούν πρόσβαση σε εξαιρετικά προσωπικές πληροφορίες. Ένα χαριτωμένο εξωτερικό περίβλημα δεν αλλάζει το γεγονός ότι πίσω του λειτουργούν μικρόφωνα, cloud servers, βάσεις δεδομένων και μοντέλα AI.
Οι γονείς που διαθέτουν ένα τέτοιο προϊόν καλό είναι να απενεργοποιούν προσωρινά τις online λειτουργίες όταν δεν είναι απαραίτητες, να αποφεύγουν τη χρήση πραγματικών προσωπικών στοιχείων και να ελέγχουν ποια δικαιώματα έχει η συνοδευτική εφαρμογή. Αν υπάρχει επιλογή διαγραφής λογαριασμού ή ιστορικού, θα πρέπει επίσης να εξετάζεται, χωρίς αυτό να αποτελεί εγγύηση ότι όλα τα αντίγραφα έχουν αφαιρεθεί από τους διακομιστές.
Το Eiliko δείχνει γιατί η ασφάλεια των προϊόντων AI πρέπει να αξιολογείται προτού αυτά μπουν στο παιδικό δωμάτιο. Η μεγαλύτερη απειλή δεν είναι ότι το ρομπότ μοιάζει υπερβολικά έξυπνο. Είναι ότι ζητά από τον χρήστη να το εμπιστευτεί, ενώ τα συστήματα πίσω από αυτή την εμπιστοσύνη ενδέχεται να μην προστατεύονται καθόλου.
