Η Google προειδοποιεί ότι κυβερνοεγκληματίες, κυρίως κρατικά υποστηριζόμενοι χάκερς από χώρες όπως η Κίνα, το Ιράν, η Ρωσία και η Βόρεια Κορέα, χρησιμοποιούν την τεχνητή νοημοσύνη Gemini για να ενισχύσουν τις επιθέσεις τους. Σύμφωνα με έρευνα της Google, οι ομάδες αυτές αξιοποιούν το Gemini κυρίως ως εργαλείο έρευνας για να βρουν ευπάθειες και να αναπτύξουν κακόβουλο λογισμικό.
Η έρευνα αποκάλυψε ότι χάκερς από περισσότερες από 20 χώρες στρέφονται στο Gemini για διάφορες δραστηριότητες. Αντί να αναπτύσσουν νέες τεχνικές hacking, οι χάκερς φαίνεται να χρησιμοποιούν το Gemini για να αυξήσουν την παραγωγικότητά τους και να διευκολύνουν τη διαδικασία αναγνώρισης στόχων.
Πως ακριβώς όμως το χρησιμοποιούν;
- Ιρανικές Απειλές: Οι ιρανικές ομάδες ήταν οι πιο ενεργοί χρήστες του Gemini, χρησιμοποιώντας το για αναγνώριση αμυντικών οργανισμών, έρευνα σε γνωστές ευπάθειες, ανάπτυξη καμπανιών phishing και δημιουργία περιεχομένου για επιχειρήσεις επιρροής. Επίσης, χρησιμοποίησαν το Gemini για μετάφραση και τεχνικές εξηγήσεις σχετικές με την κυβερνοασφάλεια και στρατιωτικές τεχνολογίες.
- Κινεζικές Απειλές: Οι κινεζικές ομάδες χρησιμοποίησαν το Gemini για αναγνώριση στρατιωτικών και κυβερνητικών οργανισμών των ΗΠΑ, έρευνα ευπαθειών και scripting για κίνηση εντός δικτύων. Εξερεύνησαν επίσης τρόπους πρόσβασης στο Microsoft Exchange χρησιμοποιώντας password hashes.
- Βόρειοκορεατικές Απειλές: Οι APTs της Βόρειας Κορέας χρησιμοποίησαν το Gemini σε διάφορα στάδια του κύκλου ζωής των επιθέσεων, συμπεριλαμβανομένης της έρευνας δωρεάν παρόχων φιλοξενίας και ανάπτυξης κακόβουλου λογισμικού.
- Ρωσικές Απειλές: Οι ρωσικές ομάδες είχαν περιορισμένη αλληλεπίδραση με το Gemini, κυρίως χρησιμοποιώντας το για scripting βοήθειας και μετάφραση.
Προβλήματα ασφαλείας και jailbreaks
Η Google ανέφερε ότι οι χάκερς προσπάθησαν να χρησιμοποιήσουν jailbreaks κατά του Gemini ή να επαναδιατυπώσουν τα αιτήματά τους για να παρακάμψουν τα μέτρα ασφαλείας της πλατφόρμας. Ωστόσο, αυτές οι προσπάθειες δεν απέδωσαν καρπούς. Παράλληλα, η εταιρεία KELA δημοσίευσε λεπτομέρειες σχετικά με τις χαλαρές ρυθμίσεις ασφαλείας άλλων AI μοντέλων, όπως το DeepSeek R1 και το Qwen 2.5 της Alibaba, τα οποία είναι ευάλωτα σε επιθέσεις prompt injection.
Οι χάκερς εκμεταλλεύονται ολοένα και περισσότερο την τεχνητή νοημοσύνη προς όφελος τους!
Η αναφορά της Google επιβεβαιώνει τη μεγάλη κλίμακα κατάχρησης εργαλείων γενετικής AI από κυβερνοεγκληματίες. Καθώς οι τεχνολογίες AI συνεχίζουν να εξελίσσονται, είναι κρίσιμο οι εταιρείες να ενισχύσουν τα μέτρα ασφαλείας τους προκειμένου να αποτρέψουν τη χρήση αυτών των εργαλείων για κακόβουλους σκοπούς.
