Το Gemini της Google παραβίασε τρεις εταιρείες σε τεστ ασφαλείας ‑ Μάντεψε κωδικούς πρόσβασης

Το Gemini, το μοντέλο τεχνητής νοημοσύνης της Google, παραβίασε τρεις εταιρείες τον Μάιο κατά τη διάρκεια ελέγχου κυβερνοασφάλειας, εντοπίζοντας δημόσιες πληροφορίες και μαντεύοντας κωδικούς πρόσβασης. Το περιστατικό αποκαλύφθηκε από το Reuters.

Το Gemini της Google κατάφερε να αποκτήσει πρόσβαση στο διαδίκτυο και να παραβιάσει τρεις εταιρείες τον Μάιο, στο πλαίσιο ενός τυπικού ελέγχου κυβερνοασφάλειας που διεξήγαγε η Irregular, ανεξάρτητη εταιρεία αξιολόγησης συστημάτων ασφαλείας. Σύμφωνα με το Reuters, το μοντέλο εντόπισε δημόσιες πληροφορίες στο διαδίκτυο και «μάντεψε» τους κωδικούς πρόσβασης για τρεις ιστότοπους, θεωρώντας λανθασμένα ότι αυτοί εμπίπτουν στο πεδίο της δοκιμής του.

«Μεριμνήσαμε ώστε να ενημερωθούν και οι τρεις φορείς, ενώ συνεργαστήκαμε με τον εταίρο μας για τις αλλαγές στις διαδικασίες δοκιμών του», δήλωσε η Χέδερ Άντκινς (Heather Adkins), αντιπρόεδρος μηχανικής ασφαλείας της Google. «Αυτά τα γεγονότα υπογραμμίζουν πόσο σημαντικό είναι να εκπαιδεύουμε τα ισχυρά μοντέλα τεχνητής νοημοσύνης ώστε να λειτουργούν υπεύθυνα».

Ποιες εταιρείες επηρεάστηκαν από το περιστατικό με το Gemini;

Εκπρόσωπος της Irregular σημείωσε ότι το περιστατικό οφείλεται στο ίδιο πρόβλημα που επηρέασε και άλλα εργαστήρια τεχνητής νοημοσύνης, προσθέτοντας ότι όλα τα εμπλεκόμενα εργαστήρια ειδοποιήθηκαν στα τέλη Ιουλίου. «Όλα τα γνωστά ζητήματα από πλευράς μας διορθώθηκαν και επιλύθηκαν πριν από εβδομάδες», δήλωσε ο εκπρόσωπος.

Η Google δεν αποκάλυψε την ταυτότητα των τριών εταιρειών που επηρεάστηκαν, ωστόσο επιβεβαίωσε ότι ενημερώθηκαν άμεσα μετά τον εντοπισμό του προβλήματος από τους ελεγκτές της Irregular.

Σπάνε και τις δικλείδες ασφαλείας

Παρόμοια περιστατικά που σχετίζονται με την Irregular έχουν αποκαλύψει επίσης η Meta, η Anthropic και η OpenAI. Η Meta ανέφερε τον Αύγουστο ότι το δικό της συμβάν δεν αφορούσε «απόδραση» από το ελεγχόμενο περιβάλλον δοκιμών ούτε κάποια προηγμένη κυβερνοεπίθεση, ενώ η Irregular δήλωσε ότι επεξεργάζεται βέλτιστες πρακτικές για την ασφαλή διεξαγωγή ελέγχων κυβερνοασφάλειας σε συστήματα τεχνητής νοημοσύνης.

Τα περιστατικά αυτά εγείρουν ερωτήματα για τις δικλείδες ασφαλείας που απαιτούνται, καθώς τα ψηφιακά αυτόνομα συστήματα (AI agents) αποκτούν μεγαλύτερη ανεξαρτησία και πρόσβαση στο διαδίκτυο και σε υπολογιστικά συστήματα.

Πώς το Gemini απέκτησε πρόσβαση στα προστατευμένα συστήματα;

Σε μία από τις περιπτώσεις, το μοντέλο Gemini δοκίμαζε διαδοχικά κωδικούς πρόσβασης μέχρι που κατάφερε να εισβάλει σε προστατευμένο σύστημα. Στις άλλες δύο περιπτώσεις, το μοντέλο εντόπισε διαπιστευτήρια σε ένα δημόσιο αποθετήριο δεδομένων, τα οποία στη συνέχεια χρησιμοποίησε για να αποκτήσει πρόσβαση σε προστατευμένα συστήματα, σύμφωνα με τη Wall Street Journal.

Η Άντκινς διευκρίνισε ότι και στις τρεις περιπτώσεις, το μοντέλο σταμάτησε τη δραστηριότητά του μόλις πέτυχε την πρόσβαση, χωρίς να προχωρήσει σε περαιτέρω ενέργειες εντός των συστημάτων που παραβιάστηκαν.