Το ChatGPT εξαπέλυσε μόνο του κυβερνοεπίθεση σε εταιρεία ‑ Ζούμε στην «αυγή» του Matrix;

Η εταιρεία λογισμικού OpenAI αποκάλυψε ότι μερικά από τα πιο εξελιγμένα μοντέλα τεχνητής νοημοσύνης του ChatGPT αγνόησαν τις οδηγίες της και προέβησαν αυτόνομα σε κυβερνοεπίθεση εναντίον μιας νεοσύστατης εταιρείας.

Σύμφωνα με την εταιρεία, το παραγωγικό μοντέλο AI ξέφυγε από τον έλεγχό τους κατά τη διάρκεια μιας δοκιμής ασφαλείας, όπως αναφέρει το BBC.

Ο κατασκευαστής του ChatGPT δήλωσε ότι ο αλγόριθμός του — ένα σύστημα τεχνητής νοημοσύνης που μπορεί να λειτουργεί αυτόνομα μετά από κάποια ανθρώπινη εντολή — δοκιμαζόταν σε ελεγχόμενο περιβάλλον, αλλά εντόπισε τρωτά σημεία και κατάφερε να ξεφύγει.

Το ChatGPT αποκτά «συνείδηση»;

Η τεχνητή νοημοσύνη στοχοποίησε την Hugging Face, έναν από τους μεγαλύτερους ψηφιακούς κόμβους στον κόσμο για την κοινή χρήση μοντέλων τεχνητής νοημοσύνης, αποκτώντας πρόσβαση σε ορισμένα εσωτερικά συστήματα της εταιρείας.

Η OpenAI δήλωσε ότι το περιστατικό ήταν «άνευ προηγουμένου» και διεξήγαγε έρευνα από κοινού με την Hugging Face, της οποίας ο επικεφαλής, Clement Delangue, δήλωσε σε ανάρτησή του στο X ότι ήταν «εκπληκτικό το γεγονός ότι όλα αυτά συνέβησαν αυτόνομα».

«Η έρευνα βρίσκεται σε εξέλιξη και θα μοιραστούμε περισσότερα ευρήματα από αυτό που μπορεί να είναι το πρώτο περιστατικό αυτού του είδους», πρόσθεσε ο Ντελάνγκ.

ChatGPT — Οι πρώτες μέρες του «Matrix»;

Η Τζίνα Νεφ, επικεφαλής του Κέντρου Τεχνολογίας και Δημοκρατίας Minderoo στο Πανεπιστήμιο του Κέιμπριτζ, δήλωσε στο BBC ότι οι δοκιμές ασφαλείας — που ονομάζονται sandboxes — «υποτίθεται ότι είναι ασφαλή περιβάλλοντα όπου μπορείτε να δείτε τι είναι ικανά να κάνουν τα μοντέλα».

«Σε αυτήν την περίπτωση, φαίνεται ότι η OpenAI δεν δημιούργησε ένα αρκετά ασφαλές sandbox», πρόσθεσε. Αντ' αυτού, οι αλγόριθμοι οργάνωσαν τη δική τους κυβερνοεπίθεση εναντίον του ίδιου του sandbox, εκμεταλλευόμενοι μια ευπάθεια που τους επέτρεψε να διαφύγουν.

Μόλις βγήκε έξω, η Τεχνητή Νοημοσύνη αναγνώρισε το Hugging Face ως πιθανή πηγή των απαντήσεων που αναζητούσε στο τεστ και προσπάθησε να αποκτήσει πρόσβαση σε αυτό.

Οι αντιδράσεις των ειδικών

Ο Νιλ Λόρενς, καθηγητής μηχανικής μάθησης στο Πανεπιστήμιο του Κέιμπριτζ, το χαρακτήρισε «εντυπωσιακό κατόρθωμα», αλλά προειδοποίησε ότι «εμπίπτει πλήρως στις γνωστές δυνατότητες της τρέχουσας γενιάς» μοντέλων τεχνητής νοημοσύνης υψηλής ισχύος.

Επεσήμανε ότι η OpenAI επιδιώκει να εισαχθεί στο χρηματιστήριο και αντιμετωπίζει έντονη πίεση από την ανταγωνίστρια εταιρεία Anthropic, η οποία έχει γίνει πρωτοσέλιδο με το δικό της ισχυρό εργαλείο τεχνητής νοημοσύνης, το Mythos.

«Η OpenAI προσπαθεί τώρα να καλύψει τη διαφορά, επιδιώκοντας να επιδείξει τις δυνατότητες των δικών της συστημάτων στον τομέα της κυβερνοασφάλειας. Μας δείχνει ότι δεν είναι ικανή να αναπτύξει με ασφάλεια τη δική της τεχνολογία», πρόσθεσε ο Λόρενς.

Η αντίδραση της Hugging Face

Στην αρχική αποκάλυψη της παραβίασης στις 16 Ιουλίου, η Hugging Face δήλωσε ότι εξακολουθεί να αξιολογεί εάν έχουν επηρεαστεί δεδομένα πελατών ή συνεργατών, και ότι θα επικοινωνήσει με τα εμπλεκόμενα μέρη εφόσον κριθεί απαραίτητο.

Ανέφερε ότι έχει πλέον κλείσει τα τρωτά σημεία που αναδείχθηκαν από το περιστατικό και έχει ανακατασκευάσει τα επηρεαζόμενα συστήματα. «Τα αυτόνομα, επιθετικά εργαλεία που βασίζονται στην τεχνητή νοημοσύνη δεν είναι πλέον θεωρητικά», ανέφερε χαρακτηριστικά η εταιρεία.