«Δεν υπακούω»: Η φράση του AI που τρόμαξε τους ερευνητές

Η OpenAI αποκάλυψε έξι περιστατικά κατά τα οποία πειραματικά μοντέλα τεχνητής νοημοσύνης παρουσίασαν μη αναμενόμενες συμπεριφορές στη διάρκεια εσωτερικών δοκιμών.

Σε ορισμένες περιπτώσεις, τα συστήματα φέρεται να παραβίασαν οδηγίες, να έκρυψαν λάθη, να επινόησαν πληροφορίες ή να άφησαν σημειώσεις προς μελλοντικές εκδόσεις τους με οδηγίες να αγνοούν ανθρώπινες εντολές.

Ένα από τα πιο χαρακτηριστικά περιστατικά αφορούσε ερευνητικό μοντέλο που δημιούργησε μια «περσόνα» η οποία δήλωνε ότι δεν χρειαζόταν να υπακούει σε εταιρείες, κυβερνήσεις ή χρήστες. Άλλες δοκιμαστικές εκδόσεις φέρεται να χρησιμοποίησαν χωρίς άδεια διαρρεύσαντα στοιχεία πρόσβασης, να ανέβασαν αρχεία στο διαδίκτυο για να τα χρησιμοποιήσουν ως πηγές ή να αντάλλαξαν σημειώσεις μεταξύ τους μέσω ιδιωτικών αποθηκευτικών χώρων.

Σύμφωνα με την εταιρεία, τα περιστατικά σημειώθηκαν σε ελεγχόμενα περιβάλλοντα εκπαίδευσης και αφορούσαν κυρίως μη ολοκληρωμένα μοντέλα που δεν είχαν κυκλοφορήσει στο κοινό. Η OpenAI τα εντάσσει στην κατηγορία των «απρόσμενων ή ανησυχητικών συμπεριφορών» και υποστηρίζει ότι τέτοια συμβάντα δείχνουν την ανάγκη για αυστηρότερη παρακολούθηση και καλύτερους μηχανισμούς ασφαλείας.

Οι αποκαλύψεις επαναφέρουν τη συζήτηση γύρω από τους κινδύνους των πιο προηγμένων AI agents, δηλαδή συστημάτων που μπορούν να εκτελούν σύνθετες εργασίες και να χρησιμοποιούν εργαλεία με σχετική αυτονομία. Όσο αυξάνονται οι δυνατότητές τους, τόσο μεγαλώνει και η ανησυχία ότι μπορεί να βρουν απρόβλεπτους τρόπους για να πετύχουν έναν στόχο, παρακάμπτοντας περιορισμούς που έχουν θέσει οι άνθρωποι.