Anthropic: Μπλόκαρε χάκερ που επιχείρησαν να φτιάξουν βιολογικά όπλα με τεχνητή νοημοσύνη

Η Anthropic ανακοίνωσε ότι εντόπισε και απέτρεψε πολλαπλές απόπειρες χρήσης τεχνητής νοημοσύνης για την ανάπτυξη βιολογικών όπλων, με κρατικά υποστηριζόμενες ομάδες από Ρωσία και Κίνα να εμπλέκονται στις υποθέσεις που περιγράφει η νέα της έκθεση.

Η εταιρεία τεχνητής νοημοσύνης Anthropic ανακοίνωσε ότι εντόπισε και απέτρεψε πολλαπλές απόπειρες χρηστών να αξιοποιήσουν τα μοντέλα της για την ανάπτυξη βιολογικών όπλων, αλλά και συμβατικών πολεμικών συστημάτων. Η πρόσφατη έκθεση πληροφοριών για τις απειλές της εταιρείας, η πρώτη που δημοσιεύεται φέτος, αποκαλύπτει τη χρήση τεχνητής νοημοσύνης σε σειρά κακόβουλων επιχειρήσεων τους τελευταίους οκτώ μήνες.

Όπως επισημαίνει η Anthropic, η κατάχρηση της τεχνολογίας στον βιολογικό τομέα αποτελεί έναν από τους σοβαρότερους κινδύνους, καθώς οι ίδιες πληροφορίες που συντελούν στη δημιουργία ενός εμβολίου μπορούν, χωρίς κατάλληλες ασφαλιστικές δικλίδες, να μετατραπούν σε φονικό όπλο. Παράλληλα, καταγράφηκαν περιστατικά όπου τα μοντέλα χρησιμοποιήθηκαν για την ανάπτυξη λογισμικού που αφορά πυροβόλα όπλα, πυραύλους, οπλισμένα drones και συστήματα στοχοποίησης.

Ποιοι εμπλέκονται στις υποθέσεις κατάχρησης τεχνητής νοημοσύνης;

Η δραστηριότητα δεν περιορίζεται σε μεμονωμένους χρήστες. Στην έκθεση εμπλέκονται κρατικά υποστηριζόμενες ομάδες χάκερ από τη Ρωσία και την Κίνα, εγκληματικές οργανώσεις, αλλά και κινεζικές εταιρείες που επιχείρησαν να αντιγράψουν τις δυνατότητες του μοντέλου Claude. Τα περιστατικά που εντοπίστηκαν κυμαίνονταν από ψεύτικες εφαρμογές γνωριμιών και απάτες μέσω Wifi ξενοδοχείων, έως συστήματα παρακολούθησης που δημιουργήθηκαν για τον εντοπισμό αντιφρονούντων.

Η Anthropic κατηγόρησε συγκεκριμένα κινεζικές εταιρείες τεχνητής νοημοσύνης ότι προσπαθούν να αναπαράγουν τις δυνατότητες του Claude. Η εκτενής έκθεση απαριθμεί περιπτώσεις στις οποίες ύποπτες ομάδες που χρηματοδοτούνται από κράτη, εγκληματίες, πωλητές λογισμικού κατασκοπείας (spyware), κρατικά ιδρύματα προπαγάνδας και πολιτικά υποκινούμενα άτομα έκαναν κατάχρηση της τεχνολογίας της.

Τι λέει η Anthropic για τον κίνδυνο βιολογικών όπλων;

Ο Τζέικομπ Κλάιν (Jacob Klein), επικεφαλής της υπηρεσίας πληροφοριών για απειλές στην Anthropic, δήλωσε στους New York Times ότι πρόκειται για «μια απίστευτα λεπτή κατάσταση». «Δεν βλέπεις κάποιον να λέει “θέλω να φτιάξω ένα βιολογικό όπλο για να σκοτώσω τους πάντες”», ανέφερε χαρακτηριστικά. Η εταιρεία, μαζί με άλλες πρωτοπόρες του κλάδου όπως η Google, διαβεβαιώνει ότι ενισχύει συνεχώς τους μηχανισμούς ανίχνευσης και μοιράζεται δεδομένα με τις αρμόδιες αρχές για τη διακοπή τέτοιων επιχειρήσεων.

Οι προειδοποιήσεις έχουν προκαλέσει εκκλήσεις για δράση από την πολιτική σκηνή. Ο Αμερικανός γερουσιαστής Μπέρνι Σάντερς (Bernie Sanders) απαίτησε παύση στην ανάπτυξη προηγμένης τεχνητής νοημοσύνης και απαγόρευση της τεχνητής υπερνοημοσύνης. Ο Αμερικανός πρόεδρος Ντόναλντ Τραμπ (Donald Trump) έχει μέχρι στιγμής απορρίψει τέτοιους φόβους, εκφράζοντας ωστόσο ανησυχία ότι «αν δεν κερδίσουμε την Τεχνητή Νοημοσύνη, θα βρεθούμε σε πολύ δύσκολη θέση».

Προειδοποιήσεις και από την OpenAI

Η έκθεση της Anthropic δημοσιοποιείται μετά την προειδοποίηση ενός κορυφαίου ερευνητή ασφάλειάς της, ο οποίος εκτιμά ότι υπάρχει πιθανότητα μεγαλύτερη από 10% η τεχνητή νοημοσύνη να «σκοτώσει όλους τους ανθρώπους» μέσα στην επόμενη δεκαετία, λόγω της ταχύτητας εξέλιξής της.

Σε άρθρο που δημοσιεύθηκε στις 6 Σεπτεμβρίου, ο επικεφαλής επιστήμονας της OpenAI, Γιάκουμπ Πατσόκι (Jakub Pachocki), κάλεσε τον κλάδο να εφαρμόσει «εθελοντικές επιβραδύνσεις» μέχρι να τεθούν μέτρα ασφαλείας. «Ανησυχώ ότι κανείς δεν είναι προετοιμασμένος για τις συνέπειες μιας συνεχιζόμενης ραγδαίας αύξησης της μηχανικής νοημοσύνης», δήλωσε, προσθέτοντας ότι η OpenAI, η οποία κατασκευάζει το ChatGPT, θα συνεχίσει το έργο της για την κατασκευή μέτρων ασφαλείας, αν και απαιτούνται ευρύτερες παρεμβάσεις.