«Tο όπλο που ονειρεύονται οι χάκερ»: Το νέο μοντέλο τεχνητής νοημοσύνης της Anthropic

Σε έκτακτη κινητοποίηση προχώρησαν οι αμερικανικές Αρχές, συγκαλώντας κορυφαίους τραπεζικούς παράγοντες της Wall Street, εν μέσω αυξανόμενων ανησυχιών ότι τα νέα, πιο ισχυρά μοντέλα τεχνητής νοημοσύνης ενδέχεται να ενισχύσουν τους κυβερνοκινδύνους.

Ο υπουργός Οικονομικών των ΗΠΑ Σκοτ Μπέσεντ και ο πρόεδρος της Fed Τζερόμ Πάουελ συγκάλεσαν έκτακτη σύσκεψη στις 7 Απριλίου στην Ουάσινγκτον, καλώντας τις μεγαλύτερες τράπεζες να αξιολογήσουν τους κινδύνους που απορρέουν από νέα εργαλεία τεχνητής νοημοσύνης.

Στο επίκεντρο βρέθηκε το νέο μοντέλο της Anthropic, γνωστό ως Mythos, το οποίο φέρεται να διαθέτει τη δυνατότητα εντοπισμού και εκμετάλλευσης ευπαθειών σε λειτουργικά συστήματα και browsers, εφόσον κατευθυνθεί κατάλληλα από τον χρήστη.

Η συνάντηση, που δεν είχε δημοσιοποιηθεί προηγουμένως, υπογραμμίζει ότι στην Ουάσινγκτον θεωρούν μία νέα γενιά κυβερνοεπιθέσεων ως έναν από τους σημαντικότερους κινδύνους για το χρηματοπιστωτικό σύστημα.

@carolinehydetv #AI models so powerful we’re not allowed to use them… #anthropic #mythos helping build the mythology around the AI company even more that it’s building such powerful tech only ~40 partners/competitors are allowed to use it to stress test for vulnerabilities across their tech, platforms and internet infrastructure. Worth noting #openai has been piloting programs for trusted cyber partners for its latest models since Feb. Meanwhile, Meta out with its first closed source model #musespark ♬ original sound - Caroline Hyde 📺

Οι τράπεζες που συμμετείχαν χαρακτηρίζονται ως «συστημικά σημαντικές», γεγονός που σημαίνει ότι η σταθερότητά τους είναι κρίσιμη για το παγκόσμιο χρηματοπιστωτικό σύστημα.

Οι Αρχές ζήτησαν να διασφαλιστεί ότι οι οργανισμοί αυτοί λαμβάνουν επαρκή μέτρα για την προστασία των υποδομών τους απέναντι σε ενδεχόμενες επιθέσεις που αξιοποιούν προηγμένα AI μοντέλα.

Το μοντέλο Mythos και οι φόβοι για κατάχρηση

Η ίδια η Anthropic έχει επιδείξει επιφυλακτικότητα, περιορίζοντας τη διάθεση του μοντέλου Mythosσε περιορισμένο αριθμό μεγάλων εταιρειών τεχνολογίας και χρηματοοικονομικών υπηρεσιών.

Το σύστημα, που παρουσιάστηκε ως Claude Mythos Preview, θεωρείται από την εταιρεία τόσο ισχυρό, ώστε δεν προγραμματίζεται προς το παρόν η ευρεία κυκλοφορία του.

Στόχος είναι να χρησιμοποιηθεί κυρίως για τον εντοπισμό και τη διόρθωση ευπαθειών σε κρίσιμα λογισμικά, πριν αυτές αξιοποιηθούν κακόβουλα.

Στο πλαίσιο αυτό, δημιουργείται κοινοπραξία άνω των 40 εταιρειών, γνωστή ως Project Glasswing, με τη συμμετοχή κολοσσών όπως η Apple, η Amazon, η Microsoft και η Google, αλλά και οργανισμών όπως το Linux Foundation.

Η Anthropic δεσμεύεται να διαθέσει έως και 100 εκατ. δολάρια σε credits χρήσης του μοντέλου για την ενίσχυση της κυβερνοασφάλειας.

Το δίλημμα καινοτομία ή ασφάλεια

Η Anthropic βρίσκεται σε μια ιδιόμορφη θέση: από τη μία αναπτύσσει ολοένα ισχυρότερα συστήματα AI και από την άλλη προειδοποιεί για τους κινδύνους τους.

Η στάση αυτή θυμίζει την περίπτωση του GPT-2 από την OpenAI το 2019, όταν η εταιρεία είχε καθυστερήσει την πλήρη δημοσίευση του μοντέλου λόγω φόβων για κακόβουλη χρήση.

Σύμφωνα με τον επικεφαλής επιστημονικό διευθυντή της εταιρείας Τζάρεντ Κάπλαν, στόχος είναι τόσο η ευαισθητοποίηση όσο και η προετοιμασία των «καλών παικτών» απέναντι σε μια νέα εποχή απειλών.

Από την πλευρά του, ο επικεφαλής δοκιμών ασφαλείας της Anthropic Λόγκαν Γκράχαμ χαρακτήρισε το μοντέλο ως «αφετηρία μιας αλλαγής για ολόκληρη τη βιομηχανία».