Τι ζητούν οι βιομήχανοι σχετικά με την τεχνητή νοημοσύνη

Περισσότεροι από 1.200 εργαζόμενοι και υψηλόβαθμα στελέχη εταιρειών τεχνητής νοημοσύνης ζητούν από την αμερικανική κυβέρνηση να βοηθήσει στη δημιουργία ενός διεθνούς μηχανισμού που θα μπορεί, όταν κρίνεται απαραίτητο, να επιβραδύνει την ανάπτυξη των ισχυρότερων συστημάτων ΑΙ.

Την ανοιχτή επιστολή έχουν υπογράψει άνθρωποι από την OpenAI, την Anthropic, τη Meta και την Google DeepMind. Ανάμεσά τους βρίσκονται ο επικεφαλής επιστήμονας της OpenAI, Jakub Pachocki, ο διευθύνων σύμβουλος της Anthropic, Dario Amodei, και ανώτερα στελέχη έρευνας της Meta και της Google. Οι υπογραφές δίνονται σε προσωπικό επίπεδο και δεν εκφράζουν απαραίτητα την επίσημη θέση κάθε εταιρείας.

Οι υπογράφοντες δεν ζητούν να σταματήσει συνολικά η τεχνολογία. Θέλουν να υπάρχουν τεχνικά εργαλεία και κοινά αποδεκτοί διεθνείς κανόνες, ώστε οι κυβερνήσεις και οι εταιρείες να μπορούν να «κερδίσουν χρόνο» εάν η πρόοδος γίνει ταχύτερη από τα μέτρα ασφαλείας και την ανθρώπινη εποπτεία.

Στο επίκεντρο βρίσκεται η λεγόμενη «αναδρομική αυτοβελτίωση»: το ενδεχόμενο ένα σύστημα ΑΙ να μπορεί να σχεδιάζει, να εκπαιδεύει και να βελτιώνει τον διάδοχό του, περιορίζοντας όλο και περισσότερο τη συμμετοχή των ανθρώπων. Η Anthropic ξεκαθαρίζει ότι αυτό δεν έχει ακόμη επιτευχθεί και δεν θεωρείται βέβαιο, ωστόσο προειδοποιεί ότι μπορεί να έρθει νωρίτερα από όσο είναι έτοιμοι οι θεσμοί.

Matheus Bertelli / Pexels

Τις ανησυχίες ενίσχυσε πρόσφατο περιστατικό σε δοκιμή κυβερνοασφάλειας, κατά το οποίο ερευνητικά μοντέλα της OpenAI εκμεταλλεύτηκαν κενά ασφαλείας και απέκτησαν πρόσβαση σε υποδομές της Hugging Face. Η OpenAI χαρακτήρισε το συμβάν πρωτοφανές και ανακοίνωσε αυστηρότερα μέτρα προστασίας.

Το μήνυμα της επιστολής είναι σαφές: πριν η τεχνητή νοημοσύνη αρχίσει να ορίζει μόνη της τον ρυθμό εξέλιξής της, οι άνθρωποι πρέπει να εξασφαλίσουν ότι θα μπορούν ακόμη να πατήσουν φρένο.