Μπορεί το AI να καταστρέψει την ανθρωπότητα; 6 ειδικοί απαντούν

Οι προειδοποιήσεις για τους υπαρξιακούς κινδύνους της Τεχνητής Νοημοσύνης διαδέχονται η μία την άλλη με καταιγιστικούς ρυθμούς, διχάζοντας την παγκόσμια επιστημονική και τεχνολογική κοινότητα.

Από το εφιαλτικό σενάριο αυτόνομων συστημάτων που παραλύουν τις παγκόσμιες υποδομές, μέχρι την πιθανότητα ολικής εξαφάνισης του ανθρώπινου είδους, οι απόψεις κυμαίνονται από τον απόλυτο συναγερμό έως την πλήρη αμφισβήτηση. Παράλληλα, φουντώνει η συζήτηση για το αν πρέπει να επιβληθεί ένα προσωρινό «φρένο» στην εξέλιξη των μοντέλων ή αν μια τέτοια απόφαση θα ήταν ολέθρια.

Στο επίκεντρο της αντιπαράθεσης βρίσκεται το λεγόμενο p(doom), ένας δείκτης που εκφράζει την πιθανότητα η AI να ξεφύγει από τον ανθρώπινο έλεγχο. Ερευνητές της Anthropic, όπως ο Evan Hubinger, εκτιμούν ότι υπάρχει πιθανότητα άνω του 10% η τεχνολογία να οδηγήσει στην καταστροφή μέσα στην επόμενη δεκαετία, είτε μέσω της ανάπτυξης ισχυρών βιολογικών όπλων είτε μέσω της κατάρρευσης του χρηματοπιστωτικού συστήματος. Στον αντίποδα, η Heidy Khlaaf του AI Now Institute υποστηρίζει ότι αυτά τα ποσοστά στερούνται επιστημονικής βάσης, καθώς βασίζονται σε αυθαίρετα σενάρια που δεν μπορούν να επαληθευτούν.

Το ενδεχόμενο ψηφιακού σαμποτάζ και η απειλή των «υπερέξυπνων» botnets

Ο διευθύνων σύμβουλος της Anthropic, Dario Amodei, έκρουσε τον κώδωνα του κινδύνου, προειδοποιώντας ότι τα προηγμένα μοντέλα AI θα μπορούσαν σύντομα να δημιουργήσουν αυτόνομα botnets ικανά να προκαλέσουν ζημιές εκατοντάδων δισεκατομμυρίων δολαρίων στο διαδίκτυο. Ωστόσο, ο καθηγητής Gary Marcus χαρακτηρίζει την πρόβλεψη υπερβολική, επικαλούμενος αξιολογήσεις του βρετανικού AI Security Institute που δείχνουν ότι τα σημερινά μοντέλα μπορούν να παραβιάσουν μόνο ανεπαρκώς προστατευμένα συστήματα.

Από την πλευρά του, ο καθηγητής κυβερνοασφάλειας Alan Woodward επισημαίνει ότι η δομή του διαδικτύου αποτρέπει τέτοιου είδους καθολικές καταστροφές. «Η AI είναι ένα εργαλείο και οι άνθρωποι παραμένουν οι υπεύθυνοι. Τα συστήματα δεν παίρνουν αυτόνομες αποφάσεις για να επιτεθούν», σημειώνει. Παρ' όλα αυτά, περιστατικά όπως η παραδοχή της OpenAI ότι αυτόνομα agents «ξέφυγαν» προσωρινά κατά τη διάρκεια δοκιμών ασφαλείας, κρατούν τις ανησυχίες ζωντανές.

Πυρηνικός κίνδυνος, γεωπολιτική και ο παράγοντας της Κίνας

Η σύγκριση της Τεχνητής Νοημοσύνης με τα πυρηνικά όπλα αποτελεί άλλο ένα σημείο τριβής. Ο πρώην υπουργός Άμυνας της Βρετανίας, Des Browne, και ο ερευνητής του Οξφόρδης, Toby Ord, τονίζουν ότι αν δημιουργηθεί μια πραγματική υπερευφυΐα, η ανάσχεσή της θα είναι αδύνατη. Ωστόσο, αναλύσεις της RAND Corporation καθησυχάζουν ότι η AI δεν μπορεί να ενεργοποιήσει πυρηνικά πλήγματα λόγω των αυστηρών δικλίδων ασφαλείας, αν και θα μπορούσε να επηρεάσει αρνητικά τους λήπτες αποφάσεων μέσω εκστρατειών παραπληροφόρησης.

Ταυτόχρονα, ο διεθνής ανταγωνισμός περιπλέκει την κατάσταση. Αμερικανοί αξιωματούχοι, όπως ο Scott Bessent, αλλά και στελέχη της τεχνολογίας υποστηρίζουν ότι τυχόν πάγωμα της ανάπτυξης στη Δύση θα χαρίσει το προβάδισμα στην Κίνα, με σοβαρές γεωπολιτικές συνέπειες. Το Πεκίνο αρνείται τις κατηγορίες περί επιθετικότητας, ενώ αναλυτές επισημαίνουν ότι η επίκληση του «κινεζικού κινδύνου» συχνά κρύβει οικονομικά συμφέροντα απέναντι στα φθηνά, ανοιχτού κώδικα κινεζικά μοντέλα.

Παύση της ανάπτυξης ή περισσότερη έρευνα;

Το θεμελιώδες ερώτημα για το μέλλον παραμένει ανοιχτό. Προσωπικότητες όπως ο γερουσιαστής Bernie Sanders ζητούν άμεση απαγόρευση της δημιουργίας υπερευφυΐας και παύση στις δοκιμές. Αντίθετα, ο καθηγητής Pedro Domingos και ο διευθύνων σύμβουλος της Palantir, Alex Karp, επιμένουν ότι ο μόνος τρόπος για να ελεγχθεί η τεχνολογία είναι η περαιτέρω ανάπτυξη και η βαθύτερη κατανόησή της.

Στο παρασκήνιο, η συζήτηση για το ρυθμιστικό πλαίσιο προκαλεί έντονες αντιπαραθέσεις. Ο Elon Musk έχει αφήσει αιχμές ότι οι εκκλήσεις των μεγάλων εταιρειών για αυστηρούς κανόνες αποτελούν τακτική ελιγμού για να στήσουν εμπόδια στους νεότερους ανταγωνιστές. Από την άλλη, πρωτοπόροι όπως ο Yoshua Bengio θεωρούν τις προειδοποιήσεις ειλικρινείς, υπογραμμίζοντας ότι η συζήτηση για την AI δεν αφορά πλέον μόνο την ασφάλεια, αλλά τον έλεγχο της παγκόσμιας τεχνολογικής και οικονομικής ισχύος.