Η προειδοποίηση που τρομάζει τις αγορές: Τι μπορεί να συμβεί αν η AI ξεφύγει από τον έλεγχο

Η Τεχνητή Νοημοσύνη μπαίνει όλο και περισσότερο στις τράπεζες, στις επιχειρήσεις, στις αγορές και σε κρίσιμα ψηφιακά συστήματα. Όμως όσο αυξάνονται οι δυνατότητές της, μεγαλώνουν και οι φόβοι για το τι θα μπορούσε να συμβεί εάν κάτι πάει στραβά.

Αυτή τη φορά η προειδοποίηση δεν προέρχεται από κάποιον επικριτή της τεχνολογίας, αλλά από τον Andrew Bailey, διοικητή της Τράπεζας της Αγγλίας και πρόεδρο του Financial Stability Board (FSB). Σε επιστολή του προς υπουργούς Οικονομικών και επικεφαλής κεντρικών τραπεζών, προειδοποίησε ότι τα πιο προηγμένα μοντέλα AI αποκτούν ολοένα μεγαλύτερη αυτονομία και ικανότητα επίλυσης σύνθετων προβλημάτων.

Και αυτό, σύμφωνα με τον ίδιο, δημιουργεί έναν καινούργιο κίνδυνο για ένα σύστημα που στηρίζεται σχεδόν ολοκληρωτικά στην τεχνολογία.

Το σενάριο που φοβούνται περισσότερο

Ο μεγαλύτερος φόβος αφορά τις κυβερνοεπιθέσεις.

Τράπεζες, χρηματιστήρια, εταιρείες πληρωμών και κυβερνητικές υπηρεσίες είναι συνδεδεμένες μεταξύ τους. Μια σοβαρή κυβερνοεπίθεση σε έναν μεγάλο πάροχο θα μπορούσε επομένως να μην περιοριστεί σε μία εταιρεία ή μία χώρα.

Θα μπορούσε να εξαπλωθεί. Η Τεχνητή Νοημοσύνη έχει τη δυνατότητα να κάνει τέτοιες επιθέσεις ταχύτερες, φθηνότερες και πολύ μεγαλύτερης κλίμακας. Ένα σύστημα AI μπορεί να αναλύσει τεράστιους όγκους δεδομένων, να εντοπίσει αδυναμίες και να αυτοματοποιήσει διαδικασίες που παλαιότερα απαιτούσαν ανθρώπους και πολύ περισσότερο χρόνο. Το πρόβλημα, όπως επισημαίνει ο Bailey, είναι ότι το παγκόσμιο χρηματοπιστωτικό σύστημα είναι εξαιρετικά διασυνδεδεμένο.

Αν σταματήσει να λειτουργεί ένας κρίσιμος πάροχος τεχνολογίας που χρησιμοποιείται ταυτόχρονα από δεκάδες μεγάλες τράπεζες, οι συνέπειες θα μπορούσαν να εμφανιστούν σχεδόν ταυτόχρονα σε πολλές χώρες.

Και στις οικονομικές αγορές, ακόμη και ο φόβος ότι ένα σύστημα δεν είναι ασφαλές μπορεί να είναι αρκετός για να δημιουργήσει πρόβλημα.

StockRadars Co., / Pexels

«Δεν είμαστε ακόμη έτοιμοι»

Ένα από τα σημαντικότερα σημεία της προειδοποίησης αφορά το γεγονός ότι πολλές χώρες δεν διαθέτουν ακόμη ξεκάθαρους κανόνες και διαδικασίες για το πώς πρέπει να κυκλοφορούν και να χρησιμοποιούνται τα πιο ισχυρά μοντέλα Τεχνητής Νοημοσύνης. Η τεχνολογία, δηλαδή, εξελίσσεται γρηγορότερα από τους μηχανισμούς που δημιουργούν οι κυβερνήσεις για να την ελέγξουν.

Αυτό δημιουργεί ένα επικίνδυνο κενό.

Τι συμβαίνει εάν ένα πολύ προηγμένο μοντέλο χρησιμοποιηθεί για κυβερνοεπίθεση; Ποιος έχει την ευθύνη εάν ένα AI σύστημα προκαλέσει σοβαρή οικονομική ζημιά; Και πόσο γρήγορα μπορεί μια χώρα να αντιδράσει όταν η επίθεση ξεκινά από άλλη χώρα και εξαπλώνεται μέσα σε λίγα λεπτά;

Ακριβώς επειδή τα ψηφιακά συστήματα δεν γνωρίζουν σύνορα, ο Bailey θεωρεί ότι καμία κυβέρνηση δεν μπορεί να αντιμετωπίσει μόνη της το ζήτημα.

Χρειάζεται, όπως υποστηρίζει, διεθνής συνεργασία. Όταν λίγες εταιρείες κρατούν τεράστιο κομμάτι του συστήματος υπάρχει όμως και ένας ακόμη κίνδυνος που ίσως δεν είναι τόσο εμφανής. Πολλές τράπεζες και επιχειρήσεις χρησιμοποιούν τις υπηρεσίες των ίδιων μεγάλων τεχνολογικών παρόχων. Αυτό σημαίνει ότι ένα πρόβλημα σε μία εταιρεία θα μπορούσε θεωρητικά να επηρεάσει ταυτόχρονα εκατοντάδες οργανισμούς. Αυτό ονομάζεται συγκέντρωση κινδύνου.

Σκεφτείτε το σαν μια ολόκληρη πόλη που παίρνει ηλεκτρικό ρεύμα από μία μόνο μονάδα παραγωγής. Όσο όλα λειτουργούν σωστά, δεν υπάρχει πρόβλημα. Αν όμως η μονάδα σταματήσει, το πρόβλημα γίνεται ξαφνικά τεράστιο.

Κάτι αντίστοιχο φοβούνται οι οικονομικές αρχές με την AI και τις ψηφιακές υπηρεσίες.