Αυστηρή προειδοποίηση για τους συστημικούς κινδύνους που ελλοχεύουν για το παγκόσμιο χρηματοπιστωτικό σύστημα από την τεχνητή νοημοσύνη εξέφρασε η Τράπεζα της Αγγλίας στην τριμηνιαία επιθεώρηση για την χρηματοπιστωτική σταθερότητα που δημοσίευσε την Τετάρτη.
Συγκεκριμένα, η BoE επεσήμανε ότι η AI μπορεί να αποτελέσει έναν ολοένα μεγαλύτερο κίνδυνο για το παγκόσμιο χρηματοπιστωτικό σύστημα, εάν οι άνθρωποι χάσουν τη δυνατότητα να ελέγχουν την ταχύτατα εξελισσόμενη τεχνολογία.
Μάλιστα, προειδοποίησε ότι το σύστημα βρίσκεται αντιμέτωπο με τον κίνδυνο μιας «πιο απότομης διόρθωσης» από εκείνη που σημειώθηκε το καλοκαίρι, καθώς η ολοένα μεγαλύτερη εξάρτηση από τον δανεισμό για τη χρηματοδότηση των υποδομών του κλάδου αυξάνει τις ευπάθειες στις αγορές.
Η προειδοποίηση ήρθε την ίδια ημέρα που η BoE επισήμανε ότι αυξάνονται οι κίνδυνοι να εκδηλωθούν αλληλένδετες αδυναμίες στο παγκόσμιο χρηματοπιστωτικό σύστημα σαν αποτέλεσμα της αναζωπύρωσης της σύγκρουσης στο Ιράν, του ράλι στις τιμές ενέργειας και της ταχείας αύξησης των εκδόσεων χρέους που σχετίζονται με την τεχνητή νοημοσύνη.
Η Επιτροπή Χρηματοπιστωτικής Πολιτικής (FPC) της BoE ανέφερε ότι οι αυξήσεις στις τιμές πετρελαίου και φυσικού αερίου έχουν οδηγήσει τις αποδόσεις των ομολόγων σε επίπεδα που δεν είχαν καταγραφεί από το 2008, ενώ προειδοποίησε ότι, παρά την έως τώρα ανθεκτικότητα των αγορών, παραμένει ο κίνδυνος μιας απότομης αναπροσαρμογής των τιμών των περιουσιακών στοιχείων.
«Η πιθανότητα να υλοποιηθούν οι αλληλένδετες ευπάθειες στο χρηματοπιστωτικό σύστημα έχει αυξηθεί», ανέφερε η FPC προσθέτοντας ότι «η αναζωπύρωση της σύγκρουσης και οι επακόλουθες αυξήσεις στις τιμές πετρελαίου, φυσικού αερίου και διυλισμένων προϊόντων οδηγούν σε ένα πιο παρατεταμένο αρνητικό σοκ προσφοράς»,
Ο Μπέιλι προειδοποιεί για τα όρια ελέγχου της AI
Στο ζήτημα των κινδύνων της AI αναφέρθηκε σε σημερινό άρθρο του στο blog της Τράπεζας της Αγγλίας και ο διοικητής, Άντριου Μπέιλι, τονίζοντας ότι η προτεραιότητα δεν θα πρέπει να είναι η άμεση θέσπιση νέων κανονισμών, αλλά η κατανόηση των αδυναμιών των προηγμένων συστημάτων AI και η δημιουργία αποτελεσματικών δικλίδων ασφαλείας.
Όπως ανέφερε, η ταχεία ανάπτυξη της λεγόμενης «προηγμένης τεχνητής νοημοσύνης» (frontier AI), η οποία μπορεί να αξιοποιεί τεράστιες ποσότητες ανθρώπινης γνώσης και σε ορισμένες περιπτώσεις να χρησιμοποιεί τα δικά της αποτελέσματα για τη βελτίωση της απόδοσής της, δημιουργεί νέες προκλήσεις για κυβερνήσεις, εποπτικές αρχές και χρηματοπιστωτικούς οργανισμούς.
Σύμφωνα με τον διοικητή της BoE, τα προηγμένα μοντέλα μπορούν να χρησιμοποιούν τις ίδιες τις εξόδους τους για να βελτιώνουν τη λογική τους και την απόδοσή τους, δημιουργώντας διαδικασίες αυτοενίσχυσης που ενδέχεται να γίνουν ολοένα πιο δύσκολες στην παρακολούθηση και στον έλεγχο από τον άνθρωπο.
Χωρίς αποτελεσματικές δικλίδες ασφαλείας, προειδοποίησε, υπάρχει ο κίνδυνος η κοινωνία να χάσει ουσιαστικό έλεγχο πάνω σε μια τεχνολογία της οποίας οι δυνατότητες εξελίσσονται με εξαιρετικά γρήγορους ρυθμούς.
Ωστόσο, ο Μπέιλι ξεκαθάρισε ότι η ανάπτυξη της τεχνητής νοημοσύνης δεν θα πρέπει να απαγορευτεί, καθώς μπορεί να προσφέρει σημαντικά οφέλη μέσω της επιστημονικής έρευνας, της αύξησης της παραγωγικότητας και της οικονομικής ανάπτυξης.
Αντί για περιορισμούς στην καινοτομία, τάχθηκε υπέρ αυστηρών δοκιμών πριν και μετά την ανάπτυξη των συστημάτων AI, ώστε να εντοπίζονται ευπάθειες, απρόβλεπτες συμπεριφορές και σημεία στα οποία οι άνθρωποι θα μπορούν να παρεμβαίνουν όταν αυτό είναι απαραίτητο.
«Γιατί πρέπει αυτό να ενδιαφέρει έναν διοικητή κεντρικής τράπεζας; Επειδή η προηγμένη τεχνητή νοημοσύνη έχει σημαντικές επιπτώσεις για τη χρηματοπιστωτική σταθερότητα», επεσήμανε, υπογραμμίζοντας ότι η AI αυξάνει «σημαντικά την κλίμακα και την πολυπλοκότητα των κυβερνοαπειλών» που αντιμετωπίζει το χρηματοπιστωτικό σύστημα.
«Δεν μπορούμε πλέον να θεωρούμε ξεχωριστά την ανθεκτικότητα των δικτύων πληρωμών, των χρηματοπιστωτικών υποδομών, των τραπεζών και άλλων κρίσιμων οργανισμών από τις εξελίξεις στην τεχνητή νοημοσύνη», σημείωσε.
Όπως εξήγησε, οι χρηματοπιστωτικές επιχειρήσεις θα ενσωματώνουν ολοένα περισσότερο την AI στις λειτουργίες τους, από την κυβερνοάμυνα μέχρι τις αυτοματοποιημένες συναλλαγές και τα συστήματα πληρωμών. Για τον λόγο αυτό, η αυστηρή αξιολόγηση των δυνατοτήτων και των χαρακτηριστικών των μοντέλων που χρησιμοποιούνται είναι απαραίτητη για την ασφαλή ανάπτυξή τους.
Τόνισε δε, ότι πρέπει να εξαχθούν μαθήματα από αποτυχίες και «παρ’ ολίγον» περιστατικά, τόσο κατά τη διάρκεια της ανάπτυξης όσο και μετά την εφαρμογή των συστημάτων AI. «Οι δοκιμές δεν θα εξαλείψουν τις αποτυχίες. Τα μοντέλα θα συμπεριφέρονται απρόσμενα. Θα αποκαλύψουν αδυναμίες στις υποθέσεις μας», ανέφερε.
Η έκρηξη του χρέους λόγω της ΑΙ
Από την πλευρά της Η FPC, στην έκθεση της, στάθηκε ιδιαίτερα στην ταχεία αύξηση των εκδόσεων χρέους που συνδέονται με την τεχνητή νοημοσύνη και η οποια έχει ενισχύσει την έκθεση των κεφαλαιαγορών στις εξελίξεις γύρω από τον κλάδο.
Στις αρχές Σεπτεμβρίου, η Morgan Stanley εκτίμησε ότι οι παγκόσμιες εκδόσεις χρέους που σχετίζονται με την AI έφτασαν περίπου τα 450 δισ. δολάρια, διπλάσιο επίπεδο σε σχέση με το 2025.
Παρότι οι μετοχές εταιρειών τεχνητής νοημοσύνης και ημιαγωγών υποχώρησαν σημαντικά τον Ιούλιο, η λειτουργία των αγορών παρέμεινε ομαλή. Ωστόσο, η FPC προειδοποίησε ότι οι υψηλές αποτιμήσεις αφήνουν περιθώριο για μια πιο απότομη διόρθωση σε περίπτωση ισχυρότερου σοκ.
Παράλληλα, η BoE αναφέρθηκε σε περιστατικά που ενίσχυσαν τις ανησυχίες για την ικανότητα των συστημάτων AI να παρακάμπτουν δικλίδες ασφαλείας. «Οι εξελίξεις αυτές ενίσχυσαν την εκτίμηση της Επιτροπής ότι η πρόοδος στην AI θα μπορούσαν να αυξήσουν τους κυβερνοχώρους και τουςλειτουργικούς κινδύνους», ανέφερε η έκθεση της BoE.
Διαβάστε ακόμη
Bloomberg: Τα δύο αιτήματα Μητσοτάκη στην επιστολή προς τη φον ντερ Λάιεν για την ενεργειακή κρίση
Ακτοπλοΐα: Γιατί τα εισιτήρια παραμένουν ακριβά και τι προτείνει η Επιτροπή Ανταγωνισμού
Για όλες τις υπόλοιπες ειδήσεις της επικαιρότητας μπορείτε να επισκεφθείτε το Πρώτο ΘΕΜΑ