Η ταχύτητα με την οποία εξελίσσονται τα συστήματα Τεχνητής Νοημοσύνης δημιουργεί ένα νέο πεδίο κινδύνων στις σχέσεις ΗΠΑ και Κίνας, ιδιαίτερα όταν η τεχνολογία αποκτά πρόσβαση σε στρατιωτικά δίκτυα, κυβερνοεπιχειρήσεις και κρίσιμες υποδομές. Το ενδεχόμενο ένα αυτόνομο σύστημα να προκαλέσει μια ενέργεια που θα παρερμηνευθεί ως εχθρική επίθεση μπορεί να περιορίσει δραματικά τον χρόνο που έχουν οι δύο κυβερνήσεις για να αντιδράσουν.
Ειδικοί από τις δύο χώρες, οι οποίοι συμμετέχουν σε διμερή διάλογο για την Τεχνητή Νοημοσύνη και την εθνική ασφάλεια, προτείνουν τη δημιουργία συγκεκριμένων κανόνων ώστε ένα τεχνικό σφάλμα, μια μη εξουσιοδοτημένη ενέργεια ή μια κυβερνοεπίθεση που θα πραγματοποιηθεί από αυτόνομο σύστημα να μην εξελιχθεί σε ευρύτερη στρατιωτική κρίση.
Στο επίκεντρο των προτάσεων βρίσκονται η θέσπιση «κόκκινων γραμμών» γύρω από τα πυρηνικά συστήματα, η διατήρηση ουσιαστικού ανθρώπινου ελέγχου στις κυβερνοεπιχειρήσεις υψηλού κινδύνου και η δημιουργία μιας ειδικής γραμμής άμεσης επικοινωνίας μεταξύ Ουάσιγκτον και Πεκίνου για περιστατικά που σχετίζονται με αυτόνομα συστήματα.
Οι προτάσεις διατυπώθηκαν ενόψει των κυβερνητικών συνομιλιών για την Τεχνητή Νοημοσύνη και της προγραμματισμένης συνάντησης στην Ουάσιγκτον, στις 24 Σεπτεμβρίου, μεταξύ του Προέδρου των ΗΠΑ Ντόναλντ Τραμπ και του Κινέζου Προέδρου Σι Τζινπίνγκ.
Από τον ανταγωνισμό στα τσιπ στον στρατιωτικό έλεγχο της AI
Η αντιπαράθεση ΗΠΑ και Κίνας γύρω από την Τεχνητή Νοημοσύνη έχει μέχρι σήμερα επικεντρωθεί σε μεγάλο βαθμό στην πρόσβαση σε προηγμένα τσιπ, υπολογιστική ισχύ και μοντέλα AI. Ωστόσο, οι νέες συζητήσεις μεταφέρουν το βάρος σε ένα διαφορετικό και ιδιαίτερα ευαίσθητο πεδίο: το πώς θα ελέγχονται οι αυτόνομες μηχανές όταν αποκτούν πρόσβαση σε στρατιωτικά συστήματα.
Το ζήτημα συνδέεται άμεσα με προβλήματα που απασχολούν εδώ και δεκαετίες τον έλεγχο των εξοπλισμών. Ένα από αυτά είναι η αποτροπή μιας κατάστασης στην οποία ένα ατύχημα ή μια τεχνική δυσλειτουργία εκλαμβάνεται ως σκόπιμη επίθεση. Ένα δεύτερο αφορά τον περιορισμό των στρατιωτικών αποφάσεων που λαμβάνονται από μηχανές χωρίς άμεση ανθρώπινη παρέμβαση.
Η τρίτη διάσταση αφορά την επικοινωνία. Εάν δύο αυτόνομα συστήματα ανταποκρίνονται το ένα στο άλλο με ταχύτητα που ξεπερνά την ανθρώπινη δυνατότητα αξιολόγησης, μια αρχική δυσλειτουργία θα μπορούσε θεωρητικά να οδηγήσει σε αλυσιδωτές αντιδράσεις προτού οι κυβερνήσεις αντιληφθούν τι έχει συμβεί.
Ο υπουργός Κρατικής Ασφάλειας της Κίνας, Τσεν Γιξίν, έχει περιγράψει την Τεχνητή Νοημοσύνη ως τεχνολογία που μεταβάλλει σημαντικά τη μορφή του σύγχρονου στρατιωτικού ανταγωνισμού, υποστηρίζοντας ότι έχει περάσει από έναν υποστηρικτικό ρόλο σε πιο κεντρική θέση.
«Κόκκινες γραμμές» για τα πυρηνικά
Μία από τις βασικές προτάσεις αφορά τον περιορισμό της χρήσης αυτόνομων συστημάτων γύρω από τις πυρηνικές υποδομές.
Η πρόταση είναι οι άνθρωποι να διατηρούν την αποκλειστική αρμοδιότητα για την έναρξη κυβερνοεπιθέσεων που θα μπορούσαν να επηρεάσουν τα συστήματα διοίκησης, ελέγχου και επικοινωνιών μιας πυρηνικής δύναμης ή κρίσιμες στρατηγικές υποδομές.
Ο κίνδυνος δεν συνδέεται μόνο με την πρόθεση ενός συστήματος. Ένα αυτόνομο μοντέλο θα μπορούσε να παρουσιάσει τεχνική δυσλειτουργία, να ξεπεράσει τις εντολές που έχει λάβει ή να παραβιαστεί από τρίτους. Η χώρα που θα δεχόταν την ενέργεια θα μπορούσε στη συνέχεια να δυσκολευτεί να διαπιστώσει εάν πρόκειται για ατύχημα, μη εξουσιοδοτημένη ενέργεια ή συνειδητή στρατιωτική εντολή.
Αντίστοιχα, έχει προταθεί η καθιέρωση σαφών «κόκκινων γραμμών» που θα απαγορεύουν στην Τεχνητή Νοημοσύνη να αποφασίζει αυτόνομα για τη χρήση πυρηνικών όπλων ή να επιτίθεται από μόνη της σε συστήματα πυρηνικής διοίκησης.
Οι ίδιες αρχές θα μπορούσαν να επεκταθούν σε κρίσιμες υποδομές, όπως η ενέργεια, οι χρηματοπιστωτικές υπηρεσίες και η υγεία, όπου μια αυτοματοποιημένη επίθεση θα μπορούσε να έχει σημαντικές επιπτώσεις.
Ένα ακόμη ζήτημα είναι ο ορισμός της «ουσιαστικής ανθρώπινης εποπτείας». Η ύπαρξη ενός κοινού ορισμού θεωρείται σημαντική, ώστε ΗΠΑ και Κίνα να μην χρησιμοποιούν τον ίδιο όρο για να περιγράψουν διαφορετικά επίπεδα ανθρώπινου ελέγχου πάνω στις μηχανές.
Η συγκεκριμένη αρχή έχει ήδη αποτελέσει σημείο συμφωνίας μεταξύ των δύο χωρών. Τον Νοέμβριο του 2024, ο τότε Πρόεδρος των ΗΠΑ Τζο Μπάιντεν και ο Σι Τζινπίνγκ είχαν συμφωνήσει ότι οι άνθρωποι πρέπει να διατηρούν τον έλεγχο των αποφάσεων που αφορούν τη χρήση πυρηνικών όπλων.
Ο κίνδυνος μιας κλιμάκωσης που θα εξελιχθεί αυτόματα
Ένα δεύτερο σημαντικό στοιχείο των προτάσεων είναι η δημιουργία μιας ειδικής στρατιωτικής hotline ΗΠΑ – Κίνας για περιστατικά που σχετίζονται με την Τεχνητή Νοημοσύνη.
Η ανάγκη για μια τέτοια γραμμή συνδέεται με την ταχύτητα λειτουργίας των αυτόνομων συστημάτων. Ένα αμυντικό σύστημα θα μπορούσε να εντοπίσει ύποπτη δραστηριότητα και να ενεργοποιήσει αυτόματα μια αντίδραση. Η άλλη πλευρά, βλέποντας αυτή την αντίδραση, θα μπορούσε να την ερμηνεύσει ως σκόπιμη επίθεση και να ενεργοποιήσει με τη σειρά της δικά της συστήματα.
Έτσι, μια αλληλουχία ενεργειών θα μπορούσε να εξελιχθεί μέσα σε χρόνο πολύ μικρότερο από εκείνον που απαιτείται για την ανθρώπινη αξιολόγηση.
Μια απευθείας γραμμή επικοινωνίας θα μπορούσε να λειτουργήσει ως μηχανισμός αποκλιμάκωσης. Μια κυβέρνηση θα είχε τη δυνατότητα να ενημερώσει άμεσα την άλλη ότι ένα περιστατικό ήταν τυχαίο, μη εξουσιοδοτημένο ή υπό διερεύνηση, προτού αυτό θεωρηθεί κρατική επίθεση.
Ωστόσο, η αποτελεσματικότητα μιας τέτοιας γραμμής δεν θεωρείται δεδομένη. Έχουν διατυπωθεί επιφυλάξεις σχετικά με το κατά πόσο οι υφιστάμενοι μηχανισμοί στρατιωτικής επικοινωνίας μεταξύ Ουάσιγκτον και Πεκίνου μπορούν να λειτουργήσουν αποτελεσματικά σε μια πραγματική κρίση.
Το προηγούμενο του Φεβρουαρίου του 2023, όταν η επικοινωνία μεταξύ των δύο πλευρών αντιμετώπισε προβλήματα μετά το περιστατικό με το κινεζικό κατασκοπευτικό αερόστατο, χρησιμοποιείται ως παράδειγμα των δυσκολιών που μπορεί να προκύψουν.
Παράλληλα, η αυστηρή ιεραρχική δομή του κινεζικού κρατικού και κομματικού μηχανισμού μπορεί να περιορίζει τη δυνατότητα χαμηλόβαθμων αξιωματούχων να αναλαμβάνουν πρωτοβουλίες κατά τη διάρκεια μιας κρίσης. Αυτό σημαίνει ότι ακόμη και μια γραμμή άμεσης επικοινωνίας δεν θα εξασφάλιζε αυτομάτως γρήγορη πολιτική αντίδραση.
Διαφορετική προσέγγιση σε Ουάσιγκτον και Πεκίνο
Παρά τις συζητήσεις, ούτε η αμερικανική ούτε η κινεζική κυβέρνηση έχει υιοθετήσει δημόσια το σύνολο των προτάσεων.
Η Κίνα έχει, ωστόσο, αρχίσει να εντάσσει την Τεχνητή Νοημοσύνη στο ευρύτερο πλαίσιο του ελέγχου εξοπλισμών. Η τεχνολογία αποτελεί πλέον αντικείμενο του Τμήματος Ελέγχου Εξοπλισμών του κινεζικού υπουργείου Εξωτερικών, το οποίο ασχολείται επίσης με ζητήματα πυρηνικών όπλων, μη διάδοσης, πυραύλων και διεθνούς ασφάλειας.
Κινέζος αξιωματούχος για θέματα αφοπλισμού έχει προειδοποιήσει ότι η στρατιωτική αξιοποίηση της AI μπορεί να επηρεάσει τη στρατηγική σταθερότητα και να αυξήσει τον κίνδυνο λανθασμένων εκτιμήσεων και κλιμάκωσης. Παράλληλα, το Πεκίνο υποστηρίζει ότι τα όπλα πρέπει να παραμένουν υπό ανθρώπινο έλεγχο και ότι η ασφάλεια της Τεχνητής Νοημοσύνης δεν πρέπει να χρησιμοποιείται ως πρόσχημα για τη δημιουργία τεχνολογικών περιορισμών.
Στις ΗΠΑ, αντίθετα, δεν υπάρχει ένας αντίστοιχος ενιαίος φορέας που να έχει την αποκλειστική ευθύνη για τον έλεγχο εξοπλισμών και την AI. Οι σχετικές αρμοδιότητες κατανέμονται μεταξύ του Συμβουλίου Εθνικής Ασφάλειας του Λευκού Οίκου, του Στέιτ Ντιπάρτμεντ, του Πενταγώνου και άλλων υπηρεσιών.
Κοινή παράμετρος, πάντως, παραμένει η επιφυλακτικότητα απέναντι σε κανόνες που θα μπορούσαν να περιορίσουν την τεχνολογική ανάπτυξη.
Ο Ντόναλντ Τραμπ έχει υποστηρίξει ότι εκτεταμένοι περιορισμοί στην ανάπτυξη της AI θα μπορούσαν να δώσουν πλεονέκτημα στην Κίνα. Από την πλευρά του, το Πεκίνο αντιμετωπίζει αρκετούς από τους αμερικανικούς τεχνολογικούς ελέγχους ως προσπάθεια διατήρησης της αμερικανικής υπεροχής.
Το βασικό ερώτημα που αναδεικνύεται, επομένως, δεν αφορά μόνο το ποια χώρα θα αποκτήσει τα ισχυρότερα μοντέλα Τεχνητής Νοημοσύνης. Αφορά και το ποιοι κανόνες θα διέπουν τη χρήση τους όταν η τεχνολογία συνδεθεί με στρατιωτικά συστήματα, πόσο πραγματικός θα είναι ο ανθρώπινος έλεγχος και πόσο γρήγορα θα μπορούν οι κυβερνήσεις να επικοινωνούν όταν μια αυτόνομη ενέργεια δημιουργεί κίνδυνο κλιμάκωσης.
Διαβάστε ακόμη
Κόκκινες κάρτες Εξάρχου για ενεργειακή πολιτική, LNG και κατασκευές
Η μεγάλη άνθιση του botox στους άνδρες
Για όλες τις υπόλοιπες ειδήσεις της επικαιρότητας μπορείτε να επισκεφθείτε το Πρώτο ΘΕΜΑ