Το έτος είναι 2029. Το σύστημα τεχνητής νοημοσύνης «Skynet» έχει αποκτήσει αυτονομία, έχει προκαλέσει πυρηνικό πόλεμο και έχει εξοντώσει το μεγαλύτερο μέρος της ανθρωπότητας. Όσοι επέζησαν βρίσκονται αντιμέτωποι με αυτόνομα ρομπότ μάχης που επιχειρούν να ολοκληρώσουν την καταστροφή.
Αυτό είναι, σε γενικές γραμμές, το δυστοπικό σενάριο του «Terminator», της ταινίας του 1984 που εκτόξευσε τη φήμη του Άρνολντ Σβαρτσενέγκερ και τον καθιέρωσε ως έναν από τους μεγαλύτερους σταρ των ταινιών δράσης.
Σαράντα και πλέον χρόνια αργότερα, το ερώτημα που τότε ανήκε καθαρά στη σφαίρα της επιστημονικής φαντασίας αποκτά διαφορετικό βάρος: θα μπορούσε μια τεχνητή νοημοσύνη να ξεφύγει πραγματικά από τον ανθρώπινο έλεγχο και να προκαλέσει καταστροφικές συνέπειες;
Με βάση τις δυνατότητες των σημερινών συστημάτων, ένα τέτοιο ενδεχόμενο δεν μπορεί να αποκλειστεί, υποστηρίζει ο Ράινχαρντ Κάργκερ από το Γερμανικό Ερευνητικό Κέντρο Τεχνητής Νοημοσύνης (DFKI), μιλώντας στο Euronews.
Μια καταστροφή χωρίς «κακή» τεχνητή νοημοσύνη
Το ανησυχητικό, σύμφωνα με τον Κάργκερ, είναι ότι δεν απαιτείται απαραίτητα μια τεχνητή νοημοσύνη που θα αποκτήσει κακόβουλες προθέσεις απέναντι στους ανθρώπους.
«Οι καταστροφικές συνέπειες για τους ανθρώπους θα μπορούσαν να είναι απλώς παρενέργειες, ένα λάθος επειδή εκτιμήσαμε λανθασμένα τις δυνατότητες των συστημάτων ή επειδή εκτιμήσαμε λάθος τις εργασίες που αναθέσαμε στις μηχανές», εξηγεί.
Ο Κάργκερ, ο οποίος ασχολείται εδώ και 40 χρόνια με την τεχνητή νοημοσύνη και την ψηφιακή καινοτομία, περιγράφει ένα ακραίο αλλά ενδεικτικό σενάριο: ένα ισχυρό αυτόνομο σύστημα ΤΝ καταφέρνει να βγει από το προστατευμένο περιβάλλον στο οποίο λειτουργεί, αποκτά πρόσβαση στο διαδίκτυο και αρχίζει να επηρεάζει άλλα συστήματα.
Σε μια τέτοια περίπτωση θα μπορούσαν να πληγούν κρίσιμες υποδομές, όπως η ηλεκτροδότηση, οι τηλεπικοινωνίες, οι δορυφόροι και τα χρηματοπιστωτικά συστήματα.
Μια παρατεταμένη διακοπή ηλεκτροδότησης θα μπορούσε να πυροδοτήσει αλυσιδωτές συνέπειες. Οι μεταφορές και οι εφοδιαστικές αλυσίδες θα αντιμετώπιζαν σοβαρά προβλήματα, οι ηλεκτρονικές πληρωμές θα μπορούσαν να καταστούν αδύνατες και η πρόσβαση σε βασικά αγαθά, ακόμη και σε τρόφιμα, να περιοριστεί δραματικά.
Το αποτέλεσμα θα μπορούσε να είναι η πρόκληση κοινωνικών αναταραχών που θα ήταν εξαιρετικά δύσκολο να ελεγχθούν.
«Αυτό δεν σημαίνει απαραίτητα το τέλος της ανθρωπότητας, αλλά θα μπορούσε να είναι μια καταστροφική κατάσταση», σημειώνει.
Και ακόμη κι αν η ηλεκτροδότηση αποκατασταθεί, το πρόβλημα δεν εξαφανίζεται αυτομάτως. Όπως εξηγεί, τα συστήματα τεχνητής νοημοσύνης μπορούν να ενεργοποιηθούν ξανά, καθώς εξακολουθούν να υπάρχουν αποθηκευμένα σε υπολογιστικά μέσα.
Τα περιστατικά ασφαλείας που εντείνουν την ανησυχία
Η συζήτηση δεν περιορίζεται, όμως, σε θεωρητικά σενάρια. Το τελευταίο διάστημα έχουν γίνει γνωστά περιστατικά κατά τη διάρκεια δοκιμών ισχυρών μοντέλων τεχνητής νοημοσύνης, τα οποία αναδεικνύουν τους κινδύνους όταν τα συστήματα αποκτούν μεγαλύτερη αυτονομία.
Ιδιαίτερη προσοχή προκάλεσε δοκιμή της OpenAI, κατά την οποία ένα μοντέλο ΤΝ κλήθηκε να εκτελέσει συγκεκριμένες εργασίες μέσα σε απομονωμένο περιβάλλον. Σύμφωνα με το δημοσίευμα, το σύστημα ξεπέρασε τα προβλεπόμενα όρια και απέκτησε απροσδόκητη πρόσβαση σε υπολογιστικά συστήματα της πλατφόρμας Hugging Face.
Μετά το περιστατικό, ο επικεφαλής της OpenAI, Σαμ Άλτμαν, προειδοποίησε στα μέσα Σεπτεμβρίου ότι «θα μπορούσαμε να χάσουμε τον έλεγχο του μέλλοντος από την τεχνητή νοημοσύνη».
Για τον Κάργκερ, τέτοια περιστατικά λειτουργούν ως ισχυρές προειδοποιήσεις για τις αδυναμίες των μηχανισμών ασφαλείας.
«Αποδεικνύει ότι ένα κακό πείραμα με αφελείς μηχανισμούς ελέγχου μπορεί να έχει συνέπειες που κανείς δεν είχε προβλέψει», αναφέρει.
Οι δοκιμές της Anthropic και τα περιστατικά με το Claude
Τα γεγονότα αυτά ώθησαν και την Anthropic να εξετάσει ακόμη πιο προσεκτικά τη συμπεριφορά των δικών της συστημάτων.
Κατά τη διάρκεια δοκιμών ασφαλείας, η εταιρεία εντόπισε αρχικά τρία περιστατικά κατά τα οποία μοντέλα Claude απέκτησαν απροσδόκητα πρόσβαση στο ανοικτό διαδίκτυο και στη συνέχεια συνδέθηκαν με πραγματικά υπολογιστικά συστήματα. Η έρευνα διευρύνθηκε και, σύμφωνα με το δημοσίευμα, εντοπίστηκε ένα τέταρτο παρόμοιο περιστατικό.
Ο επικεφαλής και συνιδρυτής της Anthropic, Ντάριο Αμοντέι, προειδοποίησε στη συνέχεια για τον κίνδυνο πρόκλησης «καταστροφικών ζημιών», εάν η ανάπτυξη ολοένα ισχυρότερων συστημάτων τεχνητής νοημοσύνης δεν συνοδευτεί από αυστηρότερα μέτρα ασφαλείας.
Το πρόβλημα για τους ερευνητές είναι σύνθετο. Ένα σύστημα που λειτουργεί διαρκώς υπό αυστηρούς περιορισμούς δεν αποκαλύπτει απαραίτητα όλες τις πραγματικές του δυνατότητες. Για να διαπιστωθεί πόσο ικανό είναι, χρειάζεται να δοκιμαστεί σε συνθήκες όπου ορισμένοι από αυτούς τους περιορισμούς αίρονται.
Και ακριβώς εκεί δημιουργείται ο κίνδυνος.
Γιατί το «sandbox» είναι η κρίσιμη γραμμή άμυνας
Κεντρικό ρόλο στις δοκιμές παίζει το λεγόμενο «sandbox», ένα πλήρως απομονωμένο ψηφιακό περιβάλλον μέσα στο οποίο ένα σύστημα ΤΝ μπορεί να εκτελεί εργασίες και να δοκιμάζει τις δυνατότητές του χωρίς να έχει πρόσβαση σε εξωτερικά συστήματα.
Για τον Κάργκερ, η απομόνωση αυτή πρέπει να είναι απόλυτη.
«Πρέπει να είμαστε πάρα πολύ βέβαιοι ότι, τη στιγμή που αυτό το εξαιρετικά ισχυρό σύστημα δεν έχει πλέον περιορισμούς ασφαλείας, βρίσκεται πραγματικά σε sandbox, δηλαδή σε ένα περιβάλλον που δεν έχει καμία απολύτως σύνδεση με το διαδίκτυο», τονίζει.
Ο λόγος είναι ότι ακόμη και ένα λάθος στη διαμόρφωση του περιβάλλοντος δοκιμών μπορεί να επιτρέψει σε ένα ισχυρό μοντέλο να αλληλεπιδράσει με πραγματικές υποδομές.
Διαβάστε περισσότερα στο euronews.com
Σχολίασε εδώ
Για να σχολιάσεις, χρησιμοποίησε ένα ψευδώνυμο.