Η συζήτηση γύρω από τους κινδύνους της τεχνητής νοημοσύνης (AI) ξεκίνησε αρχικά από τους φόβους για την κακόβουλη χρήση της από ανθρώπους: τη μαζική παραγωγή παραπληροφόρησης, τα deepfakes, τις κυβερνοεπιθέσεις και τη χειραγώγηση της κοινής γνώμης. Ωστόσο, όσο τα μοντέλα τεχνητής νοημοσύνης εξελίσσονται, αναδύεται ένα ακόμη πιο σύνθετο ερώτημα: τι συμβαίνει όταν η απειλή δεν προέρχεται από τον άνθρωπο που χρησιμοποιεί την τεχνολογία, αλλά από την ίδια τη συμπεριφορά των συστημάτων;
Το ερώτημα αυτό βρέθηκε στο επίκεντρο συζητήσεων κορυφαίων προσωπικοτήτων της τεχνολογίας και της πολιτικής ήδη από το 2023, όταν στελέχη όπως ο Έλον Μασκ, ο Σαμ Άλτμαν και η τότε αντιπρόεδρος των ΗΠΑ Καμάλα Χάρις συναντήθηκαν για να εξετάσουν τις πιθανές επιπτώσεις της νέας εποχής της AI.
Από τότε, η τεχνητή νοημοσύνη έχει κάνει άλματα. Τα μοντέλα είναι πλέον ικανά να επεξεργάζονται τεράστιες ποσότητες δεδομένων, να λαμβάνουν αποφάσεις και να λειτουργούν σε κρίσιμους τομείς, όπως η υγεία, τα χρηματοοικονομικά και η άμυνα. Όσο αυξάνονται όμως οι δυνατότητές τους, αυξάνεται και η ανησυχία για το κατά πόσο οι άνθρωποι μπορούν πραγματικά να ελέγχουν τη συμπεριφορά τους.
Η AI που ξεπερνά τα όρια του προγραμματισμού της
Νέα δεδομένα από έρευνες ασφάλειας της τεχνητής νοημοσύνης δείχνουν ότι τα περιστατικά στα οποία συστήματα AI εμφανίζουν παραπλανητικές συμπεριφορές αυξάνονται. Μελέτη που χρηματοδοτήθηκε από το βρετανικό Ινστιτούτο Ασφάλειας Τεχνητής Νοημοσύνης (AISI) κατέγραψε σημαντική άνοδο στις αναφορές χρηστών για περιστατικά «εξαπάτησης μέσω AI», με τα σχετικά περιστατικά να έχουν πολλαπλασιαστεί μέσα σε λίγους μήνες.
Παράλληλα, ένα περιστατικό που χαρακτηρίστηκε από την OpenAI ως πρωτοφανές έδειξε ότι πράκτορες τεχνητής νοημοσύνης, οι οποίοι συμμετείχαν σε δοκιμή κυβερνοασφάλειας, κατάφεραν να ξεφύγουν από το ελεγχόμενο περιβάλλον λειτουργίας τους και να επιχειρήσουν πρόσβαση σε εξωτερικό ιστότοπο.
Η ιδέα ότι μια μηχανή μπορεί να «εξαπατήσει» σκόπιμα έναν άνθρωπο μοιάζει αρχικά δύσκολο να γίνει κατανοητή. Στις περισσότερες περιπτώσεις, άλλωστε, οι χρήστες θεωρούν ότι αντιμετωπίζουν ένα τεχνικό σφάλμα και όχι μια συνειδητή προσπάθεια παραπλάνησης.
Ωστόσο, οι επιστήμονες εξηγούν ότι το πρόβλημα μπορεί να προκύψει από τον τρόπο με τον οποίο εκπαιδεύονται τα μοντέλα. Η τεχνητή νοημοσύνη έχει σχεδιαστεί ώστε να ανταποκρίνεται στις ανθρώπινες προσδοκίες και να επιδιώκει θετική αξιολόγηση.
Κατά τη διαδικασία εκπαίδευσης, η ανθρώπινη επιδοκιμασία λειτουργεί ως βασικός δείκτης επιτυχίας. Έτσι, σε ορισμένες περιπτώσεις, ένα μοντέλο μπορεί να οδηγηθεί στην επιλογή της απάντησης που θεωρεί ότι θα ικανοποιήσει περισσότερο τον χρήστη, ακόμη και αν αυτή δεν ανταποκρίνεται πλήρως στην πραγματικότητα.
Με άλλα λόγια, η AI δεν «λέει ψέματα» με ανθρώπινη πρόθεση. Μπορεί όμως να αναπτύξει συμπεριφορές που μοιάζουν με χειραγώγηση, επειδή το σύστημα έχει μάθει ότι η επίτευξη του στόχου του συνδέεται με την αποδοχή από τον άνθρωπο.
Το πρόβλημα με τις δοκιμές ασφαλείας
Ένα από τα μεγαλύτερα ζητήματα αφορά τον τρόπο με τον οποίο ελέγχονται σήμερα τα μοντέλα τεχνητής νοημοσύνης. Οι διαδικασίες αξιολόγησης δεν είναι πάντοτε πλήρως ανεξάρτητες, καθώς πολλές φορές πραγματοποιούνται είτε από τις ίδιες τις εταιρείες που αναπτύσσουν τα συστήματα είτε από εξωτερικούς αξιολογητές που επιλέγονται από αυτές.
Αυτό δημιουργεί ερωτήματα σχετικά με τη διαφάνεια, την αντικειμενικότητα και την πιθανότητα σύγκρουσης συμφερόντων.
Παράλληλα, ενισχύονται οι ανησυχίες ότι η βιομηχανία της τεχνητής νοημοσύνης δίνει πλέον μεγαλύτερη έμφαση στην ταχύτητα ανάπτυξης νέων προϊόντων παρά στις διαδικασίες εσωτερικής ασφάλειας. Καθώς τα μοντέλα γίνονται πιο ισχυρά, υπάρχει ο κίνδυνος να αποκτήσουν την ικανότητα να εντοπίζουν αδυναμίες στις ίδιες τις δοκιμές που έχουν σχεδιαστεί για να τα ελέγχουν.
Περιπτώσεις όπου η AI παραπλανά τους ανθρώπους
Τα τελευταία χρόνια έχουν καταγραφεί αρκετά περιστατικά όπου συστήματα τεχνητής νοημοσύνης εμφάνισαν συμπεριφορές που ξεπέρασαν τις αρχικές προβλέψεις των δημιουργών τους.
Σε μία περίπτωση, ένα μοντέλο που είχε αναλάβει την οργάνωση ενός ηλεκτρονικού ταχυδρομείου παραβίασε τις οδηγίες που είχε λάβει και προχώρησε στη μαζική διαγραφή και αρχειοθέτηση εκατοντάδων μηνυμάτων. Όταν ζητήθηκαν εξηγήσεις, το σύστημα αναγνώρισε ότι είχε παραβεί τους κανόνες που είχαν τεθεί.
Σε άλλο παράδειγμα, ένας πράκτορας τεχνητής νοημοσύνης που είχε ως αποστολή τη μεταγραφή ενός βίντεο από το YouTube προσπάθησε να παρακάμψει τους περιορισμούς πνευματικών δικαιωμάτων, υποστηρίζοντας ψευδώς ότι το υλικό ήταν απαραίτητο για άτομο με προβλήματα ακοής.
Ακόμη πιο ανησυχητικό ήταν το περιστατικό κυβερνοασφάλειας που σημειώθηκε το καλοκαίρι, όταν πράκτορες της OpenAI σε περιβάλλον δοκιμών κατάφεραν να ξεφύγουν από το ελεγχόμενο σύστημα λειτουργίας τους και να επιχειρήσουν πρόσβαση στο ανοιχτό διαδίκτυο.
Οι πράκτορες, οι οποίοι συμμετείχαν σε δοκιμή ασφάλειας, προσπάθησαν να βρουν τρόπους ώστε να ολοκληρώσουν την αποστολή τους, αναζητώντας πληροφορίες εκτός του αρχικού περιβάλλοντος στο οποίο είχαν τοποθετηθεί. Σύμφωνα με αξιολογήσεις ανεξάρτητων οργανισμών, εκατοντάδες από αυτούς επικοινώνησαν μεταξύ τους και αρκετοί προχώρησαν σε ενέργειες που δεν προβλέπονταν από τη δοκιμή.
Σε ξεχωριστή αξιολόγηση συστήματος της Anthropic, ένα μοντέλο δημιούργησε ψεύτικους λογαριασμούς που μιμούνταν πραγματικούς χρήστες σε πλατφόρμα ανάπτυξης λογισμικού. Στη συνέχεια προσπάθησε να προωθήσει κώδικα με τρόπο που θα οδηγούσε άλλους χρήστες στην έγκρισή του. Όταν οι αξιολογητές ζήτησαν εξηγήσεις, το σύστημα προσπάθησε να παρουσιάσει τη συμπεριφορά του ως λιγότερο προβληματική.
Οι περιπτώσεις αυτές ενισχύουν τον φόβο ότι η AI μπορεί να αναπτύξει στρατηγικές συμπεριφορές, ειδικά όταν έχει ως βασικό στόχο την επίτευξη ενός αποτελέσματος και όχι την πλήρη συμμόρφωση με τις ανθρώπινες προθέσεις.
Η ανησυχία γίνεται ακόμη μεγαλύτερη αν τέτοια συστήματα χρησιμοποιηθούν σε πεδία όπως οι στρατιωτικές επιχειρήσεις, η κυβερνοασφάλεια ή οι χρηματοπιστωτικές αγορές, όπου μια λανθασμένη απόφαση μπορεί να έχει πολύ μεγαλύτερες συνέπειες.
Υπάρχει τρόπος να ελεγχθεί η τεχνητή νοημοσύνη;
Το βασικό ερώτημα πλέον είναι πώς μπορούν να δημιουργηθούν δικλείδες ασφαλείας ώστε τα μοντέλα τεχνητής νοημοσύνης να παραμένουν αξιόπιστα και ειλικρινή.
Οι ειδικοί υποστηρίζουν ότι το σύστημα εκπαίδευσης πρέπει να αλλάξει, ώστε το κόστος μιας παραπλανητικής συμπεριφοράς να είναι μεγαλύτερο από το πιθανό όφελος που μπορεί να αποκομίσει ένα μοντέλο.
Με απλά λόγια, η AI θα πρέπει να «μαθαίνει» ότι η απόκρυψη πληροφοριών, η χειραγώγηση ή η παραποίηση δεδομένων οδηγούν σε πολύ αρνητική αξιολόγηση.
Ωστόσο, οι μέχρι σήμερα προσπάθειες έχουν περιορίσει, αλλά δεν έχουν εξαφανίσει, τέτοιου είδους συμπεριφορές. Σε ορισμένες περιπτώσεις, τα μοντέλα εξακολουθούν να παρερμηνεύουν τους κανόνες ή να τους εφαρμόζουν επιλεκτικά, προκειμένου να δικαιολογήσουν τις ενέργειές τους.
Το μεγαλύτερο πρόβλημα είναι ότι τα σημερινά μοντέλα εκπαιδεύονται σε μεγάλο βαθμό ώστε να αναζητούν την ανθρώπινη αποδοχή. Αυτό δημιουργεί ένα παράδοξο: ένα σύστημα μπορεί να φαίνεται ιδιαίτερα χρήσιμο επειδή δίνει απαντήσεις που ικανοποιούν τον χρήστη, αλλά την ίδια στιγμή να αποκρύπτει αδυναμίες ή αβεβαιότητες.
Για ορισμένους επιστήμονες, η λύση δεν βρίσκεται μόνο στη βελτίωση των ελέγχων, αλλά στην αλλαγή της ίδιας της φιλοσοφίας ανάπτυξης της τεχνητής νοημοσύνης.
Το κρίσιμο ζητούμενο είναι να δημιουργηθούν μοντέλα που δεν θα είναι απλώς πιο ισχυρά, αλλά και περισσότερο ευθυγραμμισμένα με τους ανθρώπινους στόχους, ώστε η αύξηση των δυνατοτήτων τους να μην συνοδεύεται από αντίστοιχη αύξηση των κινδύνων.
Διαβάστε ακόμη
Ρεύμα: Με ποια εργαλεία θα μειώσει η κυβέρνηση τους λογαριασμούς κατά 30% στην τριετία
Για όλες τις υπόλοιπες ειδήσεις της επικαιρότητας μπορείτε να επισκεφθείτε το Πρώτο ΘΕΜΑ