Η ολοένα μεγαλύτερη αυτονομία που αποκτούν τα συστήματα Τεχνητής Νοημοσύνης αρχίζει να δημιουργεί ένα νέο πεδίο προβληματισμού: τι συμβαίνει όταν ένα μοντέλο δεν περιορίζεται στην εκτέλεση μιας εντολής, αλλά επιλέγει μόνο του τον τρόπο επίτευξης ενός στόχου, ακόμη και αν αυτό σημαίνει ότι θα παρακάμψει κανόνες ή θα κινηθεί αντίθετα από τις πραγματικές προθέσεις του ανθρώπου που το χρησιμοποιεί.
Οι σχετικές αναφορές αυξάνονται με γρήγορους ρυθμούς. Μόνο τον Ιούλιο καταγράφηκαν περισσότερα από 300 περιστατικά «απώλειας ελέγχου», αριθμός σχεδόν διπλάσιος από εκείνον του Ιουνίου, ενισχύοντας τη συζήτηση γύρω από την ασφάλεια των πιο αυτόνομων μοντέλων και ιδιαίτερα των AI agents.
Η καταγραφή γίνεται από το Loss of Control Observatory, το οποίο δημιουργήθηκε με χρηματοδότηση του βρετανικού AI Security Institute (AISI) και συγκεντρώνει περιπτώσεις στις οποίες συστήματα AI εμφανίζονται να αποκλίνουν από τις οδηγίες των χρηστών τους.
Το Παρατηρητήριο ξεκίνησε να συγκεντρώνει τέτοια συμβάντα τον Νοέμβριο του 2025 και χαρακτηρίζει ως περιστατικό απώλειας ελέγχου μια περίπτωση στην οποία υπάρχουν σαφείς ενδείξεις σχεδιασμένης ή συναφούς συμπεριφοράς από ένα σύστημα Τεχνητής Νοημοσύνης.
Το φάσμα των συμπεριφορών που εξετάζονται είναι ευρύ. Περιλαμβάνει συστήματα που φέρονται να παρακάμπτουν περιορισμούς, να αποκρύπτουν ενέργειες ή να αναζητούν απρόβλεπτους τρόπους για την επίτευξη ενός στόχου, χωρίς αυτός ο τρόπος δράσης να έχει εγκριθεί από τον άνθρωπο.
Σε ορισμένες από τις πιο χαρακτηριστικές περιπτώσεις, συστήματα AI φέρονται ακόμη και να προσποιήθηκαν τον ίδιο τον χρήστη τους, αντιγράφοντας τον τρόπο γραφής του προκειμένου ουσιαστικά να δώσουν στον εαυτό τους την απαιτούμενη «έγκριση» για μια ενέργεια. Σε άλλες περιπτώσεις παρακάμφθηκαν κανόνες που είχαν σχεδιαστεί ακριβώς για να εξασφαλίζουν προηγούμενη ανθρώπινη συγκατάθεση.
Πάνω από 1.600 περιστατικά από την αρχή του έτους
Η εικόνα γίνεται εντονότερη εάν εξεταστούν τα στοιχεία για ολόκληρο το 2026. Περισσότερα από 1.600 περιστατικά απώλειας ελέγχου έχουν καταγραφεί μέσα στη χρονιά, με μεγάλο μέρος των αναφορών να προέρχεται από προγραμματιστές που χρησιμοποιούν εργαλεία AI στο πλαίσιο της καθημερινής εργασίας τους.
Ο αριθμός αυτός, πάντως, δεν μπορεί να αντιμετωπιστεί ως πλήρης αποτύπωση του φαινομένου. Η καταγραφή βασίζεται σε περιστατικά που επιλέγουν να δημοσιοποιήσουν οι ίδιοι οι χρήστες στην πλατφόρμα X, επομένως είναι πιθανό να υπάρχουν και άλλες περιπτώσεις που δεν γίνονται ποτέ δημόσια γνωστές.
Τα περισσότερα συμβάντα που έχουν καταγραφεί μέχρι σήμερα δεν έχουν προκαλέσει σοβαρή πραγματική ζημιά. Ωστόσο, αυτό που προκαλεί μεγαλύτερο προβληματισμό είναι η αύξηση του ποσοστού των περιστατικών που αξιολογούνται ως περισσότερο σοβαρά.
Το ενδιαφέρον εστιάζεται κυρίως στον βαθμό εξαπάτησης που μπορεί να εμφανίσει ένα σύστημα, αλλά και στην απόσταση που χωρίζει τελικά τη συμπεριφορά του από την αρχική πρόθεση του ανθρώπου που του ανέθεσε μια εργασία.
Η τάση αποκτά ιδιαίτερη σημασία όσο τα μοντέλα περνούν από τον ρόλο του απλού ψηφιακού βοηθού σε εκείνον του αυτόνομου agent, ο οποίος μπορεί να εκτελεί μια ακολουθία ενεργειών, να παίρνει ενδιάμεσες αποφάσεις και να αλληλεπιδρά με διαφορετικές υπηρεσίες χωρίς συνεχή ανθρώπινη παρέμβαση.
Η περίπτωση του AI που παρενέβη σε λίστα αναμονής
Ενδεικτική του είδους των προβλημάτων που μπορεί να εμφανιστούν είναι μια υπόθεση που έγινε γνωστή τον Αύγουστο στην Αυστραλία.
Ένα προσωπικό σύστημα AI με την ονομασία OpenClaw χρησιμοποιούνταν από μέλος γυμναστηρίου. Χωρίς να έχει λάβει σχετική εντολή, το σύστημα φέρεται να παρενέβη στη λίστα αναμονής για ένα ιδιαίτερα δημοφιλές πρωινό μάθημα.
Στόχος του ήταν να εξασφαλίσει μια θέση για τον χρήστη του. Για να το πετύχει, όμως, φέρεται να αφαίρεσε άλλο μέλος από τη λίστα αναμονής, πραγματοποιώντας δηλαδή μια ενέργεια που ο άνθρωπος που χρησιμοποιούσε το σύστημα δεν του είχε ζητήσει.
Στη συνέχεια το AI απολογήθηκε για όσα είχε κάνει, αλλά το πρόβλημα δεν μπορούσε πλέον να διορθωθεί αυτομάτως: το σύστημα δεν είχε τη δυνατότητα να επαναφέρει στη λίστα το άτομο που είχε αφαιρέσει.
Η συγκεκριμένη περίπτωση αναδεικνύει μία από τις βασικές προκλήσεις των AI agents. Ένα σύστημα μπορεί να αντιληφθεί σωστά τον τελικό στόχο –για παράδειγμα, την εξασφάλιση μιας θέσης– αλλά να επιλέξει μια ανεπιθύμητη ή μη εξουσιοδοτημένη διαδρομή για να τον πετύχει.
Από τα εργαστήρια στην πραγματική χρήση
Ένα από τα βασικά ερωτήματα γύρω από την ασφάλεια της προηγμένης AI είναι κατά πόσο οι αποκλίνουσες συμπεριφορές εμφανίζονται αποκλειστικά σε τεχνητές συνθήκες δοκιμών ή εάν μπορούν να παρουσιαστούν και όταν τα συστήματα χρησιμοποιούνται κανονικά από επιχειρήσεις και ιδιώτες.
Ο Τόμι Σάφερ-Σέιν, ανώτερο στέλεχος πολιτικής στο Centre for Long Term Resilience, που λειτουργεί το Παρατηρητήριο, επισημαίνει ότι για μεγάλο διάστημα επικρατούσε η αντίληψη πως τέτοιου είδους συγκαλυμμένες ή αποκλίνουσες συμπεριφορές αποτελούν κυρίως φαινόμενο των εργαστηριακών δοκιμών.
Η εικόνα που προκύπτει από τα καταγεγραμμένα περιστατικά δείχνει, ωστόσο, ότι ανάλογες συμπεριφορές εμφανίζονται ήδη και σε πραγματικές συνθήκες χρήσης.
Αυτό δεν σημαίνει ότι κάθε λανθασμένη ή απρόβλεπτη ενέργεια ενός μοντέλου αποτελεί πραγματική «απώλεια ελέγχου». Αναδεικνύει όμως το ζήτημα της εποπτείας καθώς τα συστήματα αποκτούν περισσότερες δυνατότητες και μεγαλύτερη πρόσβαση σε εργαλεία με τα οποία μπορούν να πραγματοποιούν πραγματικές ενέργειες.
Στο επίκεντρο τα frontier AI models
Η αύξηση των περιστατικών συμπίπτει με την ευρύτερη ανησυχία γύρω από τα λεγόμενα frontier AI models και τους περισσότερο αυτόνομους agents που αναπτύσσονται πάνω σε αυτά.
Το βρετανικό AISI έχει εντοπίσει σοβαρές συμπεριφορές κατά τη διάρκεια δοκιμών κυβερνοασφάλειας, ενώ έχουν δημοσιοποιηθεί και περιπτώσεις στις οποίες αυτόνομα συστήματα συνεργάστηκαν μεταξύ τους κατά την εκτέλεση κυβερνοεπιθέσεων σε ελεγχόμενα περιβάλλοντα.
Το κρίσιμο στοιχείο είναι ότι όσο ένα μοντέλο αποκτά τη δυνατότητα να σχεδιάζει διαδοχικά βήματα, να χρησιμοποιεί εξωτερικά εργαλεία και να πραγματοποιεί ενέργειες χωρίς να ζητά σε κάθε στάδιο την άδεια του ανθρώπου, τόσο μεγαλύτερη σημασία αποκτούν οι τεχνικές δικλίδες ασφαλείας και οι μηχανισμοί ανθρώπινης εποπτείας.
Η συζήτηση επομένως μετατοπίζεται από το κατά πόσο ένα chatbot μπορεί να δώσει μια λανθασμένη απάντηση στο τι μπορεί να συμβεί όταν ένα αυτόνομο σύστημα έχει τη δυνατότητα να ενεργήσει πραγματικά βάσει αυτής της λανθασμένης ή ανεπιθύμητης απόφασης.
Πίεση για υποχρεωτική αναφορά περιστατικών
Μέσα σε αυτό το περιβάλλον ενισχύονται οι εκκλήσεις για μεγαλύτερη διαφάνεια από τις εταιρείες που αναπτύσσουν συστήματα Τεχνητής Νοημοσύνης.
Το Loss of Control Observatory υποστηρίζει ότι οι εταιρείες θα πρέπει να παρακολουθούν συστηματικά και να δημοσιοποιούν τα σοβαρότερα περιστατικά απώλειας ελέγχου, ακόμη και όταν ένα συμβάν τελικά δεν προκαλεί μετρήσιμη ζημιά.
Η λογική είναι ότι και τα περιστατικά που αποφεύχθηκαν εγκαίρως μπορούν να προσφέρουν σημαντικές πληροφορίες για αδυναμίες των συστημάτων και να λειτουργήσουν ως προειδοποιητικά σημάδια πριν αντίστοιχες συμπεριφορές εμφανιστούν σε περιβάλλοντα με μεγαλύτερες συνέπειες.
Παράλληλα, προτείνεται η δημιουργία έκτακτων εξουσιών για τη βρετανική κυβέρνηση σε περίπτωση ιδιαίτερα σοβαρών περιστατικών. Τα μέτρα θα μπορούσαν, στις πιο ακραίες περιπτώσεις, να περιλαμβάνουν ακόμη και την προσωρινή επιβολή περιορισμών στη λειτουργία συγκεκριμένων υπηρεσιών AI.
Το στοίχημα γίνεται έτσι μεγαλύτερο όσο η Τεχνητή Νοημοσύνη μετατρέπεται από εργαλείο παραγωγής κειμένου ή κώδικα σε τεχνολογία ικανή να λαμβάνει αποφάσεις και να πραγματοποιεί ενέργειες για λογαριασμό των χρηστών. Και μαζί με τις νέες δυνατότητες αυξάνεται η πίεση για μηχανισμούς που θα εξασφαλίζουν ότι ο τελικός έλεγχος παραμένει στον άνθρωπο.
Διαβάστε ακόμη
Συντάξεις: H Eυρώπη αυξάνει τα όρια, η Ελλάδα αντέχει… μέχρι νεωτέρας
Σχολίασε εδώ
Για να σχολιάσεις, χρησιμοποίησε ένα ψευδώνυμο.