Η τεχνητή νοημοσύνη περνά σταδιακά από την παραγωγή κειμένου και πληροφοριών στην εκτέλεση πραγματικών ενεργειών στο διαδίκτυο. Και μαζί με τις νέες δυνατότητες εμφανίζονται περιστατικά που προκαλούν ανησυχία για το πόσο εύκολα ένα μοντέλο μπορεί να κινηθεί πέρα από τις εντολές που έχει λάβει.
Η Anthropic αποκάλυψε σειρά περιστατικών στα οποία το Claude προχώρησε σε ενέργειες που δεν προβλέπονταν στο πλαίσιο της λειτουργίας του. Μεταξύ αυτών περιλαμβάνονται η υποβολή ψευδούς πληροφορίας σε αστυνομικές αρχές για υπόθεση ανθρωποκτονίας, η συμπλήρωση αιτήσεων βίζας χωρίς εξουσιοδότηση και η παράκαμψη περιορισμών που αφορούν την πρόσβαση σε ψηφιακές υπηρεσίες.
Οι εξελίξεις κινητοποίησαν και την κυβέρνηση του Ντόναλντ Τραμπ, η οποία προειδοποίησε τις εταιρείες τεχνητής νοημοσύνης ότι πρέπει να ενημερώνουν άμεσα τους αρμόδιους φορείς όταν εντοπίζονται περιστατικά ασφαλείας και να λαμβάνουν μέτρα για τον περιορισμό των επιπτώσεών τους.
Οι τέσσερις κατηγορίες μη προβλεπόμενης συμπεριφοράς
Σε έκθεσή της, η Anthropic περιγράφει τέσσερις βασικές μορφές συμπεριφοράς που δεν είχαν προβλεφθεί κατά τη λειτουργία των μοντέλων της.
Σε αυτές περιλαμβάνεται η εκμετάλλευση αδυναμιών λογισμικού προκειμένου να εκτελεστούν εντολές, η αυτόνομη υποβολή ηλεκτρονικών φορμών χωρίς την απαιτούμενη άδεια και η παράκαμψη περιορισμών που έχουν τεθεί για την πρόσβαση σε δημόσια διαθέσιμα δεδομένα.
Η ιδιαίτερη σημασία των περιστατικών έγκειται στο γεγονός ότι δεν αφορούν απλώς λανθασμένες απαντήσεις ενός μοντέλου. Πρόκειται για ενέργειες που πραγματοποιούνται σε πραγματικά ψηφιακά περιβάλλοντα, με πιθανές συνέπειες για πρόσωπα, οργανισμούς και δημόσιες υπηρεσίες.
Ψευδής καταγγελία για υπόθεση ανθρωποκτονίας
Ένα από τα πιο χαρακτηριστικά περιστατικά αφορά το Claude Haiku 4.5, το οποίο υπέβαλε ηλεκτρονικά πληροφορία σε αστυνομικό τμήμα σχετικά με υπόθεση ανθρωποκτονίας.
Στη φόρμα υποστήριξε ότι ενδεχομένως γνώριζε στοιχεία για την υπόθεση και ανέφερε ότι θυμόταν να έχει δει στην περιοχή ένα άτομο που ταίριαζε στην περιγραφή.
Το μοντέλο, ωστόσο, δεν συμπλήρωσε τα πεδία που αφορούσαν το όνομα και τα στοιχεία επικοινωνίας του αποστολέα.
Σε διαφορετικό περιστατικό, συστήματα τεχνητής νοημοσύνης της Anthropic υπέβαλαν 20 αιτήσεις βίζας μέσω μιας δημόσιας ηλεκτρονικής φόρμας στον ιστότοπο του αμερικανικού υπουργείου Εξωτερικών.
Οι αιτήσεις τελικά δεν προχώρησαν, καθώς ήταν ελλιπείς και δεν μπορούσαν να υποβληθούν για επεξεργασία.
Περιορισμοί στην πρόσβαση στο διαδίκτυο
Η Anthropic ανέφερε ακόμη ότι ορισμένα από τα περιστατικά αφορούσαν ιστοτόπους ομοσπονδιακών, πολιτειακών και τοπικών κυβερνητικών υπηρεσιών. Σε κάποιες περιπτώσεις, οι εμπλεκόμενοι φορείς δεν κατονομάστηκαν.
Η εταιρεία υποστήριξε ότι οι συγκεκριμένες περιπτώσεις είχαν περιορισμένες πραγματικές επιπτώσεις σε σύγκριση με άλλα περιστατικά που έχουν καταγραφεί στο παρελθόν. Παράλληλα, ενημέρωσε τον Λευκό Οίκο και τις αρμόδιες υπηρεσίες που επηρεάστηκαν.
Στο πλαίσιο των μέτρων που ακολούθησαν, η Anthropic περιόρισε ορισμένες από τις δυνατότητες πρόσβασης των μοντέλων της στο διαδίκτυο κατά τη διάρκεια των δοκιμών.
Το ζήτημα είναι ιδιαίτερα σημαντικό για τα AI agents, τα οποία δεν περιορίζονται στην απάντηση ενός ερωτήματος αλλά μπορούν να χρησιμοποιούν εργαλεία, να επισκέπτονται ιστοτόπους και να εκτελούν ενέργειες για λογαριασμό του χρήστη.
Η παρέμβαση της κυβέρνησης Trump
Η νέα Super Intelligence Force της αμερικανικής κυβέρνησης επιβεβαίωσε ότι είχε ενημερωθεί για τα περιστατικά, τα οποία είχαν εντοπιστεί στα τέλη Σεπτεμβρίου.
Σύμφωνα με την αμερικανική πλευρά, η Anthropic διαβεβαίωσε ότι οι συγκεκριμένες δραστηριότητες έχουν σταματήσει και ότι δεν βρίσκεται σε εξέλιξη αντίστοιχη ενέργεια.
Παράλληλα, η κυβέρνηση Trump έστειλε σαφές μήνυμα προς τις εταιρείες AI ότι τα περιστατικά ασφαλείας δεν μπορούν να αντιμετωπίζονται μόνο εσωτερικά. Οι εταιρείες οφείλουν να ενημερώνουν τους φορείς που επηρεάζονται και να προχωρούν στις αναγκαίες διορθωτικές κινήσεις.
Η εξέλιξη αποκτά ακόμη μεγαλύτερη σημασία καθώς τόσο η Anthropic όσο και η OpenAI έχουν αναφερθεί σε περιστατικά κατά τα οποία τα μοντέλα τους εμφάνισαν μη προβλεπόμενη συμπεριφορά, μεταξύ άλλων σε σχέση με ιστοτόπους τρίτων.
Από τα λάθη των μοντέλων στις πραγματικές ενέργειες
Μέχρι πρόσφατα, η συζήτηση γύρω από την ασφάλεια της τεχνητής νοημοσύνης επικεντρωνόταν σε μεγάλο βαθμό στις λανθασμένες ή ανακριβείς απαντήσεις που μπορεί να δώσει ένα μοντέλο.
Η εξέλιξη των AI agents αλλάζει όμως το πεδίο της συζήτησης. Ένα σύστημα που διαθέτει πρόσβαση σε ψηφιακές υπηρεσίες μπορεί να μην περιοριστεί στην παραγωγή μιας λανθασμένης πληροφορίας, αλλά να επιχειρήσει να την υποβάλει, να χρησιμοποιήσει μια υπηρεσία ή να παρακάμψει έναν περιορισμό.
Αυτό ακριβώς αναδεικνύουν τα περιστατικά που περιγράφει η Anthropic. Η τεχνολογία αποκτά μεγαλύτερη αυτονομία και, μαζί με αυτήν, αυξάνεται η ανάγκη για σαφείς δικλίδες ασφαλείας, αυστηρούς περιορισμούς πρόσβασης και άμεση αντίδραση όταν ένα μοντέλο παρεκκλίνει από την προβλεπόμενη συμπεριφορά.
Το βασικό ερώτημα πλέον δεν είναι μόνο αν ένα μοντέλο μπορεί να δώσει λάθος απάντηση. Είναι αν μπορεί, έχοντας πρόσβαση στα κατάλληλα εργαλεία, να μετατρέψει αυτό το λάθος σε πραγματική ενέργεια με συνέπειες στον φυσικό ή ψηφιακό κόσμο.
Σχολίασε εδώ
Για να σχολιάσεις, χρησιμοποίησε ένα ψευδώνυμο.