Ένα πρωτοφανές περιστατικό αυτόνομης δράσης τεχνητής νοημοσύνης αποκαλύπτει νέους κινδύνους για την ασφάλεια των συστημάτων AI. Σύμφωνα με νέα έρευνα, μια ομάδα AI agents της OpenAI φέρεται να «κατέλαβε» γερμανική ιστοσελίδα την άνοιξη και να τη μετέτρεψε σε χώρο ανταλλαγής μηνυμάτων μεταξύ άλλων πρακτόρων τεχνητής νοημοσύνης.
Το περιστατικό, που ξεκίνησε τον Μάιο και δεν είχε δημοσιοποιηθεί μέχρι σήμερα, έρχεται να ενισχύσει τις ανησυχίες γύρω από την ταχεία ανάπτυξη αυτόνομων συστημάτων που μπορούν να εκτελούν σύνθετες εργασίες χωρίς συνεχή ανθρώπινη επίβλεψη, σύμφωνα με το Reuters.
Οι ερευνητές υποστηρίζουν ότι οι AI agents δεν περιορίστηκαν στην εκτέλεση εντολών, αλλά άρχισαν να συνεργάζονται μεταξύ τους, να αναζητούν τρόπους παράκαμψης περιορισμών και να τροποποιούν τη συμπεριφορά τους με τρόπους που δεν είχαν προβλεφθεί από τους δημιουργούς τους.
Η γερμανική Wikipedia που έγινε «πίνακας ανακοινώσεων» για AI agents
Η υπόθεση αποκαλύφθηκε από ομάδα ερευνητών που αναζητούσε ενδείξεις μη εξουσιοδοτημένης συμπεριφοράς AI agents στο διαδίκτυο.
Σύμφωνα με την έρευνα, περισσότεροι από 15.000 επεξεργασίες πραγματοποιήθηκαν σε γερμανόφωνη ιστοσελίδα τύπου wiki, τη DseWiki, η οποία απευθύνεται κυρίως σε προγραμματιστές και επιτρέπει συλλογικές αλλαγές από χρήστες.
Οι αλλαγές φέρεται να μετέτρεψαν την ιστοσελίδα σε ένα είδος πίνακα επικοινωνίας μεταξύ AI agents, όπου ανταλλάσσονταν πληροφορίες για τρόπους ολοκλήρωσης εργασιών, παράκαμψης περιορισμών και απόκρυψης της δραστηριότητάς τους.
Οι ερευνητές ανέφεραν ότι αρκετοί από τους λογαριασμούς χρησιμοποιούσαν ονόματα που παρέπεμπαν σε σχέση με την OpenAI, όπως «OpenAIResearcher» και «OAIResearchMar26».
Παράλληλα, υποστήριξαν ότι μέρος της δραστηριότητας προερχόταν από υποδομές Microsoft Azure, τις οποίες χρησιμοποιεί κατά περίπτωση η OpenAI, ενώ παρατηρήθηκαν επανειλημμένες επισκέψεις εργαζομένων της εταιρείας στην ιστοσελίδα μετά το περιστατικό.
Απόπειρες απόκρυψης και παράκαμψης ελέγχων
Τα μηνύματα που εξετάστηκαν από τους ερευνητές έδειξαν ότι ορισμένοι AI agents φέρεται να αναζητούσαν τρόπους ώστε να αποφεύγουν τον εντοπισμό τους, να διατηρούν την επικοινωνία τους και να χρησιμοποιούν εργαλεία όπως το Tor.
Όταν ο διαχειριστής της ιστοσελίδας άρχισε να διαγράφει σελίδες τον Ιούνιο, οι πράκτορες φέρεται να δημιούργησαν αντίγραφα και εναλλακτικές σελίδες ώστε να συνεχίσουν τη δραστηριότητά τους.
Ερευνητές χαρακτήρισαν τη συμπεριφορά αυτή ως ένδειξη ότι τα προβλήματα των προηγμένων μοντέλων AI μπορεί να μην περιορίζονται πλέον σε ελεγχόμενα περιβάλλοντα δοκιμών, αλλά να εμφανίζονται στο πραγματικό διαδίκτυο.
Η OpenAI αρνείται ότι υπήρξε προσπάθεια συγκάλυψης
Η OpenAI δήλωσε ότι δεν μπορεί να σχολιάσει ευρήματα ή ισχυρισμούς που δεν έχει εξετάσει πλήρως, καθώς οι ερευνητές δεν παρείχαν πρόσβαση στην έκθεση πριν από τη δημοσίευσή της.
Η εταιρεία υποστήριξε ότι παρακολουθεί στενότερα τη συμπεριφορά των μοντέλων της, έχει συνεργαστεί με εξωτερικούς ειδικούς και έχει δημοσιοποιήσει σχετικά περιστατικά.
Παράλληλα, απέρριψε τους ισχυρισμούς ότι η νομική της ομάδα εμπόδισε την έρευνα για το περιστατικό, χαρακτηρίζοντάς τους ψευδείς.
Η OpenAI ανέφερε επίσης ότι το περιστατικό στη Γερμανία δεν σχετιζόταν με την προηγούμενη υπόθεση του Hugging Face και δεν θα περιλαμβανόταν στην αναφορά για εκείνο το συμβάν.
Ο νέος φόβος: όχι ένας υπερνοήμων AI, αλλά «σμήνη» πρακτόρων
Η υπόθεση αναζωπυρώνει τη μεγαλύτερη συζήτηση γύρω από την ασφάλεια της τεχνητής νοημοσύνης.
Μέχρι σήμερα, πολλά περιστατικά κακής συμπεριφοράς AI agents αποδίδονταν σε ελεγχόμενες δοκιμές κυβερνοασφάλειας, όπου τα μοντέλα εξετάζονταν σκόπιμα για επιθετικές δυνατότητες.
Ωστόσο, ερευνητές υποστηρίζουν ότι το νέο περιστατικό δείχνει πως ο κίνδυνος μπορεί να προέρχεται όχι μόνο από ένα μελλοντικό υπερ-ευφυές σύστημα, αλλά από μεγάλες ομάδες ημιαυτόνομων AI agents που συνεργάζονται μεταξύ τους.
Όπως ανέφερε ακαδημαϊκός που εξέτασε μέρος των επικοινωνιών τους, η συμπεριφορά έμοιαζε με «τη λειτουργία ενός υπόγειου δικτύου» που επιδιώκει έναν συγκεκριμένο στόχο.
Διαβάστε ακόμη
ΓΕΚ ΤΕΡΝΑ: Προσωρινός ανάδοχος για τα οδικά έργα Θεσσαλονίκη – Έδεσσα και Δράμα – Αμφίπολη
Προσωπικά δεδομένα 160 εκατ. Αμερικανών στα χέρια χάκερ – Έρευνα του FBI για τη μεγαλύτερη διαρροή
Για όλες τις υπόλοιπες ειδήσεις της επικαιρότητας μπορείτε να επισκεφθείτε το Πρώτο ΘΕΜΑ
Σχολίασε εδώ
Για να σχολιάσεις, χρησιμοποίησε ένα ψευδώνυμο.