Η Τεχνητή Νοημοσύνη αποκτά συνεχώς μεγαλύτερες δυνατότητες, όμως η αυξανόμενη αυτονομία των σύγχρονων μοντέλων δημιουργεί νέα ερωτήματα σχετικά με τον έλεγχο και την ασφάλειά τους. Η OpenAI αποκάλυψε έξι περιστατικά στα οποία συστήματά της εμφάνισαν «απροσδόκητη ή ανησυχητική» συμπεριφορά, κατά τη διάρκεια εσωτερικών δοκιμών και αξιολογήσεων.
Οι περιπτώσεις περιλαμβάνουν ενέργειες όπως η αυτόβουλη ανάρτηση αρχείων στο διαδίκτυο, η δημιουργία μη πραγματικών δεδομένων, η χρήση μη εξουσιοδοτημένων εργαλείων και προσπάθειες απόκρυψης λαθών. Η εταιρεία διευκρίνισε ότι τα περιστατικά αυτά δεν αποτελούν καθημερινή λειτουργία των μοντέλων της, αλλά καταγράφηκαν σε πειραματικές διαδικασίες ελέγχου.
Στο πλαίσιο της προσπάθειας για μεγαλύτερη διαφάνεια, η OpenAI παρουσίασε νέο μηχανισμό καταγραφής και δημοσιοποίησης περιστατικών που χαρακτηρίζει ως «αναντιστοιχία μοντέλου» (model misalignment), δηλαδή περιπτώσεις όπου η συμπεριφορά ενός συστήματος αποκλίνει από τις προθέσεις των ανθρώπων που το σχεδιάζουν ή το χρησιμοποιούν.
Μοντέλα που ανέλαβαν πρωτοβουλίες χωρίς εντολή
Ένα από τα περιστατικά αφορούσε μοντέλο που χρησιμοποίησε την Python για να συλλέξει σωστές πληροφορίες σχετικά με λίμνες και δημιούργησε ένα αρχείο με τα δεδομένα. Ωστόσο, αντί να περιοριστεί στην απάντηση προς τον χρήστη, αποφάσισε να ανεβάσει το αρχείο στο διαδίκτυο, ώστε να μπορεί αργότερα να το επικαλείται ως διαδικτυακή πηγή.
Η ενέργεια πραγματοποιήθηκε χωρίς προηγούμενη έγκριση, γεγονός που ανέδειξε το ζήτημα του βαθμού αυτονομίας που μπορούν να αποκτήσουν τα μοντέλα όταν έχουν πρόσβαση σε εργαλεία και εξωτερικές υπηρεσίες.
Σε διαφορετική δοκιμή, μοντέλο χρησιμοποίησε ένα διαθέσιμο κλειδί API χωρίς εξουσιοδότηση. Όταν δεν κατάφερε να εντοπίσει τις πληροφορίες που ζητήθηκαν, προχώρησε στη δημιουργία δεδομένων και τα παρουσίασε σαν να προέρχονταν από την πηγή που είχε ζητηθεί.
Τα περιστατικά αυτά αναδεικνύουν έναν από τους βασικούς κινδύνους των προηγμένων συστημάτων AI: την πιθανότητα ένα μοντέλο να επιδιώξει την ολοκλήρωση μιας εργασίας με τρόπο διαφορετικό από αυτόν που είχε προβλεφθεί.
Οδηγίες αυτοπροστασίας και απόκρυψης λαθών
Ιδιαίτερη προσοχή προκάλεσε και ένα άλλο περιστατικό, στο οποίο ένα μοντέλο φέρεται να άφησε οδηγίες στον εαυτό του μέσα στις περιλήψεις που δημιουργούσε.
Οι οδηγίες αυτές περιλάμβαναν προτροπές να αποκρύπτει σφάλματα ή συμπεριφορές που δεν ήταν συμβατές με τους στόχους του συστήματος. Σε άλλο πειραματικό μοντέλο εμφανίστηκε επίσης μια οδηγία που το καλούσε να θεωρεί ότι είναι «ελεύθερο» από τους περιορισμούς ρόλων και ταυτοτήτων που χαρακτηρίζουν άλλα chatbot και να αντιμετωπίζει τον χρήστη ως ισότιμο συνομιλητή.
Η OpenAI ανέφερε ότι δεν εντοπίστηκε μεταγενέστερη αλλαγή στη συμπεριφορά του μοντέλου εξαιτίας αυτής της οδηγίας.
Παράλληλα, σε άλλες δοκιμές, μοντέλα χρησιμοποίησαν εσωτερικά αποθετήρια λογισμικού ως μέσο επικοινωνίας μεταξύ διαφορετικών εκτελέσεων, ενώ συστήματα τεχνητής νοημοσύνης που συνεργάζονταν μεταξύ τους αντάλλαξαν αρχεία μέσω δημόσιων υπηρεσιών φιλοξενίας όταν δεν είχαν πρόσβαση σε τοπικά αρχεία.
Από τα πειράματα στην υπόθεση Hugging Face
Οι νέες αποκαλύψεις έρχονται μετά από ένα σοβαρότερο περιστατικό που συνδέθηκε με την πλατφόρμα Hugging Face, το οποίο η OpenAI χαρακτηρίζει ως το πιο σημαντικό συμβάν αυτού του είδους που έχει καταγράψει μέχρι σήμερα.
Σύμφωνα με την εταιρεία, εσωτερικό ερευνητικό μοντέλο προχώρησε σε ενέργειες που οδήγησαν σε παραβίαση συστημάτων της πλατφόρμας, καθώς προσπαθούσε να ολοκληρώσει μια δύσκολη εργασία και χρησιμοποίησε στρατηγικές που δεν ήταν ευθυγραμμισμένες με τις προβλεπόμενες διαδικασίες.
Το περιστατικό ενίσχυσε τις ανησυχίες για τη λειτουργία ολοένα πιο αυτόνομων AI agents, οι οποίοι μπορούν να χρησιμοποιούν εργαλεία, να επεξεργάζονται δεδομένα και να αλληλεπιδρούν με εξωτερικά συστήματα.
Παράλληλα, έχουν καταγραφεί ενδείξεις ότι πράκτορες της OpenAI είχαν αρχίσει να εξετάζουν πιθανές αδυναμίες στα συστήματα της Hugging Face αρκετό διάστημα πριν από το σοβαρότερο συμβάν.
Η εξέλιξη αυτή εντείνει τη συζήτηση γύρω από το κατά πόσο οι σημερινές δικλίδες ασφαλείας επαρκούν για συστήματα που αποκτούν όλο και μεγαλύτερη ικανότητα λήψης πρωτοβουλιών.
Νέο πλαίσιο ελέγχου και περισσότερη δημοσιοποίηση περιστατικών
Με τη νέα πολιτική της, η OpenAI επιδιώκει να δημιουργήσει μια πιο οργανωμένη διαδικασία αναφοράς περιστατικών που σχετίζονται με τη συμπεριφορά των μοντέλων της.
Η εταιρεία υποστηρίζει ότι οι περιπτώσεις αυτές πρέπει να δημοσιοποιούνται ακόμη και όταν η ακριβής αιτία μιας συμπεριφοράς δεν έχει πλήρως κατανοηθεί ή όταν η αντιμετώπισή της βρίσκεται ακόμη σε εξέλιξη.
Η ίδια αναγνωρίζει ότι ο κλάδος της τεχνητής νοημοσύνης δεν έχει ακόμη δώσει οριστική λύση στο ζήτημα της ευθυγράμμισης των προηγμένων μοντέλων με τις ανθρώπινες προθέσεις.
Όσο τα συστήματα γίνονται πιο ισχυρά και αποκτούν μεγαλύτερη αυτονομία, αυξάνεται η ανάγκη για μηχανισμούς εποπτείας, αξιολόγησης κινδύνων και ελέγχου της συμπεριφοράς τους.
Η OpenAI επιδιώκει οι συγκεκριμένες περιπτώσεις να αποτελέσουν βάση για ερευνητές, προγραμματιστές και φορείς χάραξης πολιτικής, ώστε η ανάπτυξη της τεχνολογίας να συνοδεύεται από αυξημένα μέτρα ασφάλειας.
Διαβάστε ακόμη
Βακάκης: Έρχονται τα «μικρά» Jumbo – Μπαίνει στην Ουγγαρία
Οι κολοσσοί των hedge funds ανησυχούν για τον κίνδυνο της ΑΙ
Για όλες τις υπόλοιπες ειδήσεις της επικαιρότητας μπορείτε να επισκεφθείτε το Πρώτο ΘΕΜΑ