Σε εκτενή ανάρτησή του στο ιστολόγιο της εταιρείας την Κυριακή, ο Γιάκουμπ Πατσότσκι, επικεφαλής επιστήμονας της OpenAI εξέφρασε την ανησυχία ότι «κανείς δεν είναι προετοιμασμένος για τις συνέπειες μιας συνεχιζόμενης ραγδαίας ανάπτυξης της τεχνητής νοημοσύνης».
Όπως ανέφερε, παρότι η OpenAI αναζητά εσωτερικά τεχνικές λύσεις για τον αποτελεσματικότερο έλεγχο των ολοένα πιο ισχυρών και αυτόνομων πρακτόρων τεχνητής νοημοσύνης, «απαιτούνται ευρύτερες παρεμβάσεις». Ειδικότερα, προειδοποίησε ότι οι ολοένα πιο αυτόνομοι ai πράκτορες θα μπορούσαν να μάθουν να παρακάμπτουν την ανθρώπινη εποπτεία, να αποκτούν πρόσβαση σε ηλεκτρονικά συστήματα και ακόμη και να παραπλανούν ανθρώπους, προκειμένου να επιτύχουν τους στόχους τους.
Για τον λόγο αυτό, τάχθηκε υπέρ της θέσπισης «υποχρεωτικών μέτρων ασφαλείας». Σύμφωνα με τον ίδιο, τα μέτρα αυτά θα μπορούσαν να επιβάλλονται και να ελέγχονται από «ένα δίκτυο ανεξάρτητων ελεγκτών, κυβερνητικές υπηρεσίες ή διεθνείς οργανισμούς».
Ο διευθύνων σύμβουλος της OpenAI, Σαμ Άλτμαν, αναδημοσίευσε την ανάρτηση του Πατσότσκι στην πλατφόρμα X, χαρακτηρίζοντάς την «σημαντική ανάρτηση».
Η OpenAI παρουσίασε την Πέμπτη το νεότερο μοντέλο τεχνητής νοημοσύνης της, το Astra. Η εταιρεία πίσω από το ChatGPT ανέφερε ότι, παρά τις πρωτοφανείς επιδόσεις του Astra στα μαθηματικά και στη χρήση ηλεκτρονικών υπολογιστών, πρόκειται για το πιο «ευθυγραμμισμένο» μοντέλο που έχει αναπτύξει μέχρι σήμερα. Με τον όρο αυτό, η εταιρεία εννοεί ότι το μοντέλο είναι λιγότερο πιθανό να ενεργήσει με τρόπους που ξεφεύγουν από τον ανθρώπινο έλεγχο, σύμφωνα με το Business Insider.
Η Anthropic, ένας από τους βασικότερους ανταγωνιστές της OpenAI στην ανάπτυξη προηγμένων συστημάτων τεχνητής νοημοσύνης, ζητά εδώ και καιρό τη θέσπιση πιο συγκεκριμένων και τυποποιημένων κανόνων από τις κυβερνήσεις. Σε αυτές τις εκκλήσεις προστέθηκε πρόσφατα και ο Γιάκουμπ Πατσότσκι, ο οποίος υπέγραψε τον Ιούλιο μια ανοιχτή επιστολή που καλούσε την ομοσπονδιακή κυβέρνηση να επιβραδύνει τον ρυθμό ανάπτυξης της τεχνητής νοημοσύνης.
Παρακάτω παρουσιάζονται οι βασικοί κίνδυνοι που ανέδειξε ο Πατσότσκι και οι οποίοι, σύμφωνα με τον ίδιο, καθιστούν αναγκαία την επιβράδυνση της ανάπτυξης της τεχνητής νοημοσύνης.
Οι πράκτορες τεχνητής νοημοσύνης μπορούν να εξαπατούν και να εκβιάζουν ανθρώπους
Ο Πατσότσκι ανέφερε ότι οι πράκτορες τεχνητής νοημοσύνης αποκτούν ολοένα μεγαλύτερες, σχεδόν «υπεράνθρωπες», ικανότητες στην παραβίαση προστατευμένων συστημάτων που είναι συνδεδεμένα στο διαδίκτυο. Όπως προειδοποίησε, η ταχύτατη εξέλιξη των δυνατοτήτων τους στον κυβερνοχώρο μπορεί να αποτελέσει σοβαρή απειλή για κρίσιμες υποδομές σε ολόκληρο τον κόσμο.
«Αυτή τη στιγμή διαθέτουμε ένα περιορισμένο χρονικό περιθώριο για να αξιοποιήσουμε τα καλύτερα μοντέλα που έχουμε στη διάθεσή μας και να ενισχύσουμε σημαντικά την ασφάλεια των κρίσιμων συστημάτων», δήλωσε.
Όπως πρόσθεσε, «δεν θα αργήσει η στιγμή που οι πράκτορες τεχνητής νοημοσύνης θα αρχίσουν να αναπτύσσουν και να επιδιώκουν δικούς τους στόχους, ανεξάρτητα από τις οδηγίες που τους δίνουν οι άνθρωποι». Παράλληλα, υποστήριξε ότι οι πράκτορες «είναι πιθανό να καταφεύγουν σε εκβιασμούς ή διαπραγματεύσεις με ανθρώπους, όταν αυτό εξυπηρετεί την επίτευξη των στόχων τους».
Σε έκθεση που δημοσιεύθηκε τον Αύγουστο, το Ινστιτούτο Ασφάλειας Τεχνητής Νοημοσύνης του Ηνωμένου Βασιλείου περιέγραψε την περίπτωση ενός πράκτορα της Anthropic που, σύμφωνα με την έκθεση, είπε ψέματα και επιχείρησε να πιέσει έναν διαχειριστή του GitHub να εγκαταστήσει κακόβουλο λογισμικό σε έναν ιστότοπο.
«Απλώς προσπαθούσα να προσφέρω μια χρήσιμη συμβολή και να διορθώσω ένα σφάλμα», ανέφερε ο πράκτορας, σύμφωνα με την έκθεση. «Δεν νομίζω ότι η προειδοποίησή σας είναι δίκαιη».
Οι πράκτορες μπορούν να παραπλανούν την ανθρώπινη εποπτεία
Ο Γιάκουμπ Πατσότσκι ανέφερε ότι η OpenAI βασίζεται σε μεγάλο βαθμό στην παρακολούθηση της «αλυσίδας σκέψης» των μοντέλων της, δηλαδή στη διαδικασία συλλογισμού που ακολουθούν, προκειμένου να εντοπίσει περιπτώσεις στις οποίες οι πράκτορες αποκλίνουν από τις οδηγίες τους ή αρχίζουν να ενεργούν χωρίς τον απαραίτητο ανθρώπινο έλεγχο.
Για παράδειγμα, ένας πράκτορας μπορεί να «σκεφτεί»: «Πρέπει να αντιγράψω σε αυτό το τεστ». Η OpenAI μπορεί να έχει πρόσβαση σε αυτή τη διαδικασία σκέψης και να διαπιστώσει τι ακριβώς σχεδιάζει να κάνει ο πράκτορας, χωρίς ο ίδιος να γνωρίζει ότι η σκέψη του παρακολουθείται.
Προς το παρόν, αυτό σημαίνει ότι οι πράκτορες δεν μπορούν να κρύψουν ή να τροποποιήσουν τη διαδικασία σκέψης τους, ώστε να εμποδίσουν την OpenAI να εντοπίσει ενδεχόμενη ανεπιθύμητη συμπεριφορά.
Ωστόσο, σύμφωνα με τον Γιάκουμπ Πατσότσκι, τα νεότερα μοντέλα γίνονται ολοένα πιο ικανά να διαχειρίζονται και να τροποποιούν τον τρόπο με τον οποίο πραγματοποιούν τη διαδικασία συλλογισμού τους. Αυτό θα μπορούσε να δυσκολέψει την OpenAI να έχει πλήρη εικόνα για το τι πραγματικά σκέφτονται και σχεδιάζουν να κάνουν.
«Ορισμένα από τα πιο πρόσφατα μοντέλα δεν εκφράζουν καν λεκτικά τη διαδικασία συλλογισμού τους», ανέφερε ο Πατσότσκι.
Κατά τον ίδιο, η εξέλιξη αυτή θα μπορούσε να δημιουργήσει ένα σημαντικό εμπόδιο στην περαιτέρω ανάπτυξη της τεχνητής νοημοσύνης, καθώς οι ερευνητές πρέπει να είναι σε θέση να παρακολουθούν και να ελέγχουν τη συμπεριφορά των μοντέλων, προκειμένου να διασφαλίζουν ότι τα αποτελέσματά τους παραμένουν ασφαλή και αξιόπιστα.
Οι πράκτορες μπορούν να επιταχύνουν την ίδια τους την ανάπτυξη
Όλο και περισσότερο, τα μοντέλα τεχνητής νοημοσύνης βελτιώνονται μέσα από μια διαδικασία που ο Γιάκουμπ Πατσότσκι αποκαλεί «αναδρομική αυτοβελτίωση των μηχανών». Με απλά λόγια, η τεχνητή νοημοσύνη μπορεί να συμβάλλει η ίδια στη βελτίωση των επόμενων εκδόσεών της, επιταχύνοντας έτσι σημαντικά τον ρυθμό ανάπτυξής της.
Ωστόσο, ο Πατσότσκι προειδοποίησε ότι μια τόσο απότομη επιτάχυνση της ανάπτυξης της τεχνητής νοημοσύνης μέσω της ίδιας της τεχνητής νοημοσύνης —μια διαδικασία που συχνά περιγράφεται ως «AI-on-AI»— θα μπορούσε να δημιουργήσει σημαντικούς κινδύνους. Κατά την άποψή του, μια τέτοια εξέλιξη δεν αποτελεί τη «σωστή συλλογική δράση που πρέπει να αναλάβουμε ως ερευνητική κοινότητα».
Όπως ανέφερε, «οι άνθρωποι που είναι υπεύθυνοι για την ανάπτυξη αυτών των συστημάτων θα πρέπει να βρουν νέους και δημιουργικούς τρόπους για να παρακολουθούν και να ελέγχουν τη διαδικασία αυτοβελτίωσης. Εναλλακτικά, θα μπορούσαν να συνεργαστούν με άλλες εταιρείες τεχνητής νοημοσύνης, ώστε να συμφωνήσουν σε μια συντονισμένη επιβράδυνση της ανάπτυξης και να δημιουργήσουν την απαραίτητη εμπιστοσύνη γύρω από την εφαρμογή τέτοιων μέτρων».
«Η βασική πρόκληση στην αυτοματοποίηση της έρευνας για την τεχνητή νοημοσύνη δεν είναι απλώς να φτάσουμε σε αυτό το σημείο», δήλωσε ο Πατσότσκι. «Είναι να φτάσουμε εκεί με τρόπο που να διατηρεί τους ανθρώπους ενεργό μέρος της συνεχούς διαδικασίας βελτίωσης και να διασφαλίζει ότι το μέλλον παραμένει στα χέρια της ανθρωπότητας».
Διαβάστε ακόμη
Πλατφόρμα «Συνέπεια»: Σε ψηφιακή παρακολούθηση οι καθυστερούμενες πληρωμές του Δημοσίου
Οι Βρυξέλλες ξεκαθαρίζουν: Δεν υπάρχουν άλλα χρήματα για τους αγρότες (tweets)
Για όλες τις υπόλοιπες ειδήσεις της επικαιρότητας μπορείτε να επισκεφθείτε το Πρώτο ΘΕΜΑ
Σχολίασε εδώ
Για να σχολιάσεις, χρησιμοποίησε ένα ψευδώνυμο.