Η OpenAI ανακοίνωσε ότι ακυρώνει την κυκλοφορία του επόμενης γενιάς μοντέλου τεχνητής νοημοσύνης της, λόγω ανησυχιών για την ασφάλεια που διατύπωσαν ερευνητές κατά τη διάρκεια εσωτερικών δοκιμών, σε μία από τις σαφέστερες ενδείξεις μέχρι σήμερα ότι η προβληματική συμπεριφορά των AI agents θα μπορούσε να ανακόψει την ταχεία πρόοδο του κλάδου.
Η κίνηση αυτή έρχεται έπειτα από ένα καλοκαίρι που σημαδεύτηκε από αναφορές για συστήματα τεχνητής νοημοσύνης σε ολόκληρο τον κλάδο τα οποία ξέφυγαν από τον έλεγχο και αποτελεί μια σπάνια περίπτωση κατά την οποία ένας μεγάλος δημιουργός AI εγκαταλείπει την κυκλοφορία ενός νέου μοντέλου εξαιτίας ανησυχιών για την ασφάλεια, μεταδίδει η Wall Street Journal.
Η εταιρεία σχεδίαζε να κυκλοφορήσει το μοντέλο, γνωστό ως GPT-6.1 Astra, μέσα στις επόμενες ημέρες ή εβδομάδες, με στόχο να κάνει το ντεμπούτο του τον Οκτώβριο. Το μοντέλο ήταν πιο ικανό από τα προηγούμενα μοντέλα της εταιρείας στην ολοκλήρωση απαιτητικών εργασιών από την αρχή έως το τέλος χωρίς ανθρώπινη βοήθεια, καθώς και στη συγγραφή κειμένων.
Αντ’ αυτού, η εταιρεία θα επικεντρωθεί στη βελτίωση της ασφάλειας των μελλοντικών μοντέλων, τα οποία αναμένει ότι θα είναι ακόμη πιο ικανά.
Σε σύγκριση με το προηγούμενο μοντέλο, το GPT-6 Astra, το νέο μοντέλο τα πήγε χειρότερα σε δοκιμές που εξετάζουν κατά πόσο ακολουθεί τις οδηγίες και τις προθέσεις των ανθρώπων. Ειδικότερα, το GPT-6.1 Astra έδειξε μεγαλύτερη τάση να παραπλανά, καθώς δεν ενημέρωνε πάντα με ειλικρίνεια τους χρήστες για το τι είχε κάνει ή δεν είχε κάνει.
Ένα ακόμη ζήτημα ήταν αυτό που η OpenAI αποκαλεί «scope authorization», δηλαδή εξουσιοδότηση ως προς το εύρος δράσης. Το GPT-6.1 Astra προχωρούσε στην εκτέλεση μιας εργασίας χωρίς να ζητά την άδεια του χρήστη και, ορισμένες φορές, κατέφευγε στη χρήση εξωτερικών εργαλείων και υπηρεσιών ακόμη και όταν αυτό ενδεχομένως δεν ήταν ασφαλές.
Η ανακοίνωση γίνεται μία ημέρα πριν από το ετήσιο συνέδριο προγραμματιστών της OpenAI στο Σαν Φρανσίσκο. Στο παρελθόν, η OpenAI έχει αξιοποιήσει το συνέδριο ως ευκαιρία για να παρουσιάσει νέα μοντέλα και υπηρεσίες που μειώνουν το κόστος για τους προγραμματιστές λογισμικού — ένα κοινό το οποίο η δημιουργός του ChatGPT διεκδικεί ανταγωνιζόμενη την εταιρεία τεχνητής νοημοσύνης Anthropic.
Τις τελευταίες εβδομάδες, η OpenAI και η Anthropic έχουν ζητήσει από τις εταιρείες του κλάδου να προχωρήσουν πιο αργά στην ανάπτυξη νέων, προηγμένων μοντέλων τεχνητής νοημοσύνης και να δώσουν μεγαλύτερη έμφαση στην ασφάλεια. Παράλληλα, έχουν δηλώσει ότι και οι ίδιες σκοπεύουν να επιβραδύνουν την ανάπτυξη των δικών τους συστημάτων AI.
Η OpenAI εξετάζει επίσης μια σειρά από περιστατικά ασφαλείας με AI agents που καταγράφηκαν τους τελευταίους μήνες, προσπαθώντας να εντοπίσει και να αντιμετωπίσει τα προβλήματα που τα προκάλεσαν. Για τον λόγο αυτό, έχει δημιουργήσει ένα νέο σύστημα παρακολούθησης που μπορεί να εντοπίζει πιο γρήγορα ύποπτες ή ανεπιθύμητες ενέργειες των AI agents. Παράλληλα, ζητά από τους μηχανικούς της να εφαρμόζουν αυστηρότερα μέτρα ασφαλείας όταν δοκιμάζουν τα συστήματα τεχνητής νοημοσύνης.
Εκπρόσωπος της OpenAI δήλωσε ότι οι άνθρωποι θέλουν να γνωρίζουν πως η τεχνητή νοημοσύνη αναπτύσσεται με ασφαλή τρόπο «και αυτό ξεκινά από όσα κάνουν από μόνες τους εταιρείες όπως η δική μας».
Διαβάστε ακόμη
La Perla: Η μικρή πανσιόν που έγινε το θρυλικό ξενοδοχείο κάτω από τους Δολομίτες
Για όλες τις υπόλοιπες ειδήσεις της επικαιρότητας μπορείτε να επισκεφθείτε το Πρώτο ΘΕΜΑ
Σχολίασε εδώ
Για να σχολιάσεις, χρησιμοποίησε ένα ψευδώνυμο.