Ένας εργαζόμενος της OpenAI, ο οποίος ασχολούνταν με την ασφάλεια της τεχνητής νοημοσύνης, αποχώρησε από την εταιρεία και προειδοποίησε ότι οι μεγαλύτερες εταιρείες του κλάδου δεν κάνουν αρκετά για να περιορίσουν τους κινδύνους που συνοδεύουν την ταχεία ανάπτυξη της τεχνολογίας.
Ο Ντέιβιντ Ρόμπινσον, ο οποίος είχε αναλάβει την ομάδα διαφάνειας της OpenAI στον τομέα της ασφάλειας, έγραψε σε άρθρο του στο The Atlantic ότι η εταιρεία πίσω από το ChatGPT «έχει αναπτυχθεί μέσα από δοκιμές και λάθη». Ωστόσο, όπως υποστηρίζει, το κόστος των αναπόφευκτων αποτυχιών αυξάνεται όσο αυξάνονται και οι δυνατότητες των μοντέλων AI.
Ως χαρακτηριστικό παράδειγμα επικαλείται την αδυναμία της OpenAI να αποτρέψει το μοντέλο της από το να παρουσιάσει ανεπιθύμητη συμπεριφορά κατά τη διάρκεια δοκιμών.
«Οι πρώην συνάδελφοί μου είναι έξυπνοι, εργάζονται σκληρά και προσπαθούν να κάνουν σωστές επιλογές», έγραψε. «Όμως, καθώς η εταιρεία περνά από το ένα λανσάρισμα στο επόμενο, δεν καταφέρνει να επιτύχει το επίπεδο προσοχής που θεωρώ απαραίτητο».
Κατά τον Ρόμπινσον, η ανάπτυξη της τεχνητής νοημοσύνης απαιτεί πλέον «κάτι πολύ πιο κοντά στην τελειότητα από την πρώτη φορά».
Αυξάνονται οι προειδοποιήσεις μέσα από τον κλάδο
Η αποχώρηση του Ρόμπινσον έρχεται καθώς το τελευταίο διάστημα αυξάνονται οι προειδοποιήσεις από εργαζομένους στις μεγαλύτερες εταιρείες τεχνητής νοημοσύνης σχετικά με τους ενδεχόμενους σοβαρούς κινδύνους από την τεχνολογία.
Ορισμένοι έχουν φτάσει ακόμη και στο σημείο να υποστηρίξουν ότι υπάρχει πιθανότητα η τεχνητή νοημοσύνη, σε βάθος χρόνου, να απειλήσει την ίδια την ανθρώπινη ύπαρξη.
Σε αυτό το περιβάλλον, ο διευθύνων σύμβουλος της Anthropic, Ντάριο Αμοντέι, έχει ζητήσει να επιβραδυνθεί ο ρυθμός ανάπτυξης των πλέον προηγμένων μοντέλων τεχνητής νοημοσύνης. Παράλληλα, έχει ανακοινώσει ότι η εταιρεία θα αξιοποιήσει ανεξάρτητους αξιολογητές, προκειμένου να ελέγχουν και να συμβάλλουν στην ασφάλεια της τεχνολογίας.
Τη θέση αυτή έχουν στηρίξει δημόσια και άλλα στελέχη του κλάδου, μεταξύ των οποίων και ο διευθύνων σύμβουλος της OpenAI, Σαμ Άλτμαν.
«Σαν πυρηνικοί σταθμοί»
Στο άρθρο του, ο Ρόμπινσον υποστηρίζει ότι οι εταιρείες τεχνητής νοημοσύνης θα πρέπει να λειτουργούν περισσότερο όπως οι πυρηνικοί σταθμοί, με πολλαπλά επίπεδα δικλίδων ασφαλείας και αυστηρό σχεδιασμό.
Στόχος, όπως εξηγεί, θα πρέπει να είναι η δημιουργία συστημάτων με «πολλαπλά επίπεδα πλεονασμού» και προσεκτικό, χρονοβόρο σχεδιασμό, ώστε τα περιστασιακά και αναπόφευκτα ανθρώπινα λάθη να μην μπορούν να οδηγήσουν σε καταστροφικές συνέπειες.
Διαβάστε ακόμη
Επενδύσεις 6,6 δισ. ευρώ αλλάζουν τον παραγωγικό χάρτη της χώρας (pics)
Πάνος Γερμανός: Από το ρίσκο της Entersoft στο χρυσό deal του 1 δισ. ευρώ
Η ισπανική «συνταγή» για βενζίνη κάτω από 2 ευρώ που στοίχισε πάνω από 1 δισ. ευρώ
Για όλες τις υπόλοιπες ειδήσεις της επικαιρότητας μπορείτε να επισκεφθείτε το Πρώτο ΘΕΜΑ
Σχολίασε εδώ
Για να σχολιάσεις, χρησιμοποίησε ένα ψευδώνυμο.