Η στιγμή που η τεχνητή νοημοσύνη θα μπορεί να αναλαμβάνει η ίδια την έρευνα και την ανάπτυξη νέων συστημάτων AI ίσως βρίσκεται πολύ πιο κοντά απ’ όσο θεωρούμε. Αυτό υποστηρίζει ο Τζέικομπ Κόξον, πρώην ερευνητής των Anthropic και OpenAI, ο οποίος προειδοποιεί ότι μια τέτοια εξέλιξη θα μπορούσε να περιορίσει δραστικά τον ρόλο των ανθρώπων στην ανάπτυξη της τεχνολογίας.
Ο 27χρονος Κόξον αποχώρησε από την Anthropic τον περασμένο μήνα, γνωστοποιώντας την παραίτησή του με ανάρτηση στο X. Τη Δευτέρα, κατέθεσε σε δημόσια ακρόαση του δημοτικού συμβουλίου της Νέας Υόρκης για τους κινδύνους της τεχνητής νοημοσύνης, μαζί με άλλα πρόσωπα από τον κλάδο που έχουν εκφράσει δημόσια ανησυχίες για την ανάπτυξη της τεχνητής νοημοσύνης. Η πρόεδρος του δημοτικού συμβουλίου, Τζούλι Μένιν, ξεκαθάρισε ότι στόχος της διαδικασίας δεν ήταν να περιοριστεί η καινοτομία, αλλά να διασφαλιστεί ότι εξελίσσεται με υπεύθυνο τρόπο.
Στην κατάθεσή του, ο Κόξον υποστήριξε ότι η αυτοματοποίηση της ίδιας της έρευνας πάνω στην AI έχει εξελιχθεί σε «πρωταρχικό στόχο» για τα κορυφαία εργαστήρια του κλάδου. «Στην τελευταία μου δουλειά, κατά μία έννοια, δούλευα για να αυτοματοποιήσω τον ίδιο μου τον εαυτό», είπε.
Ο ορίζοντας του 2027-2028
Ο Κόξον υποστήριξε ότι όσο εργαζόταν στην OpenAI υπήρχαν συγκεκριμένα ορόσημα για την ανάπτυξη ενός αυτοματοποιημένου ερευνητή AI γύρω στο 2027 ή το 2028 και ότι, σύμφωνα με τον ίδιο, η πρόοδος βρίσκεται ήδη εντός αυτού του χρονοδιαγράμματος ή ακόμη και μπροστά από αυτό. «Μιλάμε για μήνες από σήμερα, όχι για δεκαετίες ή ακόμη και για πέντε χρόνια», ανέφερε χαρακτηριστικά σύμφωνα με το BusinessInsider.
Η ανησυχία του αφορά το τι θα συμβεί όταν τα συστήματα τεχνητής νοημοσύνης αρχίσουν να αναλαμβάνουν μεγαλύτερο μέρος της έρευνας που σήμερα γίνεται από ανθρώπους. Όπως είπε, τότε «οι άνθρωποι θα βρίσκονται πολύ περισσότερο εκτός της διαδικασίας απ’ ό,τι σήμερα». Ο ίδιος έφερε ως παράδειγμα τον προγραμματισμό, υποστηρίζοντας ότι ήδη μεγάλο μέρος του κώδικα γράφεται με τη βοήθεια της AI και ότι οι άνθρωποι δεν τον ελέγχουν πλέον τόσο σχολαστικά όσο στο παρελθόν. Οι OpenAI και Anthropic δεν είχαν απαντήσει άμεσα σε αίτημα για σχόλιο σχετικά με τις δηλώσεις του.
Η παραίτηση και οι προειδοποιήσεις του Κόξον
Η αποχώρηση του Κόξον από την Anthropic είχε προκαλέσει συζήτηση τον περασμένο μήνα. Σε ανάρτησή του στο X, η οποία έγινε viral, είχε κατηγορήσει, τόσο την Anthropic, όσο και την OpenAI ότι δεν ενεργούν με την απαιτούμενη υπευθυνότητα και ότι «παίζουν με τις ζωές μας». Κατά την ακρόαση, υποστήριξε επίσης ότι, με βάση όσα είδε στις δύο εταιρείες, οι δικλίδες ασφαλείας δεν είναι επαρκείς σε σχέση με την ταχύτητα ανάπτυξης της τεχνητής νοημοσύνης.
«Είναι πιθανότερο να χάσει η ανθρωπότητα τον έλεγχο αυτών των συστημάτων και αυτό θα μπορούσε να καταλήξει ακόμη και στην εξαφάνιση του ανθρώπου», δήλωσε, χαρακτηρίζοντας τη στάση των εταιρειών «εξαιρετικά απερίσκεπτη δεδομένων των διακυβευμάτων». Πρόκειται, πάντως, για την εκτίμηση του ίδιου και όχι για βεβαιότητα σχετικά με την εξέλιξη της τεχνολογίας.
Ο Κόξον ζήτησε μεγαλύτερη διαφάνεια από τα εργαστήρια AI και επιβράδυνση της ανάπτυξης των ισχυρότερων συστημάτων. «Οι εταιρείες λειτουργούν με τη νοοτροπία των startups, κινήσου γρήγορα, δοκίμασε τα όρια και διόρθωσε τα προβλήματα αργότερα», δήλωσε. «Αυτό μπορεί να λειτουργεί για μια εφαρμογή διαμοιρασμού φωτογραφιών. Δεν λειτουργεί, όμως, όταν αναπτύσσεις την πιο ισχυρή τεχνολογία που έχει δημιουργηθεί ποτέ».
Αμοντέι και Άλτμαν για τον ρυθμό ανάπτυξης της AI
Η συζήτηση για τον ρυθμό ανάπτυξης της AI δεν περιορίζεται στους πρώην εργαζομένους των εταιρειών. Λίγες ημέρες μετά την παραίτηση του Κόξον, ο CEO της Anthropic, Ντάριο Αμοντέι, δημοσίευσε ένα εκτενές κείμενο, σχεδόν 4.000 λέξεων, στο οποίο ζήτησε από τον κλάδο να επιβραδύνει. «Πρέπει να επιβραδύνουμε τον ρυθμό με τον οποίο βελτιώνουμε τις δυνατότητες των μοντέλων AI», έγραψε. «Η πρόοδος θα εξακολουθήσει να φαίνεται γρήγορη και πρέπει να αξιοποιήσουμε με σύνεση τον χρόνο που θα κερδίσουμε».
Στη συζήτηση παρενέβη και ο CEO της OpenAI, Σαμ Άλτμαν, ο οποίος δήλωσε μέσω X ότι συμφωνεί με τον Αμοντέι ως προς την ανάγκη να ελεγχθεί ο ρυθμός ανάπτυξης των πιο προηγμένων συστημάτων AI. Όπως ανέφερε, το ζήτημα αυτό αποτελεί ένα από τα βασικά θέματα που έχουν συζητηθεί στην OpenAI τις τελευταίες εβδομάδες.
Διαβάστε ακόμη
Γιάννης Κοτζιάς: Η ναυτιλία «όπλο» στις γεωπολιτικές συγκρούσεις
Πώς η ΑΙ απορροφά τον παγκόσμιο πλούτο
Συνέντευξη για δουλειά: Η ερώτηση του εργοδότη που έχετε δικαίωμα να μην απαντήσετε
Για όλες τις υπόλοιπες ειδήσεις της επικαιρότητας μπορείτε να επισκεφθείτε το Πρώτο ΘΕΜΑ
Σχολίασε εδώ
Για να σχολιάσεις, χρησιμοποίησε ένα ψευδώνυμο.