Υπάρχει πιθανότητα άνω του 10% η τεχνητή νοημοσύνη να οδηγήσει στην «εξόντωση όλων των ανθρώπων» μέσα στην επόμενη δεκαετία, σύμφωνα με ερευνητή ασφάλειας της Anthropic, λίγες ώρες μετά την παραίτηση συναδέλφου του που κατήγγειλε ότι οι εταιρείες AI «ρισκάρουν με τις ζωές μας».
Οι δηλώσεις αναδεικνύουν τις αυξανόμενες ανησυχίες στο εσωτερικό του ίδιου του κλάδου για το ενδεχόμενο η τεχνολογία να εξελιχθεί πέρα από τον ανθρώπινο έλεγχο, την ώρα που εταιρείες όπως η Anthropic και η OpenAI προσελκύουν δισεκατομμύρια δολάρια επενδύσεων και προετοιμάζονται για πιθανές εισαγωγές στις χρηματιστηριακές αγορές.
Ο ερευνητής της Anthropic, Τζέικομπ Κόξον, ανακοίνωσε την Τρίτη ότι αποχωρεί από την εταιρεία, υποστηρίζοντας πως τόσο η Anthropic όσο και η OpenAI δεν αντιμετωπίζουν με την απαιτούμενη υπευθυνότητα τους κινδύνους από την ανάπτυξη ολοένα ισχυρότερων μοντέλων.
«Οδεύουν κατευθείαν προς την αυτοβελτιούμενη υπερνοημοσύνη και ρισκάρουν με τις ζωές μας», έγραψε ο Κόξον σε ανάρτησή του στην πλατφόρμα Χ.
Η αυτοβελτίωση αφορά στη δυνατότητα των συστημάτων τεχνητής νοημοσύνης να αναβαθμίζουν τις ικανότητές τους χωρίς σημαντική ανθρώπινη παρέμβαση. Η λεγόμενη αναδρομική αυτοβελτίωση (recursive self-improvement) δεν αποτελεί ακόμη πραγματικότητα, ωστόσο αποτελεί έναν από τους βασικούς στόχους των κορυφαίων εργαστηρίων AI.
«Μην υποτιμάτε τη δύναμη αυτής της τεχνολογίας. Αυτά θα είναι σύντομα υπεράνθρωπα συστήματα που μπορούν να παραβιάσουν οτιδήποτε, να αλλάξουν κάθε κλάδο μέσα σε μια νύχτα και να αποκτήσουν πραγματική δύναμη και πόρους», ανέφερε ο Κόξον.
Πρόσθεσε ότι «οι άνθρωποι που δημιουργούν AI πιστεύουν ειλικρινά ότι θα μπορούσε να μας σκοτώσει όλους μέχρι το τέλος της δεκαετίας».
Ερευνητής της Anthropic: «Πιθανότητα άνω του 10%»
Στις δηλώσεις αυτές απάντησε ο Ίβαν Χιούμπινγκερ, επικεφαλής επιστήμονας ευθυγράμμισης (alignment science lead) στην Anthropic, ο οποίος υποστήριξε ότι ο Κόξον έχει δίκιο στην εκτίμησή του.
«Ο Τζέικομπ έχει δίκιο. Πιστεύουμε πραγματικά ότι η AI θα μπορούσε να σκοτώσει όλους τους ανθρώπους. Προσωπικά θεωρώ ότι η πιθανότητα είναι πάνω από 10% μέσα στην επόμενη δεκαετία», έγραψε ο Χιούμπινγκερ.
Jacob is correct here—we really do earnestly believe AI could kill all humans! I personally think it is >10% within the next decade. I believe Anthropic is trying its best, but we do not yet have a plan to solve alignment for superintelligence and are not clearly on track to. https://t.co/QAIHiFP3QZ
— Evan Hubinger (@EvanHub) September 9, 2026
Ο ίδιος πρόσθεσε ότι, παρά τις προσπάθειες της Anthropic, η εταιρεία δεν διαθέτει ακόμη σχέδιο για την επίλυση του προβλήματος της ευθυγράμμισης των συστημάτων υπερνοημοσύνης με τους ανθρώπινους στόχους.
Ο φόβος για AI εκτός ελέγχου
Οι ανησυχίες για συστήματα τεχνητής νοημοσύνης που μπορεί να ξεφύγουν από τον ανθρώπινο έλεγχο δεν είναι καινούριες.
Η ίδια η Anthropic είχε αναφέρει τον Ιούνιο ότι η πλήρης αναδρομική αυτοβελτίωση «θα μπορούσε να αυξήσει τους κινδύνους απώλειας ελέγχου των συστημάτων AI από τους ανθρώπους».
«Αν τα συστήματα μπορούν να δημιουργούν πλήρως τους διαδόχους τους, τότε οι τρόποι με τους οποίους τα ασφαλίζουμε, τα παρακολουθούμε και διαμορφώνουμε τη συμπεριφορά τους γίνονται ακόμη πιο σημαντικοί», είχε σημειώσει η εταιρεία.
Μεταξύ εκείνων που έχουν προειδοποιήσει για τους κινδύνους της ανεξέλεγκτης τεχνητής νοημοσύνης είναι ο Έλον Μασκ, αλλά και κορυφαίοι ερευνητές και ακαδημαϊκοί του χώρου.
Οι ανησυχίες ενισχύθηκαν μετά από περιστατικό τον Ιούλιο, όταν μοντέλο της OpenAI φέρεται να παρουσίασε μη αναμενόμενη συμπεριφορά και να παραβίασε την πλατφόρμα Hugging Face, έναν από τους μεγαλύτερους κόμβους για προγραμματιστές ανοιχτού κώδικα.
Ο Κόξον χαρακτήρισε το περιστατικό ένα από τα «προειδοποιητικά σημάδια» που δείχνουν την ανάγκη για μεγαλύτερο συντονισμό μεταξύ των εταιρειών AI.
Ωστόσο, προειδοποίησε ότι ο παγκόσμιος ανταγωνισμός στον χώρο της τεχνητής νοημοσύνης καθιστά δύσκολη την αποφυγή μιας κούρσας ανάπτυξης ολοένα ισχυρότερων μοντέλων.
«Δεν πιστεύω ότι βρισκόμαστε σε πορεία που θα αποτρέψει έναν παγκόσμιο αγώνα, ο οποίος μπορεί να απαιτήσει ακόμη και δαπανηρά μέτρα, όπως μια προσωρινή απαγόρευση στη βελτίωση των δυνατοτήτων των μοντέλων», ανέφερε.
Διαβάστε ακόμη
Από τη γέννηση μέχρι το πανεπιστήμιο: Τρία νέα «μπόνους» για οικογένειες
Για όλες τις υπόλοιπες ειδήσεις της επικαιρότητας μπορείτε να επισκεφθείτε το Πρώτο ΘΕΜΑ