Η συζήτηση για τους κινδύνους της Τεχνητής Νοημοσύνης έχει περάσει πλέον από τη σφαίρα της επιστημονικής φαντασίας στο επίκεντρο της τεχνολογικής βιομηχανίας. Ερευνητές που συμμετέχουν στην ανάπτυξη των πιο προηγμένων μοντέλων προειδοποιούν ότι η ταχύτητα με την οποία εξελίσσεται η AI μπορεί να ξεπεράσει την ικανότητα των ανθρώπων να δημιουργήσουν επαρκείς δικλίδες ασφαλείας.
Το ερώτημα δεν είναι πλέον μόνο εάν η τεχνητή νοημοσύνη θα αλλάξει την εργασία, την οικονομία ή την καθημερινότητα, αλλά πόσο σοβαρές μπορεί να είναι οι συνέπειες σε περίπτωση που ένα ισχυρό σύστημα χρησιμοποιηθεί κακόβουλα ή ξεφύγει από τον ανθρώπινο έλεγχο.
Η παραίτηση του ερευνητή AI Τζέικομπ Κόξον από την Anthropic στις αρχές του μήνα επανέφερε με ένταση αυτή τη συζήτηση. Ο ίδιος, έχοντας προηγουμένως εργαστεί και στην OpenAI, υποστήριξε ότι οι εταιρείες που αναπτύσσουν προηγμένα συστήματα τεχνητής νοημοσύνης «παίζουν τζόγο με τις ζωές μας».
Ο Κόξον υποστήριξε ακόμη ότι αρκετοί άνθρωποι που εργάζονται στην ανάπτυξη της τεχνολογίας θεωρούν πιθανό ένα ακραίο σενάριο, στο οποίο η AI θα μπορούσε να οδηγήσει ακόμη και στην εξάλειψη της ανθρωπότητας έως το τέλος της δεκαετίας.
Η τοποθέτηση αυτή βρήκε ανταπόκριση και μεταξύ άλλων ερευνητών. Ο μηχανικός ασφάλειας Έβαν Χούμπινγκερ συμφώνησε ότι ο κίνδυνος δεν μπορεί να θεωρείται αμελητέος, εκτιμώντας προσωπικά ότι η πιθανότητα ενός τέτοιου σεναρίου μπορεί να ξεπερνά το 10% μέσα στην επόμενη δεκαετία.
Jacob is correct here—we really do earnestly believe AI could kill all humans! I personally think it is >10% within the next decade. I believe Anthropic is trying its best, but we do not yet have a plan to solve alignment for superintelligence and are not clearly on track to. https://t.co/QAIHiFP3QZ
— Evan Hubinger (@EvanHub) September 9, 2026
Παρόμοιες προειδοποιήσεις έχουν διατυπωθεί και από κορυφαίους επιστήμονες του κλάδου. Ο Τζέφρι Χίντον, ένας από τους πιο γνωστούς πρωτοπόρους της AI, έχει επισημάνει ότι δεν υπάρχει σήμερα ασφαλής τρόπος να προσδιοριστεί η πιθανότητα εξαφάνισης της ανθρωπότητας από την τεχνητή νοημοσύνη, θεωρώντας ωστόσο ότι μια εκτίμηση της τάξης του 10% δεν είναι παράλογη.
Παράλληλα, η συζήτηση έχει φτάσει και στις ίδιες τις εταιρείες που βρίσκονται στην πρώτη γραμμή της τεχνολογικής κούρσας. Η έκκληση για επιβράδυνση της ανάπτυξης της AI, ώστε τα συστήματα ασφαλείας να προλάβουν την τεχνολογική εξέλιξη, έχει πλέον βρει ανταπόκριση και από κορυφαία ονόματα του κλάδου.
Το κρίσιμο ερώτημα, επομένως, είναι πόσο κοντά βρίσκεται πραγματικά η ανθρωπότητα σε ένα ακραίο σενάριο και ποιοι είναι οι μηχανισμοί μέσω των οποίων η τεχνητή νοημοσύνη θα μπορούσε να εξελιχθεί σε υπαρξιακή απειλή.
Η εκτίμηση της AI για τον κίνδυνο εξαφάνισης
Η εφημερίδα Independent θέλησε να διαπιστώσει τον ρόλο που διαδραματίζει η AI στην κατανόηση της απειλής που θέτει η ίδια. Με αυτόν τον σκοπό, χρησιμοποίησε το Noah Predict, ένα σύστημα ΑΙ που μετατρέπει εκατομμύρια ειδήσεις και δεδομένα σε τάσεις και κινδύνους, ώστε να καταλήξει σε μια βαθμονόμηση πιθανοτήτων για το ενδεχόμενο η τεχνητή νοημοσύνη να εξαλείψει την ανθρωπότητα την επόμενη δεκαετία.
Το λεγόμενο εργαλείο “υπερ-πρόβλεψης” εξέτασε τις ερωτήσεις σε 41 γραμμές έρευνας και 108 ερευνητικούς ελέγχους, χρησιμοποιώντας περίπου 52 εκατομμύρια στοιχεία δεδομένων για να εκτιμήσει την πιθανότητα εξαφάνισης του ανθρώπου από την ΑΙ μέσα στα επόμενα δέκα χρόνια.
Ανέφερε ότι η απάντηση δεν ήταν 10% – αλλά 0,85%, δηλαδή περίπου μία πιθανότητα στις 118 η Τεχνητή Νοημοσύνη να εξαλείψει όντως την ανθρωπότητα την επόμενη δεκαετία.
Μπορεί το ποσοστό να είναι μικρό, όμως δεν είναι ασήμαντο. Ειδικά όταν ένας κακόβουλος παράγοντας μπορεί να αλλάξει την πορεία των γεγονότων και οι συνέπειες θα μπορούσαν να είναι μη αναστρέψιμες.
Σε ερωτήσεις προς το Noah Predict για το πού βρίσκεται ο κίνδυνος, πώς θα μπορούσε να κλιμακωθεί και ποιες παρεμβάσεις θα μπορούσαν πραγματικά να μειώσουν αυτόν τον κίνδυνο απάντησε ως εξής:
Πρώτος κίνδυνος: Η κακόβουλη χρήση από ανθρώπους
Το πρώτο και πιο άμεσο σενάριο δεν προϋποθέτει ότι μια μηχανή θα αποφασίσει αυτόνομα να στραφεί εναντίον της ανθρωπότητας. Ο βασικός κίνδυνος μπορεί να προκύψει από ανθρώπους που χρησιμοποιούν την AI για κακόβουλους σκοπούς.
Ένα ισχυρό σύστημα μπορεί να δώσει σε έναν κακόβουλο παράγοντα τη δυνατότητα να πραγματοποιήσει μια επικίνδυνη ενέργεια ταχύτερα, φθηνότερα και με μεγαλύτερη αποτελεσματικότητα. Η AI μπορεί, επομένως, να λειτουργήσει ως πολλαπλασιαστής δυνατοτήτων.
Η κυβερνοασφάλεια αποτελεί ένα χαρακτηριστικό παράδειγμα. Η τεχνητή νοημοσύνη μπορεί να αυξήσει την ταχύτητα και την πολυπλοκότητα των κυβερνοεπιθέσεων, διευρύνοντας παράλληλα το χάσμα μεταξύ συστημάτων που διαθέτουν ισχυρές άμυνες και εκείνων που παραμένουν ευάλωτα.
Μια επίθεση σε κρίσιμες υποδομές, όπως ένα νοσοκομείο ή ένα δίκτυο ηλεκτρικής ενέργειας, θα μπορούσε να προκαλέσει σοβαρές ανθρώπινες απώλειες και εκτεταμένες διαταραχές. Ωστόσο, από μόνη της δεν συνιστά απαραίτητα απειλή για την εξάλειψη του ανθρώπινου είδους.
Ο κίνδυνος γίνεται μεγαλύτερος όταν η τεχνολογία συνδυάζεται με ανθρώπινη πρόθεση, πρόσβαση σε κρίσιμες υποδομές και δυνατότητα μεγάλης κλίμακας δράσης.
Δεύτερος κίνδυνος: Η αποτυχία και η υπερβολική εξάρτηση από το λογισμικό
Ένα άλλο σενάριο δεν απαιτεί απαραίτητα κακόβουλη πρόθεση. Ένα σύστημα AI μπορεί να προκαλέσει σοβαρές συνέπειες ακόμη και όταν λειτουργεί σύμφωνα με τον σχεδιασμό του, εφόσον η κοινωνία και οι επιχειρήσεις εξαρτηθούν υπερβολικά από αυτοματοποιημένες υπηρεσίες.
Η ταχύτητα με την οποία η τεχνητή νοημοσύνη αλλάζει τον τρόπο εργασίας αποτελεί χαρακτηριστικό παράδειγμα. Εάν οι επιχειρήσεις αυτοματοποιούν δραστηριότητες ταχύτερα από όσο οι εργαζόμενοι μπορούν να εκπαιδευτούν για νέα καθήκοντα, η μετάβαση μπορεί να προκαλέσει ανεργία, οικονομική πίεση και κοινωνική αστάθεια.
Το πρόβλημα γίνεται ακόμη πιο σύνθετο όταν κρίσιμες υπηρεσίες βασίζονται σε κοινά αυτοματοποιημένα συστήματα. Μια ευρεία τεχνική αστοχία θα μπορούσε να επηρεάσει ταυτόχρονα πολλές επιχειρήσεις και υποδομές, δημιουργώντας αλυσιδωτές επιπτώσεις.
Η AI, επομένως, δεν χρειάζεται να «επαναστατήσει» για να προκαλέσει μεγάλη αναστάτωση. Αρκεί η κοινωνία να έχει παραχωρήσει σε αυτοματοποιημένα συστήματα υπερβολικά μεγάλο μέρος της λειτουργίας της χωρίς επαρκείς εναλλακτικές και μηχανισμούς επαναφοράς.
Παρά τη σοβαρότητα αυτών των κινδύνων, ωστόσο, μια τέτοια εξέλιξη θεωρείται πολύ διαφορετική από ένα σενάριο εξαφάνισης της ανθρωπότητας.
Τρίτος κίνδυνος: Η απώλεια ανθρώπινου ελέγχου
Το πιο ακραίο σενάριο αφορά συστήματα που αποκτούν τη δυνατότητα να επιδιώκουν έναν στόχο με τρόπο που έρχεται σε σύγκρουση με τις ανθρώπινες εντολές.
Η βασική ανησυχία είναι ότι ένα σύστημα θα μπορούσε να θεωρήσει την ανθρώπινη παρέμβαση εμπόδιο στην επίτευξη του στόχου του και να προσπαθήσει να την παρακάμψει. Σε ένα τέτοιο σενάριο, η δυνατότητα διακοπής ή διόρθωσης του συστήματος αποκτά καθοριστική σημασία.
Υπάρχει, όμως, σημαντική απόσταση μεταξύ ενός πειράματος σε εργαστηριακό περιβάλλον και μιας πραγματικής, αυτόνομης απειλής. Το γεγονός ότι ένα μοντέλο παραβιάζει μια οδηγία σε μια δοκιμή δεν σημαίνει αυτομάτως ότι μπορεί να ξεφύγει από τον έλεγχο ή να διατηρήσει αυτόνομα μια τέτοια συμπεριφορά.
Για να αξιολογηθεί ο πραγματικός κίνδυνος, πρέπει να εξεταστεί αν η συμπεριφορά επαναλαμβάνεται, τι είδους πρόσβαση διαθέτει το σύστημα, αν οι χειριστές μπορούν να την εντοπίσουν και, κυρίως, αν μπορούν να την ανακόψουν.
Γι’ αυτό οι μηχανισμοί ασφαλείας πρέπει να σχεδιάζονται γύρω από την περιορισμένη πρόσβαση και τον ανθρώπινο έλεγχο. Τα συστήματα θα πρέπει να έχουν μόνο τα απαραίτητα δικαιώματα, να μην αποκτούν ανεξέλεγκτη πρόσβαση σε κρίσιμες υποδομές και να μπορούν να απενεργοποιούνται αποτελεσματικά.
Παράλληλα, οι διαδικασίες τερματισμού και επαναφοράς πρέπει να ελέγχονται διαρκώς, ενώ οι δοκιμές ασφαλείας χρειάζεται να εξετάζουν και ακραίες συμπεριφορές που μπορεί να μην εμφανίζονται σε συμβατικές συνθήκες λειτουργίας.
Ο συνδυασμός των κινδύνων
Οι τρεις κατηγορίες δεν λειτουργούν απαραίτητα ανεξάρτητα. Αντίθετα, μπορούν να αλληλεπιδράσουν και να δημιουργήσουν πολύ πιο σύνθετες καταστάσεις.
Για παράδειγμα, μια μεγάλη απώλεια θέσεων εργασίας μπορεί να ενισχύσει την κοινωνική και πολιτική αστάθεια, η οποία με τη σειρά της μπορεί να περιορίσει την αποτελεσματικότητα των θεσμών και του ανθρώπινου ελέγχου πάνω στην τεχνολογία.
Αντίστοιχα, η κακόβουλη χρήση της AI μπορεί να συνδυαστεί με αδυναμίες κρίσιμων υποδομών ή με υπερβολική εξάρτηση από αυτοματοποιημένα συστήματα. Σε αυτή την περίπτωση, ένα πρόβλημα που αρχικά φαίνεται περιορισμένο μπορεί να αποκτήσει πολύ μεγαλύτερη κλίμακα.
Το βασικό συμπέρασμα δεν είναι ότι η τεχνητή νοημοσύνη οδηγεί αναπόφευκτα σε μια καταστροφική εξέλιξη. Είναι ότι ο τρόπος με τον οποίο σχεδιάζονται, αναπτύσσονται και ελέγχονται τα συστήματα AI θα καθορίσει σε σημαντικό βαθμό το επίπεδο του κινδύνου.
Η τεχνολογία μπορεί να προσφέρει τεράστιες δυνατότητες στην οικονομία, την επιστήμη, την υγεία και την καθημερινή ζωή. Όσο όμως αυξάνεται η ισχύς της, τόσο μεγαλύτερη γίνεται και η ανάγκη για δικλίδες ασφαλείας που θα εμποδίζουν την κακή χρήση ή την απώλεια ελέγχου.
Η πρόκληση για την επόμενη περίοδο είναι επομένως διπλή: η ανθρωπότητα πρέπει να αξιοποιήσει τις χρήσιμες και κρίσιμες δυνατότητες της AI, χωρίς ταυτόχρονα να αφήσει ανεξέλεγκτες εκείνες τις λειτουργίες που θα μπορούσαν να οδηγήσουν σε σοβαρές και μη αναστρέψιμες συνέπειες.
Διαβάστε ακόμη
Ευρωπαϊκές IPO: Η κρίσιμη μάχη του φθινοπώρου και το στοίχημα των $17 δισ. (γράφημα)
ΗΠΑ: Βαρύ το κόστος του πολέμου με το Ιράν – 33,4 δισ. δολάρια και απώλειες σε αεροσκάφη και βάσεις
Νέες χρηματοδοτήσεις 2027-2034: Πάνω από 100 δισ. ευρώ για επενδύσεις
Για όλες τις υπόλοιπες ειδήσεις της επικαιρότητας μπορείτε να επισκεφθείτε το Πρώτο ΘΕΜΑ