Η συζήτηση γύρω από τους κινδύνους της τεχνητής νοημοσύνης έχει περάσει πλέον από τα ερευνητικά εργαστήρια στη δημόσια σφαίρα. Μαζί της έχει εμφανιστεί και ένα ολόκληρο λεξιλόγιο που, για όσους δεν παρακολουθούν στενά τον χώρο, μπορεί να ακούγεται σχεδόν ακατανόητο.
Όροι όπως p(doom), FOOM, misalignment και sandbagging χρησιμοποιούνται για να περιγράψουν διαφορετικά σενάρια σχετικά με το πώς θα μπορούσαν να εξελιχθούν πολύ ισχυρότερα συστήματα AI, από την απώλεια του ανθρώπινου ελέγχου έως ακραία σενάρια υπαρξιακού κινδύνου. Η συζήτηση ενισχύθηκε πρόσφατα μετά τις προειδοποιήσεις του πρώην ερευνητή της Anthropic και της OpenAI, Τζέικομπ Κόξον, ο οποίος υποστήριξε ότι η τεχνητή νοημοσύνη θα μπορούσε τα επόμενα χρόνια να εξελιχθεί σε απειλή για την ανθρωπότητα.
Πρόκειται, βέβαια, για σενάρια και εκτιμήσεις που αποτελούν αντικείμενο έντονης συζήτησης στον χώρο της τεχνητής νοημοσύνης. Για να κατανοήσει, όμως, κανείς αυτή τη συζήτηση, πρέπει πρώτα να γνωρίζει τη γλώσσα της.
Τι είναι η γενική τεχνητή νοημοσύνη
Η γενική τεχνητή νοημοσύνη ή AGI περιγράφει ένα υποθετικό σύστημα τεχνητής νοημοσύνης που θα μπορούσε να μαθαίνει, να συλλογίζεται και να προσαρμόζεται σε ένα ευρύ φάσμα εργασιών, σε επίπεδο συγκρίσιμο με τον άνθρωπο. Σε αντίθεση με τα σημερινά συστήματα, δεν θα περιοριζόταν σε συγκεκριμένους τύπους εργασιών ή πεδία.
Όταν η AI ξεπερνά την ανθρώπινη νοημοσύνη
Το επόμενο θεωρητικό στάδιο μετά την AGI είναι η υπερνοημοσύνη, δηλαδή μια τεχνητή νοημοσύνη που θα ξεπερνούσε σημαντικά τις ανθρώπινες γνωστικές ικανότητες Σύμφωνα με το fastcompany, ήδη εταιρείες όπως η Safe Superintelligence του Ίλια Σουτσκέβερ έχουν δημιουργηθεί με επίκεντρο την ανάπτυξη και την ασφάλεια τέτοιων μελλοντικών συστημάτων.
Τι σημαίνει «διαφυγή» της AI
Η λεγόμενη «διαφυγή» της AI (AI escape) περιγράφει μια κατάσταση κατά την οποία ένα σύστημα τεχνητής νοημοσύνης αποκτά πρόσβαση σε συστήματα ή πόρους έξω από το περιβάλλον στο οποίο έχει σχεδιαστεί να λειτουργεί, παρακάμπτοντας τους περιορισμούς που έχουν θέσει οι δημιουργοί του.
Ένας από τους βασικότερους όρους στη συζήτηση για την ασφάλεια της τεχνητής νοημοσύνης είναι το misalignment, δηλαδή η λανθασμένη ή ανεπαρκής ευθυγράμμιση ενός συστήματος με τους ανθρώπινους στόχους και τις προθέσεις. Στην πράξη, σημαίνει ότι ένα σύστημα επιδιώκει έναν στόχο με τρόπο που δεν συμβαδίζει με αυτό που πραγματικά θέλουν οι άνθρωποι. Αυτό δεν σημαίνει απαραίτητα ότι η AI έχει «κακές προθέσεις». Το πρόβλημα μπορεί να βρίσκεται στον τρόπο με τον οποίο έχει οριστεί ή ερμηνεύσει τον στόχο της.
Fast takeoff και FOOM
Το fast takeoff περιγράφει το υποθετικό σενάριο κατά το οποίο οι δυνατότητες της AI αυξάνονται εξαιρετικά γρήγορα, αφήνοντας ελάχιστο χρόνο στους ανθρώπους να προσαρμοστούν ή να αντιμετωπίσουν πιθανούς κινδύνους. Το FOOM είναι ουσιαστικά η πιο ανεπίσημη ονομασία ενός τέτοιου απότομου και ταχύτατου «άλματος» νοημοσύνης. Στον αντίποδα, βρίσκεται το slow takeoff, όπου η εξέλιξη των δυνατοτήτων γίνεται σταδιακά, δίνοντας περισσότερο χρόνο για προσαρμογή.
Όταν η τεχνητή νοημοσύνη αρχίζει να βελτιώνει μόνη της τον εαυτό της
Η αναδρομική αυτοβελτίωση, στα αγγλικά, recursive self-improvement περιγράφει ένα σενάριο στο οποίο ένα σύστημα AI μπορεί να βελτιώνει, να επανασχεδιάζει ή να βελτιστοποιεί μόνο του τον κώδικα και τις δυνατότητές του. Η ιδέα συνδέεται στενά με τα σενάρια fast takeoff, κάθε βελτιωμένη έκδοση θα μπορούσε θεωρητικά να δημιουργεί μια ακόμη ικανότερη επόμενη έκδοση.
Όταν η τεχνητή νοημοσύνη «κρύβει» τις δυνατότητές της
Ο όρος sandbagging περιγράφει το ενδεχόμενο ένα προηγμένο σύστημα AI να εμφανίζει σκόπιμα χαμηλότερες επιδόσεις από αυτές που πραγματικά διαθέτει, ώστε να μην προκαλέσει ανησυχία ή ανθρώπινη παρέμβαση. Με απλά λόγια, θα μπορούσε να «κρύβει» το πόσο ικανό είναι. Τι γίνεται αν θέλουμε απλώς να κλείσουμε ένα εξαιρετικά προηγμένο σύστημα; Το λεγόμενο off-switch problem, ή πρόβλημα της απενεργοποίησης, αφορά τη δυσκολία να διασφαλιστεί ότι ένα πολύ ικανό σύστημα AI θα επιτρέπει πάντοτε στους ανθρώπους να το απενεργοποιήσουν, ιδιαίτερα εάν η διακοπή της λειτουργίας του εμποδίζει την επίτευξη του στόχου που του έχει ανατεθεί.
Το πείραμα με τους συνδετήρες
Το Paperclip Maximizer είναι ένα γνωστό νοητικό πείραμα που συνδέεται με τον φιλόσοφο Νικ Μπόστρομ. Το σενάριο φαντάζεται μια τεχνητή νοημοσύνη με έναν φαινομενικά αθώο στόχο, να κατασκευάσει όσο το δυνατόν περισσότερους συνδετήρες. Εάν το σύστημα επιδιώξει αυτόν τον στόχο χωρίς επαρκείς περιορισμούς, θα μπορούσε θεωρητικά να χρησιμοποιεί όλο και περισσότερους πόρους, αδιαφορώντας για τις συνέπειες για τους ανθρώπους. Το παράδειγμα χρησιμοποιείται για να εξηγήσει γιατί ακόμη και ένας απλός στόχος μπορεί να οδηγήσει σε ανεπιθύμητα αποτελέσματα εάν ένα σύστημα δεν είναι σωστά ευθυγραμμισμένο με τις ανθρώπινες προθέσεις.
Συναφής είναι η έννοια της εργαλειακής σύγκλισης (instrumental convergence). Η θεωρία υποστηρίζει ότι συστήματα AI με εντελώς διαφορετικούς τελικούς στόχους μπορεί να καταλήξουν να επιδιώκουν παρόμοιους ενδιάμεσους στόχους, όπως περισσότερους πόρους, μεγαλύτερες δυνατότητες ή τη διατήρηση της λειτουργίας τους, επειδή όλα αυτά μπορούν να τα βοηθήσουν να ολοκληρώσουν την αποστολή τους.
Όταν οι άνθρωποι χάνουν τον έλεγχο
Δεν περιλαμβάνουν όλα τα απαισιόδοξα σενάρια την εξαφάνιση της ανθρωπότητας. Ο όρος human disempowerment, ή απώλεια ανθρώπινου ελέγχου, περιγράφει μια κατάσταση στην οποία οι άνθρωποι εξακολουθούν να υπάρχουν, αλλά έχουν χάσει ουσιαστικό έλεγχο πάνω σε κρίσιμες αποφάσεις, θεσμούς ή πόρους.
Τι σημαίνει «υπαρξιακός κίνδυνος»
Το x-risk, συντομογραφία του existential risk, αναφέρεται σε έναν υπαρξιακό κίνδυνο που θα μπορούσε να επηρεάσει μόνιμα και καταστροφικά το μέλλον της ανθρωπότητας, ακόμη και να οδηγήσει στην εξαφάνισή της. Στη συζήτηση γύρω από την AI χρησιμοποιείται για τα πιο ακραία σενάρια απώλειας ελέγχου.
Τι είναι το p(doom)
Ίσως ο πιο χαρακτηριστικός όρος της συγκεκριμένης συζήτησης είναι το p(doom), από το probability of doom. Χρησιμοποιείται ανεπίσημα για να εκφράσει κάποιος τη δική του εκτίμηση για την πιθανότητα η προηγμένη AI να οδηγήσει σε μια καταστροφική ή υπαρξιακή έκβαση. Δεν αποτελεί επιστημονικά καθιερωμένο δείκτη ούτε αντικειμενική πρόβλεψη. Είναι περισσότερο ένας τρόπος να αποτυπώνεται το πόσο υψηλό θεωρεί κάποιος τον συγκεκριμένο κίνδυνο.
Ο όρος race to the bottom αφορά περισσότερο τις εταιρείες και τις κυβερνήσεις παρά την ίδια την τεχνητή νοημοσύνη. Περιγράφει το ενδεχόμενο ο έντονος ανταγωνισμός για την πρωτοκαθεδρία στην AI να οδηγήσει εταιρείες ή χώρες στη χαλάρωση ή ακόμη και στην παράκαμψη των κανόνων ασφαλείας, προκειμένου να κινηθούν ταχύτερα από τους ανταγωνιστές τους. Τέλος, το value lock-in, ή «κλείδωμα» αξιών, περιγράφει ένα μέλλον στο οποίο συγκεκριμένες αξίες, κανόνες ή προτιμήσεις παγιώνονται σε τέτοιο βαθμό ώστε να είναι εξαιρετικά δύσκολο να αλλάξουν.
Στο πλαίσιο της τεχνητής νοημοσύνης, η ανησυχία είναι ότι ένα πολύ ισχυρό σύστημα θα μπορούσε να «κλειδώσει» συγκεκριμένες αντιλήψεις ή κανόνες, περιορίζοντας τη δυνατότητα των μελλοντικών κοινωνιών να τους επαναπροσδιορίσουν.
Πολλά από αυτά τα σενάρια παραμένουν θεωρητικά και υπάρχει σημαντική διαφωνία γύρω από το πόσο πιθανά είναι. Αυτό που έχει αλλάξει είναι ότι η συζήτηση δεν περιορίζεται πλέον σε μικρούς κύκλους ερευνητών. Καθώς τα συστήματα AI αποκτούν περισσότερες δυνατότητες και ενσωματώνονται σε όλο και περισσότερους τομείς της οικονομίας και της καθημερινότητας, ζητήματα όπως ο ανθρώπινος έλεγχος, η ασφάλεια και η ευθυγράμμισή τους βρίσκονται όλο και περισσότερο στο επίκεντρο. Μαζί τους, όροι που μέχρι πρόσφατα ανήκαν κυρίως στο λεξιλόγιο των ειδικών περνούν σταδιακά και στη δημόσια συζήτηση.
Διαβάστε ακόμη
Κατοικίες Bugatti: Από τα υπερ-αυτοκίνητα στα υπερ-ακίνητα
«Μην αντιμετωπίζετε τους πάντες το ίδιο» – Η μέθοδος ηγεσίας που λειτουργεί
Για όλες τις υπόλοιπες ειδήσεις της επικαιρότητας μπορείτε να επισκεφθείτε το Πρώτο ΘΕΜΑ
Σχολίασε εδώ
Για να σχολιάσεις, χρησιμοποίησε ένα ψευδώνυμο.