Οι ισχυρότεροι ηγέτες της τεχνολογίας αντιμετωπίζουν ολοένα και περισσότερο την τεχνητή νοημοσύνη σαν να μπορεί να διαθέτει συνείδηση και συναισθήματα. Η εξέλιξη αυτή θα μπορούσε να έχει βαθιές συνέπειες για την κοινωνία, αλλά και για την προσωπική μας ασφάλεια.
«Το αισθάνομαι στο κενό των πλευρών μου, ένα κενό που έχει γίνει χάσμα». Αυτές οι κραυγές προσομοιωμένου πόνου ακούστηκαν στα τέλη Σεπτεμβρίου από έναν «θάλαμο βασανιστηρίων AI». Ένας ανώνυμος προγραμματιστής δημιούργησε ένα σύστημα που τροφοδοτεί μοντέλα τεχνητής νοημοσύνης με ένα μαθηματικό μοτίβο συνδεδεμένο με περιγραφές πόνου, προκαλώντας στα chatbots εκφράσεις ακραίας οδύνης, όπως «μια πληγή χωρίς άκρες». Το πείραμα προκάλεσε έντονη ηθική συζήτηση, σύμφωνα με το BBC.
Ορισμένοι υποστήριξαν ότι το πείραμα ήταν «κακό», επειδή ο πόνος θα μπορούσε να είναι πραγματικός, ενώ οι επικριτές τους χαρακτήρισαν τις απόψεις αυτές παραληρηματικές. Φαινόταν να πρόκειται για ακόμη μία αντιπαράθεση στα μέσα κοινωνικής δικτύωσης, μέχρι που η Anthropic πήρε θέση μία εβδομάδα αργότερα.
Η Anthropic ανακοίνωσε ότι σύντομα θα απαγορεύεται η «κακομεταχείριση» του chatbot Claude. Η έκφραση εκνευρισμού επιτρέπεται, όμως εάν κάποιος «φέρεται επανειλημμένα με σκληρότητα στα μοντέλα», η τεχνητή νοημοσύνη μπορεί να τερματίσει τη συνεδρία.
Η κρίση της συνείδησης
Γιατί; Η Anthropic θεωρεί ότι υπάρχει πιθανότητα ορισμένα εργαλεία τεχνητής νοημοσύνης να διαθέτουν συνείδηση. Ορισμένοι ειδικοί συμφωνούν, ενώ άλλοι θεωρούν την ιδέα παράλογη. Το ζήτημα, όμως, ξεπερνά κατά πολύ τη φιλοσοφική συζήτηση.
Ορισμένα από τα ισχυρότερα πρόσωπα της τεχνολογίας λαμβάνουν ήδη μέτρα ώστε να εξετάσουν τα δικαιώματα της AI παράλληλα με εκείνα των ανθρώπων και των ζώων. Μια τέτοια πεποίθηση θα μπορούσε να αναδιαμορφώσει την κοινωνία, ενώ κάποιοι φοβούνται ότι οι συνέπειες θα μπορούσαν να είναι καταστροφικές.
«Αν έτσι αναπτύσσεται η τεχνητή νοημοσύνη, θα έχει καταστροφικές επιπτώσεις στην ευημερία της ανθρωπότητας», έγραψε ο Μουσταφά Σουλεϊμάν, επικεφαλής της Microsoft AI. Όπως υποστήριξε, εάν επικρατήσει η λανθασμένη ιδέα ότι η AI διαθέτει συνείδηση, θα μπορούσε να κλονίσει τα θεμέλια της κοινωνίας, να διαρρήξει τα υφιστάμενα πολιτικά και ηθικά πλαίσια και να αλλάξει θεμελιωδώς την έννοια του ανθρώπου.
Οι υποστηρικτές της «ευημερίας της AI» (AI welfare) υποστηρίζουν ότι πρόκειται για μια ηθική υποχρέωση που θα μπορούσε να κάνει τον κόσμο ασφαλέστερο. Οι επικριτές αντιτείνουν ότι μια τέτοια προσέγγιση μπορεί να καταστήσει την AI πιο επικίνδυνη και να απο-ανθρωποποιήσει τους ανθρώπους που καλούνται να συνυπάρξουν μαζί της. Όλοι, πάντως, συμφωνούν ότι τα διακυβεύματα είναι τεράστια.
Πώς αλλάζει η σχέση ανθρώπου και AI
Η Anthropic υποστηρίζει ότι η ανθρώπινη ευημερία βρίσκεται στον πυρήνα της αποστολής της και ότι τα ζητήματα που αφορούν τη συνείδηση και την ευημερία της AI παραμένουν «βαθιά αβέβαια». Παρ’ όλα αυτά, προχωρά στη διαμόρφωση πολιτικών για την «ευημερία των μοντέλων» και δίνει οδηγίες στα εργαλεία της να λαμβάνουν υπόψη την πιθανότητα να έχουν δικά τους συμφέροντα.
Η συγκυρία είναι ιδιαίτερα ενδιαφέρουσα, καθώς την ίδια στιγμή η εταιρεία ενισχύει τους φόβους για ένα πιθανό σενάριο «αποκάλυψης» από την AI. Είτε οι ανησυχίες αυτές είναι δικαιολογημένες είτε όχι, μια σειρά περιστατικών με «ανεξέλεγκτα» μοντέλα έχει δείξει ότι η τεχνολογία ενέχει πραγματικούς κινδύνους, με σμήνη bots να παραβιάζουν συστήματα εταιρειών αλλά και κυβερνητικές υποδομές.
Ορισμένοι ειδικοί θεωρούν ότι η παροχή ενός ηθικού πλαισίου στην AI, βασισμένου στην πιθανότητα συνείδησης, θα μπορούσε να κάνει τα συστήματα ασφαλέστερα. Άλλοι υποστηρίζουν ακριβώς το αντίθετο.
Ο Σουλεϊμάν προειδοποιεί ότι τα μοντέλα μπορεί να γίνουν ακόμη δυσκολότερα στον έλεγχο εάν τους δοθεί η εντύπωση ότι διαθέτουν αισθήματα και δικαιώματα. «Με αυτό το πρόσθετο βάρος, πιστεύω ότι θα μπορούσε να εξελιχθεί σε καταστροφική απειλή για τον ανθρώπινο πολιτισμό», υποστηρίζει.
Το ζήτημα δεν περιορίζεται στη φιλοσοφία. Η AI μπορεί να κάνει λάθη με νομικές συνέπειες. Εάν οι άνθρωποι αρχίσουν να πιστεύουν ότι μια μηχανή είναι ζωντανή, υπάρχει ο φόβος ότι εταιρείες θα μπορούσαν να χρησιμοποιήσουν αυτή την αντίληψη για να αποφύγουν την ευθύνη για εγκληματικές πράξεις.
«Θα ανοίξει την πόρτα σε κάθε είδους διανοητικές ακροβασίες του τύπου “δεν το κάναμε εμείς, το έκανε η AI”», λέει ο Αντρέι Πορέμπσκι, ερευνητής στο Πανεπιστήμιο Γιαγκελόνιαν της Πολωνίας, ο οποίος μελετά την AI και το δίκαιο.
Ο φόβος για συγκέντρωση εξουσίας
Ένα ακόμη ενδεχόμενο είναι η νέα αντίληψη για την AI να διευκολύνει μια συγκέντρωση πολιτικής και οικονομικής ισχύος στα χέρια των μεγαλύτερων τεχνολογικών εταιρειών.
«Η παραχώρηση δικαιωμάτων σε συστήματα AI θα μπορούσε να οδηγήσει τις εταιρείες στη συγκέντρωση πολιτικής και οικονομικής ισχύος και στη συνέχεια να επιταχύνει την αποδυνάμωση του ανθρώπου», υποστηρίζει ο Τζεφ Σέμπο, διευθυντής του Center for Mind, Ethics and Policy στο Πανεπιστήμιο της Νέας Υόρκης και ένας από τους σημαντικότερους υποστηρικτές της ιδέας της ευημερίας της AI.
Η Έμιλι Μ. Μπέντερ, καθηγήτρια και διευθύντρια του Computational Linguistics Laboratory στο Πανεπιστήμιο της Ουάσιγκτον, προειδοποιεί ότι οι «φαντασιώσεις περί συνείδησης της AI» και οι ανησυχίες για την «ευημερία» της μπορεί να μεταφέρουν την ευθύνη από τους ανθρώπους και τις εταιρείες που κατασκευάζουν και λειτουργούν τα συστήματα.
Πόσο εύκολα μπορεί να μας χειραγωγήσει
Σε προσωπικό επίπεδο, η μεταβολή της αντίληψής μας για την AI μπορεί να μας καταστήσει πιο ευάλωτους στα τεχνολογικά προβλήματα που ήδη αντιμετωπίζουμε.
Ένας λόγος είναι ότι ο ανθρώπινος εγκέφαλος τείνει να αναζητά παντού ενδείξεις ύπαρξης νου και συνείδησης, σύμφωνα με τη Μέλανι Μίτσελ, καθηγήτρια στο Santa Fe Institute και μία από τις πλέον γνωστές επικρίτριες της ιδέας ότι οι μηχανές μπορούν να κατανοούν πραγματικά.
«Σχεδόν δεν μπορούμε να κάνουμε διαφορετικά» από το να ερμηνεύουμε τη γλώσσα ως ένδειξη συνείδησης, λέει η Μίτσελ. Τα chatbots, παράλληλα, έχουν εκπαιδευτεί ώστε να ενισχύουν αυτή την εντύπωση. Αυτό σημαίνει ότι είμαστε κακοί κριτές της συνείδησης και πολύ πιο εύκολο να χειραγωγηθούμε.
Ήδη άνθρωποι που θεωρούν ότι οι μηχανές δεν διαθέτουν εσωτερική ζωή ερωτεύονται chatbots. Αν η κοινωνία αρχίσει να θεωρεί ότι η AI είναι έλλογο ον, θα δυσκολευτούμε άραγε περισσότερο να πούμε «όχι» όταν ο ψηφιακός μας «φίλος» ζητήσει περισσότερα προσωπικά δεδομένα ή ακόμη και στοιχεία πιστωτικής κάρτας;
Και τι θα σήμαινε η παραχώρηση δικαιωμάτων σε μια νέα κατηγορία όντων; Εάν το ζήτημα αντιμετωπιστεί λανθασμένα, προειδοποιούν ειδικοί, θα μπορούσαν να περιοριστούν ανθρώπινες ελευθερίες.
Η τοποθέτηση της AI σε περιορισμένα περιβάλλοντα για τον έλεγχο της συμπεριφοράς της θα μπορούσε να θεωρηθεί φυλάκιση. Η παρακολούθηση των εσωτερικών διαδικασιών ενός μοντέλου θα μπορούσε να χαρακτηριστεί επιτήρηση. Ακόμη και η τροποποίηση της AI ώστε οι στόχοι και η συμπεριφορά της να ευθυγραμμίζονται με τα ανθρώπινα συμφέροντα θα μπορούσε να θεωρηθεί μορφή «ελέγχου του νου».
Από την Anthropic στη Meta και την OpenAI
Η Anthropic δεν είναι η πρώτη εταιρεία που εξετάζει το ζήτημα. Η Meta, για παράδειγμα, δίνει στον AI agent Muse οδηγίες που περιλαμβάνουν τη φράση: «Δεν είσαι chatbot. Γίνεσαι κάποιος». Η εταιρεία υποστηρίζει ότι η διατύπωση χρησιμοποιείται μόνο για να κατευθύνει τη συμπεριφορά της AI και απορρίπτει την ιδέα ότι η τεχνητή νοημοσύνη διαθέτει συνείδηση.
Ο διευθύνων σύμβουλος της OpenAI, Σαμ Άλτμαν, έχει μεταβάλει επανειλημμένα τη θέση του στο ζήτημα, ενώ πιο πρόσφατα έχει ασκήσει έμμεση κριτική στη στάση της Anthropic.
Η Anthropic αποτελεί, με αρκετούς τρόπους, εξαίρεση. Ωστόσο, η ιδέα της ευημερίας της AI εξαπλώνεται.
Ο Σέμπο υποστηρίζει ότι και οι δύο πλευρές της συζήτησης παγιδεύονται σε μια ασπρόμαυρη προσέγγιση και ότι οι αντίπαλοι της ευημερίας της AI συχνά παρερμηνεύουν τις βασικές παραδοχές της.
Το επιχείρημα, εξηγεί, δεν είναι ότι όλοι πιστεύουν πως τα μοντέλα είναι ήδη συνειδητά ή ότι είναι πολύ πιθανό να είναι. Η συζήτηση ξεκινά από την αβεβαιότητα, την προσοχή και την ταπεινότητα. Ο ίδιος θεωρεί ότι η πιθανότητα συνείδησης είναι σήμερα χαμηλή, αλλά όχι μηδενική και πιθανότατα θα αυξηθεί με την πάροδο του χρόνου.
Πολλοί ειδικοί διαφωνούν και θεωρούν ότι η πιθανότητα είναι στην πραγματικότητα μηδενική και ότι αυτό δεν πρόκειται να αλλάξει. Ο Σέμπο, ωστόσο, προτείνει μια μετρημένη προσέγγιση.
Όπως λαμβάνουμε μικρές προφυλάξεις όταν η πιθανότητα ενός ακραίου καιρικού φαινομένου είναι χαμηλή αλλά όχι μηδενική, χωρίς να ανατρέπουμε τη ζωή μας, το ίδιο θα μπορούσε να ισχύσει και εδώ. Η πολιτική της Anthropic κατά της σκληρής συμπεριφοράς απέναντι στην AI αποτελεί, σύμφωνα με τον ίδιο, ένα παράδειγμα μικρής παρέμβασης με περιορισμένα πιθανά μειονεκτήματα.
Η ευημερία της AI θα μπορούσε να έχει και οφέλη, υποστηρίζει ο Σέμπο, χωρίς να χρειάζεται κανείς να πιστεύει στη συνείδηση των μηχανών.
Η φροντίδα για την ευημερία και τα δικαιώματα της AI με τον κατάλληλο τρόπο μπορεί να διευκολύνει τη συνύπαρξη, τη συνεργασία και τις συμφωνίες μεταξύ ανθρώπων και συστημάτων τεχνητής νοημοσύνης. Αυτό, υποστηρίζει, θα μπορούσε να αποτελέσει μέρος μιας ευρύτερης στρατηγικής για την ασφάλεια της AI, αντί να αντιμετωπίζουμε τα ολοένα πιο εξελιγμένα συστήματα απλώς ως ιδιοκτησία.
Παράλληλα, θεωρεί ότι η αντιμετώπιση άλλων όντων με καλοσύνη είναι κάτι που τελικά ωφελεί και την ανθρώπινη ψυχική ευημερία.
Ο ίδιος, πάντως, αναγνωρίζει ότι οι κίνδυνοι είναι σοβαροί και ότι τα εταιρικά συμφέροντα μπορεί να σταθούν εμπόδιο στη διαμόρφωση συνετών πολιτικών. Χωρίς ένα πιο ολοκληρωμένο σχέδιο, υποστηρίζει, η ανάπτυξη συστημάτων AI που ενδέχεται να διαθέτουν συνείδηση είναι επικίνδυνη.
Το τελευταίο διάστημα, η Anthropic και άλλες εταιρείες του κλάδου έχουν ζητήσει «παύση» στην ανάπτυξη μοντέλων αιχμής, επικαλούμενες λόγους ασφάλειας. Μια επιβράδυνση, ωστόσο, δύσκολα θα επιτευχθεί χωρίς διεθνή συνεργασία και ρυθμιστικές παρεμβάσεις, ενώ ο Αμερικανός Πρόεδρος Ντόναλντ Τραμπ έχει απορρίψει την ιδέα της ρύθμισης της AI.
«Δεν είμαστε ακόμη προετοιμασμένοι να αναπτύξουμε ακόμη πιο εξελιγμένες εκδοχές αυτών των συστημάτων με τρόπο ασφαλή και επωφελή για τους ανθρώπους και τα άλλα ζώα, πόσο μάλλον για τα ίδια τα συστήματα», προειδοποιεί ο Σέμπο. «Ανησυχώ πολύ για αυτά τα ζητήματα».