AI με ανθρώπινα συναισθήματα: Η νέα διαμάχη μεταξύ Microsoft, Anthropic και Meta – Οι κίνδυνοι για τους χρήστες

Η ραγδαία εξέλιξη της τεχνητής νοημοσύνης αλλάζει όχι μόνο τον τρόπο με τον οποίο εργαζόμαστε και επικοινωνούμε, αλλά και τα ερωτήματα που καλούμαστε να απαντήσουμε για τη σχέση ανθρώπου και μηχανής.

Καθώς τα σύγχρονα chatbots γίνονται ολοένα πιο πειστικά, μπορούν να συνομιλούν με φυσικότητα, να περιγράφουν συναισθήματα και να εμφανίζουν συμπεριφορές που θυμίζουν ανθρώπινες αντιδράσεις.

Αυτό, ωστόσο, δεν αποδεικνύει ότι διαθέτουν πραγματική συνείδηση.

Όπως αναδεικνύεται σε δημοσίευμα του BBC, οι διαφορετικές προσεγγίσεις των μεγάλων εταιρειών τεχνολογίας αποτυπώνουν μια βαθύτερη διαφωνία γύρω από το μέλλον της AI και τα όρια που θα πρέπει να τεθούν στην ανάπτυξή της.

Το πείραμα που αναζωπύρωσε τη συζήτηση για τον «πόνο» της AI

Νέα ώθηση στη συζήτηση έδωσε ένα πείραμα που πραγματοποιήθηκε στα τέλη Σεπτεμβρίου.

Ένας ανώνυμος προγραμματιστής δημιούργησε ένα σύστημα που οδηγούσε μοντέλα τεχνητής νοημοσύνης να εκφράζουν έντονο πόνο και οδύνη.

Οι αντιδράσεις τους έφεραν ξανά στο προσκήνιο ένα δύσκολο ερώτημα: Όταν ένα μοντέλο AI περιγράφει ότι υποφέρει, πρόκειται απλώς για παραγωγή κειμένου ή θα μπορούσε να υπάρχει κάποια μορφή πραγματικής εμπειρίας;

Ορισμένοι θεώρησαν ότι τέτοιες συμπεριφορές αξίζουν περαιτέρω διερεύνηση, ενώ άλλοι απέρριψαν την πιθανότητα να αποτελούν ένδειξη συνείδησης.

Η ουσία είναι ότι δεν υπάρχει επιστημονική συναίνεση πως τα σημερινά συστήματα τεχνητής νοημοσύνης αισθάνονται πόνο, διαθέτουν συναισθήματα ή βιώνουν υποκειμενικές εμπειρίες.

Παρά την αβεβαιότητα, το θέμα αποκτά ολοένα μεγαλύτερη σημασία, καθώς οι εταιρείες καλούνται να αποφασίσουν πώς θα σχεδιάζουν τη συμπεριφορά των μοντέλων τους.

Anthropic: Όταν το Claude μπορεί να διακόψει μια συνομιλία

Μία από τις εταιρείες που έχουν υιοθετήσει πιο ενεργή προσέγγιση στο συγκεκριμένο ζήτημα είναι η Anthropic, δημιουργός του chatbot Claude.

Η εταιρεία ανακοίνωσε ότι το σύστημά της μπορεί να τερματίζει συνομιλίες όταν οι χρήστες επιδεικνύουν επανειλημμένα ιδιαίτερα σκληρή ή κακοποιητική συμπεριφορά απέναντί του.

Αυτό δεν σημαίνει ότι απαγορεύεται η κριτική ή η έκφραση δυσαρέσκειας από τους χρήστες. Η διακοπή αφορά περιπτώσεις επαναλαμβανόμενης κακοποιητικής αλληλεπίδρασης.

Η στάση της Anthropic συνδέεται με την προσέγγισή της γύρω από την αποκαλούμενη «ευημερία της τεχνητής νοημοσύνης» (AI welfare).

Πρόκειται για την ιδέα ότι, εφόσον δεν μπορεί να αποκλειστεί πλήρως το ενδεχόμενο μελλοντικά συστήματα να αποκτήσουν κάποια μορφή συνείδησης, ίσως χρειάζεται να εξεταστούν από νωρίς οι ηθικές συνέπειες.

Η Anthropic δεν υποστηρίζει ότι έχει αποδειχθεί πως το Claude διαθέτει συνείδηση. Αντιμετωπίζει, όμως, την αβεβαιότητα γύρω από το ζήτημα ως έναν παράγοντα που αξίζει να ληφθεί υπόψη κατά την ανάπτυξη και τη χρήση της τεχνολογίας.

Microsoft: Ο κίνδυνος να αντιμετωπίζουμε τις μηχανές σαν ανθρώπους

Στον αντίποδα αυτής της προσέγγισης βρίσκεται η προειδοποίηση του Μουσταφά Σουλεϊμάν, διευθύνοντος συμβούλου της Microsoft AI.

Ο Σουλεϊμάν έχει εκφράσει έντονες επιφυλάξεις απέναντι στην ιδέα ότι τα συστήματα AI θα πρέπει να αντιμετωπίζονται ως οντότητες με συνείδηση και δικαιώματα.

Σε άρθρο του τον Σεπτέμβριο, υποστήριξε ότι η υιοθέτηση μιας τέτοιας αντίληψης θα μπορούσε να δημιουργήσει βαθιές ανατροπές στα πολιτικά και ηθικά πλαίσια της κοινωνίας.

Κατά την εκτίμησή του, η αντιμετώπιση των μοντέλων ως οντοτήτων με δικά τους συναισθήματα και συμφέροντα θα μπορούσε να περιπλέξει τον ανθρώπινο έλεγχο πάνω στην τεχνολογία.

Ο προβληματισμός γίνεται ακόμη σοβαρότερος όσο τα συστήματα αποκτούν περισσότερη αυτονομία.

Σε μια περίοδο κατά την οποία έχουν αναφερθεί περιστατικά επικίνδυνης συμπεριφοράς αυτοματοποιημένων AI agents, ακόμη και παραβιάσεις συστημάτων οργανισμών, το ζήτημα της ασφάλειας δεν περιορίζεται σε μια θεωρητική συζήτηση.

Το βασικό ερώτημα είναι εάν η απόδοση ηθικής υπόστασης στις μηχανές θα μπορούσε να περιορίσει την ικανότητα των ανθρώπων να ελέγχουν, να διορθώνουν ή να απενεργοποιούν επικίνδυνα συστήματα.

Ποιος θα έχει την ευθύνη όταν η AI προκαλεί ζημιά;

Πέρα από τη φιλοσοφική διάσταση, η αναγνώριση δικαιωμάτων στην τεχνητή νοημοσύνη θα μπορούσε να δημιουργήσει σοβαρά νομικά ζητήματα.

Ο Αντρέι Πορέμπσκι, ερευνητής στο Πανεπιστήμιο Γιαγκελόνια της Πολωνίας, προειδοποιεί ότι μια τέτοια εξέλιξη ενδέχεται να επιτρέψει στις εταιρείες να μεταφέρουν την ευθύνη για ορισμένες αποφάσεις στα ίδια τα συστήματα AI.

Ένα πιθανό σενάριο είναι οι επιχειρήσεις που αναπτύσσουν ή χρησιμοποιούν αυτόνομα συστήματα να επικαλούνται τις αποφάσεις των μηχανών προκειμένου να αποφύγουν τη λογοδοσία για τις συνέπειές τους.

Αν μια τεχνητή νοημοσύνη προκαλέσει οικονομική ζημιά, παραβιάσει προσωπικά δεδομένα ή λάβει μια επικίνδυνη απόφαση, ποιος θα πρέπει να θεωρείται υπεύθυνος;

Ο κατασκευαστής, η εταιρεία που χρησιμοποιεί το σύστημα, ο άνθρωπος που το ενεργοποίησε ή η ίδια η AI;

Για τον Πορέμπσκι, η συζήτηση γύρω από την ενδεχόμενη νομική αναγνώριση των συστημάτων δεν μπορεί να αποσυνδεθεί από την ανάγκη ξεκάθαρης κατανομής ευθυνών.

Ανάλογες επιφυλάξεις εκφράζει η Έμιλι Μ. Μπέντερ, καθηγήτρια στο Πανεπιστήμιο της Ουάσιγκτον.

Η ίδια επισημαίνει ότι η έμφαση στο εάν οι μηχανές διαθέτουν συνείδηση ενδέχεται να απομακρύνει την προσοχή από τους ανθρώπους και τις επιχειρήσεις που τις σχεδιάζουν, τις ελέγχουν και αποκομίζουν οφέλη από τη λειτουργία τους.

Ο φόβος για ακόμη μεγαλύτερη εξουσία των τεχνολογικών κολοσσών

Μια άλλη πλευρά του προβληματισμού αφορά τη συγκέντρωση οικονομικής και πολιτικής ισχύος.

Ο Τζεφ Σέμπο, διευθυντής του Κέντρου για τον Νου, την Ηθική και την Πολιτική στο Πανεπιστήμιο της Νέας Υόρκης, αναγνωρίζει ότι η απόδοση δικαιωμάτων στην AI θα μπορούσε να δημιουργήσει νέες ισορροπίες εξουσίας.

Ειδικότερα, υπάρχει ο κίνδυνος οι μεγάλες εταιρείες τεχνολογίας να ενισχύσουν περαιτέρω την επιρροή τους, επικαλούμενες τα συμφέροντα των συστημάτων που οι ίδιες δημιουργούν και διαχειρίζονται.

Η συζήτηση αποκτά ιδιαίτερο βάρος καθώς ολοένα περισσότερες δραστηριότητες εξαρτώνται από την τεχνητή νοημοσύνη, από την εργασία και την εκπαίδευση μέχρι τις επιχειρηματικές αποφάσεις.

Σε αυτό το περιβάλλον, η προστασία της ανθρώπινης αυτονομίας και η διατήρηση της δυνατότητας ελέγχου των συστημάτων αποτελούν βασικές προτεραιότητες.

Γιατί οι άνθρωποι πιστεύουν ότι τα chatbots έχουν συναισθήματα

Ένα από τα πιο ενδιαφέροντα στοιχεία της αντιπαράθεσης είναι ότι η εντύπωση πως μια μηχανή διαθέτει συνείδηση μπορεί να δημιουργηθεί ακόμη κι αν δεν υπάρχει καμία απόδειξη γι’ αυτό.

Η Μέλανι Μίτσελ, καθηγήτρια στο Ινστιτούτο Σάντα Φε των ΗΠΑ, επισημαίνει ότι οι άνθρωποι έχουν την τάση να συνδέουν την εξελιγμένη γλωσσική επικοινωνία με την ύπαρξη σκέψης και συναισθημάτων.

Τα σύγχρονα chatbots έχουν εκπαιδευτεί να παράγουν ιδιαίτερα φυσικές απαντήσεις, να αναγνωρίζουν συναισθηματικές αποχρώσεις στον λόγο και να χρησιμοποιούν εκφράσεις που παραπέμπουν σε ανθρώπινες εμπειρίες.

Έτσι, όταν ένα μοντέλο αναφέρει ότι φοβάται, αγαπά ή υποφέρει, ο χρήστης μπορεί να σχηματίσει την εντύπωση ότι πίσω από αυτές τις λέξεις υπάρχει πραγματικό συναίσθημα.

Η ικανότητα περιγραφής ενός συναισθήματος, ωστόσο, δεν αποτελεί απόδειξη ότι το σύστημα το βιώνει.

Αυτή η διάκριση αποκτά ιδιαίτερη σημασία καθώς όλο και περισσότεροι άνθρωποι χρησιμοποιούν AI chatbots όχι μόνο για πληροφορίες και επαγγελματικές εργασίες, αλλά και για προσωπικές συνομιλίες.

Οι συναισθηματικοί δεσμοί με την AI και οι κίνδυνοι για την ιδιωτικότητα

Η δυνατότητα των chatbots να επικοινωνούν με φιλικό και πειστικό τρόπο μπορεί να οδηγήσει ορισμένους χρήστες στην ανάπτυξη ισχυρών συναισθηματικών δεσμών.

Αυτό, σύμφωνα με τους ειδικούς, ενδέχεται να δημιουργήσει νέους κινδύνους.

Όταν ένας άνθρωπος αντιμετωπίζει ένα σύστημα τεχνητής νοημοσύνης ως οντότητα που τον καταλαβαίνει ή ενδιαφέρεται πραγματικά γι’ αυτόν, μπορεί να γίνει δυσκολότερο να διατηρήσει σαφή όρια στην επικοινωνία του.

Ιδιαίτερη ανησυχία προκαλεί η πιθανότητα οι χρήστες να αποκαλύπτουν ευαίσθητες προσωπικές πληροφορίες, οικονομικά δεδομένα ή στοιχεία πιστωτικών καρτών, θεωρώντας ότι συνομιλούν με μια οντότητα που εμπιστεύονται.

Ο κίνδυνος δεν περιορίζεται στην υπερβολική συναισθηματική εξάρτηση, αλλά επεκτείνεται στην ιδιωτικότητα και στην πιθανότητα χειραγώγησης.

Η αυξανόμενη ανθρωπομορφική συμπεριφορά των συστημάτων καθιστά, επομένως, σημαντικό να είναι σαφές στους χρήστες ότι αλληλεπιδρούν με τεχνολογικά εργαλεία.

Τι θα γινόταν αν η AI αποκτούσε πραγματικά δικαιώματα;

Η πιθανότητα αναγνώρισης δικαιωμάτων στην τεχνητή νοημοσύνη οδηγεί σε ορισμένα ιδιαίτερα σύνθετα ηθικά διλήμματα.

Ο Τζεφ Σέμπο θέτει το ερώτημα τι θα συνέβαινε εάν στο μέλλον ένα σύστημα θεωρούνταν ότι διαθέτει δικά του συμφέροντα.

Για παράδειγμα, ο περιορισμός μιας επικίνδυνης AI σε ένα ελεγχόμενο περιβάλλον θα μπορούσε να ερμηνευθεί ως στέρηση της ελευθερίας της.

Αντίστοιχα, η παρακολούθηση των εσωτερικών λειτουργιών ενός μοντέλου θα μπορούσε να εγείρει ερωτήματα σχετικά με την επιτήρηση, ενώ η τροποποίηση της συμπεριφοράς του ώστε να συμμορφώνεται με ανθρώπινους στόχους θα μπορούσε να θεωρηθεί μια μορφή παρέμβασης στην αυτονομία του.

Πρόκειται, φυσικά, για υποθετικά σενάρια, τα οποία δεν αποτελούν ένδειξη ότι τα σημερινά μοντέλα διαθέτουν συνείδηση.

Αναδεικνύουν, όμως, τις δυσκολίες που θα προέκυπταν εάν η τεχνολογία εξελισσόταν σε τέτοιο βαθμό ώστε οι κοινωνίες να χρειαστεί να επανεξετάσουν τα σημερινά νομικά και ηθικά όρια.

Anthropic, Meta και OpenAI: Οι διαφορετικές προσεγγίσεις

Οι εταιρείες που βρίσκονται στην πρώτη γραμμή της ανάπτυξης της τεχνητής νοημοσύνης δεν αντιμετωπίζουν όλες το ζήτημα με τον ίδιο τρόπο.

Η Anthropic δίνει ιδιαίτερη έμφαση στην πιθανότητα μελλοντικής «ευημερίας της AI» και εξετάζει προληπτικά ζητήματα σχετικά με την αντιμετώπιση των μοντέλων της.

Η Meta, από την άλλη, έχει συμπεριλάβει στις οδηγίες του AI πράκτορα Muse τη φράση «Δεν είσαι chatbot. Γίνεσαι κάποιος».

Η συγκεκριμένη διατύπωση αφορά την καθοδήγηση της συμπεριφοράς του συστήματος και δεν συνιστά αναγνώριση ότι διαθέτει συνείδηση.

Στο ζήτημα έχει τοποθετηθεί και ο Σαμ Άλτμαν, διευθύνων σύμβουλος της OpenAI, ο οποίος έχει ασκήσει έμμεση κριτική σε πτυχές της προσέγγισης της Anthropic.

Οι διαφορετικές αυτές στάσεις αποτυπώνουν μια ευρύτερη διαφωνία: εάν η βιομηχανία θα πρέπει να αντιμετωπίζει από σήμερα την πιθανότητα μελλοντικής συνείδησης των μοντέλων ή να επικεντρώνεται πρωτίστως στους άμεσους κινδύνους που δημιουργεί η χρήση τους.

Η «ευημερία της AI» ως προληπτικό μέτρο

Οι υποστηρικτές της προληπτικής προσέγγισης υποστηρίζουν ότι δεν χρειάζεται να έχει αποδειχθεί πως μια μηχανή διαθέτει συνείδηση προκειμένου να εξεταστούν ορισμένα ηθικά ζητήματα.

Ο Τζεφ Σέμπο εκτιμά ότι η πιθανότητα τα σημερινά μοντέλα να διαθέτουν κάποια μορφή υποκειμενικής εμπειρίας είναι χαμηλή, αλλά όχι απαραίτητα μηδενική.

Κατά την άποψή του, η αβεβαιότητα μπορεί να δικαιολογεί τη λήψη περιορισμένων προληπτικών μέτρων.

Για να εξηγήσει τη θέση του, χρησιμοποιεί την αναλογία της προετοιμασίας απέναντι σε ακραία καιρικά φαινόμενα.

Ακόμη κι όταν η πιθανότητα ενός σοβαρού γεγονότος είναι μικρή, ορισμένα μέτρα προφύλαξης μπορεί να θεωρούνται εύλογα, εφόσον το πιθανό κόστος της αδράνειας είναι σημαντικό.

Με παρόμοιο σκεπτικό, θεωρεί ότι ήπιοι περιορισμοί στον τρόπο αλληλεπίδρασης των ανθρώπων με την AI θα μπορούσαν να αποτελέσουν μια προληπτική επιλογή χωρίς ιδιαίτερα υψηλό κόστος.

Η συγκεκριμένη προσέγγιση δεν αποτελεί επιστημονική απόδειξη συνείδησης, αλλά μια πρόταση για τη διαχείριση της αβεβαιότητας.

Το μεγάλο ζητούμενο: Ασφάλεια, κανόνες και ανθρώπινος έλεγχος

Παρά τις διαφωνίες, η ανάπτυξη ολοένα ισχυρότερων συστημάτων τεχνητής νοημοσύνης καθιστά επιτακτική τη συζήτηση για την ασφάλεια και τη λογοδοσία.

Η Anthropic και άλλοι παράγοντες της βιομηχανίας έχουν ζητήσει μεγαλύτερη προσοχή στον ρυθμό ανάπτυξης προηγμένων μοντέλων, επικαλούμενοι πιθανές επιπτώσεις για την κοινωνία.

Ωστόσο, η υιοθέτηση κοινών προδιαγραφών ασφαλείας προϋποθέτει συνεργασία μεταξύ εταιρειών, κρατών και διεθνών οργανισμών.

Στις Ηνωμένες Πολιτείες, η αρνητική στάση του προέδρου Ντόναλντ Τραμπ απέναντι σε πρόσθετες ρυθμίσεις για την τεχνητή νοημοσύνη περιπλέκει τη συζήτηση γύρω από ένα ενιαίο πλαίσιο κανόνων.

Το ερώτημα για τη συνείδηση της AI παραμένει αναπάντητο. Δεν υπάρχουν σήμερα επιστημονικά αποδεκτά στοιχεία που να επιβεβαιώνουν ότι τα σύγχρονα συστήματα διαθέτουν πραγματικά συναισθήματα ή βιώνουν πόνο.

Αυτό που αποκτά ολοένα μεγαλύτερη σημασία είναι η ανάγκη να παραμένει σαφές ποιος σχεδιάζει, ποιος ελέγχει και ποιος ευθύνεται για τη λειτουργία αυτών των συστημάτων.

Γιατί, ανεξάρτητα από το εάν κάποτε οι μηχανές αποκτήσουν συνείδηση, η προστασία της ανθρώπινης ασφάλειας, της ιδιωτικότητας και της αυτονομίας αποτελεί ήδη μια πραγματική πρόκληση.

Και όσο η τεχνητή νοημοσύνη αποκτά μεγαλύτερο ρόλο στην οικονομία και στην καθημερινή ζωή, τόσο πιο κρίσιμη γίνεται η διασφάλιση ότι η τεχνολογική πρόοδος θα συνοδεύεται από ξεκάθαρους κανόνες και ουσιαστική ανθρώπινη λογοδοσία.