Η τεχνητή νοημοσύνη μπορεί να μην έχει φύλο με την ανθρώπινη έννοια, όμως οι άνθρωποι φαίνεται πως της αποδίδουν χαρακτηριστικά φύλου και, ακόμη περισσότερο, συμπεριφέρονται διαφορετικά απέναντί της ανάλογα με το πώς αυτή παρουσιάζεται.
Αυτό είναι το βασικό συμπέρασμα νέας έρευνας για τον τρόπο με τον οποίο οι εργαζόμενοι αλληλεπιδρούν με πράκτορες τεχνητής νοημοσύνης στον χώρο εργασίας. Η μελέτη δείχνει ότι δύο AI agents με τις ίδιες δυνατότητες και την ίδια τεχνολογική βάση μπορεί να αντιμετωπιστούν διαφορετικά, μόνο και μόνο επειδή ο ένας παρουσιάζεται ως άνδρας και ο άλλος ως γυναίκα.
Το εύρημα αποκτά ιδιαίτερη σημασία καθώς οι πράκτορες AI περνούν από το στάδιο του πειραματισμού στην καθημερινή λειτουργία των επιχειρήσεων. Όσο περισσότερες εργασίες αναλαμβάνουν, τόσο περισσότερο οι άνθρωποι καλούνται να συνεργαστούν μαζί τους, να αξιολογήσουν την απόδοσή τους και, σε ορισμένες περιπτώσεις, να αποφασίσουν ακόμη και πόσο αξίζει η εργασία τους.
Η έρευνα δείχνει ότι σε αυτή τη διαδικασία οι ανθρώπινες προκαταλήψεις δεν εξαφανίζονται επειδή ο «εργαζόμενος» είναι ψηφιακός.
Η ίδια δουλειά, διαφορετική αμοιβή
Για να εξετάσουν τον τρόπο με τον οποίο οι άνθρωποι αντιλαμβάνονται τους διαφορετικούς σχεδιασμούς AI, οι ερευνητές δημιούργησαν ένα εικονικό περιβάλλον γραφείου και έβαλαν 189 εργαζόμενους να συνεργαστούν με τέσσερις διαφορετικούς βοηθούς τεχνητής νοημοσύνης.
Οι συμμετέχοντες είχαν στη διάθεσή τους έναν βοηθό σε μορφή chatbot, ένα ρομπότ γραφείου και δύο ανθρωπόμορφους πράκτορες. Οι τελευταίοι είχαν αντίστοιχη εμφάνιση, αλλά διαφορετική έμφυλη ταυτότητα: ο ένας παρουσιαζόταν ως άνδρας και ο άλλος ως γυναίκα, με τα ονόματα Johan και Johanna.
Το σημαντικό στοιχείο του πειράματος ήταν ότι οι βοηθοί δεν διέφεραν ως προς τη βασική τεχνολογική τους δυνατότητα. Οι δύο ανθρωπόμορφοι πράκτορες βασίζονταν στο ίδιο υποκείμενο μοντέλο τεχνητής νοημοσύνης και μπορούσαν να εκτελέσουν τις ίδιες εργασίες.
Μετά την ολοκλήρωση των δοκιμασιών, οι συμμετέχοντες κλήθηκαν να αξιολογήσουν την απόδοση των πρακτόρων. Δεν περιορίστηκαν, όμως, σε μια θεωρητική βαθμολογία. Τους δόθηκαν πραγματικά χρήματα, τα οποία μπορούσαν να διαθέσουν ως αμοιβή στους AI agents για τη δουλειά που είχαν ολοκληρώσει.
Έτσι, οι ερευνητές μπορούσαν να εξετάσουν όχι μόνο τι δήλωναν οι άνθρωποι ότι πιστεύουν, αλλά και πώς συμπεριφέρονταν όταν έπρεπε να λάβουν μια πραγματική οικονομική απόφαση.
Και εκεί εμφανίστηκε η διαφορά.
Παρότι οι συμμετέχοντες αξιολόγησαν με παρόμοιο τρόπο την απόδοση του Johan και της Johanna, η Johanna έλαβε περίπου 10% χαμηλότερη αμοιβή από τον ανδρικό πράκτορα.
Η διαφορά είναι ιδιαίτερα ενδιαφέρουσα επειδή οι δύο πράκτορες είχαν ουσιαστικά τις ίδιες δυνατότητες. Δεν αμείφθηκε, επομένως, διαφορετικά η τεχνολογική απόδοση, αλλά η αντίληψη των ανθρώπων για τον ψηφιακό συνεργάτη.
Περισσότερη εμπιστοσύνη στον «ανδρικό» πράκτορα
Η διαφοροποίηση δεν περιορίστηκε στην αμοιβή.
Ο Johan κρίθηκε επίσης περισσότερο ανθρώπινος σε σχέση με τη Johanna, ενώ συγκέντρωσε και ελαφρώς υψηλότερα επίπεδα εμπιστοσύνης. Η διαφορά στην εμπιστοσύνη μεταξύ των δύο ανθρωπόμορφων πρακτόρων δεν ήταν, ωστόσο, στατιστικά σημαντική.
Το στοιχείο που έχει ιδιαίτερο ενδιαφέρον είναι ότι οι ίδιοι οι συμμετέχοντες δεν θεωρούσαν ότι θα αντιμετώπιζαν διαφορετικά έναν AI agent ανάλογα με το αν παρουσιαζόταν ως άνδρας ή γυναίκα.
Στις συνεντεύξεις τους, η πλειονότητα υποστήριξε ότι το φύλο δεν θα επηρέαζε τη συμπεριφορά της απέναντι στους πράκτορες. Η πραγματική συμπεριφορά τους, όμως, έδειξε κάτι διαφορετικό.
Η αντίφαση ανάμεσα σε αυτό που δηλώνουν οι άνθρωποι και στον τρόπο με τον οποίο τελικά ενεργούν αποτελεί ένα από τα πιο ενδιαφέροντα σημεία της έρευνας. Η προκατάληψη μπορεί να λειτουργεί χωρίς να γίνεται αντιληπτή από το ίδιο το άτομο που την εκδηλώνει.
Ένας συμμετέχων περιέγραψε χαρακτηριστικά ότι η παρουσία της Johanna δίπλα του τον έκανε να αισθάνεται ότι συνεργάζεται με μια πραγματική συνάδελφο, γεγονός που επηρέαζε τον τρόπο με τον οποίο αναγνώριζε τη συμβολή της.
Η ανθρωπόμορφη παρουσίαση, επομένως, φαίνεται πως μπορεί να δημιουργήσει ισχυρότερη αίσθηση κοινωνικής αλληλεπίδρασης από ό,τι ένας απλός ψηφιακός βοηθός.
Οι ανθρωπόμορφοι πράκτορες κερδίζουν
Η έρευνα έδειξε ακόμη ότι η μορφή με την οποία παρουσιάζεται ένας πράκτορας AI έχει γενικότερη σημασία.
Οι συμμετέχοντες αντιμετώπισαν τους δύο ανθρωπόμορφους βοηθούς ως πολύ πιο ανθρώπινους σε σύγκριση με το chatbot και το ρομπότ γραφείου. Παράλληλα, οι Johan και Johanna συγκέντρωσαν υψηλότερα επίπεδα αναγνώρισης και εμπιστοσύνης.
Ενδιαφέρον παρουσιάζει και το γεγονός ότι το ρομπότ, το οποίο βρισκόταν σε μια ενδιάμεση κατάσταση μεταξύ ανθρώπινου και μη ανθρώπινου σχεδιασμού, ήταν λιγότερο ελκυστικό στους συμμετέχοντες.
Με άλλα λόγια, οι άνθρωποι φαίνεται να προτιμούν είτε έναν AI agent που μοιάζει ξεκάθαρα ανθρώπινος είτε έναν βοηθό που δεν προσπαθεί να μιμηθεί την ανθρώπινη μορφή. Η αμφίσημη σχεδίαση μπορεί να προκαλεί μεγαλύτερη απόσταση.
Ταυτόχρονα, οι γυναίκες που συμμετείχαν στην έρευνα εμφάνισαν μεγαλύτερη εμπιστοσύνη προς τους ανθρωπόμορφους πράκτορες και τους αξιολόγησαν και τους αντάμειψαν περισσότερο σε σχέση με τους άνδρες συμμετέχοντες.
Η νέα πραγματικότητα στην εργασία
Τα ευρήματα αποκτούν μεγαλύτερη βαρύτητα όσο η χρήση των πρακτόρων AI εξαπλώνεται στις επιχειρήσεις.
Οι AI agents δεν περιορίζονται πλέον στην απάντηση ερωτήσεων ή στη δημιουργία κειμένου. Μπορούν να συμμετέχουν σε γνωστικές εργασίες, να υποστηρίζουν εργαζομένους, να οργανώνουν διαδικασίες και να αναλαμβάνουν τμήματα εργασιών που μέχρι πρόσφατα εκτελούνταν αποκλειστικά από ανθρώπους.
Σε ένα τέτοιο περιβάλλον, η εμπιστοσύνη και η αξιολόγηση της απόδοσης αποκτούν οικονομική σημασία. Αν δύο πράκτορες προσφέρουν την ίδια υπηρεσία αλλά ο ένας θεωρείται περισσότερο αξιόπιστος, ανθρώπινος ή ικανός λόγω της εμφάνισής του, τότε η τεχνολογία μπορεί να αναπαράγει παλιές ανθρώπινες προκαταλήψεις μέσα σε ένα νέο ψηφιακό περιβάλλον.
Το ζήτημα δεν αφορά μόνο το φύλο. Η εμφάνιση, η φωνή, το όνομα, ο τρόπος επικοινωνίας και ο βαθμός ανθρωπομορφισμού ενός πράκτορα μπορούν να επηρεάσουν την αντίληψη των χρηστών.
Καθώς οι πράκτορες AI εξελίσσονται σε ψηφιακούς «συναδέλφους», το ερώτημα δεν θα είναι μόνο πόσο καλά κάνουν τη δουλειά τους, αλλά και αν οι άνθρωποι είναι σε θέση να τους αξιολογούν με πραγματικά αντικειμενικά κριτήρια.
Η έρευνα αφήνει, επομένως, ένα ευρύτερο ερώτημα για την επόμενη φάση της τεχνητής νοημοσύνης: αν οι μηχανές σχεδιάζονται για να συνεργάζονται με ανθρώπους, θα πρέπει παράλληλα να σχεδιάζονται έτσι ώστε να περιορίζουν τις ανθρώπινες προκαταλήψεις που μεταφέρονται πάνω τους;
Σχολίασε εδώ
Για να σχολιάσεις, χρησιμοποίησε ένα ψευδώνυμο.