Το βιογραφικό μπορεί να είναι άρτιο, η εμπειρία πολυετής και τα προσόντα να ανταποκρίνονται στις απαιτήσεις μιας θέσης. Κι όμως, ο υποψήφιος μπορεί να μη φτάσει ποτέ μπροστά σε έναν άνθρωπο για συνέντευξη. Στη νέα πραγματικότητα της αγοράς εργασίας, όλο και περισσότερες από τις πρώτες –και κρίσιμες– αποφάσεις για το ποιος θα προσληφθεί, ποιος θα απορριφθεί ή ακόμη και ποιος θα απολυθεί περνούν μέσα από συστήματα τεχνητής νοημοσύνης.
Καθώς οι επιχειρήσεις δέχονται τεράστιο αριθμό αιτήσεων για κάθε διαθέσιμη θέση, τα αυτοματοποιημένα εργαλεία υπόσχονται να ξεχωρίζουν γρήγορα τους κατάλληλους υποψηφίους, περιορίζοντας το κόστος και τον χρόνο των διαδικασιών πρόσληψης. Η υπόσχεση συνοδεύεται συχνά και από ένα δεύτερο επιχείρημα: ότι ένας αλγόριθμος μπορεί να είναι περισσότερο «αντικειμενικός» από έναν άνθρωπο.
Στην πράξη, όμως, η εικόνα αποδεικνύεται πολύ πιο σύνθετη. Ένα κύμα αγωγών στις ΗΠΑ, με καταγγελίες για ηλικιακές διακρίσεις, αδιαφανείς αξιολογήσεις και άλλες μορφές μεροληψίας, φέρνει στο προσκήνιο ένα κρίσιμο ερώτημα: πόσο έλεγχο μπορεί να έχει ένας εργαζόμενος πάνω σε μια απόφαση όταν δεν γνωρίζει καν ότι έχει αξιολογηθεί από μηχανή;
Το πρόβλημα αποκτά ακόμη μεγαλύτερες διαστάσεις επειδή οι περισσότερες επιχειρήσεις δεν αναπτύσσουν δικά τους συστήματα AI για τις προσλήψεις. Αντίθετα, χρησιμοποιούν πλατφόρμες τρίτων που εξυπηρετούν ταυτόχρονα εκατοντάδες εργοδότες.
Έτσι δημιουργείται ο κίνδυνος του λεγόμενου «αλγοριθμικού αποκλεισμού»: μια αρνητική αξιολόγηση δεν περιορίζεται απαραίτητα σε μία αίτηση, αλλά μπορεί να επηρεάζει την εικόνα του ίδιου υποψηφίου σε πολλαπλές διαδικασίες πρόσληψης.
Ένας υπεύθυνος ανθρώπινου δυναμικού μπορεί να απορρίψει κάποιον σε μία εταιρεία και ο ίδιος εργαζόμενος να δοκιμάσει την τύχη του αλλού. Όταν, όμως, πολλές επιχειρήσεις βασίζονται στα ίδια συστήματα και στα ίδια δεδομένα, υπάρχει ο φόβος ότι ένα αρνητικό αλγοριθμικό «σήμα» μπορεί να ακολουθεί τον υποψήφιο από εργοδότη σε εργοδότη.
Χιλιάδες αιτήσεις χωρίς ούτε μία συνέντευξη
Χαρακτηριστική είναι η περίπτωση της Έριν Κίστλερ, η οποία τα τελευταία τέσσερα χρόνια έχει υποβάλει χιλιάδες αιτήσεις για θέσεις εργασίας σε μεγάλες εταιρείες, μεταξύ των οποίων η PayPal, η Microsoft και το Netflix.
Με σχεδόν 20 χρόνια επαγγελματικής εμπειρίας στη διαχείριση προϊόντων, η Κίστλερ θεωρούσε ότι διέθετε τα απαιτούμενα προσόντα για τις θέσεις στις οποίες υπέβαλλε αίτηση. Παρ’ όλα αυτά, όπως υποστηρίζει, δεν κατάφερε να εξασφαλίσει ούτε μία συνέντευξη.
Πλέον έχει στραφεί δικαστικά κατά της Eightfold AI, εταιρείας της Silicon Valley που αναπτύσσει λογισμικό προσλήψεων το οποίο χρησιμοποιείται από εκατοντάδες επιχειρήσεις. Η υπόθεση αποτελεί μέρος ομαδικής αγωγής που κατατέθηκε τον Ιανουάριο σε δικαστήριο της Καλιφόρνιας.
Στον πυρήνα της βρίσκεται ο ισχυρισμός ότι τα αυτοματοποιημένα συστήματα διαλογής δημιουργούν στην πράξη έναν ψηφιακό φάκελο για κάθε υποψήφιο, κατατάσσοντάς τον ανάλογα με την εκτιμώμενη πιθανότητα επιτυχίας του, χωρίς ο ίδιος να έχει τη δυνατότητα να γνωρίζει τι περιλαμβάνει αυτή η αξιολόγηση ή να αμφισβητήσει ενδεχόμενα λάθη.
Και η Eightfold δεν είναι η μοναδική περίπτωση που βρίσκεται στο επίκεντρο τέτοιων καταγγελιών. Εργαζόμενοι έχουν στραφεί κατά της Meta, υποστηρίζοντας ότι εσωτερικό σύστημα τεχνητής νοημοσύνης τούς είχε στοχοποιήσει για απολύσεις επειδή είχαν λάβει γονική ή ιατρική άδεια. Παράλληλα, αγωγή κατά της IBM υποστηρίζει ότι εργαλεία AI προκάλεσαν διακρίσεις εις βάρος εργαζομένων μεγαλύτερης ηλικίας.
Οι εταιρείες αρνούνται τις κατηγορίες, ενώ η Eightfold και η IBM τις έχουν χαρακτηρίσει αβάσιμες.
Η «αντικειμενικότητα» των μηχανών
Η χρήση αυτοματισμών στις προσλήψεις έχει πλέον εξαπλωθεί εντυπωσιακά στις ΗΠΑ. Σύμφωνα με στοιχεία που επικαλείται το Παγκόσμιο Οικονομικό Φόρουμ, το 90% των εργοδοτών χρησιμοποίησε κάποια μορφή αυτοματοποίησης στη διαδικασία προσλήψεων το προηγούμενο έτος.
Η τεχνολογία μπορεί να περιορίζεται σε σχετικά απλές λειτουργίες, όπως το αυτόματο φιλτράρισμα υποψηφίων που δεν διαθέτουν συγκεκριμένο πτυχίο ή κάποιο άλλο απαραίτητο προσόν. Στην πιο προηγμένη εκδοχή της, όμως, η AI χρησιμοποιείται για να αξιολογεί δεξιότητες, να κατατάσσει υποψηφίους ή ακόμη και να πραγματοποιεί την πρώτη τηλεφωνική συνέντευξη.
Το πρόβλημα είναι ότι ο υποψήφιος μπορεί να μην γνωρίζει ποτέ ότι βρίσκεται απέναντι σε μια τέτοια διαδικασία.
Η Ιφεόμα Ατζούνουα, καθηγήτρια στη Νομική Σχολή του Πανεπιστημίου Έμορι και ιδρυτική διευθύντρια του προγράμματος «AI and the Future of Work», επισημαίνει ότι στις ΗΠΑ δεν υπάρχει γενικός νόμος που να επιβάλλει στις επιχειρήσεις να ενημερώνουν τους υποψηφίους κάθε φορά που χρησιμοποιείται σύστημα AI για την αξιολόγησή τους.
Αυτό σημαίνει ότι ένας εργαζόμενος μπορεί να απορριφθεί χωρίς να γνωρίζει ποια δεδομένα εξετάστηκαν, ποια κριτήρια χρησιμοποιήθηκαν και ποιος –ή τι– έλαβε ουσιαστικά την απόφαση.
Βαθμολογία από το 0 έως το 5
Η Eightfold παρουσιάζει την πλατφόρμα της ως μια τεράστια, διαρκώς ανανεούμενη πηγή δεδομένων για ανθρώπινο δυναμικό. Η βάση της τροφοδοτείται με πληροφορίες από βιογραφικά, προφίλ στο LinkedIn και μέσα κοινωνικής δικτύωσης, καλύπτοντας περισσότερους από ένα δισεκατομμύριο υποψηφίους που έχουν περάσει μέσα από την πλατφόρμα.
Με βάση αυτά τα δεδομένα, η τεχνητή νοημοσύνη μπορεί να βαθμολογεί τους υποψηφίους σε κλίμακα από το 0 έως το 5, επιχειρώντας να προβλέψει πόσο κατάλληλοι είναι για μια συγκεκριμένη θέση. Η κατάταξη αυτή μπορεί στη συνέχεια να επηρεάσει ποια βιογραφικά θα εξεταστούν πρώτα και ποιοι υποψήφιοι θα φτάσουν στο στάδιο της συνέντευξης.
Εδώ ακριβώς εντοπίζεται ένα από τα σημαντικότερα ζητήματα που θέτουν οι επικριτές των συστημάτων.
Η δικηγόρος της Κίστλερ, Ρέιτσελ Ντέμπσεϊ, υποστηρίζει ότι οι υποψήφιοι θα πρέπει να έχουν πρόσβαση στις πληροφορίες που χρησιμοποιούνται για την αξιολόγησή τους. Διαφορετικά, δεν έχουν τρόπο να διορθώσουν ανακριβή στοιχεία ή να γνωρίζουν ποιοι παράγοντες λειτουργούν αρνητικά για την υποψηφιότητά τους.
Η έλλειψη διαφάνειας μετατρέπει έτσι την αυτοματοποιημένη πρόσληψη σε ένα «μαύρο κουτί», μέσα στο οποίο ο εργαζόμενος γνωρίζει μόνο το τελικό αποτέλεσμα – συνήθως μια απόρριψη – χωρίς να μπορεί να δει πώς προέκυψε.
Όταν η AI μαθαίνει τις ανθρώπινες προκαταλήψεις
Το επιχείρημα ότι οι μηχανές μπορούν να εξαλείψουν την ανθρώπινη μεροληψία αμφισβητείται επίσης από ερευνητές.
Τα συστήματα τεχνητής νοημοσύνης εκπαιδεύονται πάνω σε τεράστιους όγκους δεδομένων και αναζητούν επαναλαμβανόμενα μοτίβα. Εάν όμως τα ιστορικά δεδομένα ενσωματώνουν στερεότυπα ή προηγούμενες διακρίσεις, υπάρχει κίνδυνος η AI όχι μόνο να τα αναπαράγει, αλλά και να τα εφαρμόσει σε πολύ μεγαλύτερη κλίμακα.
Σύμφωνα με την Ατζούνουα, η έρευνα στα συστήματα αυτοματοποιημένων προσλήψεων δείχνει ότι συχνά αναπαράγουν πολλές από τις προκαταλήψεις που εμφανίζονται και στις ανθρώπινες αποφάσεις.
Ο Σουετσούνζι Μπάι, επίκουρος καθηγητής στο Πανεπιστήμιο του Σικάγου, επισημαίνει από την πλευρά του ότι η κλίμακα αποτελεί κρίσιμο στοιχείο. Ένας ανθρώπινος υπεύθυνος προσλήψεων μπορεί να λάβει μια μεροληπτική απόφαση για περιορισμένο αριθμό υποψηφίων. Ένα αυτοματοποιημένο σύστημα, αντίθετα, μπορεί να εφαρμόσει το ίδιο προβληματικό μοτίβο σε χιλιάδες ή εκατομμύρια αιτήσεις.
Σε έρευνά του με υποθετικές δημογραφικές ομάδες, τα μοντέλα AI εμφάνισαν τάση να δημιουργούν στερεότυπα για υποψηφίους με βάση χαρακτηριστικά άσχετα με τα πραγματικά επαγγελματικά τους προσόντα. Μάλιστα, ορισμένα νεότερα και περισσότερο προηγμένα μοντέλα εμφάνισαν ακόμη μεγαλύτερη μεροληψία στις αποφάσεις πρόσληψης.
Ο κίνδυνος ενός «αλγοριθμικού μαύρου καταλόγου»
Οι συνέπειες μπορεί να ξεπεράσουν κατά πολύ μία αποτυχημένη αίτηση. Εάν το ίδιο σύστημα χρησιμοποιείται από πολλές εταιρείες, ο υποψήφιος κινδυνεύει να βρεθεί σε μια κατάσταση που προσομοιάζει με «αλγοριθμικό μαύρο κατάλογο».
Η Κέιτι Κριλ, συν-συγγραφέας μελέτης για τον «αλγοριθμικό αποκλεισμό» στις διαδικασίες πρόσληψης, προειδοποιεί ότι η συγκέντρωση των αξιολογήσεων σε κοινές πλατφόρμες μπορεί να οδηγήσει ορισμένους ανθρώπους σε συστηματικό αποκλεισμό από περισσότερες επαγγελματικές ευκαιρίες από ό,τι θα συνέβαινε σε ένα αποκεντρωμένο σύστημα ανθρώπινων αποφάσεων.
Δεν υιοθετούν, πάντως, όλες οι επιχειρήσεις την ίδια φιλοσοφία. Εταιρείες όπως η Incredible Health υποστηρίζουν ότι η τεχνητή νοημοσύνη δεν θα πρέπει να αποφασίζει αυτόνομα ποιος υποψήφιος θα προχωρήσει στην επόμενη φάση. Αντίθετα, θα πρέπει να λειτουργεί ως εργαλείο υποστήριξης των ανθρώπων που έχουν την τελική ευθύνη της αξιολόγησης.
Η αρχή αυτή αρχίζει σταδιακά να περνά και στη νομοθεσία.
Οι πρώτοι νόμοι για τις προσλήψεις με AI
Η Νέα Υόρκη έχει ήδη θεσπίσει από το 2023 κανόνες για τη χρήση αυτοματοποιημένων εργαλείων στις προσλήψεις. Οι εργοδότες που εμπίπτουν στο πλαίσιο του νόμου πρέπει να πραγματοποιούν ετήσιους ελέγχους για πιθανή μεροληψία και να ενημερώνουν εκ των προτέρων τους υποψηφίους για τη χρήση της τεχνολογίας.
Το πλαίσιο, ωστόσο, έχει περιορισμούς, καθώς εφαρμόζεται σε λογισμικό που αντικαθιστά ή «βοηθά ουσιαστικά» τη λήψη μιας απόφασης. Αυτό αφήνει περιθώρια ερμηνείας όταν ένας άνθρωπος εξακολουθεί τυπικά να συμμετέχει στη διαδικασία.
Παράλληλα, το Ιλινόις και το Κολοράντο έχουν κινηθεί προς την κατεύθυνση της απαγόρευσης χρήσης εργαλείων AI από εργοδότες όταν αυτά οδηγούν σε παράνομες διακρίσεις.
Η μεγάλη πρόκληση πλέον δεν είναι μόνο αν η τεχνητή νοημοσύνη μπορεί να κάνει τις προσλήψεις ταχύτερες και αποτελεσματικότερες. Είναι ποιος ελέγχει τον αλγόριθμο, ποιος γνωρίζει τα δεδομένα που χρησιμοποιεί και ποιος μπορεί να αμφισβητήσει μια λανθασμένη απόφαση.
Για εκατομμύρια εργαζομένους, το ερώτημα αποκτά άμεση σημασία: σε μια αγορά εργασίας όπου η πρώτη «συνέντευξη» μπορεί να γίνεται χωρίς καν να το γνωρίζουν, η πρόσβαση σε μια δουλειά κινδυνεύει να εξαρτάται όλο και περισσότερο από μια βαθμολογία που δεν έχουν δει ποτέ.
Διαβάστε ακόμη
Πλοίο κατέβαλε ποσό ρεκόρ $5,3 εκατ. για να περάσει από τη Διώρυγα του Παναμά
Ορμούζ: «Ανοιχτά» τα Στενά, αλλά οι διελεύσεις έπεσαν από 17 σε μόλις 7
Anthropic-Πεντάγωνο: Δικαστικό μπλόκο στη «μαύρη λίστα» – Νίκη για την εταιρεία του Claude
Για όλες τις υπόλοιπες ειδήσεις της επικαιρότητας μπορείτε να επισκεφθείτε το Πρώτο ΘΕΜΑ