Για εκατομμύρια υποψηφίους στην αναζήτηση εργασίας υπάρχει μια νέα ανησυχία: μήπως το βιογραφικό τους απορρίφθηκε όχι από άνθρωπο, αλλά από έναν αλγόριθμο;
Μεγάλες εταιρείες χρησιμοποιούν εδώ και χρόνια λογισμικά ATS (Applicant Tracking Systems), όπως Workday, Greenhouse και Lever, για να οργανώνουν και να διαχειρίζονται αιτήσεις εργασίας. Εδώ όμως χρειάζεται μια σημαντική διάκριση: ATS δεν σημαίνει απαραίτητα τεχνητή νοημοσύνη. Πολλά από αυτά τα συστήματα λειτουργούν απλώς ως ψηφιακά αρχεία που αποθηκεύουν και ταξινομούν βιογραφικά. Η τεχνητή νοημοσύνη μπαίνει στην εξίσωση όταν το σύστημα αρχίζει να κάνει πιο σύνθετες λειτουργίες, όπως κατατάξεις υποψηφίων, αντιστοίχιση δεξιοτήτων ή ακόμη και αυτοματοποιημένες προτάσεις απόρριψης. Με απλά λόγια, το λογισμικό μπορεί να καταλήγει σε συμπεράσματα όπως: «Αυτός ο υποψήφιος μοιάζει 82% κατάλληλος για τη θέση, ο άλλος 41%». Και αυτό, προφανώς, έχει συνέπειες.
Οι αλγόριθμοι μπορούν να αναπαράγουν διακρίσεις
Αυτό είναι ίσως το πιο ανησυχητικό κομμάτι της συζήτησης. Αν ένα μοντέλο εκπαιδευτεί πάνω σε ιστορικά δεδομένα προσλήψεων μιας εταιρείας, τότε δεν μαθαίνει μόνο ποιοι προσλήφθηκαν στο παρελθόν. Μαθαίνει και τις προκαταλήψεις που ενδέχεται να υπήρχαν σε αυτές τις αποφάσεις. Αν, για παράδειγμα, μια εταιρεία προσλάμβανε επί χρόνια κυρίως άνδρες μηχανικούς, το σύστημα μπορεί να αρχίσει να θεωρεί ότι αυτό είναι το «επιτυχημένο» πρότυπο. Το πιο γνωστό παράδειγμα είναι εκείνο της Amazon, η οποία εγκατέλειψε εργαλείο προσλήψεων τεχνητής νοημοσύνης όταν διαπιστώθηκε ότι υποβάθμιζε βιογραφικά γυναικών για τεχνικούς ρόλους.
Άρα ναι, φυλετικές προκαταλήψεις και μεροληψίες λόγω φύλου είναι υπαρκτά προβλήματα, ενώ αντίστοιχα μπορεί να εμφανιστούν και ταξικές στρεβλώσεις. Το πρόβλημα δεν είναι ότι το AI «μισεί» κάποιον. Το πρόβλημα είναι ότι μαθαίνει από ανθρώπινες αποφάσεις που ήδη κουβαλούν μεροληψίες. Γύρω από υποβοηθούμενες από την τεχνητή νοημοσύνη προσλήψεις έχει δημιουργηθεί και ένας μύθος, ιδιαίτερα στο LinkedIn: ότι αν δεν βάλεις συγκεκριμένο αριθμό από λέξεις-κλειδιά, ο αλγόριθμος θα πετάξει το βιογραφικό σου στα σκουπίδια. Η πραγματικότητα είναι λιγότερο δραματική. Τα περισσότερα συστήματα δεν κάνουν τόσο εξελιγμένη ανάλυση όσο συχνά πιστεύεται. Συνήθως εστιάζουν σε τίτλους, χρόνια εμπειρίας, συγκεκριμένες δεξιότητες, πιστοποιήσεις ή ακόμη και στο αν ο υποψήφιος έχει δικαίωμα εργασίας στη συγκεκριμένη χώρα.
Αντίθετα, πράγματα που εντυπωσιάζουν έναν άνθρωπο, όπως δημιουργική γραφή, έξυπνες διατυπώσεις ή περίτεχνος σχεδιασμός, δεν έχουν απαραίτητα καμία αξία για μια μηχανή αξιολόγησης. Γι’ αυτό και τα εντυπωσιακά πρότυπα βιογραφικών, με γραφικά, πολλές φορές λειτουργούν εις βάρος του υποψηφίου. Η ειρωνεία της εποχής είναι σχεδόν προφανής: ένα όμορφο βιογραφικό στα μάτια ενός ανθρώπου μπορεί να είναι ένα κακό βιογραφικό για έναν αλγόριθμο.
Παράλληλα, έχει αναπτυχθεί μια ολόκληρη μικροβιομηχανία γύρω από τα λεγόμενα «βιογραφικά βελτιστοποιημένα για την τεχνητή νοημοσύνη». Ειδικοί υπόσχονται βελτιστοποίηση, τεχνικές για καλύτερη απόδοση στα συστήματα ATS και σχεδιασμός προτροπών, για βιογραφικά που υποτίθεται πως ξεγελούν τα συστήματα. Χρειάζεται, όμως, ψυχραιμία. Ναι, είναι χρήσιμο να χρησιμοποιεί κανείς λέξεις-κλειδιά από την περιγραφή θέσης εργασίας, να αναφέρει μετρήσιμα επιτεύγματα και να περιγράφει καθαρά προηγούμενους ρόλους. Όχι όμως, δεν βοηθά να γεμίσει το βιογραφικό με ατελείωτες λίστες όρων όπως «Ηγεσία», «συνέργεια», «στρατηγική» και «τεχνητή νοημοσύνη». Οι υπεύθυνοι προσλήψεων το αναγνωρίζουν σχεδόν αμέσως.
Το μεγαλύτερο πρόβλημα ίσως δεν είναι η τεχνολογία αλλά η κλίμακα
Εδώ βρίσκεται ίσως η ουσία. Μια αγγελία εργασίας σήμερα μπορεί εύκολα να συγκεντρώσει 500, 5.000 ή ακόμη και 20.000 αιτήσεις. Ειδικά μετά την έκρηξη των μοντέλων γενετικής τεχνητής νοημοσύνης, έγινε εξαιρετικά εύκολο να κάνει κανείς μαζικές αιτήσεις με ελάχιστο κόπο. Από τη σκοπιά των εταιρειών, το ερώτημα είναι σχεδόν πρακτικό: χωρίς αυτοματοποίηση, πώς διαχειρίζεσαι τέτοιο όγκο; Το AI δεν μπήκε στις προσλήψεις μόνο για λόγους αποδοτικότητας ή μόδας. Μπήκε επειδή οι άνθρωποι αδυνατούν να διαβάσουν τόσο μεγάλο αριθμό αιτήσεων. Και εδώ εμφανίζεται το παράδοξο: το AI βοηθά στη διαχείριση της κλίμακας, ενώ η ίδια η κλίμακα κάνει το AI όλο και πιο αναγκαίο. Ένας φαύλος κύκλος.
Το αφήγημα ότι «το AI θάβει τα βιογραφικά» είναι ελκυστικό, αλλά υπερβολικά απλουστευτικό. Η αρχική αξιολόγηση με τη βοήθεια της τεχνητής νοημοσύνης πράγματι χρησιμοποιείται ευρέως, μπορεί να δημιουργήσει προκατάληψη και σε ορισμένες περιπτώσεις απορρίπτει υποψηφίους πριν υπάρξει ανθρώπινη ματιά. Από την άλλη, δεν διαθέτει κάθε εταιρεία υπερσύγχρονα εργαλεία τεχνητής νοημοσύνης για την επιλογή προσωπικού, ούτε όλα τα ATS απορρίπτουν αυτόματα υποψηφίους. Και σίγουρα δεν υπάρχει κάποιο μυστικό κόλπο που εγγυάται επιτυχία.
Το πραγματικό πρόβλημα είναι η αδιαφάνεια
Το πιο ανησυχητικό με την AI πρόσληψη δεν είναι απαραίτητα ότι οι μηχανές συμμετέχουν στη λήψη αποφάσεων. Είναι ότι συχνά αποφασίζουν αθόρυβα. Ο υποψήφιος δεν λαμβάνει καμία ενημέρωση. Δεν γνωρίζει γιατί απορρίφθηκε. Δεν ξέρει καν αν τον αξιολόγησε άνθρωπος ή μοντέλο. Και αυτή η αδιαφάνεια ίσως είναι το πραγματικό πρόβλημα. Η τεχνολογία υπόσχεται μια πιο αποδοτική αγορά εργασίας. Το ερώτημα είναι αν μπορεί να την κάνει και πιο δίκαιη. Μέχρι στιγμής, η απάντηση εκκρεμεί.
Εξωτερική φωτογραφία: @ Igor Omilaev / Unsplash