Η τεχνητή νοημοσύνη δεν επηρεάζει πλέον μόνο τον τρόπο με τον οποίο οι επιχειρήσεις επιλέγουν υποψηφίους, αξιολογούν βιογραφικά ή οργανώνουν την εργασία τους. Μια πρωτοφανής δικαστική υπόθεση στις Ηνωμένες Πολιτείες φέρνει στο επίκεντρο το ενδεχόμενο οι αλγόριθμοι να χρησιμοποιούνται ακόμη και για τη λήψη αποφάσεων σχετικά με το ποιοι εργαζόμενοι θα χάσουν τη δουλειά τους.
Είκοσι έξι εργαζόμενοι της Meta, της μητρικής εταιρείας του Facebook και του Instagram, προσέφυγαν στη Δικαιοσύνη, υποστηρίζοντας ότι εργαλεία τεχνητής νοημοσύνης αξιοποιήθηκαν για την επιλογή των υπαλλήλων που θα απολύονταν. Σύμφωνα με τους ισχυρισμούς τους, τα συστήματα αυτά λειτουργούσαν με τρόπο που έθετε σε δυσμενέστερη θέση εργαζομένους με αναπηρία, προβλήματα υγείας ή αυξημένες οικογενειακές υποχρεώσεις.
Η υπόθεση αναδεικνύει, όμως, και μια πολύ βαθύτερη αντίφαση. Οι εργαζόμενοι καλούνται να αποδείξουν ότι αδικήθηκαν από έναν αλγόριθμο, χωρίς να γνωρίζουν με βεβαιότητα εάν αυτός χρησιμοποιήθηκε, ποια ακριβώς λειτουργία επιτέλεσε, ποια δεδομένα επεξεργάστηκε και πόσο επηρέασε την τελική απόφαση.
Όπως σημείωσε χαρακτηριστικά ο ομοσπονδιακός δικαστής Γουίλιαμ Όρικ, απορρίπτοντας την περασμένη εβδομάδα το αίτημα για προσωρινό «πάγωμα» των απολύσεων, οι ενάγοντες «δεν βρίσκονταν στις αίθουσες όπου ελήφθησαν οι αποφάσεις».
Οι καταγγελίες των εργαζομένων
Οι εργαζόμενοι υποστηρίζουν ότι, κατά τη διαδικασία επιλογής των θέσεων που θα καταργούνταν, η Meta συμβουλεύτηκε εργαλεία τεχνητής νοημοσύνης τα οποία παρακολουθούσαν την παραγωγικότητα, την καθημερινή δραστηριότητα και τη χρήση των λεγόμενων AI tokens.
Ο συγκεκριμένος δείκτης φέρεται να αποτύπωνε τον βαθμό στον οποίο κάθε εργαζόμενος χρησιμοποιούσε εφαρμογές και εργαλεία τεχνητής νοημοσύνης κατά τη διάρκεια της εργασίας του. Σύμφωνα με την αγωγή, όσοι εμφάνιζαν περιορισμένη χρήση αυτών των συστημάτων μπορούσαν να κατατάσσονται χαμηλότερα στις εσωτερικές αξιολογήσεις.
Οι ενάγοντες υποστηρίζουν ότι ένα τέτοιο μοντέλο ενδέχεται να υποβάθμιζε αυτομάτως την εικόνα εργαζομένων οι οποίοι είχαν απουσιάσει λόγω ασθένειας, αναπηρίας, ιατρικών προβλημάτων ή επειδή έπρεπε να φροντίσουν συγγενικά τους πρόσωπα. Οι εργαζόμενοι αυτοί παρουσίαζαν εκ των πραγμάτων χαμηλότερη δραστηριότητα και περιορισμένη χρήση των ψηφιακών εργαλείων της εταιρείας.
Έτσι, μια φαινομενικά ουδέτερη μέτρηση παραγωγικότητας θα μπορούσε, σύμφωνα με τους ισχυρισμούς τους, να δημιουργεί έμμεσες διακρίσεις εις βάρος συγκεκριμένων κατηγοριών προσωπικού.
Τα εσωτερικά συστήματα της Meta
Στην αγωγή γίνεται αναφορά σε σειρά εσωτερικών εργαλείων που υποστηρίζονται από τεχνητή νοημοσύνη. Μεταξύ αυτών περιλαμβάνεται το Metamate, ένας ψηφιακός βοηθός βασισμένος σε μεγάλο γλωσσικό μοντέλο, σχεδιασμένος να απαντά σε ερωτήσεις και να διευκολύνει την εργασία των υπαλλήλων.
Οι εργαζόμενοι αναφέρονται επίσης σε ένα αποκαλούμενο «δεύτερο μυαλό», το οποίο φέρεται να είχε εκπαιδευτεί από τους ίδιους τους χρήστες και να παρακολουθούσε εσωτερικές επικοινωνίες, έγγραφα και δεδομένα που σχετίζονταν με την εργασία τους.
Παράλληλα, η αγωγή περιγράφει έναν δείκτη παραγωγικότητας που φέρεται να δημιουργούνταν από τη σάρωση πληκτρολογήσεων, περιεχομένου οθόνης, ηλεκτρονικών μηνυμάτων και ιστορικού περιήγησης. Οι πληροφορίες αυτές, σύμφωνα με τους ενάγοντες, μπορούσαν να αξιοποιηθούν για τη διαμόρφωση μιας συνολικής εικόνας σχετικά με την απόδοση κάθε εργαζομένου.
Πρόκειται, πάντως, για ισχυρισμούς που διατυπώνονται από την πλευρά των εργαζομένων και τους οποίους η Meta απορρίπτει κατηγορηματικά.
Η απάντηση της εταιρείας
Η Meta υποστηρίζει ότι όλες οι αποφάσεις που σχετίζονταν με τις σχεδόν 8.000 απολύσεις που ανακοινώθηκαν νωρίτερα μέσα στη χρονιά ελήφθησαν αποκλειστικά από ανθρώπους.
Η εταιρεία αρνείται ότι η χρήση εργαλείων τεχνητής νοημοσύνης αποτέλεσε κριτήριο για την επιλογή όσων απολύθηκαν, αλλά και ότι επηρέασε τις αξιολογήσεις της απόδοσης των εργαζομένων.
Ο δικαστής έκρινε ότι, στο παρόν στάδιο της διαδικασίας, ήταν υποχρεωμένος να αποδεχθεί τη θέση της εταιρείας, καθώς οι ενάγοντες δεν προσκόμισαν επαρκή αποδεικτικά στοιχεία που να την ανατρέπουν.
Άφησε, ωστόσο, ανοικτό το ενδεχόμενο να επανεξετάσει τη στάση του, εφόσον οι εργαζόμενοι παρουσιάσουν αποδείξεις για το αν χρησιμοποιήθηκε τεχνητή νοημοσύνη και, κυρίως, για το αν η χρήση της ήταν καταχρηστική ή μεροληπτική.
Η επόμενη ακρόαση έχει προγραμματιστεί για τις 24 Αυγούστου. Τότε ο δικαστής Όρικ θα εξετάσει αν πρέπει να εκδώσει προσωρινή δικαστική εντολή, με την οποία οι εργαζόμενοι θα επιστρέψουν στις θέσεις τους έως ότου ολοκληρωθούν οι ατομικές διαδικασίες διαιτησίας.
Το «μαύρο κουτί» των αλγορίθμων
Η μεγαλύτερη δυσκολία για τους εργαζομένους είναι η συγκέντρωση αποδεικτικών στοιχείων. Οι εταιρείες διαθέτουν τους αλγορίθμους, τα δεδομένα εκπαίδευσης, τις εσωτερικές αξιολογήσεις, τις αναφορές παραγωγικότητας και τα πρακτικά των συσκέψεων όπου ελήφθησαν οι αποφάσεις.
Οι εργαζόμενοι, αντίθετα, βλέπουν συνήθως μόνο το τελικό αποτέλεσμα: την απόρριψη μιας αίτησης, μια χαμηλή βαθμολογία, τον αποκλεισμό από μια προαγωγή ή την απόλυση.
Οι δικηγόροι των εναγόντων παραδέχθηκαν ότι σχεδόν όλες οι κρίσιμες πληροφορίες βρίσκονται στα χέρια της Meta. Για τον λόγο αυτό απηύθυναν δημόσια έκκληση σε νυν και πρώην εργαζομένους της εταιρείας, οι οποίοι γνωρίζουν πώς χρησιμοποιήθηκε η τεχνητή νοημοσύνη κατά τη διαδικασία των περικοπών, να επικοινωνήσουν μαζί τους.
Η συγκεκριμένη ασυμμετρία πληροφόρησης αποτελεί μία από τις βασικές αιτίες για τις οποίες το αναμενόμενο κύμα αγωγών σχετικά με διακρίσεις μέσω τεχνητής νοημοσύνης δεν έχει ακόμη φτάσει με μεγάλη ένταση στα αμερικανικά δικαστήρια.
Παρότι η χρήση αλγοριθμικών συστημάτων στους χώρους εργασίας διευρύνεται συνεχώς, οι εργαζόμενοι δυσκολεύονται να αποδείξουν τι ακριβώς συνέβη στο εσωτερικό ενός συστήματος που λειτουργεί ως «μαύρο κουτί».
Το εμπόδιο της υποχρεωτικής διαιτησίας
Υπάρχει, όμως, και ένα δεύτερο σημαντικό εμπόδιο. Οι εργαζόμενοι της Meta, όπως και μεγάλο μέρος του εργατικού δυναμικού στις Ηνωμένες Πολιτείες, έχουν υπογράψει συμφωνίες υποχρεωτικής διαιτησίας.
Αυτό σημαίνει ότι δεν μπορούν να κινηθούν συλλογικά μέσω ομαδικής αγωγής, να παρουσιάσουν την υπόθεσή τους ενώπιον ενόρκων ή να διεκδικήσουν έναν δημόσιο και υψηλό συμβιβασμό. Οι υποθέσεις τους εξετάζονται ξεχωριστά, σε ιδιωτικές διαδικασίες που συνήθως παραμένουν εμπιστευτικές.
Οι επιχειρήσεις υποστηρίζουν ότι η διαιτησία είναι ταχύτερη, απλούστερη και λιγότερο δαπανηρή από μια πολυετή δικαστική διαμάχη.
Αντίθετα, οργανώσεις υπεράσπισης των εργαζομένων θεωρούν ότι το σύστημα ευνοεί τους εργοδότες, αποθαρρύνει την υποβολή καταγγελιών και εμποδίζει τη δημοσιοποίηση στοιχείων που μπορεί να αφορούν ευρύτερες και συστηματικές πρακτικές.
Ακόμη και στην περίπτωση που ένας εργαζόμενος αποδείξει ότι ένα συγκεκριμένο σύστημα παράγει αποτελέσματα εις βάρος μιας κοινωνικής ομάδας, τα σχετικά ευρήματα μπορεί να παραμείνουν εμπιστευτικά και να μην αξιοποιηθούν από άλλους εργαζομένους με παρόμοιες καταγγελίες.
Το προηγούμενο της Workday
Μία από τις ελάχιστες ανάλογες δικαστικές υποθέσεις αφορά τη Workday, η οποία βρίσκεται αντιμέτωπη με καταγγελίες ότι το ευρέως χρησιμοποιούμενο λογισμικό διαχείρισης ανθρώπινου δυναμικού απέκλειε παράνομα υποψηφίους από θέσεις εργασίας με βάση τη φυλή, την ηλικία ή την αναπηρία τους.
Η Workday αρνείται τις κατηγορίες. Ωστόσο, στην υπόθεση αυτή δεν υφίσταται το εμπόδιο της υποχρεωτικής διαιτησίας, καθώς οι υποψήφιοι δεν εργάζονταν απευθείας για τη Workday. Διεκδικούσαν θέσεις σε εταιρείες-πελάτες της και, επομένως, δεν είχαν υπογράψει συμφωνίες διαιτησίας με την ίδια.
Αυτή η διαφορά επιτρέπει στους ενάγοντες να κινηθούν μέσω της κανονικής δικαστικής οδού και να επιδιώξουν μεγαλύτερη δημοσιότητα γύρω από τον τρόπο λειτουργίας των συγκεκριμένων αλγοριθμικών εργαλείων.
Ένα κρίσιμο τεστ για την εργατική νομοθεσία
Η δικαστική διαμάχη με τη Meta μπορεί να εξελιχθεί σε κρίσιμο τεστ για το κατά πόσο η υφιστάμενη εργατική νομοθεσία είναι σε θέση να ελέγξει τη χρήση της τεχνητής νοημοσύνης στις αποφάσεις που αφορούν την απασχόληση.
Το βασικό ερώτημα δεν είναι πλέον μόνο αν ένας αλγόριθμος μπορεί να παράγει διακρίσεις, αλλά και αν οι εργαζόμενοι έχουν πραγματική δυνατότητα να αποδείξουν ότι αυτό συνέβη.
Προς το παρόν, το πρόβλημα παραμένει εξαιρετικά απλό στη διατύπωσή του αλλά ιδιαίτερα δύσκολο στην απόδειξή του: για να αποδείξει κάποιος ότι απολύθηκε από έναν αλγόριθμο, πρέπει πρώτα να καταφέρει να αποδείξει ότι ο αλγόριθμος βρισκόταν πράγματι στο δωμάτιο όπου ελήφθη η απόφαση.
Διαβάστε ακόμη
Καταθέσεις: Πώς η πιστωτική επέκταση έφερε άλμα 8,6 δισ. ευρώ
Loro Piana: Ο οίκος μόδας που ντύνει το σπίτι με κασμίρι
Για όλες τις υπόλοιπες ειδήσεις της επικαιρότητας μπορείτε να επισκεφθείτε το Πρώτο ΘΕΜΑ
Σχολίασε εδώ
Για να σχολιάσεις, χρησιμοποίησε ένα ψευδώνυμο.