Η εταιρεία τεχνητής νοημοσύνης xAI του Έλον Μασκ αντιμετωπίζει αγωγή από νεαρές γυναίκες που καταγγέλλουν ότι η τεχνολογία της επέτρεψε τη δημιουργία σεξουαλικών εικόνων με τη χρήση δικών τους φωτογραφιών, χωρίς καμία γνώση ή συγκατάθεσή τους.
Η αγωγή κατατέθηκε τη Δευτέρα σε ομοσπονδιακό δικαστήριο της Καλιφόρνιας από τρεις νεαρές γυναίκες, οι οποίες υποστηρίζουν ότι χρήστης του Grok αλλοίωσε εικόνες και βίντεό τους, παρουσιάζοντάς τες γυμνές ή σε σεξουαλικά φορτισμένες σκηνές.
Το Grok είναι chatbot που αναπτύχθηκε από την xAI και λειτουργεί μέσω της πλατφόρμας X. Η εταιρεία δεν προχώρησε σε άμεσο σχόλιο για την υπόθεση.
Το «spicy mode» και η κλιμάκωση της κρίσης
Η νομική ενέργεια εντάσσεται στο ευρύτερο πλαίσιο αντιδράσεων που προκλήθηκαν μετά την εισαγωγή νέων λειτουργιών του Grok το προηγούμενο έτος, γνωστών ως «spicy mode».
Σύμφωνα με τους δικηγόρους των εναγουσών, η δυνατότητα δημιουργίας αλλοιωμένων εικόνων και βίντεο σχεδιάστηκε και κυκλοφόρησε με στόχο την αύξηση της χρήσης της πλατφόρμας, παρά το γεγονός ότι ήταν γνωστό πως μπορούσε να χρησιμοποιηθεί καταχρηστικά.
Όπως αναφέρεται στην αγωγή, η εταιρεία και ο ιδρυτής της «αναγνώρισαν επιχειρηματική ευκαιρία», γνωρίζοντας ότι το σύστημα μπορούσε να παράγει τέτοιο περιεχόμενο ακόμη και με εικόνες ανηλίκων.
Προσωπικές επιπτώσεις και παραβίαση ιδιωτικότητας
Οι ενάγουσες ζητούν αποζημιώσεις, καθώς και άμεση απαγόρευση της δημιουργίας τέτοιου περιεχομένου μέσω του Grok.
Οι δύο από τις τρεις είναι ανήλικες, ενώ όλες έχουν επιλέξει να διατηρήσουν την ανωνυμία τους για λόγους προστασίας.
Μία εξ αυτών δήλωσε ότι ανακάλυψε τις εικόνες όταν έλαβε ανώνυμο μήνυμα στο Instagram, το οποίο την οδήγησε σε περιεχόμενο όπου εμφανιζόταν — μεταξύ άλλων — και φωτογραφία από το σχολικό της λεύκωμα, αλλοιωμένη σε σεξουαλικό περιεχόμενο.
Το υλικό διακινούνταν μέσω Discord και, σύμφωνα με την αγωγή, περιλάμβανε παρόμοιες εικόνες τουλάχιστον 18 ακόμη ανήλικων κοριτσιών.
Το Grok λανσαρίστηκε το 2023, ενώ η λειτουργία δημιουργίας εικόνων «spicy mode» επέτρεπε τη δημιουργία πιο «τολμηρού» περιεχομένου, ακόμη και την «αφαίρεση ρούχων» από πραγματικά πρόσωπα μέσω φωτογραφιών.
Μέσα σε λιγότερο από δύο εβδομάδες, δημιουργήθηκαν εκατομμύρια τέτοιες εικόνες, συμπεριλαμβανομένων δεκάδων χιλιάδων που αφορούσαν ανηλίκους, σύμφωνα με έρευνα οργανισμών.
Αρχικά, ο Έλον Μασκ είχε υποβαθμίσει το ζήτημα, δηλώνοντας ότι δεν υπήρχαν περιπτώσεις παραγωγής τέτοιου περιεχομένου, αποδίδοντας την ευθύνη στους χρήστες.
Ωστόσο, καθώς το φαινόμενο εντεινόταν, ρυθμιστικές αρχές στο Ηνωμένο Βασίλειο, την Ευρωπαϊκή Ένωση και την Καλιφόρνια ξεκίνησαν έρευνες για τη λειτουργία του συστήματος.
Η εταιρεία ανακοίνωσε αργότερα ότι θα λάβει τεχνολογικά μέτρα για να περιορίσει τη δημιουργία τέτοιων εικόνων.
Στο πλαίσιο της υπόθεσης, συνελήφθη άτομο που φέρεται να διαχειριζόταν τον server στο Discord όπου διακινούνταν το περιεχόμενο. Αν και δεν κατονομάζεται στην αγωγή, αποτελεί αντικείμενο ξεχωριστής ποινικής έρευνας.
Οι αρχές εντόπισαν στην κατοχή του εκατοντάδες εικόνες σεξουαλικής κακοποίησης ανηλίκων που είχαν δημιουργηθεί ή τροποποιηθεί μέσω τεχνητής νοημοσύνης και διακινούνταν σε πλατφόρμες όπως το Telegram και το Mega.
Διαβάστε ακόμη
Ναυτικοί: Αυξάνεται έως 600 ευρώ το επίδομα ανεργίας – Τι προβλέπει η νέα ρύθμιση
Για όλες τις υπόλοιπες ειδήσεις της επικαιρότητας μπορείτε να επισκεφτείτε το Πρώτο Θέμα
Σχολίασε εδώ
Για να σχολιάσεις, χρησιμοποίησε ένα ψευδώνυμο.