Τι συμβαίνει με τα προσωπικά μας δεδομένα όταν μια εταιρεία Τεχνητής Νοημοσύνης κατεβάζει ρολά; Ποιος αποκτά πρόσβαση στις συνομιλίες που έχουμε πραγματοποιήσει με ένα chatbot και τι μπορεί να κάνει με τις πληροφορίες που του έχουμε εμπιστευθεί;
Πρόκειται για ένα ερώτημα που αποκτά ολοένα μεγαλύτερη σημασία, καθώς εκατομμύρια άνθρωποι χρησιμοποιούν εφαρμογές AI για να μοιραστούν σκέψεις, προσωπικά προβλήματα, οικογενειακές ιστορίες, ακόμη και πληροφορίες που δεν θα αποκάλυπταν εύκολα σε άλλους ανθρώπους.
Η υπόθεση της Character.ai, μιας πλατφόρμας που επιτρέπει στους χρήστες να συνομιλούν με ψηφιακούς χαρακτήρες, επαναφέρει στο προσκήνιο τους κινδύνους που δημιουργούνται όταν μια εταιρεία τεχνολογίας αντιμετωπίζει οικονομική κατάρρευση.
Σύμφωνα με δημοσίευμα του BBC, η εταιρεία κατέθεσε αίτηση πτώχευσης, ανοίγοντας τη συζήτηση για το μέλλον των δεδομένων που έχει συγκεντρώσει. Το ζήτημα δεν αφορά αποκλειστικά τους χρήστες της συγκεκριμένης υπηρεσίας. Αγγίζει ένα πολύ ευρύτερο πρόβλημα: οι πληροφορίες που αποθηκεύονται στις πλατφόρμες Τεχνητής Νοημοσύνης μπορούν να μετατραπούν σε πολύτιμο περιουσιακό στοιχείο, ακόμη και όταν η επιχείρηση που τις συνέλεξε παύει να λειτουργεί.
Όταν οι συνομιλίες με την AI αποκτούν εμπορική αξία
Τα δεδομένα των χρηστών αποτελούν εδώ και χρόνια σημαντικό οικονομικό πόρο για τις ψηφιακές επιχειρήσεις. Ωστόσο, η εξάπλωση της γενετικής Τεχνητής Νοημοσύνης έχει αλλάξει τόσο την ποσότητα όσο και το είδος των πληροφοριών που συγκεντρώνονται.
Σε αντίθεση με μια παραδοσιακή μηχανή αναζήτησης ή μια εφαρμογή ηλεκτρονικών αγορών, τα σύγχρονα chatbot μπορούν να αναπτύσσουν μακροσκελείς συνομιλίες με τους χρήστες τους.
Μέσα από αυτές τις αλληλεπιδράσεις, οι άνθρωποι ενδέχεται να αποκαλύπτουν προσωπικές ανησυχίες, ζητήματα υγείας, οικονομικές δυσκολίες, προβλήματα στις σχέσεις τους ή λεπτομέρειες της οικογενειακής τους ζωής.
Οι πληροφορίες αυτές δεν έχουν μόνο προσωπικό χαρακτήρα. Μπορούν επίσης να αποκτήσουν εμπορική αξία για εταιρείες που αναπτύσσουν μοντέλα AI, συστήματα ανάλυσης συμπεριφοράς ή εργαλεία στοχευμένης διαφήμισης.
Σε μια διαδικασία πτώχευσης, όπου εξετάζεται η αξιοποίηση ή η πώληση περιουσιακών στοιχείων για την ικανοποίηση των πιστωτών, τέτοιες βάσεις δεδομένων μπορεί να αποτελέσουν αντικείμενο συναλλαγής, στο μέτρο που το επιτρέπει το ισχύον νομικό πλαίσιο.
Ο κίνδυνος είναι ότι ένας χρήστης μπορεί να έχει εμπιστευθεί τις πιο προσωπικές του σκέψεις σε μια συγκεκριμένη πλατφόρμα, αλλά τελικά οι πληροφορίες αυτές να βρεθούν υπό τον έλεγχο μιας εντελώς διαφορετικής εταιρείας.
Γιατί η υπόθεση Character.ai προκαλεί ανησυχία
Σύμφωνα με το BBC, η Character.ai συμφώνησε, στο πλαίσιο της διαδικασίας πτώχευσης, να πουλήσει ορισμένα περιουσιακά της στοιχεία στη Disney έναντι 20 εκατ. δολαρίων.
Η συμφωνία αυτή δεν περιλαμβάνει τα δεδομένα των χρηστών. Ωστόσο, δικαστικά έγγραφα που επικαλείται το δημοσίευμα αφήνουν ανοιχτό το ενδεχόμενο οι συγκεκριμένες πληροφορίες να αποτελέσουν αντικείμενο ξεχωριστής πώλησης.
Η προοπτική αυτή προκάλεσε την παρέμβαση 40 γενικών εισαγγελέων αμερικανικών πολιτειών, οι οποίοι ζήτησαν από το δικαστήριο να επιβάλει πρόσθετες εγγυήσεις για την προστασία των προσωπικών δεδομένων και, ιδιαίτερα, της ιδιωτικότητας και της ασφάλειας των παιδιών.
Η συμμετοχή ανηλίκων στις πλατφόρμες συνομιλίας με ψηφιακούς χαρακτήρες καθιστά το ζήτημα ακόμη πιο ευαίσθητο.
Μια συνομιλία με ένα chatbot ενδέχεται να περιλαμβάνει στοιχεία για την ψυχολογική κατάσταση, τις σχέσεις ή τις προσωπικές δυσκολίες ενός εφήβου, πληροφορίες που απαιτούν ιδιαίτερη προστασία.
Παρά τη νομική παρέμβαση, παραμένει αβέβαιο πόσο αποτελεσματικά μπορούν να περιοριστούν οι σχετικοί κίνδυνοι.
Όπως επισημαίνει η Μελίσα Τζέικομπι, καθηγήτρια Νομικής στο Πανεπιστήμιο της Βόρειας Καρολίνας, χωρίς ισχυρότερες εγγυήσεις για την προστασία της ιδιωτικότητας στις Ηνωμένες Πολιτείες, οι δυνατότητες παρέμβασης των αρχών είναι περιορισμένες.
Ο κίνδυνος δεν αφορά μόνο όσους χρησιμοποιούν chatbot
Μία από τις σημαντικότερες διαστάσεις της υπόθεσης είναι ότι οι συνέπειες μιας πιθανής διαρροής ή μεταβίβασης δεδομένων μπορεί να επηρεάσουν ακόμη και ανθρώπους που δεν έχουν χρησιμοποιήσει ποτέ μια συγκεκριμένη πλατφόρμα.
Η Κάλι Σρέντερ, διευθύντρια του Προγράμματος Τεχνητής Νοημοσύνης και Ανθρωπίνων Δικαιωμάτων στο Electronic Privacy Information Center (EPIC), εξηγεί ότι οι χρήστες τείνουν να αποκαλύπτουν περισσότερα όταν συνομιλούν με ένα chatbot που εμφανίζει ανθρώπινα χαρακτηριστικά.
«Όταν οι άνθρωποι συνομιλούν με ένα chatbot που έχει ανθρώπινη προσωπικότητα, συχνά μοιράζονται πολύ περισσότερες προσωπικές και ευαίσθητες πληροφορίες», αναφέρει.
Οι συνομιλίες αυτές, όμως, δεν περιορίζονται απαραίτητα στα προσωπικά δεδομένα του ίδιου του χρήστη.
Κάποιος μπορεί να αναφερθεί στον σύντροφό του, σε έναν φίλο, στους γονείς του ή στα παιδιά του, μεταφέροντας λεπτομέρειες για ανθρώπους που δεν έχουν δώσει οι ίδιοι πληροφορίες στην εφαρμογή.
Έτσι, προσωπικά δεδομένα τρίτων μπορεί να καταλήξουν σε συστήματα AI χωρίς οι ενδιαφερόμενοι να το γνωρίζουν.
Αυτό σημαίνει ότι η προστασία της ιδιωτικότητας δεν είναι πλέον αποκλειστικά ατομική υπόθεση. Ακόμη και κάποιος που αποφεύγει τις εφαρμογές Τεχνητής Νοημοσύνης μπορεί να αναφέρεται στις συνομιλίες άλλων χρηστών.
Η «φούσκα» της Τεχνητής Νοημοσύνης και ο άγνωστος κίνδυνος
Η περίπτωση της Character.ai αποκτά ιδιαίτερη σημασία και εξαιτίας των οικονομικών πιέσεων που αντιμετωπίζει ο ευρύτερος κλάδος.
Η ανάπτυξη προηγμένων συστημάτων AI απαιτεί τεράστιες επενδύσεις σε υπολογιστική ισχύ, εξειδικευμένο προσωπικό, κέντρα δεδομένων και ενεργειακές υποδομές.
Παρά τη μεγάλη επενδυτική κινητικότητα, δεν είναι βέβαιο ότι όλες οι επιχειρήσεις θα καταφέρουν να δημιουργήσουν βιώσιμα επιχειρηματικά μοντέλα.
Ορισμένοι αναλυτές προειδοποιούν για τον κίνδυνο μιας επενδυτικής «φούσκας», η οποία θα μπορούσε να οδηγήσει σε εξαγορές, συγχωνεύσεις ή πτωχεύσεις εταιρειών που σήμερα συγκεντρώνουν τεράστιες ποσότητες πληροφοριών.
Μια τέτοια εξέλιξη θα δημιουργούσε ένα νέο πρόβλημα: τι θα συμβεί με τα δεδομένα των χρηστών όταν οι εταιρείες που τα διαχειρίζονται αλλάξουν ιδιοκτησία ή σταματήσουν να λειτουργούν;
Η αγορά προσωπικών δεδομένων στο πλαίσιο εταιρικών αναδιαρθρώσεων δεν αποτελεί καινούργιο φαινόμενο. Όμως, η AI μπορεί να αυξήσει σημαντικά την ευαισθησία των πληροφοριών που βρίσκονται υπό διαπραγμάτευση.
Τα «ψιλά γράμματα» στις πολιτικές απορρήτου
Ένα ακόμη πρόβλημα αφορά τους όρους που αποδέχονται οι χρήστες όταν εγγράφονται σε μια ψηφιακή υπηρεσία.
Οι πολιτικές απορρήτου περιγράφουν συνήθως ποια δεδομένα συλλέγει μια εταιρεία, για ποιους σκοπούς τα χρησιμοποιεί και υπό ποιες προϋποθέσεις μπορεί να τα μοιραστεί με τρίτους.
Ωστόσο, στα εκτενή αυτά κείμενα συχνά περιλαμβάνονται ειδικές προβλέψεις για περιπτώσεις συγχωνεύσεων, εξαγορών ή διαδικασιών πτώχευσης.
Όπως εξηγεί η Σρέντερ, οι χρήστες ενδέχεται να θεωρούν ότι οι πληροφορίες τους προστατεύονται από συγκεκριμένες δεσμεύσεις, χωρίς να γνωρίζουν ότι υπάρχουν εξαιρέσεις οι οποίες αποκτούν σημασία όταν μια επιχείρηση καταρρεύσει οικονομικά.
Στην Ευρωπαϊκή Ένωση, ο Γενικός Κανονισμός Προστασίας Δεδομένων (GDPR) προβλέπει αυστηρότερες υποχρεώσεις για τη διαχείριση και μεταβίβαση προσωπικών πληροφοριών.
Αυτό, ωστόσο, δεν σημαίνει ότι κάθε μεταβίβαση δεδομένων στο πλαίσιο μιας εταιρικής αναδιάρθρωσης απαγορεύεται αυτομάτως. Οποιαδήποτε επεξεργασία πρέπει να συμμορφώνεται με τις εφαρμοστέες απαιτήσεις προστασίας δεδομένων.
Το κρίσιμο ερώτημα είναι ποια δικαιώματα διατηρούν οι χρήστες και για ποιους σκοπούς μπορεί ο νέος κάτοχος να αξιοποιήσει τις πληροφορίες τους.
Από τις προσωπικές συνομιλίες στην εκπαίδευση νέων μοντέλων AI
Η πολιτική απορρήτου της Character.ai, σύμφωνα με το δημοσίευμα, προβλέπει διαφορετικές δυνατότητες αξιοποίησης των δεδομένων.
Ανάμεσά τους περιλαμβάνονται η ανάπτυξη νέων λειτουργιών, η εκπαίδευση μοντέλων Τεχνητής Νοημοσύνης, η βελτίωση αλγοριθμικών συστημάτων και η δημιουργία προφίλ για στοχευμένες διαφημίσεις.
Αυτή ακριβώς η δυνατότητα πολλαπλής αξιοποίησης των πληροφοριών προκαλεί την ανησυχία των ειδικών.
Ένα σύνολο προσωπικών συνομιλιών μπορεί να προσφέρει πολύ περισσότερα από απλές πληροφορίες επικοινωνίας ή καταναλωτικές προτιμήσεις.
Μπορεί να περιέχει δεδομένα για τη συμπεριφορά, τους φόβους, τις ανάγκες και τις ιδιαίτερα προσωπικές εμπειρίες των χρηστών.
Η εμπορική αξιοποίηση τέτοιων πληροφοριών δημιουργεί κινδύνους που υπερβαίνουν κατά πολύ την παραδοσιακή συλλογή δεδομένων από ιστοσελίδες και εφαρμογές.
Η Σρέντερ εκφράζει έντονη ανησυχία για τις συνέπειες που θα μπορούσε να έχει η χρήση τόσο ευαίσθητων δεδομένων από διαφορετικούς εταιρικούς φορείς.
Τι απαντά η Character.ai
Από την πλευρά της, η εταιρεία υποστηρίζει ότι έχει προχωρήσει σε σημαντικές πρωτοβουλίες για τη βελτίωση της ασφάλειας των υπηρεσιών της.
Εκπρόσωπός της δήλωσε ότι η Character.ai έχει διευθετήσει τις συγκεκριμένες δικαστικές υποθέσεις και δεσμεύεται να συνεργάζεται με οικογένειες, με στόχο την ανάπτυξη ασφαλέστερων προϊόντων.
«Κατά τη διάρκεια του τελευταίου έτους, η Character.ai έχει λάβει καινοτόμα και αποφασιστικά μέτρα για την ασφάλεια της Τεχνητής Νοημοσύνης και την προστασία των εφήβων», ανέφερε.
Πρόσθεσε ότι η εταιρεία σκοπεύει να συνεχίσει αυτές τις προσπάθειες και να ενθαρρύνει την υιοθέτηση αντίστοιχων προτύπων στον κλάδο.
Ωστόσο, σύμφωνα με το BBC, δεν δόθηκαν συγκεκριμένες απαντήσεις σε ερωτήματα που αφορούσαν την προστασία της ιδιωτικότητας των παιδιών.
Πώς μπορούν οι χρήστες να προστατεύσουν τα δεδομένα τους
Οι ειδικοί επισημαίνουν ότι η σημαντικότερη προληπτική κίνηση είναι ο περιορισμός των προσωπικών πληροφοριών που αποθηκεύονται στις ψηφιακές πλατφόρμες.
Στην περίπτωση της Character.ai, σύμφωνα με το δημοσίευμα, η εταιρεία δημοσίευσε οδηγίες για τη διαγραφή δεδομένων στο πλαίσιο της ανακοίνωσης για την πτώχευσή της.
Η δυνατότητα διαγραφής, ωστόσο, δεν παρέχεται με τους ίδιους όρους σε όλες τις χώρες, καθώς τα δικαιώματα των χρηστών εξαρτώνται και από την εφαρμοστέα νομοθεσία.
Ακόμη κι όταν υπάρχει σχετική επιλογή, η διαγραφή δεν σημαίνει απαραίτητα ότι εξαφανίζεται αυτομάτως κάθε αντίγραφο των πληροφοριών από όλα τα τεχνικά συστήματα.
Για τον λόγο αυτό, ιδιαίτερη σημασία έχει οι χρήστες να εξετάζουν τι αποθηκεύουν και τι μοιράζονται με τις εφαρμογές AI, ειδικά όταν πρόκειται για δεδομένα υγείας, οικονομικά στοιχεία, προσωπικές σχέσεις ή πληροφορίες τρίτων.
Η αναθεώρηση των ρυθμίσεων απορρήτου, η διαγραφή παλαιότερων συνομιλιών όπου παρέχεται αυτή η δυνατότητα και η αποφυγή κοινοποίησης περιττών ευαίσθητων πληροφοριών μπορούν να περιορίσουν την έκθεση σε κινδύνους.
Το μεγαλύτερο πρόβλημα είναι η εμπιστοσύνη
Η υπόθεση της Character.ai αναδεικνύει μια αντίφαση που ενδέχεται να εξελιχθεί σε ένα από τα σημαντικότερα ζητήματα της ψηφιακής εποχής.
Όσο περισσότερο οι εφαρμογές Τεχνητής Νοημοσύνης μοιάζουν με ανθρώπινους συνομιλητές, τόσο μεγαλύτερη εμπιστοσύνη μπορούν να καλλιεργούν στους χρήστες τους. Όμως, πίσω από αυτή την εμπειρία βρίσκονται επιχειρήσεις που υπόκεινται σε οικονομικούς κινδύνους, αλλαγές ιδιοκτησίας και εμπορικές αποφάσεις.
Οι χρήστες μπορεί να αντιμετωπίζουν το chatbot ως προσωπικό σύμβουλο ή έμπιστο συνομιλητή, αλλά οι πληροφορίες που μοιράζονται μαζί του ενδέχεται να αποτελούν μέρος ενός εταιρικού αποθέματος δεδομένων.
Εάν μια επιχείρηση σταματήσει να λειτουργεί, οι συνέπειες για την ιδιωτικότητα δεν εξαφανίζονται απαραίτητα μαζί της.
Σχολίασε εδώ
Για να σχολιάσεις, χρησιμοποίησε ένα ψευδώνυμο.