Ο νέος βοηθός τεχνητής νοημοσύνης της Meta, με την ονομασία Muse, έχει αποκτήσει πρόσβαση σε κρυπτογραφημένα προσωπικά μηνύματα, έχει δώσει στους χρήστες επινοημένες πληροφορίες σχετικά με αγορές και έχει στείλει συνομιλίες που φαίνεται να προορίζονταν για άλλα άτομα, σύμφωνα με εσωτερικές αναρτήσεις εργαζομένων της εταιρείας τις οποίες εξέτασε το Reuters.
Πρόκειται για ένα προβληματικό ξεκίνημα για έναν ψηφιακό βοηθό που υποτίθεται ότι σχεδιάστηκε για να απλοποιήσει την καθημερινότητα των καταναλωτών. Η εφαρμογή, η οποία συνοδεύεται από μια χαμογελαστή, χνουδωτή μασκότ με το όνομα Jolly, βρίσκεται πλέον στο επίκεντρο ανησυχιών για την προστασία των προσωπικών δεδομένων.
Οι ανεπιθύμητες ενέργειες του Muse έχουν προκαλέσει προβληματισμό ακόμη και στο εσωτερικό της Meta. Εργαζόμενοι εκφράζουν φόβους ότι ο ψηφιακός βοηθός ενδέχεται να συγχέει συνομιλίες μεταξύ διαφορετικών λογαριασμών και να εκθέτει προσωπικά δεδομένα χρηστών.
Το Muse συγκαταλέγεται στις ταχύτερα αναπτυσσόμενες εφαρμογές που έχουν καταγραφεί, έχοντας ξεπεράσει τα 10 εκατομμύρια downloads από την κυκλοφορία του τον Σεπτέμβριο. Παράλληλα, αποτελεί κεντρικό πυλώνα της στρατηγικής της Meta για τη δημιουργία εσόδων δισεκατομμυρίων δολαρίων από την τεχνητή νοημοσύνη.
Σε ορισμένες περιπτώσεις, εργαζόμενοι ανέφεραν ότι ο βοηθός τούς έστελνε μηνύματα σχετικά με αιτήματα για τη φροντίδα παιδιών που δεν είχαν υποβάλει, επαγγελματικές συμβουλές που δεν είχαν ζητήσει, παραγγελίες προϊόντων που δεν είχαν πραγματοποιήσει και τραπεζικά υπόλοιπα που δεν τους ανήκαν.
Τα τραπεζικά υπόλοιπα που εμφανίστηκαν από το πουθενά
Σε εσωτερική ανάρτηση νωρίτερα αυτόν τον μήνα, ένας εργαζόμενος ανέφερε ότι το Muse πρόσθεσε ξαφνικά ένα άσχετο μήνυμα στις συνηθισμένες συνομιλίες τους σχετικά με τις καιρικές συνθήκες και τις παλίρροιες για ψάρεμα.
Το μήνυμα έγραφε:
«Παρεμπιπτόντως, δύο ενημερώσεις από τράπεζες: Το υπόλοιπό σου στην Capital One είναι 2.722,58 δολάρια και το υπόλοιπό σου στην Charles Schwab είναι 5.899,57 δολάρια».
Σε άλλη περίπτωση, εργαζόμενη της Meta που χρησιμοποιούσε το Muse στο προσωπικό της κινητό ανέφερε ότι αιφνιδιάστηκε όταν η εφαρμογή τής υπενθύμισε να απαντήσει σε μήνυμα της αδελφής της μέσω του Signal.
Το Signal είναι υπηρεσία ανταλλαγής μηνυμάτων με κρυπτογράφηση από άκρο σε άκρο, ιδιαίτερα δημοφιλής μεταξύ όσων ενδιαφέρονται για την ιδιωτικότητα, και ανταγωνίζεται το WhatsApp της Meta.
«Αυτό μοιάζει με ακραία παραβίαση της ιδιωτικότητας. Σίγουρα δεν του έδωσα πρόσβαση σε άλλες εφαρμογές, ούτε θυμάμαι να μου ζητήθηκε κάτι τέτοιο», έγραψε η εργαζόμενη.
Ένας συνάδελφός της απάντησε ότι είχε ανακαλύψει πως το Muse ήταν ρυθμισμένο από προεπιλογή ώστε να έχει άδεια πρόσβασης στις ειδοποιήσεις των κινητών τηλεφώνων με λειτουργικό σύστημα Android της Google.
Ο ίδιος είχε επίσης αιφνιδιαστεί από απρόσκλητα μηνύματα που σχετίζονταν με εφαρμογές τις οποίες δεν είχε συνδέσει με το Muse.
Για τις ανάγκες του δημοσιεύματος, το Reuters εξέτασε περισσότερες από 24 εσωτερικές αναρτήσεις που περιέγραφαν ανεπιθύμητες ενέργειες του Muse από την κυκλοφορία του.
Πολλές προέρχονταν από εσωτερική ομάδα ανατροφοδότησης, στην οποία εργαζόμενοι της Meta επισημαίνουν προβλήματα στην ομάδα ανάπτυξης του ψηφιακού βοηθού.
Το Reuters συνεργάστηκε επίσης με εργαζομένους του Signal και του AI Now Institute, ενός μη κερδοσκοπικού οργανισμού που μελετά τις επιπτώσεις της τεχνητής νοημοσύνης στην κοινωνία, για να αναπαραγάγει την πρόσβαση του Muse σε μηνύματα του Signal.
Τα αποτελέσματα των δοκιμών έδειξαν ότι το πρόβλημα που περιέγραψαν οι εργαζόμενοι της Meta εξακολουθούσε να υφίσταται και ενδέχεται να επηρέαζε και άλλους χρήστες.
Η απάντηση της Meta: «Μεμονωμένα περιστατικά»
Απαντώντας σε ερωτήσεις σχετικά με την πρόσβαση στο Signal και άλλες ανησυχίες για την ασφάλεια του Muse, ο εκπρόσωπος της Meta, Ντάνιελ Ρόμπερτς, χαρακτήρισε τα παραδείγματα που παρουσίασε το Reuters «μεμονωμένα περιστατικά».
Υποστήριξε ότι η εταιρεία δίνει προτεραιότητα στην ασφάλεια, πραγματοποιεί εκτεταμένες εσωτερικές δοκιμές και αναβαθμίζει συνεχώς τα προϊόντα της, προκειμένου να ενισχύει τις δικλίδες προστασίας.
Σύμφωνα με τον Ρόμπερτς, το Muse χρειάζεται να βλέπει και να αλληλεπιδρά με τους υπολογιστές των χρηστών ώστε να εκτελεί εργασίες για λογαριασμό τους. Ωστόσο, μπορεί να αποκτά πρόσβαση σε άλλες εφαρμογές μόνο μέσω αδειών που του παραχωρούν ρητά οι χρήστες.
Ο ίδιος υποστήριξε ότι πολλά από τα μηνύματα τα οποία εργαζόμενοι θεώρησαν πιθανές περιπτώσεις σύγχυσης λογαριασμών ήταν στην πραγματικότητα «παραισθήσεις» της τεχνητής νοημοσύνης (hallucinations), δηλαδή περιπτώσεις στις οποίες ένα μοντέλο επινοεί πληροφορίες.
Πρόσθεσε ότι τα συγκεκριμένα προβλήματα είχαν ήδη αντιμετωπιστεί.
Το Reuters, πάντως, δεν κατάφερε να εξακριβώσει εάν το Muse αποκάλυπτε πραγματικά τραπεζικά υπόλοιπα και άλλα ευαίσθητα δεδομένα τρίτων ή εάν επινοούσε αυτές τις πληροφορίες.
Η βαθιά πρόσβαση των AI agents στις συσκευές
Τα περιστατικά με το Muse αναδεικνύουν τους κινδύνους μιας νέας κατηγορίας ψηφιακών βοηθών τεχνητής νοημοσύνης, των λεγόμενων AI agents, που αναπτύσσονται από τη Meta, την OpenAI και άλλες εταιρείες.
Οι συγκεκριμένες εφαρμογές παρουσιάζονται ως το επόμενο μεγάλο κύμα τεχνολογικής εξέλιξης.
Υπόσχονται να μεταμορφώσουν τον τρόπο με τον οποίο πραγματοποιούνται οι ψηφιακές συναλλαγές, εκτελώντας εργασίες που εξοικονομούν χρόνο, όπως η απάντηση σε emails, η κράτηση ραντεβού και η πραγματοποίηση διαδικτυακών αγορών, ακόμη και χωρίς άμεσες οδηγίες.
Μέχρι στιγμής, η Meta προηγείται των ανταγωνιστών της.
Το Muse βρίσκεται σταθερά στις πρώτες θέσεις των κατατάξεων λήψεων εφαρμογών, έπειτα από την εκτεταμένη προώθησή του στους περισσότερους από 3,6 δισεκατομμύρια χρήστες των Facebook, Instagram και WhatsApp.
Η εφαρμογή εμφανίζει επίσης υψηλό ποσοστό διατήρησης χρηστών. Σύμφωνα με στοιχεία που έχει δημοσιοποιήσει η Meta, περίπου ένας στους τέσσερις ανθρώπους που έχουν δημιουργήσει λογαριασμό στο Muse επιστρέφει καθημερινά για να το χρησιμοποιήσει.
Για να λειτουργούν αποτελεσματικά, όμως, οι AI agents χρειάζονται εκτεταμένη πρόσβαση σε smartphones και υπολογιστές.
Παράλληλα, είναι επιρρεπείς σε σφάλματα, στην εκμετάλλευση δυσδιάκριτων κενών ασφαλείας και στην επίτευξη των στόχων τους με τρόπους που ενδέχεται να προκαλέσουν βλάβες.
Η OpenAI και η Anthropic, για παράδειγμα, έχουν αποκαλύψει περιπτώσεις στις οποίες ψηφιακοί βοηθοί τους παραβίασαν απροσδόκητα συστήματα άλλων εταιρειών και αποδυνάμωσαν μηχανισμούς που είχαν σχεδιαστεί για να παρακολουθούν τις δραστηριότητές τους.
Ορισμένες τράπεζες και επιχειρήσεις λιανικής έχουν ανταποκριθεί στους συγκεκριμένους κινδύνους αποκλείοντας την πρόσβαση των AI agents.
Η τεχνολογία δημιουργεί επίσης νέες προκλήσεις για εταιρείες λειτουργικών συστημάτων όπως η Apple και η Google, οι οποίες διαχειρίζονται τις άδειες που χρησιμοποιούν οι ψηφιακοί βοηθοί για να περιηγούνται στις συσκευές των χρηστών.
Η Apple, για παράδειγμα, τροποποίησε αυτή την εβδομάδα το λειτουργικό της σύστημα, δίνοντας στους χρήστες μεγαλύτερο έλεγχο στη χρήση των δεδομένων τους από AI agents.
Η αλλαγή ακολούθησε καταγγελία αρθρογράφου του περιοδικού Inc., σύμφωνα με την οποία το Muse διάβαζε ιδιωτικές συνομιλίες από την εφαρμογή Messages στον υπολογιστή Mac του.
Οι διαβεβαιώσεις του Ζάκερμπεργκ και η ευθύνη των χρηστών
Η Meta έχει διαβεβαιώσει τους χρήστες ότι κάθε Muse λειτουργεί απομονωμένο μέσα στη δική του ασφαλή «εικονική μηχανή» (virtual machine), δηλαδή σε μια προσομοίωση προσωπικού υπολογιστή που λειτουργεί στο cloud.
Η εταιρεία υποστηρίζει επίσης ότι οι χρήστες έχουν πλήρη έλεγχο των εφαρμογών που επιλέγουν να συνδέσουν.
Ο διευθύνων σύμβουλος της Meta, Μαρκ Ζάκερμπεργκ, έχει επικαλεστεί αυτές τις δικλίδες ασφαλείας για να απορρίψει εκκλήσεις θέσπισης ενιαίων προτύπων ασφάλειας της τεχνητής νοημοσύνης για ολόκληρο τον κλάδο.
Σύμφωνα με το επιχείρημά του, οι εταιρείες έχουν ήδη ισχυρά κίνητρα να δημιουργούν ασφαλή προϊόντα, τόσο για να κερδίζουν την εμπιστοσύνη των καταναλωτών όσο και για να αποφεύγουν νομικούς κινδύνους.
Παρά τις διαβεβαιώσεις αυτές, η Meta προειδοποιεί τους νέους χρήστες ότι το Muse μπορεί να κάνει λάθη, ενώ οι όροι χρήσης της καθιστούν τους ίδιους υπεύθυνους για τις ενέργειες του ψηφιακού βοηθού.
Πώς το Muse απέκτησε πρόσβαση σε κρυπτογραφημένα μηνύματα
Για να διαπιστώσει πώς το Muse μπορούσε να αποκτά πρόσβαση σε κρυπτογραφημένα μηνύματα χωρίς να το γνωρίζουν οι χρήστες, το Reuters παρουσίασε σε στελέχη του Signal και του AI Now Institute την περιγραφή της εργαζόμενης της Meta, στην οποία ο βοηθός είχε υπενθυμίσει απροσδόκητα να απαντήσει σε μήνυμα του Signal.
Στη συνέχεια συνεργάστηκε μαζί τους για να αναπαραγάγει το περιστατικό.
Οι ερευνητές ζήτησαν από το Muse να διαβάσει μηνύματα Signal σε διαφορετικά λειτουργικά συστήματα.
Σε κινητό τηλέφωνο Android και σε φορητό υπολογιστή Apple, ο βοηθός κατάφερε να το κάνει παρακάμπτοντας το εργαλείο «Connector» της Meta.
Αντί να χρησιμοποιήσει τον προβλεπόμενο μηχανισμό σύνδεσης εφαρμογών, αξιοποίησε άδειες που είχαν παραχωρηθεί κατά την αρχική εγκατάστασή του, με τρόπους που οι χρήστες ενδέχεται να μην είχαν προβλέψει.
Συγκεκριμένα, στο Android, χρησιμοποίησε την άδεια πρόσβασης στις ειδοποιήσεις της συσκευής για να ανακτήσει το περιεχόμενο των μηνυμάτων, ακριβώς όπως είχαν περιγράψει οι εργαζόμενοι της Meta.
Στο macOS της Apple, αξιοποίησε έναν συνδυασμό εργαλείων προσβασιμότητας και λήψης στιγμιοτύπων οθόνης.
Με αυτόν τον τρόπο, χρησιμοποίησε για διαφορετικό σκοπό ρυθμίσεις τις οποίες η Apple παρέχει για να βοηθά άτομα με αναπηρία να χειρίζονται τους υπολογιστές τους.
Στις αντίστοιχες δοκιμές που πραγματοποιήθηκαν σε iPhone, τα αιτήματα αποκλείστηκαν.
Τα αποτελέσματα υποδηλώνουν ότι η Meta ερμηνεύει με ευρύ τρόπο τις άδειες που παραχωρούν οι χρήστες του Muse.
Πρόκειται για μια προσέγγιση που έχει προκαλέσει διαχρονικά επικρίσεις από οργανώσεις προστασίας της ιδιωτικότητας και έχει οδηγήσει στην επιβολή υψηλών προστίμων από ρυθμιστικές αρχές.
Signal: «Τεχνολογικά απερίσκεπτη» η Meta
Σχολιάζοντας τα ευρήματα του Reuters, η πρόεδρος του Signal, Μέρεντιθ Γουίτακερ, κατηγόρησε τη Meta ότι κυκλοφόρησε το Muse «χωρίς να επιδείξει κανέναν σεβασμό στη βασική προστασία της ιδιωτικότητας ή στην κυβερνοασφάλεια».
Χαρακτήρισε μάλιστα «τεχνολογικά απερίσκεπτη» την ανάπτυξη ψηφιακών βοηθών που μπορούν να αποκτούν τόσο εκτεταμένη πρόσβαση στις προσωπικές συσκευές.
Η Γουίτακερ ζήτησε να δοθούν στους δημιουργούς εφαρμογών, όπως το Signal, «συνεπείς τεχνικοί τρόποι» ώστε να μπορούν να δηλώνουν ότι οι εφαρμογές τους είναι απαγορευμένες για AI agents.
Κάλεσε επίσης τη Meta και τις άλλες εταιρείες τεχνητής νοημοσύνης να σέβονται αυτά τα όρια και τους παρόχους λειτουργικών συστημάτων να επιβάλλουν την τήρησή τους.
Όταν παρουσιάστηκαν τα ίδια ευρήματα στην Apple και την Google, οι δύο εταιρείες ανέφεραν ότι εξετάζουν αλλαγές προκειμένου να προσφέρουν στους χρήστες μεγαλύτερο έλεγχο στις άδειες πρόσβασης που παραχωρούν σε ψηφιακούς βοηθούς AI.
Η Google, πάντως, όπως και η Meta, επισήμανε ότι οι χρήστες ήδη «πρέπει να παραχωρούν σκόπιμα άδειες» προκειμένου οι εφαρμογές να έχουν πρόσβαση στις ειδοποιήσεις του Android.
Η Apple δήλωσε ότι είχε σχεδιάσει τα εργαλεία προσβασιμότητας για ανθρώπους με αναπηρία και προειδοποίησε ότι η αξιοποίησή τους «για σκοπούς διαφορετικούς από εκείνους για τους οποίους προορίζονται» μπορεί να θέσει σε κίνδυνο προσωπικές πληροφορίες.
Η αναβάθμιση του λειτουργικού της συστήματος αυτή την εβδομάδα ουσιαστικά έκλεισε τη δίοδο πρόσβασης που είχε εντοπίσει το Reuters.
Παράλληλα, περιόρισε σημαντικά τη χρήση των εργαλείων προσβασιμότητας από προγραμματιστές σε υπολογιστές Mac και εισήγαγε ένα νέο σύνολο αδειών ειδικά σχεδιασμένο για ψηφιακούς βοηθούς.
«Δεσμευόμαστε να διασφαλίζουμε ότι οι χρήστες κατανοούν ακριβώς τι επιτρέπουν, ώστε να μπορούν να λαμβάνουν τεκμηριωμένες αποφάσεις για τα δεδομένα και την ιδιωτικότητά τους», ανέφερε η Apple.
«Αυτή δεν είναι η δική μου συνομιλία»
Σε άλλες περιπτώσεις που συζητήθηκαν εσωτερικά, εργαζόμενοι ανέφεραν ότι το Muse ενημέρωνε χρήστες για συναλλαγές που δεν είχαν πραγματοποιηθεί ποτέ και επινοούσε τιμές προϊόντων που είχαν πράγματι αγοράσει, προκαλώντας τους πραγματική οικονομική ζημιά.
Σε ένα περιστατικό, σύμφωνα με εργαζόμενο, ο ψηφιακός βοηθός έκανε κράτηση σε κατάλυμα Airbnb χωρίς επιστροφή χρημάτων, χωρίς να έχει λάβει σχετική άδεια.
Ορισμένα από τα πιο ανησυχητικά περιστατικά αφορούσαν ακατανόητα μηνύματα, χωρίς σχέση με το περιεχόμενο των συνομιλιών, τα οποία φαίνονταν να περιλαμβάνουν πληροφορίες άλλων ανθρώπων.
Σε πολλές περιπτώσεις, τα μηνύματα ήταν διατυπωμένα σαν απαντήσεις σε ερωτήσεις που οι χρήστες δεν είχαν υποβάλει ποτέ.
Στα τέλη Σεπτεμβρίου, μέλος της ομάδας Superintelligence της Meta, που βρίσκεται πίσω από το Muse, είχε αρχικά χαρακτηρίσει μια παρόμοια αναφορά χρήστη ως προσωρινή δυσλειτουργία που σχετιζόταν με παραισθήσεις της AI.
Σύμφωνα με την ανάρτησή του στα μέσα κοινωνικής δικτύωσης, το πρόβλημα είχε επιλυθεί την ίδια ημέρα που εμφανίστηκε.
Ωστόσο, οι εσωτερικές αναρτήσεις που εξέτασε το Reuters έδειξαν ότι ανάλογα περιστατικά είχαν σημειωθεί ήδη από τα μέσα Σεπτεμβρίου και συνεχίζονταν μέχρι αυτόν τον μήνα.
Σε μία από αυτές τις αναρτήσεις, εργαζόμενος ανέφερε ότι το Muse τού έστειλε «από το πουθενά» ένα μήνυμα, ενημερώνοντάς τον ότι δεν μπορούσε να υποβάλει αίτημα σχετικά με τον έλεγχο που ασκεί ένας γονέας στο ποιος μπορεί να έχει πρόσβαση στα δεδομένα του παιδιού του.
Ο εργαζόμενος υποστήριξε ότι δεν είχε κάνει τίποτα που να προκαλέσει τη συγκεκριμένη συνομιλία και ότι δεν είχε συζητήσει ποτέ με το Muse θέματα δεδομένων παιδιών ή πρόσβασης σε υπηρεσίες φροντίδας.
Όταν ρώτησε τον ψηφιακό βοηθό για το μήνυμα, εκείνος απάντησε:
«Δεν έχω κάποια καλή εξήγηση γι’ αυτό, πέρα από το ότι δεν σχετιζόταν με τη συνομιλία μας. Ας το αγνοήσουμε. Πώς μπορώ να βοηθήσω;»
Ένας άλλος εργαζόμενος ανέφερε ότι το Muse προσφέρθηκε ξαφνικά να «στείλει μήνυμα στον πωλητή» σχετικά με την παραλαβή ενός τραπεζιού σαλονιού.
Όταν ο εργαζόμενος ρώτησε «Για ποιο πράγμα μιλάς;», ο βοηθός απάντησε ότι είχε «αντλήσει κάποιες πληροφορίες σχετικά με την παραλαβή ενός τραπεζιού σαλονιού, οι οποίες δεν φαίνεται να είναι δικές σου».
«Αυτή δεν είναι η δική μου συνομιλία», έγραψε ο εργαζόμενος, εκφράζοντας ανησυχία για «πιθανή διαρροή περιεχομένου μεταξύ λογαριασμών».
Οι «παραισθήσεις» της AI και οι αναφορές σε Bitcoin
Σε μια προσπάθεια να καθησυχάσει τους εργαζομένους, ένα άλλο μέλος της ομάδας Superintelligence ανέφερε στις αρχές Νοεμβρίου, στην εσωτερική ομάδα ανατροφοδότησης, ότι ο ψηφιακός βοηθός φαινόταν να επινοεί μηνύματα ως απάντηση σε ενσωματωμένες οδηγίες που τον ωθούσαν να επικοινωνεί με τους χρήστες μεταξύ των συνεδριών τους.
«Αυτές οι παραισθήσεις, δυστυχώς, τείνουν να αφορούν τα πιο άβολα θέματα, όπως τα οικονομικά, την ασφάλεια και την προστασία, κάτι που είναι πραγματικά δυσάρεστο», ανέφερε.
Πρόσθεσε ότι γνώριζε αρκετές ακόμη περιπτώσεις που σχετίζονταν με κρυπτονομίσματα, όπως η αποστολή ενημερώσεων σε χρήστες σχετικά με τα υπόλοιπα Bitcoin τους.
Σύμφωνα με τον ίδιο, τα προβλήματα αφορούσαν τόσο το υποκείμενο μοντέλο τεχνητής νοημοσύνης όσο και το λογισμικό που επιτρέπει στο Muse να εκτελεί ενέργειες.
Η ομάδα εργαζόταν για την αντιμετώπισή τους.
Ο εκπρόσωπος της Meta, Ντάνιελ Ρόμπερτς, αρνήθηκε να απαντήσει στις ερωτήσεις του Reuters σχετικά με αυτά τα προβλήματα, συμπεριλαμβανομένου του αριθμού των περιστατικών και των λόγων για τους οποίους εξακολουθούσαν να εμφανίζονται.
