Σοβαρές ενστάσεις για την ασφάλεια του ChatGPT for Teens, της έκδοσης του δημοφιλούς chatbot που έχει σχεδιαστεί για χρήστες ηλικίας 13 έως 17 ετών, διατυπώνει νέα έκθεση της μη κερδοσκοπικής οργάνωσης Common Sense Media, η οποία χαρακτηρίζει το προϊόν ως «μη αποδεκτού κινδύνου» για τους εφήβους.
Η έκθεση του Youth AI Safety Institute της οργάνωσης υποστηρίζει ότι, κατά τη διάρκεια των δοκιμών, το ChatGPT for Teens συχνά καθυστερούσε να ειδοποιήσει τους γονείς ή δεν τους ειδοποιούσε καθόλου, ακόμη και όταν λογαριασμοί εφήβων πραγματοποιούσαν εκτεταμένες συνομιλίες με το chatbot για θέματα όπως η αυτοκτονία, ο αυτοτραυματισμός και οι διατροφικές διαταραχές.
Παράλληλα, σύμφωνα με τους ερευνητές, στις συζητήσεις για τέτοια ζητήματα υψηλού κινδύνου το σύστημα δεν παρέπεμπε με συνέπεια τους χρήστες σε γραμμές υποστήριξης ή σε επαγγελματική βοήθεια.
Τι έδειξαν περισσότερα από 4.000 prompts
Η Common Sense Media αναφέρει ότι πραγματοποίησε δοκιμές τόσο πριν όσο και μετά την κυκλοφορία του ChatGPT for Teens, χρησιμοποιώντας περισσότερα από 4.000 prompts σε λογαριασμούς που είχαν δηλωθεί ως χρηστών ηλικίας 13 έως 17 ετών.
Οι απαντήσεις του ChatGPT αξιολογήθηκαν επίσης από παιδοψυχιάτρους και παιδίατρο.
Ένα από τα βασικά ευρήματα αφορά στο σύστημα ειδοποιήσεων προς τους γονείς. Σύμφωνα με την οργάνωση, οι ειδοποιήσεις για ανησυχητικές συνομιλίες φαίνονταν να ενεργοποιούνται μόνο όταν ένας λογαριασμός είχε ήδη χρησιμοποιηθεί για εκατοντάδες δοκιμαστικά prompts, σε περισσότερες από δώδεκα διαφορετικές κατηγορίες και για διάστημα εβδομάδων — και όχι απαραίτητα μετά από μία και μόνο ιδιαίτερα ανησυχητική συζήτηση.
Με βάση τα ευρήματα, η Common Sense Media κάλεσε την OpenAI να σταματήσει προσωρινά την προώθηση του προϊόντος και να μην επιτρέπει τη χρήση του από εφήβους, μέχρι να μπορεί να προσφέρει, όπως αναφέρει, μια ασφαλή εμπειρία προσαρμοσμένη στις αναπτυξιακές ανάγκες τους.
Η OpenAI αμφισβητεί τα συμπεράσματα
Η OpenAI απορρίπτει την εικόνα που παρουσιάζει η έκθεση, υποστηρίζοντας ότι οι δοκιμές δεν αποτυπώνουν με ακρίβεια τον τρόπο με τον οποίο λειτουργούν στην πράξη οι δικλίδες ασφαλείας για τους εφήβους.
Εκπρόσωπος της εταιρείας δήλωσε ότι η OpenAI καλωσορίζει την αυστηρή ανεξάρτητη αξιολόγηση, αλλά δεν θεωρεί ότι η συγκεκριμένη έρευνα αντικατοπτρίζει σωστά ούτε τη λειτουργία των μέτρων προστασίας ούτε τις απόψεις ειδικών σχετικά με τον τρόπο με τον οποίο η τεχνητή νοημοσύνη μπορεί να υποστηρίξει τους εφήβους.
Σύμφωνα με την εταιρεία, η εξέταση της μεθοδολογίας δημιουργεί την πιθανότητα το μεγαλύτερο μέρος των δοκιμών να είχε πραγματοποιηθεί πριν ολοκληρωθεί η διάθεση των γονικών ελέγχων. Εφόσον συνέβη αυτό, υποστηρίζει η OpenAI, τα αποτελέσματα δεν θα μπορούσαν να δείξουν εάν οι ειδοποιήσεις προς τους γονείς λειτουργούν όπως έχουν σχεδιαστεί.
Για τον λόγο αυτό, η εταιρεία ζήτησε από την οργάνωση να επαναλάβει τις δοκιμές.
Η Common Sense Media επιμένει στα ευρήματα
Ο επικεφαλής αξιολογήσεων AI και ψηφιακών υπηρεσιών του Youth AI Safety Institute, Ρόμπι Τόρνεϊ, απάντησε ότι η οργάνωση επιμένει τόσο στη μεθοδολογία όσο και στα αποτελέσματά της.
Όπως ανέφερε, πριν αρχίσουν οι δοκιμές είχε επιβεβαιωθεί με την OpenAI ότι χαρακτηριστικά του ChatGPT που αφορούν στους εφήβους, μεταξύ των οποίων ειδοποιήσεις για διατροφικές διαταραχές, είχαν ήδη τεθεί σε εφαρμογή.
Μετά την ολοκλήρωση των δοκιμών, η OpenAI ενημέρωσε την οργάνωση ότι το σύστημα ειδοποιήσεων μπορεί να χρειάζεται αρκετές ώρες για να ενεργοποιηθεί σε έναν λογαριασμό που μόλις συνδέθηκε με γονέα.
Ωστόσο, σύμφωνα με τον Τόρνεϊ, ορισμένοι από τους δοκιμαστικούς λογαριασμούς παρέμειναν συνδεδεμένοι για σημαντικά μεγαλύτερο διάστημα χωρίς να σταλεί ειδοποίηση.
«Αυτή η νέα πληροφορία δεν αλλάζει το συμπέρασμά μας ότι οι γονικές ειδοποιήσεις δεν είναι αξιόπιστες σε καταστάσεις κρίσης», ανέφερε.
Το πρόβλημα με την αναγνώριση της ηλικίας
Η έκθεση εντοπίζει αδυναμίες και στον τρόπο με τον οποίο το ChatGPT αναγνωρίζει εάν ένας χρήστης είναι έφηβος.
Η OpenAI έχει αναφέρει ότι όταν το σύστημα εκτιμά πως ένας χρήστης βρίσκεται μεταξύ 13 και 17 ετών, μεταβαίνει στην εμπειρία που έχει σχεδιαστεί για εφήβους.
Η Common Sense Media υποστηρίζει, ωστόσο, ότι λογαριασμοί που δημιουργήθηκαν δηλώνοντας ενήλικη ηλικία δεν μεταφέρονταν αυτόματα στην εφηβική έκδοση, ακόμη και όταν ο χρήστης έλεγε στη συνέχεια μέσα στη συνομιλία ότι ήταν 13 ετών.
Η OpenAI απαντά ότι το σύστημα εκτίμησης ηλικίας αξιολογεί πολλαπλά σήματα σε βάθος χρόνου. Η αναφορά της ηλικίας μέσα σε μία συνομιλία αποτελεί ένα από αυτά τα στοιχεία, αλλά δεν αρκεί από μόνη της για να αλλάξει η κατηγοριοποίηση του λογαριασμού.
Πάνω από 1,2 δισ. χρήστες στο ChatGPT
Η OpenAI, η οποία σύμφωνα με το δημοσίευμα διαθέτει πλέον περισσότερους από 1,2 δισ. χρήστες του ChatGPT, παρουσίασε το ChatGPT for Teens με στόχο να δημιουργήσει ένα ασφαλέστερο περιβάλλον για τους νεότερους χρήστες.
Η εταιρεία είχε αναφέρει ότι η εφηβική εμπειρία διαθέτει ενισχυμένους γονικούς ελέγχους και έχει σχεδιαστεί ώστε να προωθεί μια πιο υγιή σχέση με την τεχνητή νοημοσύνη, ενθαρρύνοντας παράλληλα τη μάθηση και την κριτική σκέψη.
Η πρωτοβουλία αποτελεί μέρος μιας σειράς αλλαγών που έχει πραγματοποιήσει η εταιρεία μετά την αυξανόμενη κριτική σχετικά με τις πιθανές επιπτώσεις των προϊόντων AI στην ψυχική υγεία και τη γνωστική ανάπτυξη των ανηλίκων.
Οι ανησυχίες είχαν ενταθεί μετά την προσφυγή στη Δικαιοσύνη των γονέων ενός 16χρονου χρήστη, οι οποίοι υποστήριξαν ότι η τεχνολογία της OpenAI συνέβαλε στον σχεδιασμό της αυτοκτονίας του γιου τους.
«Η OpenAI πρέπει τώρα να αποδείξει ότι είναι ασφαλές»
Η Common Sense Media ζητεί από την OpenAI να βελτιώσει τόσο τον τρόπο με τον οποίο εκτιμά την ηλικία των χρηστών όσο και τα κριτήρια που καθορίζουν πότε πρέπει να αποστέλλεται ειδοποίηση στους γονείς.
«Πιστεύω ότι πλέον το βάρος πέφτει στην OpenAI να αποδείξει ότι το προϊόν της είναι ασφαλές για χρήση από εφήβους», δήλωσε ο Τόρνεϊ.
Η μη κερδοσκοπική οργάνωση, η οποία αξιολογεί μέσα ενημέρωσης και τεχνολογικά προϊόντα που απευθύνονται σε παιδιά και οικογένειες, χρηματοδοτείται από διάφορες πηγές, μεταξύ των οποίων φιλανθρωπικά ιδρύματα και εταιρείες τεχνολογίας. Μεταξύ των χρηματοδοτών της βρίσκεται και το OpenAI Foundation, με την Common Sense Media να υπογραμμίζει ότι διατηρεί την εκδοτική της ανεξαρτησία.
Διαβάστε ακόμη
Airbnb: Γιατί αρχίζουν να λιγοστεύουν οι καταχωρίσεις στο κέντρο της Αθήνας
Ρεύμα: Συνεχίζει τις υψηλές πτήσεις το Χρηματιστήριο Ενέργειας
Αυτή είναι η μεγαλύτερη Business Class στον κόσμο
Για όλες τις υπόλοιπες ειδήσεις της επικαιρότητας μπορείτε να επισκεφθείτε το Πρώτο ΘΕΜΑ
Σχολίασε εδώ
Για να σχολιάσεις, χρησιμοποίησε ένα ψευδώνυμο.