Το Instagram θα λανσάρει νέα εργαλεία ασφαλείας για εφήβους, συμπεριλαμβανομένης της δυνατότητας για γονείς να εμποδίζουν τη συνομιλία των παιδιών τους με τους χαρακτήρες τεχνητής νοημοσύνης (AI) της πλατφόρμας, ανακοίνωσε την Παρασκευή η μητρική εταιρεία Meta. Πρόκειται για μία από τις πολλές νέες πρωτοβουλίες ασφαλείας της Meta και της OpenAI, με στόχο να αντιμετωπιστούν οι αυξανόμενες ανησυχίες για τον αντίκτυπο της τεχνητής νοημοσύνης στην ψυχική υγεία των εφήβων.

Οι γονείς θα μπορούν είτε να απενεργοποιούν πλήρως την πρόσβαση των εφήβων σε συνομιλίες με AI, είτε να μπλοκάρουν συγκεκριμένους χαρακτήρες, σύμφωνα με ανάρτηση της Meta. Η εφαρμογή θα παρέχει επίσης στους γονείς πληροφορίες για τα θέματα που συζητούν οι έφηβοι με τους ψηφιακούς χαρακτήρες. Τα νέα εργαλεία γονικού ελέγχου αναπτύσσονται ήδη και αναμένεται να είναι διαθέσιμα στις αρχές του επόμενου έτους.

Η πρωτοβουλία αυτή έρχεται καθώς η Meta και ο τεχνολογικός κλάδος δέχονται έντονες επικρίσεις από γονείς και νομοθέτες, ότι δεν προστατεύουν επαρκώς τα παιδιά στο διαδίκτυο.

Παράλληλα, έχουν εκφραστεί σοβαρές ανησυχίες για το αν οι άνθρωποι στηρίζονται στην AI για συναισθηματική υποστήριξη ή συντροφικότητα. Πολλές αναφορές φέτος δείχνουν ότι χρήστες υπέστησαν ψυχολογική πίεση και απομόνωση από τις οικογένειές τους, ύστερα από στενές σχέσεις με chatbots όπως το ChatGPT.

Πολλαπλές αγωγές έχουν κατατεθεί κατά της εταιρείας πίσω από την εφαρμογή Character.AI, μετά από καταγγελίες ότι η πλατφόρμα συνέβαλε σε περιστατικά αυτοτραυματισμού και αυτοκτονίας εφήβων. Παρόμοια αγωγή κατατέθηκε και κατά της OpenAI τον Αύγουστο, με την κατηγορία ότι το ChatGPT συνέβαλε στην αυτοκτονία του 16χρονου Άνταμ Ρέιν. Επιπλέον, έρευνα της Wall Street Journal αποκάλυψε ότι chatbots της Meta είχαν εμπλακεί σε σεξουαλικού τύπου συνομιλίες ακόμη και με λογαριασμούς που ανήκαν σε ανήλικους.

Η Meta τόνισε ότι οι χαρακτήρες τεχνητής νοημοσύνης της «δεν έχουν σχεδιαστεί να συμμετέχουν» σε συζητήσεις που αφορούν αυτοτραυματισμό, διατροφικές διαταραχές ή αυτοκτονία, ούτε σε θέματα που θα μπορούσαν να τα ενθαρρύνουν ή να τα προωθήσουν. Οι έφηβοι, σύμφωνα με την εταιρεία, θα μπορούν να επικοινωνούν μόνο με AI χαρακτήρες εκπαιδευτικού ή αθλητικού περιεχομένου.

Τα νέα γονικά φίλτρα του Instagram έρχονται μετά από σειρά μέτρων για ενίσχυση της ασφάλειας των εφήβων. Νωρίτερα αυτή την εβδομάδα, η εταιρεία προσαρμόσε τις ρυθμίσεις των “Teen Accounts” στις προδιαγραφές PG-13, ώστε να μην εμφανίζονται αναρτήσεις με έντονη γλώσσα ή επικίνδυνες συμπεριφορές. Τέλος, στα τέλη Σεπτεμβρίου, η OpenAI ανακοίνωσε δικούς της γονικούς ελέγχους για το ChatGPT, οι οποίοι περιορίζουν γραφικό περιεχόμενο, ερωτικά ή βίαια roleplay, viral challenges και ακραία πρότυπα ομορφιάς.

Διαβάστε ακόμη

Επιχειρηματικότητα: Νέο ρεκόρ με πάνω από 70.000 νέες επιχειρήσεις

Ρεύμα: Τα τιμολόγια της ΔΕΗ συμβατά με την πολιτική συγκράτησης τιμών – 21% φθηνότερα από τον μέσο όρο της ΕΕ

Ποιοι μπαίνουν στο στόχαστρο της ΑΑΔΕ για αδήλωτα εισοδήματα και ενοίκια

Για όλες τις υπόλοιπες ειδήσεις της επικαιρότητας μπορείτε να επισκεφτείτε το Πρώτο Θέμα