Η κυβερνορυθμιστική αρχή της Κίνα έθεσε το Σάββατο σε δημόσια διαβούλευση σχέδιο κανονισμών που αυστηροποιεί την εποπτεία υπηρεσιών τεχνητής νοημοσύνης οι οποίες έχουν σχεδιαστεί να προσομοιώνουν ανθρώπινες προσωπικότητες και να αλληλεπιδρούν συναισθηματικά με τους χρήστες.

Η κίνηση αυτή υπογραμμίζει την προσπάθεια του Πεκίνου να καθοδηγήσει τη ραγδαία εξάπλωση εφαρμογών τεχνητής νοημοσύνης προς καταναλωτές, ενισχύοντας τις απαιτήσεις ασφάλειας και δεοντολογίας.

Οι προτεινόμενοι κανόνες θα αφορούν προϊόντα και υπηρεσίες AI που προσφέρονται στο ευρύ κοινό στην Κίνα και εμφανίζουν προσομοιωμένα χαρακτηριστικά ανθρώπινης προσωπικότητας, μοτίβα σκέψης και τρόπους επικοινωνίας. Περιλαμβάνονται εφαρμογές που αλληλεπιδρούν συναισθηματικά με τους χρήστες μέσω κειμένου, εικόνων, ήχου, βίντεο ή άλλων ψηφιακών μέσων.

Προειδοποιήσεις για υπερβολική χρήση και εθισμό

Το σχέδιο κανονισμού προβλέπει ότι οι πάροχοι θα πρέπει να προειδοποιούν τους χρήστες για τους κινδύνους υπερβολικής χρήσης και να παρεμβαίνουν όταν εντοπίζονται ενδείξεις εθισμού. Παράλληλα, οι εταιρείες θα αναλαμβάνουν πλήρη ευθύνη για την ασφάλεια των υπηρεσιών τους σε όλο τον κύκλο ζωής του προϊόντος.

Μεταξύ άλλων, θα απαιτείται η δημιουργία συστημάτων ελέγχου αλγορίθμων, ασφάλειας δεδομένων και προστασίας προσωπικών πληροφοριών.

Αντιμετώπιση ψυχολογικών κινδύνων

Ιδιαίτερη έμφαση δίνεται και στους πιθανούς ψυχολογικούς κινδύνους. Οι πάροχοι θα πρέπει να εντοπίζουν την ψυχολογική κατάσταση των χρηστών, να αξιολογούν τα συναισθήματά τους και τον βαθμό εξάρτησης από την υπηρεσία. Σε περιπτώσεις ακραίων συναισθημάτων ή εθιστικής συμπεριφοράς, θα είναι υποχρεωμένοι να λαμβάνουν τα αναγκαία μέτρα παρέμβασης.

Τα μέτρα θέτουν σαφείς «κόκκινες γραμμές» τόσο στο περιεχόμενο όσο και στη συμπεριφορά των υπηρεσιών AI. Απαγορεύεται η παραγωγή περιεχομένου που απειλεί την εθνική ασφάλεια, διαδίδει φήμες ή προωθεί τη βία και την πορνογραφία.

Διαβάστε ακόμη

Το σκληρό πόκερ των ελληνικών τερματικών LNG

Job hopping: Από «κόκκινη σημαία» σε στρατηγική ζωής για τους νέους εργαζόμενους

Διεθνές «σαφάρι» της ΑΑΔΕ με AI και ανταλλαγή πληροφοριών με το εξωτερικό

Για όλες τις υπόλοιπες ειδήσεις της επικαιρότητας μπορείτε να επισκεφτείτε το Πρώτο Θέμα