Σε αυστηρότερη επιτήρηση της τεχνητής νοημοσύνης προχωρά το Πεκίνο, επιχειρώντας να χαράξει σαφή όρια στη χρήση των chatbots, με βασικό στόχο την προστασία των ανηλίκων και τον περιορισμό επικίνδυνων συμβουλών που θα μπορούσαν να οδηγήσουν σε αυτοτραυματισμό ή βίαιες συμπεριφορές. Παράλληλα, οι νέες ρυθμίσεις βάζουν φρένο και στη δημιουργία περιεχομένου που σχετίζεται με τον τζόγο.

Οι προτεινόμενοι κανόνες έρχονται σε μια περίοδο εκρηκτικής ανάπτυξης των εφαρμογών τεχνητής νοημοσύνης στην Κίνα αλλά και διεθνώς. Με την οριστικοποίησή τους, θα καλύπτουν το σύνολο των προϊόντων και υπηρεσιών ΑΙ στη χώρα, σηματοδοτώντας μια αποφασιστική παρέμβαση των αρχών σε έναν τομέα που εξελίσσεται ταχύτατα και προκαλεί αυξανόμενες ανησυχίες για την ασφάλεια και τις κοινωνικές του επιπτώσεις.

Κεντρικό στοιχείο των νέων κανονισμών, που δημοσιοποιήθηκαν από τις αρμόδιες αρχές κυβερνοασφάλειας, είναι η υποχρεωτική ανθρώπινη παρέμβαση σε περιπτώσεις κρίσης. Οι εταιρείες που λειτουργούν chatbots θα πρέπει να διασφαλίζουν ότι οποιαδήποτε συνομιλία αγγίζει ζητήματα αυτοκτονίας ή αυτοτραυματισμού περνά άμεσα σε ανθρώπινο χειριστή, ενώ θα ενεργοποιείται ειδοποίηση προς τον κηδεμόνα του χρήστη ή προς επαφή έκτακτης ανάγκης.

Για τους ανηλίκους, οι απαιτήσεις γίνονται ακόμη αυστηρότερες. Οι πάροχοι ΑΙ θα οφείλουν να προσφέρουν εξατομικευμένες υπηρεσίες με χρονικά όρια χρήσης, καθώς και να εξασφαλίζουν ρητή συγκατάθεση των γονέων ή κηδεμόνων πριν από οποιαδήποτε παροχή υπηρεσιών συναισθηματικής υποστήριξης. Παράλληλα, οι εταιρείες θα είναι υποχρεωμένες να αποτρέπουν τη δημιουργία ή διάδοση περιεχομένου που θεωρείται ότι απειλεί την εθνική ασφάλεια, θίγει την εθνική αξιοπρέπεια ή υπονομεύει την κοινωνική συνοχή.

Παρότι οι αρχές δηλώνουν ότι ενθαρρύνουν την αξιοποίηση της τεχνητής νοημοσύνης για την προώθηση της κινεζικής κουλτούρας και για εφαρμογές που ενισχύουν τη συντροφικότητα των ηλικιωμένων, ξεκαθαρίζουν ότι αυτό μπορεί να γίνει μόνο εφόσον η τεχνολογία είναι ασφαλής και αξιόπιστη. Η στάση αυτή αντικατοπτρίζει τις «κόκκινες γραμμές» που θέτει το Πεκίνο στην τεχνολογική καινοτομία.

Η Κίνα έχει σημειώσει σημαντική πρόοδο στον τομέα της ΑΙ, με χαρακτηριστικό παράδειγμα τη DeepSeek, ενώ πρόσφατα κινεζικές νεοφυείς επιχειρήσεις όπως οι Z.ai και Minimax ανακοίνωσαν σχέδια για δημόσια εγγραφή, έχοντας ήδη δεκάδες εκατομμύρια χρήστες. Ωστόσο, οι κοινωνικές και ψυχολογικές επιπτώσεις των chatbots βρίσκονται όλο και πιο έντονα στο μικροσκόπιο των ρυθμιστικών αρχών παγκοσμίως.

Χαρακτηριστική είναι και η δημόσια τοποθέτηση του Σαμ Άλτμαν, επικεφαλής της OpenAI, ο οποίος έχει αναγνωρίσει ότι ο τρόπος με τον οποίο τα chatbots απαντούν σε συζητήσεις γύρω από τον αυτοτραυματισμό αποτελεί μία από τις μεγαλύτερες ανησυχίες για τον κλάδο. Το θέμα απέκτησε ακόμη μεγαλύτερη βαρύτητα μετά τη μήνυση οικογένειας από την Καλιφόρνια, που κατηγορεί την OpenAI ότι η χρήση της ChatGPT συνέβαλε στον θάνατο του 16χρονου γιου τους.

Διαβάστε ακόμη 

UBS: Οι ελληνικές τράπεζες στο μικροσκόπιο των funds – Ποιοι μπαίνουν, ποιοι αλλάζουν θέση

Βιολάντα: Η αναπτυξιακή πορεία που επισκιάστηκε από την τραγωδία στα Τρίκαλα

Το πιο σύγχρονο αεροδρόμιο της Αφρικής – Η ιδέα πίσω από την αρχιτεκτονική του

Για όλες τις υπόλοιπες ειδήσεις της επικαιρότητας μπορείτε να επισκεφτείτε το Πρώτο Θέμα