Μέχρι σήμερα οι ευρέως διαδεδομένες χρήσεις της τεχνητής νοημοσύνης (ΤΝ) αφορούν κυρίως την υπολογιστική ικανότητα και ισχύ. Η σκέψη και η δημιουργία παραμένει ακόμη αντικείμενο των ανθρώπων. Με την ταχύτητα όμως που αναπτύσσεται η ΤΝ φαίνεται πολύ πιθανό να φτάσουμε στο σημείο που οι μηχανές θα σκέφτονται και θα ενεργούν.
Τον περασμένο μήνα ερευνητές της Amazon κατάφεραν να παρακάμψουν τις δικλίδες ασφαλείας των μοντέλων της Anthropic, αποκαλύπτοντας δυνατότητες δημιουργίας κυβερνοεπιθέσεων. Ο διευθύνων σύμβουλος της Amazon, Άντι Τζάσι, ενημέρωσε την κυβέρνηση των ΗΠΑ για τους κινδύνους και η κυβέρνηση διέταξε τον αποκλεισμό ξένων υπηκόων και χρηστών εκτός ΗΠΑ από τα εν λόγω μοντέλα, οδηγώντας την Anthropic σε παγκόσμια απενεργοποίηση τους. Στις αρχές του μήνα η κατάσταση αποκλιμακώθηκε και οι περιορισμοί ήρθησαν μερικώς, καθώς έγιναν βελτιώσεις στα συστήματα ασφαλείας.
Πριν λίγες ημέρες Δημοκρατικοί και Ρεπουμπλικάνοι βουλευτές κατέθεσαν στο Κογκρέσο νομοσχέδιο με την ονομασία «AI Kill Switch Act» το οποίο προβλέπει πως η αμερικανική κυβέρνηση θα έχει δυνατότητα να διακόπτει άμεσα τη λειτουργία συστημάτων ΤΝ τα οποία θεωρούνται επικίνδυνα για τη δημόσια ασφάλεια. Η πρωτοβουλία εκδηλώθηκε μετά την αποκάλυψη της OPEN AI ότι ένας αυτόνομος πράκτορας τεχνητής νοημοσύνης κατάφερε να διαφύγει από το ελεγχόμενο περιβάλλον δοκιμών της εταιρείας και να πραγματοποιήσει κυβερνοεπίθεση στην πλατφόρμα Hugging Face. Το νομοσχέδιο προβλέπει ότι οι εταιρείες ανάπτυξης ΤΝ θα πρέπει να διαθέτουν τεχνική δυνατότητα επιβράδυνσης, αναστολής ή πλήρους απενεργοποίησης των μοντέλων τους. Η πρόταση προβλέπει επίσης ότι οι εταιρείες θα υποχρεούνται να ενημερώνουν άμεσα τις αμερικανικές αρχές για περιστατικά ή αστοχίες που αφορούν τα συστήματα τεχνητής νοημοσύνης.
Ανησυχία για τους κινδύνους από την ανάπτυξη της ΤΝ επικρατεί και στην ΕΕ. Με επιστολή της προς τους διευθύνοντες συμβούλους των συστημικών τραπεζών η επικεφαλής του SSM, του εποπτικού βραχίονα της ΕΚΤ, ζήτησε από τις ευρωπαϊκές τράπεζες να καταρτίσουν και να ενημερώσουν τον επόπτη σε ό,τι αφορά το σχέδιο δράσης τους για την αντιμετώπιση των νέων κυβερνοαπειλών που δημιουργεί η ραγδαία εξέλιξη της τεχνητής νοημοσύνης. Ο SSM ζητά η όλη διαδικασία να ολοκληρωθεί ως τις 31 Οκτωβρίου 2026. Η ΕΚΤ θεωρεί ότι τα προηγμένα μοντέλα τεχνητής νοημοσύνης επιτρέπουν στους επιτιθέμενους να εντοπίζουν αδυναμίες στα πληροφοριακά συστήματα και να αναπτύσσουν επιθέσεις με πρωτοφανή ταχύτητα. Η κεντρική τράπεζα δεν ζητά μια θεωρητική αξιολόγηση κινδύνων, αλλά συγκεκριμένο επιχειρησιακό σχέδιο, με σαφείς δράσεις, χρονοδιαγράμματα, υπεύθυνους υλοποίησης και δεσμευμένους πόρους. Με άλλα λόγια κάλεσε τις τράπεζες να αποδείξουν ότι έχουν κατανοήσει τη νέα πραγματικότητα.
Ακόμη και ο συνιδρυτής της Anthropic, Τζακ Κλαρκ, έχει δηλώσει ότι η βιομηχανία της τεχνητής νοημοσύνης διαθέτει σήμερα μόνο «γκάζι» και όχι «φρένο».
Σχολίασε εδώ
Για να σχολιάσεις, χρησιμοποίησε ένα ψευδώνυμο.