Ο διευθύνων σύμβουλος της Amazon, Άντι Τζάσι, ήταν μεταξύ των κορυφαίων στελεχών της τεχνολογίας που εξέφρασαν αυτή την εβδομάδα ανησυχίες σε υψηλόβαθμους αξιωματούχους της κυβέρνησης Τραμπ σχετικά με τους κινδύνους ασφαλείας που ενδέχεται να συνδέονται με τα πιο προηγμένα μοντέλα τεχνητής νοημοσύνης της Anthropic, σύμφωνα με πρόσωπο που γνωρίζει το θέμα.
Η εμπλοκή του Τζάσι ρίχνει φως στην εξαιρετικά ασυνήθιστη απόφαση της Anthropic να διακόψει την πρόσβαση στα νεότερα μοντέλα της σε παγκόσμιο επίπεδο, ύστερα από εντολή εθνικής ασφάλειας της κυβέρνησης του προέδρου Ντόναλντ Τραμπ.
Η νεοφυής εταιρεία τεχνητής νοημοσύνης με έδρα το Σαν Φρανσίσκο, η οποία έχει ήδη καταθέσει εμπιστευτικά αίτηση για δημόσια εγγραφή στις ΗΠΑ, είχε στο παρελθόν προειδοποιήσει για τις αυξημένες δυνατότητες κυβερνοεπιθέσεων του μοντέλου Mythos και είχε αποφύγει την ευρεία κυκλοφορία του. Ωστόσο, νωρίτερα μέσα στην εβδομάδα παρουσίασε δημόσια μια νέα έκδοση με την ονομασία Fable, η οποία, σύμφωνα με την εταιρεία, διέθετε ενσωματωμένες δικλίδες ασφαλείας για ζητήματα κυβερνοασφάλειας.
Η κυβερνητική παρέμβαση και η απόσυρση του Fable
Η δημόσια διάθεση του μοντέλου αποδείχθηκε βραχύβια. Την Παρασκευή, η Anthropic ανακοίνωσε μέσω ανάρτησης στο ιστολόγιό της ότι η αμερικανική κυβέρνηση την ενημέρωσε πως έχει εντοπιστεί τρόπος παράκαμψης των μηχανισμών προστασίας του συστήματος, μέσω τεχνικών που είναι γνωστές ως «jailbreaking».
Η εταιρεία υποστήριξε ότι η συγκεκριμένη μέθοδος αποκάλυπτε μόνο «μικρές» αδυναμίες ασφαλείας, τις οποίες μπορούν να εντοπίσουν και άλλα διαθέσιμα μοντέλα τεχνητής νοημοσύνης.
Παρά ταύτα, η κυβέρνηση Τραμπ διέταξε την Anthropic να αποκλείσει από τη χρήση των νέων μοντέλων Fable 5 και Mythos 5 όλους τους αλλοδαπούς χρήστες, ανεξάρτητα από το αν βρίσκονται εντός ή εκτός των Ηνωμένων Πολιτειών. Ως απάντηση, η εταιρεία αποφάσισε να αναστείλει πλήρως την πρόσβαση στα μοντέλα σε παγκόσμιο επίπεδο.
Η Amazon δεν επιβεβαίωσε αν συμμετείχε σε συζητήσεις με κυβερνητικούς αξιωματούχους σχετικά με τα μοντέλα της Anthropic.
Εκπρόσωπος της εταιρείας ανέφερε ότι ως ένας από τους μεγαλύτερους παρόχους υποδομών cloud, που εξυπηρετεί μεγάλο αριθμό πελατών τόσο στον ιδιωτικό όσο και στον δημόσιο τομέα, είναι συνηθισμένο οι κυβερνήσεις να ζητούν τη γνώμη της για πιθανούς κινδύνους ασφαλείας. Πρόσθεσε όμως ότι η εταιρεία δεν δημοσιοποιεί το περιεχόμενο αυτών των συζητήσεων.
Τεχνολογικό μέσο είχε μεταδώσει νωρίτερα ότι ο Τζάσι είχε εκφράσει σχετικές ανησυχίες, ενώ αμερικανός αξιωματούχος φέρεται να υποστήριξε ότι η κυβέρνηση δεν σχεδιάζει προς το παρόν να επιβάλει ανάλογους περιορισμούς σε άλλες εταιρείες τεχνητής νοημοσύνης.
Η Anthropic διευκρίνισε ότι οι περιορισμοί της κυβέρνησης έλαβαν τη μορφή μέτρου ελέγχου εξαγωγών. Το Γραφείο Βιομηχανίας και Ασφάλειας του αμερικανικού υπουργείου Εμπορίου, το οποίο επιβλέπει τα μέτρα αυτά, δεν σχολίασε την υπόθεση.
Ο Ντέιβιντ Σακς, σύμβουλος του Λευκού Οίκου, ανέφερε μέσω κοινωνικών δικτύων ότι οι αρχές επέβαλαν το μέτρο «με βαριά καρδιά», υποστηρίζοντας ότι ο διευθύνων σύμβουλος της Anthropic, Ντάριο Αμοντέι, αρνήθηκε είτε να διορθώσει τη δυνατότητα παράκαμψης είτε να αποσύρει το μοντέλο.
Σύμφωνα με τον ίδιο, η κυβέρνηση ελπίζει ότι η εταιρεία θα αντιμετωπίσει τα προβλήματα ασφαλείας, ώστε να αρθούν οι περιορισμοί και το Fable να επιστρέψει σε γενική διάθεση.
Ερωτήματα για το εύρος των περιορισμών
Η απόφαση προκάλεσε απορίες ακόμη και μεταξύ ειδικών που υποστηρίζουν τους ελέγχους εξαγωγών στα πιο προηγμένα μοντέλα τεχνητής νοημοσύνης.
Ο Τζίμι Γκούντριτς, ερευνητής του Ινστιτούτου Παγκόσμιας Σύγκρουσης και Συνεργασίας του Πανεπιστημίου της Καλιφόρνιας, χαρακτήρισε το μέτρο κακώς σχεδιασμένο, επισημαίνοντας ότι επηρεάζει όχι μόνο ανταγωνιστικές χώρες αλλά και συμμάχους των Ηνωμένων Πολιτειών.
Όπως σημείωσε, η απαγόρευση επεκτείνεται ακόμη και σε Καναδούς και Βρετανούς εργαζομένους της ίδιας της Anthropic που συμμετέχουν σε ερευνητικές και αναπτυξιακές δραστηριότητες.
Η απόφαση έρχεται σε μια περίοδο κατά την οποία προηγούμενες διαφωνίες ανάμεσα στην κυβέρνηση Τραμπ και την Anthropic έδειχναν να αποκλιμακώνονται σε ορισμένα τμήματα της αμερικανικής διοίκησης.
Διαβάστε ακόμη
Η Ελλάδα εξελίσσεται σε νέο hotspot κεφαλαίων – Οι ξένοι επενδυτές «διψούν» για ελληνικά assets
Man oir du Mée – Μέσα στο κρυφό καταφύγιο του Καρλ Λάγκερφελντ (pics)
Για όλες τις υπόλοιπες ειδήσεις της επικαιρότητας μπορείτε να επισκεφτείτε το Πρώτο Θέμα