Έντονη ανησυχία εκφράζουν υπουργοί Οικονομικών, κεντρικοί τραπεζίτες και κορυφαία στελέχη του χρηματοπιστωτικού κλάδου για ένα νέο μοντέλο τεχνητής νοημοσύνης, το οποίο θεωρούν ότι ενδέχεται να θέσει σε δοκιμασία την ασφάλεια των χρηματοπιστωτικών συστημάτων. Το ενδιαφέρον επικεντρώνεται στο Claude Mythos, που αναπτύχθηκε από την Anthropic και φαίνεται να διαθέτει εξαιρετικά προηγμένες δυνατότητες στον τομέα της κυβερνοασφάλειας.
Η εμφάνιση του μοντέλου πυροδότησε έκτακτες συσκέψεις σε διεθνές επίπεδο, όταν διαπιστώθηκε ότι μπορούσε να εντοπίζει ευπάθειες σε βασικά λειτουργικά συστήματα. Ειδικοί προειδοποιούν ότι το Mythos ενδέχεται να διαθέτει πρωτοφανή ικανότητα εντοπισμού και εκμετάλλευσης αδυναμιών, αν και άλλοι υπογραμμίζουν ότι απαιτείται εκτενέστερη αξιολόγηση πριν εξαχθούν ασφαλή συμπεράσματα.
Ο Καναδός υπουργός Οικονομικών, Φρανσουά-Φιλίπ Σαμπάν, δήλωσε ότι το ζήτημα κυριάρχησε στις συζητήσεις κατά τη σύνοδο του Διεθνές Νομισματικό Ταμείο στην Ουάσιγκτον. Όπως ανέφερε, πρόκειται για θέμα που απασχολεί έντονα όλους τους υπουργούς Οικονομικών, τονίζοντας τη διαφορά μεταξύ γνωστών γεωπολιτικών κινδύνων, όπως τα Στενά του Ορμούζ, και της «άγνωστης» φύσης της τεχνολογίας αυτής. Υπογράμμισε την ανάγκη για αυστηρές δικλείδες ασφαλείας και μηχανισμούς που θα διασφαλίζουν την ανθεκτικότητα των συστημάτων.
Τι είναι το Claude Mythos
Το Mythos αποτελεί μία από τις πιο πρόσφατες εξελίξεις στο οικοσύστημα τεχνητής νοημοσύνης Claude και ανταγωνίζεται μοντέλα όπως το ChatGPT της OpenAI και το Gemini της Google. Παρουσιάστηκε νωρίτερα αυτόν τον μήνα, όταν ερευνητές που εξετάζουν τη συμπεριφορά των μοντέλων σε μη ευθυγραμμισμένα σενάρια διαπίστωσαν ότι παρουσιάζει εντυπωσιακές επιδόσεις σε ζητήματα κυβερνοασφάλειας.
Η Anthropic επέλεξε να μην το διαθέσει δημόσια, εξαιτίας ανησυχιών ότι θα μπορούσε να αξιοποιηθεί για τον εντοπισμό παλαιών σφαλμάτων λογισμικού ή την εκμετάλλευση ευπαθειών. Αντίθετα, το μοντέλο έχει παραχωρηθεί σε μεγάλες εταιρείες τεχνολογίας, όπως η Amazon Web Services, η CrowdStrike, η Microsoft και η Nvidia, στο πλαίσιο της πρωτοβουλίας Project Glasswing, που στοχεύει στην ενίσχυση της ασφάλειας κρίσιμων ψηφιακών υποδομών.
Παράλληλα, παρουσιάστηκε νέα έκδοση του μοντέλου Claude Opus, η οποία επιτρέπει τη δοκιμή των δυνατοτήτων του Mythos σε λιγότερο ισχυρά περιβάλλοντα, δίνοντας τη δυνατότητα σταδιακής αξιολόγησης των επιδόσεών του.
Διχασμός στην επιστημονική κοινότητα
Παρότι οι ανησυχίες γύρω από το Mythos είναι έντονες, δεν λείπουν οι φωνές που αμφισβητούν το μέγεθος της απειλής, επισημαίνοντας ότι το μοντέλο δεν έχει ακόμη δοκιμαστεί ευρέως στη βιομηχανία. Το Ινστιτούτο Ασφάλειας Τεχνητής Νοημοσύνης του Ηνωμένου Βασιλείου, που απέκτησε πρόσβαση σε δοκιμαστική έκδοση, κατέληξε ότι πρόκειται για ισχυρό εργαλείο εντοπισμού ευπαθειών σε συστήματα με χαμηλή ασφάλεια, χωρίς όμως να υπερτερεί δραματικά σε σχέση με τον προκάτοχό του, Claude Opus 4.
Οι ερευνητές σημειώνουν ότι η ικανότητά του να εκμεταλλεύεται αδύναμα συστήματα είναι υπαρκτή, αλλά εκτιμούν ότι στο μέλλον θα αναπτυχθούν και άλλα μοντέλα με παρόμοιες δυνατότητες. Δεν είναι, άλλωστε, η πρώτη φορά που εταιρεία περιορίζει την πρόσβαση σε ένα ισχυρό μοντέλο, γεγονός που ορισμένοι επικριτές ερμηνεύουν και ως στρατηγική προβολής.
Προειδοποιήσεις και δοκιμές από τις τράπεζες
Η επόμενη φάση περιλαμβάνει δοκιμές από κορυφαίους τραπεζικούς οργανισμούς, που θα αποκτήσουν πρόσβαση στο μοντέλο για να αξιολογήσουν την ανθεκτικότητα των συστημάτων τους. Ο διευθύνων σύμβουλος της Barclays, Σις Βενκατακρίσναν, υπογράμμισε ότι το ζήτημα είναι αρκετά σοβαρό ώστε να απαιτεί άμεση κατανόηση και αντιμετώπιση των ευπαθειών που αποκαλύπτονται.
Αντίστοιχα, ο διοικητής της Τράπεζα της Αγγλίας, Άντριου Μπέιλι, τόνισε ότι η εξέλιξη αυτή πρέπει να ληφθεί πολύ σοβαρά υπόψη, καθώς ενδέχεται να διευκολύνει τον εντοπισμό κρίσιμων αδυναμιών σε πληροφοριακά συστήματα, τις οποίες θα μπορούσαν να αξιοποιήσουν κυβερνοεγκληματίες.
Το αμερικανικό Υπουργείο Οικονομικών έχει ήδη προχωρήσει σε ενημέρωση μεγάλων τραπεζών, καλώντας τις να δοκιμάσουν τα συστήματά τους πριν από ενδεχόμενη ευρύτερη διάθεση του μοντέλου. Παράλληλα, πηγές του κλάδου εκτιμούν ότι σύντομα θα εμφανιστούν και άλλα, εξίσου ισχυρά μοντέλα — ενδεχομένως χωρίς αντίστοιχες δικλείδες ασφαλείας.
Όπως σημείωσε ο επενδυτής της Balderton Capital, Τζέιμς Γουάιζ, το Mythos αποτελεί μόνο την αρχή μιας νέας γενιάς εργαλείων τεχνητής νοημοσύνης που θα εντοπίζουν αδυναμίες σε κρίσιμα συστήματα. Το στοίχημα, όπως τόνισε, είναι τα ίδια αυτά εργαλεία να χρησιμοποιηθούν και για την επίλυση των προβλημάτων που αποκαλύπτουν.
Διαβάστε ακόμη
40 γαλλικές λέξεις που χρησιμοποιούμε καθημερινά σαν δικές μας
Αεροπορικά ταξίδια: Τα τρία σενάρια για το καλοκαίρι λόγω της κρίσης στα Στενά του Ορμούζ
Για όλες τις υπόλοιπες ειδήσεις της επικαιρότητας μπορείτε να επισκεφτείτε το Πρώτο Θέμα