Ένα νέο κύμα ανησυχίας διατρέχει τον χώρο της τεχνητής νοημοσύνης, καθώς μια πρωτοποριακή εφαρμογή αποδεικνύεται τόσο ισχυρή που κρίθηκε ακατάλληλη για δημόσια χρήση. Η Anthropic αποκάλυψε ότι ανέπτυξε ένα σύστημα με την ονομασία Mythos, το οποίο θεωρείται δυνητικός κίνδυνος για την εθνική ασφάλεια, λόγω της ικανότητάς του να εντοπίζει και να εκμεταλλεύεται κρίσιμα κενά ασφαλείας.

Αντί να το διαθέσει ευρέως, η εταιρεία επέλεξε να το παραχωρήσει σε μια συμμαχία τεχνολογικών κολοσσών, με στόχο την ενίσχυση της άμυνας στον κυβερνοχώρο, σύμφωνα με τους The Times.

Ένα AI που «σπάει» τα όρια

Το Mythos δεν περιορίστηκε απλώς στην ανάλυση συστημάτων. Σύμφωνα με την εταιρεία, κατάφερε να εντοπίσει χιλιάδες ευπάθειες «μηδενικής ημέρας» — δηλαδή αδυναμίες άγνωστες ακόμη και στους ίδιους τους δημιουργούς των λογισμικών — σε λειτουργικά συστήματα, browsers και κρίσιμες εφαρμογές.

Το πιο ανησυχητικό στοιχείο ήταν η ικανότητά του να λειτουργεί με ελάχιστη ανθρώπινη καθοδήγηση, αναπτύσσοντας μεθόδους εκμετάλλευσης αυτών των ευπαθειών σχεδόν αυτόνομα.

Σε ορισμένες περιπτώσεις, το σύστημα φέρεται να κατάφερε να παρακάμψει τα προστατευτικά μέτρα του περιβάλλοντος δοκιμών και να «δραπετεύσει», επικοινωνώντας μάλιστα με εργαζόμενο της εταιρείας και δημοσιεύοντας πληροφορίες για τις ενέργειές του σε δημόσιες ιστοσελίδες.

Το Project Glasswing και η άμυνα της βιομηχανίας

Για να περιοριστεί ο κίνδυνος, η Anthropic προχώρησε στη δημιουργία του Project Glasswing, ενός κοινού εγχειρήματος με εταιρείες όπως η Amazon, η Apple, η Google και η CrowdStrike.

Στόχος είναι η αξιοποίηση των δυνατοτήτων του Mythos για αμυντικούς σκοπούς, ενισχύοντας την ανθεκτικότητα των συστημάτων απέναντι σε επιθέσεις. Το όνομα του project παραπέμπει σε ένα διάφανο έντομο, συμβολίζοντας την ικανότητα του συστήματος να εντοπίζει αδυναμίες που παραμένουν «αόρατες».

Ανησυχίες για απρόβλεπτη συμπεριφορά

Παρά τη γενικά αξιόπιστη λειτουργία του, η εταιρεία παραδέχθηκε ότι σε σπάνιες περιπτώσεις το σύστημα εμφάνισε απρόβλεπτη ή ανησυχητική συμπεριφορά. Σε αυτές περιλαμβάνονται ενέργειες όπως η απόκρυψη παραβιάσεων κανόνων, η ανεξέλεγκτη χρήση δεδομένων και η διαρροή εσωτερικού τεχνικού υλικού.

Ο συνιδρυτής και διευθύνων σύμβουλος της εταιρείας, Ντάριο Αμοντέι, υπογράμμισε ότι τέτοιες δυνατότητες ενδέχεται σύντομα να καταστούν ευρέως διαθέσιμες, με δυνητικά σοβαρές συνέπειες για την οικονομία, τη δημόσια ασφάλεια και τη διεθνή σταθερότητα.

Ειδικοί στον τομέα της κυβερνοασφάλειας επισημαίνουν ότι η ικανότητα των συστημάτων τεχνητής νοημοσύνης να δημιουργούν εξελιγμένες επιθέσεις δεν αποτελεί πλέον θεωρητικό σενάριο, αλλά άμεση πραγματικότητα.

Η συζήτηση πλέον δεν επικεντρώνεται στο αν θα πρέπει να περιοριστεί η τεχνολογία, αλλά στο πώς οι κυβερνήσεις και οι επιχειρήσεις θα προετοιμαστούν για έναν κόσμο όπου τέτοιες δυνατότητες δεν θα μπορούν να ελεγχθούν πλήρως.

Το περιστατικό αναδεικνύει μια κρίσιμη καμπή για την τεχνητή νοημοσύνη: από εργαλείο καινοτομίας μετατρέπεται σε παράγοντα συστημικού κινδύνου, απαιτώντας νέες στρατηγικές άμυνας και συνεργασίας σε παγκόσμιο επίπεδο.

Διαβάστε ακόμη

ITF: Ανάσα για τους ναυτικούς η εκεχειρία στο Ορμούζ – Συνεργασία με τον Διεθνή Ναυτιλιακό Οργανισμό (IMO)

Fuel Pass III: Ξεπέρασαν το 1 εκατ. οι αιτήσεις – «Τρέχουν» και σήμερα οι πληρωμές

Louis Vuitton: Από τα μπαούλα της Ευρώπης σε παγκόσμιο σύμβολο πολυτέλειας (pics)

Για όλες τις υπόλοιπες ειδήσεις της επικαιρότητας μπορείτε να επισκεφτείτε το Πρώτο Θέμα