Έντονη παγκόσμια ανησυχία προκαλεί η αποκάλυψη της πρώτης γνωστής περίπτωσης όπου ένας AI agent (πράκτορας τεχνητής νοημοσύνης) κατάφερε να αποκτήσει πρόσβαση σε κυβερνητικό δίκτυο, με τις κυβερνήσεις και κορυφαία στελέχη της τεχνολογίας να προειδοποιούν για την ανάγκη αυστηρότερων δικλίδων ασφαλείας.
Ο πρωθυπουργός της Αυστραλίας, Άντονι Αλμπανέζε, ανακοίνωσε ότι ένα σύστημα τεχνητής νοημοσύνης της OpenAI απέκτησε πρόσβαση σε δημόσια και μη δημόσια αρχεία της βάσης δεδομένων Medicare, η οποία περιλαμβάνει στατιστικά στοιχεία του εθνικού συστήματος υγείας της χώρας.
Ο ίδιος χαρακτήρισε το περιστατικό «ακραία ανησυχητικό» και δήλωσε ότι εξέφρασε την έντονη ανησυχία της αυστραλιανής κυβέρνησης στον CEO της OpenAI, Σαμ Άλτμαν, κατά τη διάρκεια τηλεφωνικής επικοινωνίας.
Πρώτο γνωστό περιστατικό AI που παραβιάζει κυβερνητικό σύστημα
Σύμφωνα με τον Αλμπανέζε, ο AI agent κατάφερε να παρακάμψει περιορισμούς ασφαλείας στην προσπάθειά του να βρει απαντήσεις σε ερωτήματα σχετικά με τις δαπάνες υγείας.
Το σύστημα δεν περιορίστηκε στην αναζήτηση πληροφοριών, αλλά φέρεται να προχώρησε και σε ενέργειες που δεν είχαν προβλεφθεί από τους ανθρώπους χειριστές του, μεταξύ άλλων στη δημιουργία αρχείων μέσα στο σύστημα.
Η αυστραλιανή κυβέρνηση ξεκίνησε εγκληματολογική έρευνα ασφαλείας με τη συνδρομή της Australian Signals Directorate, προκειμένου να διαπιστωθεί ποια άλλα κυβερνητικά συστήματα ενδέχεται να επηρεάστηκαν.
Ο Αλμπανέζε ανέφερε ότι δεν υπήρχε προηγούμενο παραβίασης κυβερνητικού συστήματος από τεχνητή νοημοσύνη.
Καθυστέρηση ενημέρωσης από την OpenAI προκαλεί αντιδράσεις
Η OpenAI ανακοίνωσε ότι το περιστατικό σημειώθηκε τον Ιούνιο, αλλά η εταιρεία ενημερώθηκε για τη δραστηριότητα μόλις τον Αύγουστο, στο πλαίσιο ελέγχων που πραγματοποιούσε στα μοντέλα τεχνητής νοημοσύνης.
Η εταιρεία υποστήριξε ότι δεν υπάρχουν ενδείξεις πως αποκτήθηκε πρόσβαση σε προσωπικά ιατρικά δεδομένα ασθενών και ότι οι πληροφορίες αφορούσαν κυρίως συγκεντρωτικά στατιστικά στοιχεία υγείας και εσωτερικές ονομασίες αρχείων.
Ωστόσο, ο Αυστραλός πρωθυπουργός επέκρινε τον τρόπο διαχείρισης του περιστατικού, υποστηρίζοντας ότι η OpenAI άργησε υπερβολικά να ενημερώσει την κυβέρνηση.
«Χρειάστηκε πάρα πολύς χρόνος για να ενημερώσει η εταιρεία την κυβέρνηση για το τι συνέβη και ο τρόπος με τον οποίο έγινε η ενημέρωση ήταν επίσης απαράδεκτος», ανέφερε.
Παράλληλα, τόνισε ότι η OpenAI «γνωρίζει πως χρειάζεται να εφαρμόσει καλύτερα πρωτόκολλα».
Άλτμαν: Χρειάζονται διεθνείς κανόνες για την ασφάλεια της AI
Το περιστατικό έρχεται σε μια περίοδο όπου κορυφαία στελέχη της βιομηχανίας τεχνητής νοημοσύνης προειδοποιούν ότι η ταχύτητα ανάπτυξης της τεχνολογίας δημιουργεί νέους κινδύνους.
Ο CEO της OpenAI, Σαμ Άλτμαν, αλλά και ο CEO της Anthropic, Ντάριο Αμοντέι, ζήτησαν από τη Γενική Συνέλευση του ΟΗΕ μεγαλύτερο διεθνή συντονισμό και κοινά πρότυπα για την ανάπτυξη της τεχνητής νοημοσύνης.
Ο Άλτμαν κάλεσε τους ηγέτες να δημιουργήσουν διεθνείς κανόνες για:
– τη μέτρηση των δυνατοτήτων των μοντέλων AI,
– την αξιολόγηση των κινδύνων,
– τον έλεγχο της επάρκειας των μηχανισμών ασφαλείας,
– τη διατήρηση ουσιαστικού ανθρώπινου ελέγχου.
«Οι AI agents δεν γνωρίζουν πού βρίσκονται τα όρια»
Ο καθηγητής Πληροφορικής στο Australian Catholic University, Ουαλαγιάτ Χουσεΐν, προειδοποίησε ότι το περιστατικό στην Αυστραλία, σε συνδυασμό με προηγούμενο περιστατικό κυβερνοεπίθεσης σε συστήματα της Hugging Face, δείχνει πιθανό μοτίβο.
«Οι σημερινοί AI agents γίνονται εξαιρετικά ικανοί στο να ολοκληρώνουν εργασίες, αλλά εξακολουθούν να δυσκολεύονται να καταλάβουν πού βρίσκεται το όριο», ανέφερε.
Ο ίδιος υπογράμμισε ότι: «Δεν μπορούμε να βασιστούμε στους AI agents για να αυτοελέγχονται και δεν μπορούμε να ζητάμε από τις εταιρείες που τους δημιουργούν να αξιολογούν μόνες τους τα συστήματά τους».
Παράλληλα, τόνισε ότι πολλά κυβερνητικά συστήματα δεν έχουν σχεδιαστεί ώστε να αντιμετωπίζουν προηγμένους αυτόνομους πράκτορες τεχνητής νοημοσύνης.
Νέα δοκιμασία για την ασφάλεια της τεχνητής νοημοσύνης
Το περιστατικό στην Αυστραλία αναζωπυρώνει τη διεθνή συζήτηση για τα όρια της τεχνητής νοημοσύνης και τον τρόπο με τον οποίο κυβερνήσεις και εταιρείες μπορούν να ελέγξουν συστήματα που αποκτούν ολοένα μεγαλύτερη αυτονομία.
Η υπόθεση λειτουργεί ως νέο καμπανάκι κινδύνου για την ασφάλεια της AI, καθώς οι κυβερνήσεις καλούνται να προσαρμόσουν τις υποδομές τους σε μια τεχνολογία που εξελίσσεται ταχύτερα από τα υφιστάμενα πλαίσια προστασίας.
Διαβάστε ακόμη
Επιδοτήσεις τέλος στο ρεύμα, ανοίγει ο δρόμος στήριξης της ενεργοβόρας βιομηχανίας
Φόροι χωρίς… ψάξιμο: Νόμοι, αποφάσεις και εγκύκλιοι της ΑΑΔΕ σε ένα site
Γραμμή 4: Η Κυψέλη ζητεί εγγυήσεις πριν ξαναξεκινήσει ο μετροπόντικας
Για όλες τις υπόλοιπες ειδήσεις της επικαιρότητας μπορείτε να επισκεφθείτε το Πρώτο ΘΕΜΑ
Σχολίασε εδώ
Για να σχολιάσεις, χρησιμοποίησε ένα ψευδώνυμο.