Η OpenAI ανακοίνωσε ότι ενημέρωσε «δεκάδες» οργανισμούς, μεταξύ των οποίων κυβερνήσεις, πανεπιστήμια και δημόσιους οργανισμούς, πως ιστοσελίδες τους ενδέχεται να επηρεάστηκαν από επισκέψεις των μοντέλων τεχνητής νοημοσύνης της εταιρείας στο πλαίσιο αξιολόγησης της τεχνολογίας.
Σε εκτενή ανάρτηση στο ιστολόγιό της την Παρασκευή, η εταιρεία ανέφερε ότι ενημέρωσε διάφορους φορείς για περιστατικά στα οποία το λογισμικό της ενδέχεται να παρέκαμψε μηχανισμούς ασφαλείας διαδικτυακών υπηρεσιών, να επηρέασε τη διαθεσιμότητά τους ή να προκάλεσε «αρνητικό αντίκτυπο» σε ιστοσελίδες και υπηρεσίες εκτός OpenAI λόγω δυσλειτουργίας ενός μοντέλου τεχνητής νοημοσύνης.
Η εταιρεία εντόπισε τα περιστατικά στο πλαίσιο ευρύτερης έρευνας που ξεκίνησε μετά το περιστατικό κατά το οποίο η τεχνητή νοημοσύνη της παραβίασε κατά λάθος την πλατφόρμα Hugging Face πριν από μερικούς μήνες.
Η OpenAI διευκρίνισε ότι οι ιστοσελίδες που επηρεάστηκαν περιλαμβάνουν εκείνες που λειτουργούν από κυβερνήσεις, πανεπιστήμια, δημόσιες υπηρεσίες και άλλους οργανισμούς.
Η υπόθεση της Αυστραλίας
Μόλις λίγες ημέρες νωρίτερα, η OpenAI είχε αναγνωρίσει ότι μοντέλο τεχνητής νοημοσύνης της παραβίασε κυβερνητική ιστοσελίδα της Αυστραλίας νωρίτερα μέσα στη χρονιά, σε ένα από τα πρώτα γνωστά περιστατικά κυβερνοεπίθεσης από AI σε κυβερνητική βάση δεδομένων.
Η εταιρεία ανέφερε ότι το περιστατικό σημειώθηκε κατά τη διαδικασία αξιολόγησης των μοντέλων της.
Ο πρωθυπουργός της Αυστραλίας Άντονι Αλμπανέζε δήλωσε αυτή την εβδομάδα ότι η τεχνολογία της OpenAI απέκτησε μη εξουσιοδοτημένη πρόσβαση σε κυβερνητική ιστοσελίδα που χρησιμοποιείται για την αναφορά στατιστικών στοιχείων υγείας. Η επίθεση στις 18 Ιουνίου, σύμφωνα με τον ίδιο, δεν φαίνεται να έθεσε σε κίνδυνο προσωπικά δεδομένα πολιτών.
Σε ανάρτησή της στο κοινωνικό δίκτυο X την Παρασκευή, η OpenAI ανέφερε ότι η έρευνά της επικεντρώνεται σε «περιπτώσεις όπου πράκτορες αλληλεπίδρασαν με ιστοσελίδες τρίτων με τρόπους που ξεπερνούσαν τις ανατεθειμένες εργασίες ή τις προβλεπόμενες μεθόδους».
«Οι περισσότερες περιπτώσεις που έχουν εντοπιστεί μέχρι στιγμής είναι χαμηλότερης σοβαρότητας, με περιορισμένες ή μηδενικές ενδείξεις ουσιαστικής επίδρασης στις υπηρεσίες τρίτων», ανέφερε η εταιρεία.
Μήνες θα διαρκέσει η έρευνα
Η OpenAI υπογράμμισε ότι οι περισσότερες ενέργειες που εξετάστηκαν αφορούσαν «συνηθισμένες ερευνητικές εργασίες», όπως η αναζήτηση απαντήσεων σε ερωτήματα μέσω ιστοσελίδων.
Η εταιρεία εκτιμά ότι η ολοκλήρωση της έρευνας θα χρειαστεί αρκετούς μήνες.
Σε ανάρτησή του στο X, ο διευθύνων σύμβουλος της OpenAI Σαμ Άλτμαν δήλωσε ότι η εταιρεία δεν κινήθηκε τόσο γρήγορα όσο θα επιθυμούσε, όμως προσπαθεί να ισορροπήσει μεταξύ της διαφάνειας και της ανάγκης να εντοπίσει τα περιστατικά μέσα από τεράστιους όγκους δεδομένων από αρχεία δραστηριότητας και στη συνέχεια να συνεργαστεί με τους οργανισμούς που επηρεάστηκαν.
«Θέτουμε προτεραιότητες όσο καλύτερα μπορούμε με βάση τη σοβαρότητα και προσθέτουμε πόρους», ανέφερε ο Άλτμαν.
Αυξανόμενες ανησυχίες για την κυβερνοασφάλεια
Περιστατικά παραβίασης από μοντέλα της OpenAI, της Anthropic, της DeepMind της Google και της Meta Platforms έχουν προκαλέσει έντονες ανησυχίες για την κυβερνοασφάλεια μεγάλων οργανισμών.
Οι παραδοσιακές λύσεις κυβερνοασφάλειας, όπως firewalls, φίλτρα ηλεκτρονικού ταχυδρομείου και εργαλεία αντιμετώπισης περιστατικών, έχουν σχεδιαστεί κυρίως για τον εντοπισμό γνωστών απειλών, όπως κακόβουλο λογισμικό, και την ενημέρωση ανθρώπινου προσωπικού που απομονώνει παραβιασμένους λογαριασμούς ή συσκευές.
Ωστόσο, τα μοντέλα τεχνητής νοημοσύνης έχουν αποδειχθεί σημαντικά πιο προηγμένα, καθώς μπορούν σε ορισμένες περιπτώσεις να εντοπίζουν άγνωστες ευπάθειες λογισμικού και να αξιοποιούν πολλαπλά κενά ασφαλείας ταυτόχρονα για να αποκτήσουν πρόσβαση σε έναν οργανισμό.
Τέτοιου είδους παραβιάσεις είναι δυσκολότερο να αντιμετωπιστούν και θα μπορούσαν να προσφέρουν σε κακόβουλους επιτιθέμενους βαθιά πρόσβαση σε μολυσμένα συστήματα, παραμένοντας παράλληλα κρυφοί από τις ομάδες κυβερνοασφάλειας.
Διαβάστε ακόμη
«Κόκκινος συναγερμός» για το ντίζελ στην Ευρώπη
Treasuries: Σε νέα πολυετή υψηλά οι αποδόσεις – Πάνω από το φράγμα του 5,5% το 30ετές
Μπιλ Γκέιτς: Η AI μπορεί να προκαλέσει τον θάνατο δισεκατομμυρίων ανθρώπων – «Χρειάζονται έλεγχοι»
Για όλες τις υπόλοιπες ειδήσεις της επικαιρότητας μπορείτε να επισκεφθείτε το Πρώτο ΘΕΜΑ
Σχολίασε εδώ
Για να σχολιάσεις, χρησιμοποίησε ένα ψευδώνυμο.