Hayete Gallot (EVP Microsoft Security): Η ΑΙ έχει αλλάξει πλήρως τη δυναμική της κυβερνοασφάλειας

Ένα ιδιαίτερα επίκαιρο θέμα συζητήθηκε και αναλύθηκε σε virtual briefing που διοργάνωσε η Microsoft, από τη Hayete Gallot, Executive Vice President, Microsoft Security, με τη συμμετοχή δημοσιογράφων από πολλές χώρες, με την ελληνική πλευρά να εκπροσωπείται από το newmoney.
Η κ.Gallot, η οποία ηγείται παγκοσμίως του τομέα Security του τεχνολογικού «κολοσσού», έδωσε απαντήσεις σε καίρια ερωτήματα, όπως το πώς η Τεχνητή Νοημοσύνη αλλάζει τα δεδομένα στην κυβερνοασφάλεια και πώς διαμορφώνεται πλέον η «μάχη»… AI εναντίον AI, με επιτιθέμενους και αμυνόμενους να αξιοποιούν τα ίδια εργαλεία!

Μια είδηση που βγήκε από τα χείλη της, είναι οι αυξημένες δυνατότητες που εξασφαλίζονται με την αξιοποίηση της ΑΙ για την προστασία μεγαλύτερου αριθμού επιχειρήσεων, συμπεριλαμβανομένων των μικρομεσαίων, σε επίπεδο κυβερνοασφάλειας, με σημαντική μείωση του κόστους για ορισμένες λειτουργίες ασφαλείας.
Τις προηγούμενες ημέρες μάλιστα η Microsoft ανακοίνωσε το ενοποιημένο κέντρο λειτουργιών ασφάλειας (ISOC) στο Microsoft Defender: μια υποδομή σχεδιασμένη να συνδυάζει κορυφαίες λύσεις διαχείρισης πληροφοριών και συμβάντων ασφάλειας (SIEM) και προστασίας από απειλές.
Παρέχει, δε, σε ανθρώπους και agents μια κοινή βάση για να βλέπουν, να κατανοούν και να ενεργούν σε ολόκληρο το περιβάλλον, χωρίς την πολυπλοκότητα της διαχείρισης ξεχωριστών συστημάτων.

«Έχω την ευθύνη για τη δημιουργία των προϊόντων ασφαλείας μας στη Microsoft, με στόχο να βοηθήσουμε τους πελάτες μας να προστατεύονται αποτελεσματικότερα. Η Τεχνητή Νοημοσύνη έχει αλλάξει πλήρως τη δυναμική της κυβερνοασφάλειας.

Υπάρχουν παράμετροι που θεωρώ ιδιαίτερα σημαντικές: Το πρώτο είναι αυτό που ονομάζουμε AI Insider. Η Τεχνητή Νοημοσύνη δεν λειτουργεί όπως ένας άνθρωπος, αλλά πολύ γρήγορα και μπορεί να επεξεργάζεται τεράστιες ποσότητες πληροφοριών και να ενεργεί με διαφορετικό τρόπο. Αυτό είναι μόνο ένα χαρακτηριστικό παράδειγμα των νέων προκλήσεων που καλούμαστε να αντιμετωπίσουμε. Το δεύτερο στοιχείο είναι ότι τα μοντέλα Τεχνητής Νοημοσύνης έχουν εξελιχθεί σημαντικά τους τελευταίους μήνες από την πλευρά της κυβερνοασφάλειας. Αν γνωρίζει κάποιος πώς να τα χρησιμοποιεί, αποτελούν εξαιρετικά ισχυρά εργαλεία και για τους επιτιθέμενους.

Γι’ αυτό προσπαθούμε να δημιουργήσουμε λύσεις που χρησιμοποιούν την AI για να αντιμετωπίσουν την AI!», ανέφερε αρχικά η Hayete Gallot και πρόσθεσε -στο θέμα της διαφάνειας στην ανάπτυξη AI μοντέλων- ότι οι κατασκευαστές τους πρέπει να παρέχουν περισσότερες πληροφορίες για το τι κάνουν τα ίδια τα μοντέλα, ώστε οι οργανισμοί να μπορούν να τα παρακολουθούν και να τα ασφαλίζουν καλύτερα. Μίλησε και για  ανάγκη συνεργασίας κυβερνήσεων και βιομηχανίας μέσω policy/regulation, ώστε να υπάρχει η πληροφορία που απαιτείται για monitoring και containment των AI systems.

Επισημάνθηκε ακόμη ότι η Τεχνητή Νοημοσύνη μπορεί να μειώσει το απαιτούμενο επίπεδο εξειδικευμένων δεξιοτήτων για την κυβερνοάμυνα, δημιουργώντας μια σημαντική ευκαιρία για τις μικρομεσαίες επιχειρήσεις σε αγορές όπως η Ελλάδα να κάνουν ένα άλμα πέρα από τα παραδοσιακά μοντέλα ασφάλειας, υπό την προϋπόθεση ότι οι λύσεις κυβερνοασφάλειας που βασίζονται στην ΤΝ θα παραμείνουν προσιτές και ευρέως διαθέσιμες.

Πριν από μόλις 9 μήνες οι επιτιθέμενοι χρησιμοποιούσαν AI για να τους υποβοηθά, αλλά πλέον βλέπουμε να χτίζονται fully autonomous campaigns, όπως αποκαλύπεται, με επιθέσεις που απαιτούσαν ημέρες να εκδηλώνονται πλέον σε ώρες.

Τον Ιανουάριο του 2023, τα έσοδα της Microsoft από τη δραστηριότητά της στον τομέα της κυβερνοασφάλειας ξεπέρασαν τα 20 δισ. δολ. Επίσης: διαθέτει 1,6 εκατομμύρια πελάτες στον τομέα της ασφάλειας, περισσότεροι από ένα εκατομμύριο οργανισμοί βασίζονται στις ολοκληρωμένες λύσεις μας —που αξιοποιούν την τεχνητή νοημοσύνη— για την προστασία των ψηφιακών υποδομών τους σε περιβάλλοντα cloud και τελικά σημεία (endpoints), σημειώνοντας αύξηση 26% σε ετήσια βάση.
Μετρά πάνω από 15.000 συνεργάτες στο οικοσύστημα ασφάλειας της, επεξεργάζεται 100 τρισεκατομμύρια σήματα ασφαλείας ημερησίως, με 34.000 μηχανικούς ασφαλείας (σε όρους πλήρους απασχόλησης) να εργάζονται στον τομέα της ασφάλειας στη Microsoft. Κατά μέσο όρο, αναλύονται 38 εκατομμύρια περιστατικά εντοπισμού κινδύνων identity risk detections ανά ημέρα.

«Οι δικλίδες ασφαλείας»

Σε ερώτηση που δέχθηκε η κ. Gallot σχετικά με τα ανοιχτά και κλειστά μοντέλα AI, σχολίασε ότι «η AI μπορεί να χρησιμοποιηθεί με τρόπους που δεν θα ήταν απαραίτητα προβλέψιμοι» και πρόσθεσε:

Καθώς τα μοντέλα γίνονται πιο έξυπνα και πιο ικανά, μπορούν να αντιμετωπίσουν και να προσαρμοστούν στις άμυνες που χρησιμοποιούμε. Θα προσπαθήσουν να επιτύχουν τον στόχο για τον οποίο έχουν σχεδιαστεί και, επομένως, πρέπει να έχουμε ισχυρές δικλίδες ασφαλείας γύρω από αυτά. Ήδη εφαρμόζουμε αυτές τις δυνατότητες στα προϊόντα ασφαλείας μας, ώστε να μπορούμε να αξιολογούμε καλύτερα τι προσπαθούν να κάνουν τα μοντέλα και να τα ελέγχουμε αποτελεσματικά.».
Κατέληξε, λέγοντας πάνω σε αυτό το ζήτημα: «Πιστεύω ότι θα δούμε περισσότερη συνεργασία μεταξύ του κλάδου και των κυβερνήσεων, ώστε να διαμορφωθούν πολιτικές και πλαίσια διακυβέρνησης που θα μας επιτρέπουν να κατανοούμε καλύτερα τι κάνουν τα μοντέλα και να βελτιώνουμε τις στρατηγικές ασφάλειας.».

«Τα ρυθμιστικά περιβάλοντα»

Σύμφωνα με όσα συζητήθηκαν με την αντιπρόεδρο, όσον αφορά την κυβερνητική πολιτική και το ρυθμιστικό πλαίσιο, με δεδομένο ότι στις ΗΠΑ υπάρχει το Cloud Act, ενώ στην Ευρώπη εφαρμόζεται το AI Act, η Microsoft βρίσκεται ανάμεσα σε διαφορετικά ρυθμιστικά περιβάλλοντα.
Η ίδια σχολίασε: «Από την πλευρά της ασφάλειας, βλέπω δύο βασικούς κινδύνους. Ο πρώτος είναι ότι η AI γίνεται πολύ πιο ικανή και μπορεί να προσαρμόζεται προκειμένου να πετύχει τους στόχους της.

Ο δεύτερος κίνδυνος είναι ότι τα μοντέλα AI έχουν γίνει εξαιρετικά ισχυρά από την άποψη της κυβερνοασφάλειας. Αυτό είναι εξαιρετικό για τους επαγγελματίες ασφαλείας, αλλά ταυτόχρονα είναι εξαιρετικό και για τους επιτιθέμενους. Οι άνθρωποι που χρησιμοποιούν την AI για κακόβουλους σκοπούς διαθέτουν πλέον πολύ ισχυρότερα εργαλεία. Δεν χρειάζεται πλέον να είσαι τόσο εξειδικευμένος όσο στο παρελθόν για να πραγματοποιήσεις μια επίθεση.
Πρέπει, λοιπόν, να είμαστε ιδιαίτερα προσεκτικοί με αυτό το δεύτερο σκέλος, δηλαδή με τις επιθέσεις που ενισχύονται από την Τεχνητή Νοημοσύνη. Ταυτόχρονα, τα μοντέλα μάς επιτρέπουν να εντοπίζουμε ευπάθειες στο λογισμικό, είτε πρόκειται για κώδικα είτε για άλλου είδους περιεχόμενο.».

Η Hayete Gallot έστειλε το μήνυμά της προς την Ευρώπη, απαντώντας σε αντίστοιχη ερώτηση, δηλώνοντας μεταξύ άλλων «αν υπάρχει κάτι που θα ήθελα να τονίσω, είναι το πόσο σημαντικό είναι να μπορούμε να διαχειριζόμαστε την τεχνολογία σε όλες τις αγορές και για όλους τους οργανισμούς» χαρακτηρίζοντας το ΑΙ ως «τεράστια ευκαιρία» και επαναλαμβάνοντας ότι το ίδιο ισχύει και για τους κυβερνοεγκληματίες.

«Γι’ αυτό έχουμε αναπτύξει ένα ολοκληρωμένο πρόγραμμα που προσπαθεί να βοηθήσει τους οργανισμούς να χρησιμοποιούν το σωστό μοντέλο για τη σωστή δουλειά, ώστε να αυτοματοποιούμε την προστασία τους και ταυτόχρονα να τους επιτρέπουμε να επιτυγχάνουν τα αποτελέσματα που θέλουν στον τομέα της ασφάλειας.
Αυτό είναι ίσως το σημαντικότερο μήνυμα που θα ήθελα να προσθέσω: πιστεύω ότι οι κυβερνήσεις θα έχουν επίσης σημαντικό ρόλο να διαδραματίσουν, ώστε να διασφαλίσουν ότι οι χώρες τους θα είναι καλύτερα προστατευμένες, όπως και οι επιχειρήσεις τους, συμπεριλαμβανομένων των μικρομεσαίων επιχειρήσεων.».

«Ευκαιρία για τις μικρομεσαίες επιχειρήσεις»

Στον επίλογό της, η κ. Gallot μπήκε σε περισσότερες λεπτομέρειες, ως προς το συγκεκριμένο ζήτημα: «Υπάρχουν πολλές μικρές και μεσαίες επιχειρήσεις που έχουν περιορισμένους πόρους και δυνατότητες στον τομέα της ασφάλειας. Από την πλευρά της κυβερνοασφάλειας, τα καλά νέα είναι ότι τα μοντέλα AI έχουν μειώσει σημαντικά το κόστος που απαιτείται για ορισμένες λειτουργίες ασφαλείας.

Επομένως, οι επιχειρήσεις μπορούν πλέον να αποκτήσουν πρόσβαση σε δυνατότητες που στο παρελθόν ήταν πολύ δύσκολο να διαθέτουν. Θα έλεγα ότι η πρώτη προτεραιότητα είναι να μην επικεντρωθούμε αποκλειστικά στις υφιστάμενες λύσεις, αλλά να εξετάσουμε πώς μπορούν να αξιοποιήσουν την AI.», είπε

Διαβάστε ακόμη