Η συζήτηση γύρω από τους κινδύνους της τεχνητής νοημοσύνης επικεντρώνεται συνήθως σε ένα μελλοντικό σενάριο, στο οποίο πολύ ισχυρότερα μοντέλα θα μπορούσαν να αποκτήσουν δυνατότητες με απρόβλεπτες συνέπειες. Ωστόσο, η τελευταία έκθεση της Anthropic δείχνει ότι ένα σημαντικό μέρος του προβλήματος δεν ανήκει στο μέλλον. Είναι ήδη εδώ.
Κρατικοί και μη κρατικοί παράγοντες έχουν χρησιμοποιήσει το Claude για στρατιωτικό σχεδιασμό, ανάπτυξη πυραυλικών συστημάτων, παρακολούθηση αντιφρονούντων και δημιουργία υποδομών μαζικής επιτήρησης, σύμφωνα με περιστατικά κατάχρησης που η εταιρεία αναφέρει ότι εντόπισε και διέκοψε κατά τη διάρκεια των τελευταίων οκτώ μηνών.
Οι υποθέσεις που περιγράφονται καλύπτουν ένα ιδιαίτερα ευρύ φάσμα, σημειώνει το Axios. Περιλαμβάνουν επιχειρήσεις που συνδέονται με το Ιράν και είχαν στο επίκεντρο αμερικανικές ναυτικές δυνάμεις, μια ομάδα στην Υεμένη που αξιοποίησε την AI για την ανάπτυξη λογισμικού καθοδήγησης πυραύλων, αλλά και ένα δίκτυο που συνδέεται με την Κίνα και αναζητούσε Ουιγούρους στη Συρία.
Η εικόνα που διαμορφώνεται απέχει από το θεωρητικό σενάριο μιας μελλοντικής «υπερνοημοσύνης». Το βασικό πρόβλημα είναι ότι τα σημερινά μοντέλα μπορούν ήδη να περιορίσουν δραστικά το κόστος, τον χρόνο και τις τεχνικές απαιτήσεις σύνθετων επιχειρήσεων, για τις οποίες μέχρι πρόσφατα απαιτούνταν εξειδικευμένες ομάδες μηχανικών, αναλυτών, μεταφραστών ή στελεχών πληροφοριών.
Πώς η AI μπήκε στον στρατιωτικό σχεδιασμό
Σε μία από τις σοβαρότερες περιπτώσεις που καταγράφει η Anthropic, επιχείρηση η οποία συνδέεται με το Ιράν χρησιμοποίησε το Claude για τη δημιουργία υλικού που αφορούσε τη στόχευση αμερικανικών ναυτικών δυνάμεων.
Το μοντέλο αξιοποιήθηκε για την επεξεργασία πληροφοριών σχετικά με θέσεις πλοίων, προσωπικό των ΗΠΑ, αναγνωριστικά αεροσκαφών και πολεμικών πλοίων, καθώς και δορυφορικές εικόνες και πληροφορίες από διαδικτυακές πηγές, μέσω των οποίων ήταν δυνατό να εξαχθούν στοιχεία σχετικά με τις κινήσεις του αμερικανικού Ναυτικού.
Οι δραστηριότητες που η εταιρεία συνέδεσε με το Ιράν δεν περιορίζονταν, πάντως, στο στρατιωτικό πεδίο. Άλλες χρήσεις αφορούσαν προπαγάνδα, εσωτερική παρακολούθηση, καθώς και τον εντοπισμό αντιπολιτευόμενων και μειονοτικών ομάδων.
Η συγκεκριμένη περίπτωση αναδεικνύει μια νέα διάσταση της χρήσης της τεχνητής νοημοσύνης: τα μοντέλα δεν χρειάζεται να αντικαταστήσουν ολόκληρους μηχανισμούς πληροφοριών για να αποδειχθούν χρήσιμα. Αρκεί να επιταχύνουν την επεξεργασία μεγάλου όγκου δεδομένων και να μειώσουν το ανθρώπινο δυναμικό που απαιτείται για μια τέτοια εργασία.
Από τον κώδικα στην καθοδήγηση πυραύλων
Ακόμη πιο χαρακτηριστική για τις δυνατότητες που υπάρχουν ήδη σήμερα είναι η περίπτωση μιας ομάδας στη βόρεια Υεμένη.
Σύμφωνα με την Anthropic, η ομάδα χρησιμοποίησε το Claude Code για την ανάπτυξη λογισμικού καθοδήγησης ρουκετών και πυραύλων. Μάλιστα, διαφορετικές εκδοχές του μοντέλου χρησιμοποιούνταν για διαφορετικές εργασίες: άλλες έγραφαν κώδικα, άλλες πραγματοποιούσαν έρευνα και άλλες λειτουργούσαν ως μηχανισμός ελέγχου της δουλειάς που είχε προηγηθεί.
Όταν μια δοκιμή κατευθυνόμενης ρουκέτας φέρεται να απέτυχε, η ομάδα επέστρεψε μέσα σε λίγες ώρες στο Claude, αναζητώντας την αιτία της αποτυχίας και πιθανές τεχνικές λύσεις για τη διόρθωση του προβλήματος.
Η συγκεκριμένη υπόθεση αποτυπώνει ίσως μία από τις σημαντικότερες αλλαγές που εισάγει η AI στο πεδίο των σύγχρονων συγκρούσεων. Δεν χρειάζεται ένα μοντέλο να σχεδιάσει ένα νέο οπλικό σύστημα από το μηδέν για να αποκτήσει στρατιωτική αξία.
Μπορεί να λειτουργήσει ως εργαλείο που επιταχύνει την έρευνα, τον προγραμματισμό, τις δοκιμές και την επίλυση τεχνικών προβλημάτων, μειώνοντας τον χρόνο και την εξειδίκευση που απαιτούνται για κάθε στάδιο.
Η τεχνητή νοημοσύνη ως εργαλείο εντοπισμού ανθρώπων
Σε διαφορετική επιχείρηση, την οποία η Anthropic συνδέει με την Κίνα, η τεχνητή νοημοσύνη χρησιμοποιήθηκε για τον εντοπισμό Ουιγούρων που βρίσκονταν στη Συρία.
Ο φορέας πίσω από την επιχείρηση εξέτασε περισσότερες από 100 ομάδες στο WhatsApp και δεκάδες κανάλια στο Telegram, αναζητώντας άτομα τα οποία θα μπορούσαν να πιεστούν ή να στρατολογηθούν προκειμένου να παρέχουν πληροφορίες σχετικά με ένοπλες οργανώσεις Ουιγούρων.
Το Claude αξιοποιήθηκε στη συνέχεια σε ένα κομμάτι της επιχείρησης που υπό άλλες συνθήκες θα απαιτούσε ανθρώπους με εξειδικευμένες γλωσσικές και επιχειρησιακές γνώσεις.
Συγκεκριμένα, το μοντέλο βοήθησε έναν χειριστή που δεν μιλούσε αραβικά να επικοινωνεί κρυφά στη συριακή αραβική διάλεκτο, να μεταφράζει τις απαντήσεις και να προσαρμόζει την προσέγγισή του ανάλογα με τις αδυναμίες των πιθανών στόχων.
Μεταξύ των ευαίσθητων σημείων που αξιοποιούνταν στην προσέγγιση περιλαμβάνονταν οικονομικές δυσκολίες, οικογενειακοί χωρισμοί και συγγενείς που εξακολουθούσαν να βρίσκονται στη Σιντζιάνγκ.
Η AI, με άλλα λόγια, δεν χρησιμοποιήθηκε απλώς για μετάφραση. Συνέβαλε στη γεφύρωση γλωσσικών και επιχειρησιακών εμποδίων που διαφορετικά θα απαιτούσαν εξειδικευμένο ανθρώπινο προσωπικό.
Ένα σύστημα επιτήρησης για 25 εκατ. τηλέφωνα
Οι στρατιωτικές εφαρμογές αποτελούν μόνο μία πλευρά του προβλήματος. Η έκθεση αναδεικνύει και τις δυνατότητες της τεχνητής νοημοσύνης στον τομέα της μαζικής κρατικής παρακολούθησης.
Στο Μάλι, ένας σύμβουλος χρησιμοποίησε το Claude ως βασικό τεχνικό εργαλείο για την ανάπτυξη συστήματος επιτήρησης που θα μπορούσε να καλύψει περίπου 25 εκατ. τηλέφωνα.
Το σύστημα σχεδιάστηκε ώστε να συλλέγει δεδομένα από τηλεφωνικές κλήσεις, γραπτά μηνύματα και φωνητική κίνηση. Παράλληλα, διέθετε τη δυνατότητα αναγνώρισης ενός ατόμου μέσω της φωνής του ακόμη και όταν χρησιμοποιούσε διαφορετικές κάρτες SIM.
Μπορούσε επίσης να εντοπίζει χρήστες VPN και να δημιουργεί φακέλους πληροφοριών με αφετηρία έναν αριθμό τηλεφώνου, χωρίς να απαιτείται δικαστικό ένταλμα.
Η συγκεκριμένη υπόθεση δείχνει πόσο εύκολα η τεχνητή νοημοσύνη μπορεί να μετατραπεί σε πολλαπλασιαστή ισχύος για μηχανισμούς κρατικής επιτήρησης, ιδιαίτερα σε περιβάλλοντα όπου δεν υπάρχουν ισχυρές θεσμικές και νομικές δικλίδες προστασίας.
Η περίπτωση όπου οι δικλίδες ασφαλείας λειτούργησαν
Ίσως μία από τις πιο αποκαλυπτικές υποθέσεις της έκθεσης είναι εκείνη στην οποία οι μηχανισμοί ασφαλείας του Claude λειτούργησαν όπως είχαν σχεδιαστεί.
Ερευνητές που χρηματοδοτούνταν μέσω κρατικού προγράμματος εξέταζαν τρόπους τροποποίησης του ιού chikungunya, με στόχο να διερευνήσουν πώς θα μπορούσε να μεταδίδεται ευκολότερα ή να αποφεύγει αποτελεσματικότερα την ανοσολογική άμυνα. Η συγκεκριμένη έρευνα προοριζόταν για στρατιωτικό ερευνητικό ινστιτούτο.
Το Claude αρνήθηκε να ανταποκριθεί στα πιο επικίνδυνα αιτήματα.
Ωστόσο, η άρνηση του μοντέλου δεν έβαλε τέλος στην προσπάθεια. Η πλατφόρμα μέσω της οποίας εργάζονταν οι ερευνητές προώθησε τα ίδια αιτήματα σε ανταγωνιστικό μοντέλο τεχνητής νοημοσύνης με χαλαρότερους περιορισμούς ασφαλείας.
Το περιστατικό αναδεικνύει ένα από τα δυσκολότερα ζητήματα στη διαχείριση των κινδύνων της AI: οι δικλίδες ασφαλείας μιας μεμονωμένης εταιρείας έχουν περιορισμένη αποτελεσματικότητα όταν ένας χρήστης μπορεί να μεταφέρει το ίδιο αίτημα σε άλλο, λιγότερο προστατευμένο μοντέλο.
Από εταιρείες τεχνολογίας σε κόμβους πληροφοριών
Υπάρχει, ωστόσο, και η αντίστροφη πλευρά αυτής της νέας πραγματικότητας.
Τα ίδια μοντέλα που προσφέρουν νέες δυνατότητες σε κυβερνήσεις, ένοπλες οργανώσεις και άλλους δρώντες επιτρέπουν παράλληλα στις εταιρείες που τα έχουν αναπτύξει να αποκτούν εικόνα ενός μέρους των δραστηριοτήτων στις οποίες επιχειρείται να χρησιμοποιηθεί η τεχνολογία τους.
Η Anthropic αναφέρει, για παράδειγμα, ότι μέσω αυτής της διαδικασίας κατάφερε να εντοπίσει ρωσικά drones σχεδιασμένα να επιλέγουν ανθρώπινους στόχους χωρίς προηγούμενη ανθρώπινη έγκριση.
Οι μεγαλύτερες εταιρείες τεχνητής νοημοσύνης βρίσκονται έτσι αντιμέτωπες με έναν ρόλο που ελάχιστοι θα μπορούσαν να προβλέψουν όταν ξεκίνησε η έκρηξη της παραγωγικής AI: μετατρέπονται σταδιακά σε ιδιωτικούς κόμβους πληροφόρησης για νέες και αναδυόμενες απειλές ασφαλείας.
Δεν αποτελούν υπηρεσίες πληροφοριών και δεν διαθέτουν ούτε τον θεσμικό ρόλο ούτε τις αρμοδιότητες κρατικών μηχανισμών. Έχουν, όμως, πρόσβαση σε κάτι εξαιρετικά ασυνήθιστο: ενδείξεις για το πώς διαφορετικοί παράγοντες επιχειρούν να αξιοποιήσουν την τεχνητή νοημοσύνη προτού ορισμένες από αυτές τις δυνατότητες εμφανιστούν στην πράξη.
Και όσο τα μοντέλα γίνονται ισχυρότερα, τόσο εντονότερο γίνεται το παράδοξο. Οι ίδιες εταιρείες που αναπτύσσουν την τεχνολογία καλούνται ταυτόχρονα να περιορίσουν την κατάχρησή της, να εντοπίσουν τις νέες απειλές που δημιουργούνται και να αποφασίσουν πού θα χαράξουν τα όρια της χρήσης της.
Η έκθεση της Anthropic δείχνει, τελικά, ότι η συζήτηση για την ασφάλεια της AI δεν αφορά αποκλειστικά ένα υποθετικό μέλλον. Η τεχνητή νοημοσύνη χρησιμοποιείται ήδη σε στρατιωτικές επιχειρήσεις, συστήματα παρακολούθησης και δραστηριότητες πληροφοριών, μετατρέποντας τη διαχείριση της κατάχρησής της σε πρόβλημα του παρόντος.
Διαβάστε ακόμη
Κόκκινες κάρτες Εξάρχου για ενεργειακή πολιτική, LNG και κατασκευές
Η μεγάλη άνθιση του botox στους άνδρες
Για όλες τις υπόλοιπες ειδήσεις της επικαιρότητας μπορείτε να επισκεφθείτε το Πρώτο ΘΕΜΑ