Μπορεί μια από τις κορυφαίες εταιρείες τεχνητής νοημοσύνης να ανησυχεί τόσο για τις δυνατότητες των ίδιων των μοντέλων της, ώστε να επενδύει εκατοντάδες χιλιάδες δολάρια για να περιορίσει τους κινδύνους τους; Η απάντηση είναι «ναι».
Η Anthropic, μία από τις σημαντικότερες εταιρείες στον χώρο της AI, βρίσκεται σε διαδικασία στελέχωσης δεκάδων εξειδικευμένων θέσεων, με αποστολή να εντοπίσουν και να αποτρέψουν τρόπους με τους οποίους η τεχνητή νοημοσύνη θα μπορούσε να αξιοποιηθεί για κυβερνοεπιθέσεις, οικονομικές απάτες, κατασκευή εκρηκτικών, ανάπτυξη πυρηνικών ή βιολογικών όπλων και άλλες εξαιρετικά επικίνδυνες δραστηριότητες.
Σύμφωνα με το Axios, οι αγγελίες της εταιρείας θυμίζουν περισσότερο λίστα παγκόσμιων απειλών παρά τυπικές θέσεις εργασίας μιας τεχνολογικής επιχείρησης.
Αναζητά 32 ειδικούς για να εντοπίζουν τους κινδύνους πριν εμφανιστούν
Η Anthropic έχει ανοίξει συνολικά 32 θέσεις εργασίας με κοινό στόχο την πρόληψη της κακόβουλης αξιοποίησης της τεχνητής νοημοσύνης.
Η εταιρεία αναζητά επιστήμονες και αναλυτές με εμπειρία στα εκρηκτικά, στα χημικά και βιολογικά υλικά, στα πυρηνικά και ραδιολογικά όπλα, στην κυβερνοασφάλεια, στις οικονομικές απάτες και σε άλλους τομείς υψηλού κινδύνου.
Σε μία από τις σχετικές προκηρύξεις αναφέρεται ότι ο νέος συνεργάτης θα έχει «καθοριστικό ρόλο στην προστασία από την κατάχρηση συστημάτων τεχνητής νοημοσύνης για ραδιολογικές και πυρηνικές απειλές».
Στην πράξη, οι ειδικοί αυτοί καλούνται να λειτουργούν όπως ένας κακόβουλος χρήστης: να δοκιμάζουν τα όρια των μοντέλων, να επιχειρούν να παρακάμψουν τους μηχανισμούς ασφαλείας και να εντοπίζουν πιθανά κενά πριν αυτά αξιοποιηθούν από εγκληματίες ή άλλους επιτιθέμενους.
Αποδοχές που φτάνουν τις 300.000 δολάρια
Η εταιρεία είναι διατεθειμένη να πληρώσει ιδιαίτερα υψηλές αμοιβές για αυτές τις εξειδικευμένες γνώσεις, με αρκετές θέσεις να προσφέρουν ετήσιες αποδοχές που κυμαίνονται στα μέσα ή και στα ανώτερα επίπεδα των 200.000 δολαρίων, ενώ ορισμένες προσεγγίζουν τις 300.000 δολάρια.
Οι αμοιβές αντικατοπτρίζουν την αυξανόμενη ανησυχία της βιομηχανίας ότι τα ολοένα ισχυρότερα μοντέλα τεχνητής νοημοσύνης θα μπορούσαν να αξιοποιηθούν από εγκληματικές οργανώσεις, κρατικούς φορείς ή τρομοκρατικά δίκτυα.
Εκπρόσωπος της Anthropic υπογράμμισε ότι η υπεύθυνη ανάπτυξη της τεχνητής νοημοσύνης προϋποθέτει τη διασφάλιση πως τα μοντέλα δεν παρέχουν πληροφορίες που μπορούν να χρησιμοποιηθούν για επικίνδυνες δραστηριότητες.
Δοκιμές ασφαλείας πριν από κάθε νέα έκδοση
Οι ομάδες αυτές δεν ασχολούνται μόνο με τον προγραμματισμό. Αποστολή τους είναι να δοκιμάζουν κάθε νέο μοντέλο πριν αυτό διατεθεί στο κοινό, πραγματοποιώντας συνεχείς ελέγχους ασφαλείας και επιθέσεις προσομοίωσης ώστε να εντοπιστούν αδυναμίες που θα μπορούσαν να αξιοποιηθούν στην πράξη.
Η Anthropic αναφέρει ότι ήδη απασχολεί εκατοντάδες εργαζομένους αποκλειστικά στον τομέα της ασφάλειας των μοντέλων της.
Για τον λόγο αυτόν, οι νέες προσλήψεις απευθύνονται σε επιστήμονες με πραγματική εμπειρία σε τομείς όπως η βιολογία, η πυρηνική τεχνολογία, τα εκρηκτικά και η κυβερνοασφάλεια και όχι μόνο σε ειδικούς της τεχνητής νοημοσύνης.
Η προειδοποίηση του Ντάριο Αμοντέι
Ο διευθύνων σύμβουλος της Anthropic, Ντάριο Αμοντέι, έχει επανειλημμένα εκφράσει δημόσια την ανησυχία του για τις δυνατότητες κακόβουλης χρήσης της τεχνητής νοημοσύνης.
Σε κείμενό του τον Ιανουάριο χαρακτήρισε τις βιολογικές επιθέσεις ως ένα από τα πιο σοβαρά σενάρια που θα μπορούσαν να ενισχυθούν από τα μελλοντικά συστήματα AI.
Όπως σημείωσε, δεν θεωρεί βέβαιο ότι ένα τέτοιο ενδεχόμενο θα υλοποιηθεί άμεσα, ωστόσο εκτιμά πως όσο περισσότερα ισχυρά μοντέλα διατίθενται και όσο αυξάνεται ο αριθμός των χρηστών με πρόσβαση σε αυτά, τόσο μεγαλώνει και η πιθανότητα μιας εξαιρετικά καταστροφικής επίθεσης με πολύ μεγάλο αριθμό θυμάτων.
Διαφωνίες για τη στρατιωτική χρήση της AI
Η Anthropic έχει βρεθεί στο επίκεντρο και της συζήτησης για τη στρατιωτική αξιοποίηση της τεχνητής νοημοσύνης.
Νωρίτερα φέτος συγκρούστηκε με το αμερικανικό υπουργείο Άμυνας σχετικά με τη δυνητική χρήση των μοντέλων της σε συστήματα μαζικής παρακολούθησης και αυτόνομα οπλικά συστήματα, επαναφέροντας στο προσκήνιο το ερώτημα για το ποιος πρέπει τελικά να καθορίζει τα όρια χρήσης των πλέον ισχυρών εφαρμογών AI.
Και η OpenAI ενισχύει τις ομάδες ασφαλείας
Η Anthropic δεν αποτελεί εξαίρεση. Αντίστοιχες κινήσεις πραγματοποιεί και η OpenAI, η οποία αναζητά ειδικούς στους βιολογικούς και χημικούς κινδύνους, προσφέροντας βασικές ετήσιες αποδοχές από 295.000 έως 445.000 δολάρια.
Καθώς οι δυνατότητες των συστημάτων τεχνητής νοημοσύνης αυξάνονται με ταχείς ρυθμούς, οι μεγαλύτερες εταιρείες του κλάδου επενδύουν ολοένα περισσότερους πόρους στην πρόληψη κινδύνων που μέχρι πριν από λίγα χρόνια έμοιαζαν περισσότερο με σενάρια επιστημονικής φαντασίας.
Οι ίδιες οι εταιρείες καθορίζουν τα όρια
Το μεγαλύτερο ερώτημα, ωστόσο, παραμένει ανοιχτό. Η τεχνογνωσία συγκεντρώνεται κυρίως στον ιδιωτικό τομέα, ενώ η διεθνής ρύθμιση της τεχνητής νοημοσύνης εξακολουθεί να βρίσκεται σε πρώιμο στάδιο.
Αυτό σημαίνει ότι οι ίδιες οι εταιρείες που αναπτύσσουν τα ισχυρότερα μοντέλα καλούνται σήμερα να αποφασίσουν ποιοι κίνδυνοι θεωρούνται αποδεκτοί, ποια φίλτρα ασφαλείας είναι επαρκή και ποιες χρήσεις πρέπει να αποκλείονται.
Η αντίφαση είναι εμφανής: οι επιχειρήσεις που φιλοδοξούν να αλλάξουν τον κόσμο μέσω της τεχνητής νοημοσύνης επενδύουν ταυτόχρονα εκατομμύρια δολάρια για να διασφαλίσουν ότι τα ίδια τους τα συστήματα δεν θα χρησιμοποιηθούν για να προκαλέσουν πρωτοφανείς καταστροφές.
Διαβάστε ακόμη
Η χρυσή χρονιά της Wall Street: Το trading εκτοξεύει τα κέρδη των τραπεζικών κολοσσών (γράφημα)
Για όλες τις υπόλοιπες ειδήσεις της επικαιρότητας μπορείτε να επισκεφτείτε το Πρώτο Θέμα
Σχολίασε εδώ
Για να σχολιάσεις, χρησιμοποίησε ένα ψευδώνυμο.