Η τεχνητή νοημοσύνη έχει ήδη αποδείξει ότι μπορεί να γράφει κείμενα, να δημιουργεί εικόνες, να προγραμματίζει λογισμικό και να επιταχύνει την ανακάλυψη νέων φαρμάκων. Τώρα, όμως, η τεχνολογία πλησιάζει ένα πολύ πιο ευαίσθητο και κρίσιμο πεδίο: τη δυνατότητα προηγμένων συστημάτων AI να χρησιμοποιηθούν στον σχεδιασμό βιολογικών οργανισμών και, δυνητικά, στην ανάπτυξη επικίνδυνων παθογόνων.
Μέχρι πρόσφατα, το ενδεχόμενο αυτό αποτελούσε κυρίως αντικείμενο θεωρητικών συζητήσεων στον χώρο της βιοασφάλειας. Οι τελευταίες εξελίξεις δείχνουν ότι το ζήτημα αποκτά πλέον πρακτική διάσταση, χωρίς αυτό να σημαίνει ότι η τεχνητή νοημοσύνη έχει ήδη δημιουργήσει έναν νέο πανδημικό ιό.
Η πραγματική πρόκληση βρίσκεται αλλού: στο γεγονός ότι τα πιο ισχυρά μοντέλα AI αρχίζουν να ενσωματώνονται στην επιστημονική έρευνα, σε έναν τομέα όπου η ίδια γνώση μπορεί να χρησιμοποιηθεί τόσο για την αντιμετώπιση ασθενειών όσο και για δυνητικά επικίνδυνες εφαρμογές.
Το πρώτο καμπανάκι από τη συνθετική βιολογία
Το πρώτο σημαντικό σήμα κινδύνου ήρθε από την επιστημονική έρευνα.
Ερευνητές στις Ηνωμένες Πολιτείες χρησιμοποίησαν εργαλεία τεχνητής νοημοσύνης για τον σχεδιασμό γονιδιωμάτων βακτηριοφάγων, δηλαδή ιών που προσβάλλουν βακτήρια και όχι ανθρώπους.
Το επιστημονικό ενδιαφέρον είναι ιδιαίτερα μεγάλο. Τέτοιες τεχνολογίες θα μπορούσαν στο μέλλον να συμβάλουν στην αντιμετώπιση ανθεκτικών βακτηριακών λοιμώξεων, να ενισχύσουν τη συνθετική βιολογία και να ανοίξουν νέους δρόμους στην ανάπτυξη θεραπειών.
Ωστόσο, η ίδια δυνατότητα δημιουργεί ένα δύσκολο δίλημμα.
Ένα σύστημα που μπορεί να βοηθήσει έναν επιστήμονα να σχεδιάσει έναν ωφέλιμο βιολογικό οργανισμό μπορεί, όσο εξελίσσεται και γίνεται ισχυρότερο, να χρησιμοποιηθεί και προς την αντίθετη κατεύθυνση.
Η βιολογία ως πεδίο «διττής χρήσης»
Εδώ βρίσκεται η καρδιά του προβλήματος.
Η βιολογία είναι ένας από τους κατεξοχήν τομείς «διττής χρήσης» (dual use), καθώς η ίδια γνώση μπορεί να έχει εντελώς διαφορετικές εφαρμογές ανάλογα με τον σκοπό και τις συνθήκες χρήσης.
Μια τεχνολογία που μπορεί να αξιοποιηθεί για την ανάπτυξη ενός εμβολίου, μιας νέας θεραπείας ή ενός καλύτερου φαρμάκου, υπό διαφορετικές προϋποθέσεις μπορεί να αποκτήσει επικίνδυνη χρήση.
Οι ανησυχίες ενισχύθηκαν τον Σεπτέμβριο μετά τη δημοσιοποίηση έκθεσης της Anthropic, μιας από τις μεγαλύτερες εταιρείες τεχνητής νοημοσύνης παγκοσμίως.
Η εταιρεία ανακοίνωσε ότι εντόπισε και αντιμετώπισε πραγματικές περιπτώσεις στις οποίες ερευνητές ή άλλοι χρήστες προσπάθησαν να χρησιμοποιήσουν τα μοντέλα Claude σε εργασίες που θα μπορούσαν να συνδεθούν με την ανάπτυξη βιολογικών όπλων.
Οι πέντε περιπτώσεις που εντόπισε η Anthropic
Η Anthropic παρουσίασε πέντε περιστατικά που αφορούσαν έρευνες σχετικές με ιούς, τοξίνες και άλλους βιολογικούς παράγοντες, καθώς και προσπάθειες παράκαμψης των μηχανισμών ασφαλείας των μοντέλων.
Σε μία περίπτωση, η εταιρεία εντόπισε έρευνα που σχετιζόταν με τον ιό chikungunya και με προσπάθειες τροποποίησης συγκεκριμένων χαρακτηριστικών του.
Σε άλλη περίπτωση, ένας ερευνητής χρησιμοποίησε το Claude στο πλαίσιο εργασίας πάνω σε ιδιαίτερα παθογόνο ιό της γρίπης των πτηνών και στην προσαρμογή του σε θηλαστικά.
Άλλες υποθέσεις αφορούσαν υπολογιστική έρευνα γύρω από τοξίνες και δηλητήρια.
Η ίδια η Anthropic ξεκαθάρισε ότι τα περιστατικά αυτά δεν αποδεικνύουν πως οι συγκεκριμένοι επιστήμονες σχεδίαζαν βιολογικά όπλα και απέφυγε να αποδώσει κακόβουλη πρόθεση στους χρήστες.
Ωστόσο, ανέδειξαν ένα διαφορετικό και κρίσιμο στοιχείο: ότι τα προηγμένα μοντέλα τεχνητής νοημοσύνης χρησιμοποιούνται ήδη σε πραγματικά επιστημονικά προγράμματα που βρίσκονται στην ευαίσθητη περιοχή ανάμεσα στην ωφέλιμη έρευνα και τη δυνητικά επικίνδυνη εφαρμογή.
Η δύσκολη «γκρίζα ζώνη» των ελέγχων
Ακριβώς αυτή η γκρίζα ζώνη κάνει την αντιμετώπιση του προβλήματος ιδιαίτερα δύσκολη.
Ένα σύστημα ασφαλείας μπορεί σχετικά εύκολα να απορρίψει ένα ξεκάθαρο αίτημα για τη δημιουργία βιολογικού όπλου.
Πολύ πιο δύσκολα, όμως, μπορεί να αξιολογήσει μια σειρά επιστημονικών ερωτήσεων που μεμονωμένα φαίνονται απολύτως νόμιμες.
Ένας ερευνητής μπορεί να ζητά πληροφορίες για:
- γενετικές μεταλλάξεις,
- πρωτεΐνες,
- ανοσολογικές αντιδράσεις,
- σχεδιασμό πειραμάτων,
χωρίς να αποκαλύπτει ποτέ έναν επικίνδυνο τελικό στόχο.
Η Anthropic ανέφερε επίσης ότι ορισμένοι χρήστες προσπάθησαν να παρακάμψουν γεωγραφικούς περιορισμούς ή άλλους μηχανισμούς προστασίας. Η εταιρεία προχώρησε στο κλείσιμο σχετικών λογαριασμών και χρησιμοποίησε τα περιστατικά για να ενισχύσει τα συστήματα ασφαλείας της.
Η νέα συζήτηση για τη ρύθμιση της τεχνητής νοημοσύνης
Οι εξελίξεις αλλάζουν τη συζήτηση γύρω από τη ρύθμιση της τεχνητής νοημοσύνης.
Το ζήτημα δεν αφορά πλέον μόνο τις ψευδείς ειδήσεις, τα πνευματικά δικαιώματα, την απώλεια θέσεων εργασίας ή τις κυβερνοεπιθέσεις.
Τα ισχυρότερα μοντέλα AI αποκτούν πλέον δυνατότητες που αγγίζουν άμεσα την πραγματική επιστημονική έρευνα.
Ο επικεφαλής της Anthropic, Dario Amodei, έχει ζητήσει μια ελεγχόμενη επιβράδυνση της ανάπτυξης των ισχυρότερων συστημάτων, ώστε οι μηχανισμοί ασφαλείας να μπορούν να συμβαδίσουν με την τεχνολογική πρόοδο.
Μεταξύ των κινδύνων που έχει αναφέρει βρίσκονται η χρήση της AI σε κυβερνοεπιθέσεις και βιοτρομοκρατία.
Παράλληλα, έχει υποστηρίξει την ανάγκη διεθνούς συνεργασίας και αυστηρότερων ελέγχων στα προηγμένα μοντέλα πριν από την ευρεία διάθεσή τους.
Το μεγάλο δίλημμα: καινοτομία ή ασφάλεια;
Το πρόβλημα έχει όμως και μια δεύτερη πλευρά.
Όσο πιο αποτελεσματικά γίνονται τα συστήματα τεχνητής νοημοσύνης στη βιολογική έρευνα, τόσο μεγαλύτερα μπορεί να είναι και τα οφέλη τους.
Η ίδια τεχνολογία που δημιουργεί ανησυχίες για πιθανή κατάχρηση μπορεί να επιταχύνει την ανάπτυξη:
- νέων εμβολίων,
- αντιβιοτικών,
- θεραπειών για δύσκολες ασθένειες.
Το ζητούμενο επομένως δεν είναι αν πρέπει να σταματήσει η χρήση της AI στη βιολογία.
Το πραγματικό ερώτημα είναι πώς θα επιτραπεί η αξιοποίησή της στην επιστήμη, χωρίς παράλληλα να προσφέρονται ισχυρά εργαλεία σε όσους θα μπορούσαν να τα χρησιμοποιήσουν καταστροφικά.
Η τεχνητή νοημοσύνη δεν έχει δημιουργήσει έναν νέο πανδημικό ιό. Έχει όμως πλησιάσει αρκετά στην πραγματική βιολογική έρευνα ώστε η πιθανότητα κατάχρησης να μην μπορεί πλέον να θεωρείται απλώς σενάριο επιστημονικής φαντασίας.
Η επόμενη μεγάλη πρόκληση για την AI ίσως δεν είναι μόνο να γίνει πιο έξυπνη. Είναι να παραμείνει χρήσιμη στην επιστήμη χωρίς να μετατραπεί σε εργαλείο που κάνει την επικίνδυνη βιολογία ευκολότερη, ταχύτερη και προσβάσιμη σε περισσότερους ανθρώπους.
Διαβάστε ακόμη:
Economist: Η ευρωπαϊκή βιομηχανία τα πάει καλύτερα από ό,τι νομίζουμε
Κυβέρνηση και διυλιστήρια ρίχνουν €0,40 το πετρέλαιο θέρμανσης
Παπούτσια τρεξίματος: Από τις Ελβιέλες της ελληνικής αλάνας στη βιομηχανία δισεκατομμυρίων
Για όλες τις υπόλοιπες ειδήσεις της επικαιρότητας μπορείτε να επισκεφθείτε το Πρώτο ΘΕΜΑ
Σχολίασε εδώ
Για να σχολιάσεις, χρησιμοποίησε ένα ψευδώνυμο.