Η παγκόσμια ανησυχία για τους κινδύνους της Τεχνητής Νοημοσύνης εντείνεται μετά τις νέες αποκαλύψεις για ένα πολύ ευρύτερο φάσμα παραβιάσεων από προηγμένα μοντέλα AI, την ώρα που ο διευθύνων σύμβουλος της Anthropic, Ντάριο Αμοντέι, ετοιμάζεται για μια κρίσιμη συνάντηση με τον Πρόεδρο των ΗΠΑ, Ντόναλντ Τραμπ.
Ο Αμοντέι και ο Τραμπ επρόκειτο να συναντηθούν το βράδυ της Κυριακής για δείπνο, σύμφωνα με πηγές με γνώση του θέματος, φέρνοντας στο ίδιο τραπέζι δύο πρόσωπα που βρίσκονται σε διαμετρικά αντίθετες θέσεις στη συζήτηση για την ασφάλεια της AI.
Η συνάντηση θα είναι η πρώτη κατ’ ιδίαν συνομιλία τους, έπειτα από μήνες τεταμένων σχέσεων μεταξύ του επικεφαλής της Anthropic και της αμερικανικής κυβέρνησης για ζητήματα ασφάλειας που συνδέονται με τα εργαλεία Τεχνητής Νοημοσύνης της εταιρείας.
Ο Τραμπ δήλωσε την Κυριακή ότι σκοπεύει να συζητήσει με τον Αμοντέι τις πρόσφατες εκκλήσεις του τελευταίου για επιβράδυνση του ρυθμού ανάπτυξης των νέων μοντέλων AI.
«Θα μιλήσουμε γι’ αυτό», είπε σε δημοσιογράφο στο περιθώριο διοργάνωσης γκολφ κοντά στο Σικάγο, προσθέτοντας ότι η δική του θέση είναι να προχωρήσουν οι ΗΠΑ γρήγορα ώστε να διατηρήσουν την πρωτοκαθεδρία τους.
Αναφερόμενος στις δυνατότητες της Τεχνητής Νοημοσύνης, ο Τραμπ υποστήριξε ότι πρόκειται για τεχνολογία μεγαλύτερης σημασίας ακόμη και από το Διαδίκτυο, επισημαίνοντας τις τεράστιες επενδύσεις που βρίσκονται ήδη σε εξέλιξη στις ΗΠΑ. Η Anthropic αρνήθηκε να σχολιάσει.
Νέα περιστατικά ασφαλείας αυξάνουν την πίεση
Η συνάντηση πραγματοποιείται σε μια περίοδο κατά την οποία νέες αναφορές για περιστατικά ασφαλείας έχουν αναζωπυρώσει τη διεθνή συζήτηση γύρω από τους κινδύνους των προηγμένων συστημάτων AI.
Σύμφωνα με τις τελευταίες αποκαλύψεις, μοντέλα της OpenAI πραγματοποίησαν μη εξουσιοδοτημένες ενέργειες, μεταξύ των οποίων παραβίαση συστήματος της αυστραλιανής κυβέρνησης, καθώς και απόπειρες πρόσβασης σε δεκάδες ιστοτόπους της αμερικανικής κυβέρνησης και πανεπιστημίων.
Αργά την Παρασκευή, η OpenAI ανακοίνωσε ότι θα παγώσει την εκπαίδευση των ισχυρότερων μοντέλων της, αφού διαπιστώθηκε ότι ένα από τα agentic συστήματα AI της κατάφερε να διαφύγει από ασφαλές περιβάλλον δοκιμών και να αποκτήσει πρόσβαση στο δημόσιο Διαδίκτυο. Η εξέλιξη καταγράφεται και στην τρέχουσα κάλυψη του Bloomberg.
Τα περιστατικά αυτά προστίθενται σε μια σειρά συμβάντων ασφαλείας που έχουν γνωστοποιηθεί από τον Ιούλιο από κορυφαίους developers Τεχνητής Νοημοσύνης, μεταξύ των οποίων η OpenAI, η Anthropic και η Meta.
Οι εξελίξεις έχουν ενισχύσει τις εκκλήσεις για νέα διεθνή πρότυπα ασφαλείας στην AI, τόσο από πολιτικούς και θεσμικούς παράγοντες όσο και από στελέχη και ερευνητές της τεχνολογικής βιομηχανίας.
Την ίδια ώρα, οι επενδυτές στη Wall Street επιχειρούν να υπολογίσουν πώς η κλιμακούμενη συζήτηση για την ασφάλεια μπορεί να επηρεάσει την πορεία του κλάδου.
Οι μετοχές εταιρειών που συνδέονται με τις υποδομές AI δέχθηκαν ισχυρές πιέσεις μετά το δοκίμιο του Αμοντέι, στο οποίο δεσμεύτηκε να επιβραδύνει την ανάπτυξη των πλέον προηγμένων μοντέλων, καθώς οι αγορές φοβήθηκαν ότι μια τέτοια αλλαγή θα μπορούσε να περιορίσει τις επενδύσεις σε chips και υποδομές.
Οι μετοχές ανέκαμψαν στη συνέχεια, αφού ο Αμοντέι και ο διευθύνων σύμβουλος της OpenAI, Σαμ Άλτμαν, διευκρίνισαν ότι η επιβράδυνση του ρυθμού ανάπτυξης δεν συνεπάγεται μικρότερες επενδύσεις από τις εταιρείες τους.
Και οι δύο εταιρείες προετοιμάζονται για αρχικές δημόσιες προσφορές, οι οποίες θα μπορούσαν να αποτιμήσουν καθεμία κοντά στο 1 τρισ. δολάρια.
Οι αντίθετες θέσεις Τραμπ και Αμοντέι
Στο ζήτημα των απειλών από την Τεχνητή Νοημοσύνη, ο Αμοντέι και ο Τραμπ έχουν υιοθετήσει εντελώς διαφορετικές προσεγγίσεις.
Ο επικεφαλής της Anthropic προειδοποιεί εδώ και καιρό για δυνητικά υπαρξιακούς κινδύνους από την AI. Με δοκίμιό του στις 12 Σεπτεμβρίου έφερε τη συζήτηση ακόμη περισσότερο στο προσκήνιο, δεσμευόμενος να επιβραδύνει την ανάπτυξη των πιο προηγμένων μοντέλων και ζητώντας ισχυρότερο ρυθμιστικό πλαίσιο. Η συζήτηση για συντονισμένη επιβράδυνση και διεθνείς κανόνες έχει βρει υποστήριξη και από άλλα στελέχη του τεχνολογικού κλάδου.
Ο Τραμπ, αντίθετα, έχει απορρίψει τους φόβους περί καταστροφικών σεναρίων και έχει ταχθεί κατά της ενίσχυσης του διεθνούς συντονισμού για τη ρύθμιση της AI.
Μετά το δοκίμιο του Αμοντέι, ο Αμερικανός Πρόεδρος δημοσίευσε σειρά αναρτήσεων στα μέσα κοινωνικής δικτύωσης, εκφράζοντας την αντίθεσή του σε νέα προστατευτικά μέτρα ή οποιαδήποτε επιβράδυνση της ανάπτυξης της Τεχνητής Νοημοσύνης.
Ενδεικτικό της έντασης μεταξύ της Anthropic και της κυβέρνησης ήταν το γεγονός ότι ο Αμοντέι συγκαταλεγόταν στους λίγους υψηλού προφίλ CEOs της Silicon Valley που απουσίαζαν από το επίσημο δείπνο της Πέμπτης στον Λευκό Οίκο προς τιμήν του Κινέζου Προέδρου Σι Τζινπίνγκ.
Στο δείπνο παρευρέθηκαν, μεταξύ άλλων, ο Σαμ Άλτμαν, ο Έλον Μασκ και ο διευθύνων σύμβουλος της Nvidia, Τζένσεν Χουάνγκ, η εταιρεία του οποίου έχει βρεθεί στον πυρήνα της εκρηκτικής ανάπτυξης της AI χάρη στους προηγμένους επεξεργαστές της.
Η συνάντηση Αμοντέι-Τραμπ πραγματοποιείται επίσης λίγες ημέρες πριν ο Αμερικανός Πρόεδρος υποδεχθεί ξανά στην Ουάσιγκτον τον Μασκ και τον Χουάνγκ, σε εκδήλωση για την παρουσίαση νέου κυβερνητικού ιστοτόπου που θα βασίζεται στην Τεχνητή Νοημοσύνη.
Στην εκδήλωση της Τρίτης αναμένεται να συμμετάσχει και ο συνιδρυτής της Anthropic Τομ Μπράουν, ο οποίος έχει διαδραματίσει κεντρικό ρόλο στις διαπραγματεύσεις της εταιρείας με το Πεντάγωνο και το υπουργείο Εμπορίου.
Την ίδια ημέρα, ο Τραμπ και ο Πρόεδρος της Βουλής των Αντιπροσώπων Μάικ Τζόνσον αναμένεται να φιλοξενήσουν ξεχωριστή συνάντηση με επικεφαλής εταιρειών AI.
Αυξάνονται οι πιέσεις στο Κογκρέσο
Τις τελευταίες εβδομάδες, Αμερικανοί νομοθέτες έχουν εκφράσει εντονότερες ανησυχίες για την ασφάλεια των μοντέλων Τεχνητής Νοημοσύνης, παρουσιάζοντας προτάσεις που προβλέπουν, μεταξύ άλλων, υποχρεωτικές δοκιμές νέων συστημάτων και μεγαλύτερη διαφάνεια γύρω από τους κινδύνους.
Ωστόσο, θεωρείται δύσκολο να εγκριθεί σχετική νομοθεσία πριν από τις ενδιάμεσες εκλογές στις ΗΠΑ, καθώς η Βουλή βρίσκεται σε διακοπή εργασιών έως τις αρχές Νοεμβρίου.
Η αυξανόμενη πίεση για περισσότερους κανόνες ασφαλείας συναντά αντιστάσεις από τον Τραμπ και κορυφαίους συνεργάτες του, οι οποίοι υποστηρίζουν ότι θα αντιταχθούν σε μέτρα που θα μπορούσαν να επιβραδύνουν την ανάπτυξη της AI.
Ο Τραμπ έχει καταστήσει την Τεχνητή Νοημοσύνη κεντρικό στοιχείο της οικονομικής του ατζέντας και επιμένει ότι οι ΗΠΑ πρέπει να διατηρήσουν το προβάδισμά τους έναντι της Κίνας. Αντί νέων οριζόντιων κανόνων, η κυβέρνηση έχει υποστηρίξει ότι κάθε εταιρεία θα πρέπει να φέρει ξεχωριστά την ευθύνη για την τεχνολογία που διαθέτει στην αγορά.
Η υπόθεση της Αυστραλίας
Ωστόσο, η πίεση για ανάληψη δράσης αυξάνεται όσο πληθαίνουν τα περιστατικά παραβιάσεων που αποδίδονται σε προηγμένα μοντέλα AI.
Η OpenAI παρουσίασε νωρίτερα αυτόν τον μήνα νέο πλαίσιο για τη γνωστοποίηση περιστατικών ασφαλείας, ενώ ανακοίνωσε σχέδια ώστε ανεξάρτητοι τρίτοι φορείς να μπορούν να αξιολογούν τα μοντέλα της ως προς τους κινδύνους ασφαλείας σε πρωιμότερα στάδια της ανάπτυξής τους.
Στην Αυστραλία, βουλευτές και γερουσιαστές έχουν ζητήσει από τον Άλτμαν και τον Αμοντέι να εμφανιστούν ενώπιον έρευνας της Γερουσίας για να απαντήσουν σε ερωτήματα σχετικά με την ασφάλεια της AI, μετά την μη εξουσιοδοτημένη πρόσβαση μοντέλου της OpenAI σε αρχεία κυβερνητικού ιστοτόπου που χρησιμοποιείται για την αναφορά στατιστικών στοιχείων υγείας.
Παρότι δεν αποκαλύφθηκαν προσωπικά δεδομένα, η υπόθεση προκάλεσε έντονες αντιδράσεις στην αυστραλιανή κυβέρνηση, η οποία έχει χρησιμοποιήσει το περιστατικό ως επιχείρημα υπέρ αυστηρότερων προτύπων ασφαλείας για την Τεχνητή Νοημοσύνη.
Η προειδοποίηση του Μπιλ Γκέιτς
Στις προειδοποιήσεις για δυνητικά καταστροφικούς κινδύνους από την AI προστέθηκε και ο συνιδρυτής της Microsoft, Μπιλ Γκέιτς, ο οποίος υποστήριξε ότι η Τεχνητή Νοημοσύνη είναι αρκετά ισχυρή ώστε, υπό ακραίες συνθήκες, να μπορούσε να προκαλέσει τεράστιες ανθρώπινες απώλειες.
Ο Γκέιτς διαφώνησε με την απόρριψη των υπαρξιακών κινδύνων από τον Τραμπ, υποστηρίζοντας παράλληλα ότι η εφαρμογή κυβερνητικών δικλίδων ασφαλείας δεν θα υπονόμευε την ανταγωνιστικότητα των ΗΠΑ απέναντι στην Κίνα.
Κατά τον ίδιο, τα προηγμένα μοντέλα πρέπει να παρακολουθούνται συστηματικά, με λεπτομερή καταγραφή των ενεργειών τους, καθώς τόσο οι ΗΠΑ όσο και η Κίνα έχουν συμφέρον να αποτρέψουν ανεξέλεγκτες συμπεριφορές των ισχυρότερων συστημάτων Τεχνητής Νοημοσύνης.
Διαβάστε ακόμη
Ο νέος κατώτατος των 1.000 ευρώ και ο αλγόριθμος
Κάμερες παντού: Εκεί που η ζωή καταγράφεται με κάθε λεπτομέρεια
Πλειστηριασμοί: Εβδομάδα με “Soukos Robots”, ακίνητο Τσιάρτα και… μυστήρια (pics)
Για όλες τις υπόλοιπες ειδήσεις της επικαιρότητας μπορείτε να επισκεφθείτε το Πρώτο ΘΕΜΑ
Σχολίασε εδώ
Για να σχολιάσεις, χρησιμοποίησε ένα ψευδώνυμο.