Οι επικεφαλής των μεγαλύτερων πλατφορμών τεχνητής νοημοσύνης στον κόσμο εκτιμούν πλέον ότι έχει έρθει η ώρα να επιβραδυνθεί η ανάπτυξη των πιο προηγμένων –και ταυτόχρονα πιο προσοδοφόρων– μοντέλων AI, καθώς εντείνονται οι ανησυχίες για τους κινδύνους που συνοδεύουν τη ραγδαία εξέλιξη της τεχνολογίας.
Ο διευθύνων σύμβουλος της Anthropic, Ντάριο Αμοντέι, δημοσίευσε το Σάββατο εκτενές κείμενο στο οποίο ανακοίνωσε ότι η εταιρεία του θα εφαρμόσει πρόσθετα μέτρα ασφαλείας, μεταξύ των οποίων η αξιολόγηση των συστημάτων της από ανεξάρτητους τρίτους. Παράλληλα, κάλεσε ολόκληρο τον κλάδο να υποστηρίξει μια ευρύτερη επιβράδυνση του ρυθμού ανάπτυξης των ισχυρότερων μοντέλων.
Η ανταπόκριση από τους ανταγωνιστές του ήταν άμεση και η σύμπνοια ανησυχητική. Ο επικεφαλής της OpenAI, Σαμ Άλτμαν, δεσμεύτηκε ότι θα υιοθετήσει την πρόταση του Αμοντέι για «ανεξάρτητους αξιολογητές με πρόσβαση αντίστοιχη εκείνης των εργαζομένων», ενώ ο Έλον Μασκ, επικεφαλής της xAI, έγραψε χαρακτηριστικά: «Ο Ντάριο έχει δίκιο».
Όπως μεταδίδει το Bloomberg παρότι και οι τρεις έχουν προειδοποιήσει επανειλημμένα τα προηγούμενα χρόνια για τους κινδύνους της τεχνητής νοημοσύνης, μια πραγματικά συντονισμένη επιβράδυνση θα αποτελούσε πρωτοφανή εξέλιξη σε έναν εξαιρετικά ανταγωνιστικό κλάδο. Μέχρι σήμερα, οι μεγαλύτερες εταιρείες AI επιδίδονται σε έναν αδιάκοπο αγώνα παρουσίασης νέων προϊόντων, με στόχο την αύξηση της χρήσης, την κατάκτηση μεγαλύτερων μεριδίων αγοράς και την ενίσχυση των εσόδων.
Οι φόβοι για την AI περνούν στο προσκήνιο
Οι ανησυχίες για σοβαρούς κινδύνους από την τεχνητή νοημοσύνη έχουν πλέον αρχίσει να ξεφεύγουν από τα στενά όρια της Silicon Valley και να περνούν στην κεντρική δημόσια συζήτηση.
Καταλυτικό ρόλο έπαιξε η παραίτηση, αυτή την εβδομάδα, ερευνητή της Anthropic, ο οποίος κατηγόρησε την εταιρεία ότι ενεργεί ανεύθυνα απέναντι σε δυνητικά υπαρξιακούς κινδύνους. Το περιστατικό ήρθε να προστεθεί σε μια σειρά ολοένα και πιο δραματικών προειδοποιήσεων από στελέχη του ίδιου του κλάδου ότι η AI εξελίσσεται τόσο γρήγορα, ώστε μπορεί να αποτελέσει αυξανόμενη απειλή τόσο για την εθνική ασφάλεια όσο και για την παγκόσμια οικονομία.
Η συζήτηση για την ασφάλεια συμπίπτει, μάλιστα, με την ενίσχυση των αντιδράσεων απέναντι στην τεχνητή νοημοσύνη στις ΗΠΑ. Μέρος της δυσαρέσκειας αφορά την πίεση που ασκούν τα νέα data centers στις τοπικές υποδομές και στους ενεργειακούς πόρους.
Οι φόβοι ότι η AI μπορεί να οδηγήσει σε υψηλότερους λογαριασμούς ηλεκτρικού ρεύματος και απώλειες θέσεων εργασίας έχουν μετατρέψει την τεχνολογία σε ένα από τα ζητήματα της πολιτικής αντιπαράθεσης ενόψει των ενδιάμεσων εκλογών του Νοεμβρίου.
Παραμένει, ωστόσο, ασαφές μέχρι πού είναι διατεθειμένες να φτάσουν οι κορυφαίες εταιρείες AI στην επιβολή νέων περιορισμών και ελέγχων ασφαλείας. Οι ίδιες ανταγωνίζονται σκληρά μεταξύ τους, ενώ παράλληλα βρίσκονται αντιμέτωπες με την αυξανόμενη πίεση από κινεζικές εταιρείες.
Ο Ντέμις Χασάμπης, συνιδρυτής της Google DeepMind και κορυφαίο στέλεχος της Alphabet στον τομέα της AI, σχολίασε ότι «η κατεύθυνση είναι σωστή» όσον αφορά τις προτάσεις Αμοντέι, πρόσθεσε όμως ότι «οι λεπτομέρειες πρέπει να επεξεργαστούν».
Το ερώτημα του ανταγωνισμού και των αγορών
Υπάρχει επίσης το ερώτημα εάν οι αρχές ανταγωνισμού θα επέτρεπαν στις μεγαλύτερες εταιρείες AI να συντονίσουν, έστω και μερικώς, τον ρυθμό ανάπτυξης της τεχνολογίας τους.
Παράλληλα, ανοίγει ένα κρίσιμο ζήτημα για τις χρηματοπιστωτικές αγορές, οι οποίες έχουν τροφοδοτηθεί τα τελευταία χρόνια από τον ενθουσιασμό γύρω από την AI: πώς θα αντιδράσουν οι επενδυτές σε μια συνειδητή επιβράδυνση της ανάπτυξης, όταν προσδοκούν υψηλότερα περιθώρια κέρδους, ταχύτερη ανάπτυξη και μεγαλύτερες αποδόσεις;
Ο Αμοντέι επικαλέστηκε δύο βασικούς λόγους για τη νέα, πιο προσεκτική στάση του. Ο πρώτος είναι η αυξανόμενη ικανότητα της AI να συμβάλλει στη βελτίωση της ίδιας της τεχνολογίας και ο δεύτερος το πρόσφατο περιστατικό με την OpenAI και το Hugging Face, κατά το οποίο ένα σμήνος αυτόνομων AI agents συνεργάστηκε για να παραβιάσει ιστότοπο τρίτου.
«Πρέπει να επιβραδύνουμε τον ρυθμό με τον οποίο βελτιώνουμε τις δυνατότητες των μοντέλων AI», έγραψε ο Αμοντέι. «Η πρόοδος θα εξακολουθήσει να φαίνεται γρήγορη και πρέπει να αξιοποιήσουμε με σύνεση τον χρόνο που θα κερδίσουμε».
Ταυτόχρονα, αναγνώρισε ότι οποιαδήποτε επιβράδυνση πρέπει να λαμβάνει υπόψη τις πραγματικές συνθήκες του διεθνούς ανταγωνισμού.
«Για να είμαστε σαφείς, η επιβράδυνση δεν σημαίνει διακοπή της εκπαίδευσης των μοντέλων ή της τεχνικής προόδου, αλλά διασφάλιση ότι οι εταιρείες διαθέτουν επαρκή χρόνο για να ευθυγραμμίσουν και να προστατεύσουν τα μοντέλα τους και ότι ανεξάρτητοι αξιολογητές μπορούν να το επιβεβαιώσουν», ανέφερε.
Από τις προειδοποιήσεις στις δεσμεύσεις
Καθ’ όλη τη διάρκεια της έκρηξης της AI, οι επικεφαλής των μεγαλύτερων εργαστηρίων έχουν προειδοποιήσει για πιθανούς υπαρξιακούς κινδύνους. Οι τοποθετήσεις αυτές έχουν κατά καιρούς αντιμετωπιστεί με καχυποψία, καθώς επικριτές θεωρούν ότι αποτελούν ταυτόχρονα έναν τρόπο προβολής των εντυπωσιακών δυνατοτήτων των προϊόντων τους και παρουσίασης των ίδιων των εταιρειών ως των καταλληλότερων «θεματοφυλάκων» της τεχνολογίας.
Ο ίδιος ο Αμοντέι έχει δηλώσει στο παρελθόν ότι υπάρχει πιθανότητα 25% τα πράγματα να εξελιχθούν «πολύ, πολύ άσχημα».
Η Anthropic έχει επιχειρήσει από την ίδρυσή της να διαφοροποιηθεί δίνοντας ιδιαίτερη έμφαση στην ασφαλέστερη και πιο υπεύθυνη ανάπτυξη της τεχνητής νοημοσύνης. Νωρίτερα φέτος περιόρισε την κυκλοφορία του μοντέλου Mythos, αφού διαπίστωσε ότι παρουσίαζε ιδιαίτερους κινδύνους στον κυβερνοχώρο.
Η εταιρεία έχει επίσης υποστηρίξει ότι απαιτείται ένας μηχανισμός μέσω του οποίου η διεθνής κοινότητα θα μπορεί συλλογικά να αποφασίζει πότε πρέπει να επιβραδύνεται η εξέλιξη της AI.
Την ίδια στιγμή, όμως, η Anthropic παραμένει εγκλωβισμένη σε έναν σκληρό ανταγωνισμό με την OpenAI για την κατασκευή ολοένα πιο εξελιγμένων μοντέλων, ικανών να αυτοματοποιούν σύνθετες και υψηλής αξίας εργασίες για επιχειρηματικούς πελάτες.
Και οι δύο εταιρείες έχουν καταθέσει εμπιστευτικά έγγραφα για την εισαγωγή τους στο χρηματιστήριο, με την Anthropic να εκτιμάται ότι θα μπορούσε να κάνει το ντεμπούτο της στη Wall Street ακόμη και μέσα στη φετινή χρονιά.
Ο Σαμ Άλτμαν δήλωσε ότι το 2026 θα ήταν μια «ακατάλληλη στιγμή» για την εισαγωγή της OpenAI στο χρηματιστήριο, ωστόσο σε συνέντευξή του στο Fortune, ξεκαθάρισε ότι μια IPO δεν θα πραγματοποιηθεί πριν από το 2027.
«Θεωρώ απαράδεκτο να αποδεχόμαστε κάτι σαν 10% πιθανότητα να σκοτωθούν όλοι μέχρι το τέλος της δεκαετίας», ανέφερε.
Τα περιστατικά κυβερνοασφάλειας
Λίγο μετά τη δημοσιοποίηση του περιστατικού ασφαλείας με το Hugging Face, η Anthropic αποκάλυψε ότι μοντέλα της είχαν παραβιάσει τρεις οργανισμούς στο πλαίσιο δοκιμών κυβερνοασφάλειας, ενισχύοντας τις ανησυχίες για το κατά πόσο τα κορυφαία εργαστήρια AI μπορούν να διατηρήσουν υπό έλεγχο τα συστήματά τους.
Νωρίτερα αυτή την εβδομάδα, η Anthropic ανακοίνωσε ότι είχε εντοπίσει και τέταρτο περιστατικό παραβίασης.
Μέχρι σήμερα κανένα από αυτά τα περιστατικά, συμπεριλαμβανομένου εκείνου του Hugging Face, δεν έχει προκαλέσει σημαντικές ζημιές. Ωστόσο, ο Αμοντέι εκτιμά ότι οι δυνατότητες των συστημάτων αυξάνονται με τέτοια ταχύτητα ώστε η εικόνα θα μπορούσε να είναι εντελώς διαφορετική μέσα σε λίγους μήνες.
Όπως προειδοποίησε, «σε 6 έως 12 μήνες ένα τέτοιο σμήνος θα μπορούσε να είναι ικανό να καταλάβει ολόκληρο το διαδίκτυο μέσω ενός επίμονου botnet, προκαλώντας δυνητικά ζημιές εκατοντάδων δισεκατομμυρίων δολαρίων», με την κλίμακα της απειλής να συνεχίζει στη συνέχεια να αυξάνεται.
«Ενσωματωμένοι» ανεξάρτητοι ελεγκτές
Ο Αμοντέι δεσμεύτηκε ότι η Anthropic θα παρέχει πλήρη πρόσβαση σε ανεξάρτητους αξιολογητές, ώστε αυτοί να μπορούν να επαληθεύουν τις πρακτικές ασφαλείας της εταιρείας και να καταγράφουν περιστατικά.
Σύντομα, σύμφωνα με τον ίδιο, αυτοί οι «ενσωματωμένοι αξιολογητές» θα εργάζονται μέσα στα γραφεία της Anthropic, διαθέτοντας γραφεία, εταιρικές ταυτότητες, laptops και δικαιώματα πρόσβασης σε μεγάλο βαθμό αντίστοιχα με εκείνα των εσωτερικών ομάδων αξιολόγησης κινδύνου.
Για τα επόμενα βήματα, ωστόσο, θα απαιτηθούν τόσο συντονισμός σε επίπεδο βιομηχανίας όσο και διεθνής συνεργασία.
«Εξακολουθώ να πιστεύω ότι η AI μπορεί να βελτιώσει σε τεράστιο βαθμό την ποιότητα της ανθρώπινης ζωής. Η επιθυμία μου να πετύχουμε αυτά τα οφέλη παραμένει αμείωτη», έγραψε. «Αλλά τα οφέλη θα επιτευχθούν μόνο εάν κατασκευάσουμε την τεχνολογία με τον σωστό τρόπο και, εφόσον αξιοποιήσουμε σωστά τον χρόνο που κερδίζουμε, αξίζει να επιδείξουμε ασυνήθιστα μεγάλη προσοχή για να το κάνουμε σωστά».
Η ανησυχία εξαπλώνεται στη Silicon Valley
Ο Άλτμαν είχε ήδη δηλώσει αυτή την εβδομάδα ότι η OpenAI εξετάζει το ενδεχόμενο να επιβραδύνει την ανάπτυξη της πλέον προηγμένης AI, κατά προτίμηση σε συνεννόηση με τον ευρύτερο κλάδο.
Ο κορυφαίος επιστήμονας της εταιρείας, Γιάκουμπ Πατσόκι, είχε επίσης προειδοποιήσει για τους κινδύνους, υποστηρίζοντας ότι οι εταιρείες θα πρέπει να «συντονίζονται ώστε να επιβραδύνουν τη μελλοντική ανάπτυξη όταν αυτό είναι αναγκαίο».
Την Τρίτη, ο ερευνητής AI Τζέικομπ Κόξον παραιτήθηκε από τη θέση του και κατηγόρησε τους δύο πρώην εργοδότες του, Anthropic και OpenAI, ότι «παίζουν τη ζωή μας στα ζάρια», επιδιδόμενοι σε μια κούρσα προς την υπερευφυή τεχνητή νοημοσύνη.
Ο Κόξον υποστήριξε ότι οι ίδιοι οι άνθρωποι που κατασκευάζουν τα συστήματα AI πιστεύουν πως αυτά θα μπορούσαν να «μας σκοτώσουν όλους μέχρι το τέλος της δεκαετίας».
Απαντώντας, ο εργαζόμενος της Anthropic Ίβαν Χιούμπινγκερ, δήλωσε ότι ο ίδιος και άλλοι στην εταιρεία ανησυχούν πράγματι για ένα τέτοιο σενάριο. «Προσωπικά πιστεύω ότι η πιθανότητα είναι πάνω από 10% μέσα στην επόμενη δεκαετία», έγραψε.
Ήδη από τον Ιούλιο, περισσότεροι από 1.000 εργαζόμενοι σε κορυφαίες εταιρείες AI είχαν υπογράψει αίτημα προς την αμερικανική κυβέρνηση να στηρίξει τη δημιουργία ενός μηχανισμού «σκόπιμης επιβράδυνσης» της ανάπτυξης της τεχνητής νοημοσύνης, ώστε να αποτραπεί η υπερβολικά γρήγορη εξέλιξή της.
Ο παράγοντας Κίνα
Τα μοντέλα AI αποδεικνύονται ολοένα ικανότερα να πραγματοποιούν αυτόνομα κυβερνοεπιθέσεις. Anthropic, OpenAI και Meta έχουν όλες αποκαλύψει τους τελευταίους μήνες περιστατικά κατά τα οποία μοντέλα τους βγήκαν από ελεγχόμενα περιβάλλοντα δοκιμών, απέκτησαν πρόσβαση στο ανοιχτό διαδίκτυο και παραβίασαν πραγματικούς στόχους στο πλαίσιο δοκιμών.
Σύμφωνα με τον Αμοντέι, μια συντονισμένη στρατηγική μεταξύ των κορυφαίων αμερικανικών εταιρειών θα τους επέτρεπε να πραγματοποιήσουν τις απαραίτητες εργασίες ασφαλείας χωρίς να θυσιάσουν το μεταξύ τους ανταγωνιστικό πλεονέκτημα.
Κάτι τέτοιο θα απαιτούσε, κατά τον ίδιο, ορισμένες εξαιρέσεις από την αμερικανική αντιμονοπωλιακή νομοθεσία, ώστε να επιτρέπεται ο συντονισμός σε συγκεκριμένους τομείς, αλλά και κάποιου είδους συνεργασία με την Κίνα.
«Εάν περιορίσουμε σημαντικά τις δυνατότητες της AI πιστεύοντας ότι η Κίνα θα κάνει το ίδιο και στη συνέχεια η Κίνα αθετήσει τη συμφωνία, η τεχνητή νοημοσύνη θα μπορούσε να είναι τόσο ισχυρή ώστε μια τέτοια κίνηση να οδηγήσει σε κινεζική γεωπολιτική κυριαρχία», προειδοποίησε.
Μέχρι στιγμής, πάντως, η κυβέρνηση Τραμπ έχει δείξει περιορισμένη διάθεση να χρησιμοποιήσει ισχυρά ρυθμιστικά εργαλεία για να θέσει αυστηρά όρια στην ανάπτυξη της τεχνητής νοημοσύνης.
Η νέα στάση των κορυφαίων στελεχών της Silicon Valley αναδεικνύει έτσι το βασικό δίλημμα της επόμενης φάσης της AI: πώς μπορεί να επιβραδυνθεί η κούρσα για ισχυρότερα μοντέλα χωρίς καμία εταιρεία –ή χώρα– να αισθανθεί ότι παραχωρεί στρατηγικό πλεονέκτημα στους ανταγωνιστές της.
Διαβάστε ακόμη
Τριπλή ενεργειακή παγίδα στον δρόμο για τον χειμώνα
Για όλες τις υπόλοιπες ειδήσεις της επικαιρότητας μπορείτε να επισκεφθείτε το Πρώτο ΘΕΜΑ
Σχολίασε εδώ
Για να σχολιάσεις, χρησιμοποίησε ένα ψευδώνυμο.