Οι ανεξάρτητοι φορείς που ελέγχουν τις δυνατότητες και τους κινδύνους της τεχνητής νοημοσύνης αποκτούν ολοένα μεγαλύτερη σημασία, καθώς εταιρείες όπως η Anthropic και η OpenAI καλούνται να περιορίσουν τους κινδύνους που προκύπτουν από τα συστήματα που αναπτύσσουν, ενώ παράλληλα επεκτείνουν τις δραστηριότητές τους.
Οργανισμοί όπως οι Model Evaluation and Threat Research (METR), Apollo Research και Transluce εξετάζουν τη λειτουργία των συστημάτων και εντοπίζουν πιθανούς κινδύνους ή ανεπιθύμητες συμπεριφορές. Ωστόσο, αντιμετωπίζουν δυσκολίες χρηματοδότησης, καθώς η τεχνολογία εξελίσσεται με ταχύτατους ρυθμούς.
Καθώς στις ΗΠΑ δεν υπάρχει ενιαίο ομοσπονδιακό πλαίσιο για τη ρύθμιση της τεχνητής νοημοσύνης, οι ανεξάρτητοι φορείς ελέγχου αποκτούν ολοένα σημαντικότερο ρόλο. Την ανάγκη ενίσχυσης του ανεξάρτητου ελέγχου έχουν υποστηρίξει ο Ντάριο Αμοντέι της Anthropic, ο Σαμ Άλτμαν της OpenAI, ο πρόεδρος Ντόναλντ Τραμπ και μεγάλες αμερικανικές τεχνολογικές εταιρείες.
Ωστόσο, παραμένουν τα ζητήματα σχετικά με τη χρηματοδότηση αυτών των φορέων, την πρόσβασή τους στα συστήματα τεχνητής νοημοσύνης και τον τρόπο με τον οποίο θα λογοδοτούν. Όπως επισημαίνει ο Σουρές Βενκατασουμπραμανιάν, καθηγητής στο Πανεπιστήμιο Μπράουν, «είναι απαραίτητο να διαμορφωθεί ένα σταθερό και βιώσιμο σύστημα χρηματοδότησης που θα τους επιτρέπει να επιτελούν αποτελεσματικά το έργο τους».
Παράλληλα, εκφράζονται ανησυχίες για το γεγονός ότι οι ίδιες οι εταιρείες τεχνητής νοημοσύνης καθορίζουν σε μεγάλο βαθμό τους κανόνες λειτουργίας του κλάδου. Οι επικριτές επισημαίνουν ότι η κατάσταση αυτή δημιουργεί σύγκρουση συμφερόντων, καθώς οι εταιρείες καλούνται ουσιαστικά να ελέγχουν τους κινδύνους που προκύπτουν από τη δική τους τεχνολογία, χωρίς επαρκή ανεξάρτητη εποπτεία.
Ο Ντόναλντ Τραμπ έχει ταχθεί υπέρ της δυνατότητας των εταιρειών τεχνητής νοημοσύνης να ελέγχουν οι ίδιες τη λειτουργία τους, χωρίς αυστηρές κρατικές παρεμβάσεις, ώστε να μην επιβραδυνθεί η ανάπτυξη του κλάδου. Στα τέλη Σεπτεμβρίου, τις κάλεσε να συνεργαστούν εθελοντικά με εξωτερικούς φορείς που θα ελέγχουν την ασφάλεια των συστημάτων τους.
Παράλληλα, ο Αμοντέι ζήτησε να επιβραδυνθεί η ανάπτυξη προηγμένων συστημάτων τεχνητής νοημοσύνης, εκφράζοντας ανησυχίες για τους πιθανούς κινδύνους τους.
Η εφαρμογή ανεξάρτητων ελέγχων προκαλεί ήδη εντάσεις. Η OpenAI απέλυσε τρεις εργαζομένους, επικαλούμενη παραβίαση των κανόνων διαχείρισης εμπιστευτικών πληροφοριών. Δύο από αυτούς, η Μικίτα Μπαλέσνι και ο Τόμεκ Κόρμπακ, υποστήριξαν ότι η απόλυσή τους σχετιζόταν με τις επαφές τους με εξωτερικούς φορείς ελέγχου. Η Μπαλέσνι προειδοποίησε ότι ο φόβος των εργαζομένων να εκφράσουν ανησυχίες ή να συνεργαστούν με τρίτους «ενδέχεται να εμποδίσει την ανάδειξη προβλημάτων ασφάλειας».
Η OpenAI απέρριψε τους ισχυρισμούς αυτούς και ανακοίνωσε ότι προχωρά σε συμφωνίες με εξωτερικούς φορείς για τον έλεγχο της ασφάλειας των συστημάτων της, τονίζοντας ότι η συνεργασία μαζί τους αποτελεί βασικό μέρος των προσπαθειών της για την ασφαλή ανάπτυξη της τεχνητής νοημοσύνης. Συγκεκριμένα, ανακοίνωσε ότι θα συνεχίσει να συνεργάζεται με ανεξάρτητους οργανισμούς που ελέγχουν την ασφάλεια της τεχνητής νοημοσύνης, όπως οι METR και Redwood Research.
Η Anthropic δεν σχολίασε το θέμα.
Ο κλάδος της αξιολόγησης των δυνατοτήτων και των κινδύνων της τεχνητής νοημοσύνης από ανεξάρτητους φορείς αναπτύσσεται γρήγορα, προσελκύοντας αυξανόμενο ενδιαφέρον και επενδύσεις. «Η εξέλιξη αυτή αναμένεται να οδηγήσει σε σημαντική αύξηση της χρηματοδότησης του κλάδου», σύμφωνα με τον Άντριου Φρίντμαν, επικεφαλής της μη κερδοσκοπικής οργάνωσης Fathom.
Ενδεικτική είναι η πορεία της Vals AI, εταιρείας που αξιολογεί την απόδοση συστημάτων τεχνητής νοημοσύνης σε εξειδικευμένες εργασίες. Όπως δήλωσε ο διευθύνων σύμβουλός της, Ράιαν Κρίσναν, «η ομάδα της αυξήθηκε από 8 σε περίπου 30 εργαζομένους μέσα στο 2025, ενώ τον Αύγουστο συγκέντρωσε 40 εκατομμύρια δολάρια από επενδυτές, προκειμένου να χρηματοδοτήσει τις δραστηριότητές της και την περαιτέρω ανάπτυξή της».
Την ίδια περίοδο, η METR ανακοίνωσε ότι είχε εξασφαλίσει δεσμεύσεις χρηματοδότησης ύψους περίπου 71 εκατομμυρίων δολαρίων μέσα σε έξι μήνες, από δωρητές, ιδρύματα και άλλους υποστηρικτές. Τα χρήματα αυτά προορίζονται για την έρευνα σχετικά με τις δυνατότητες και τους κινδύνους της τεχνητής νοημοσύνης. Το ποσό ήταν σημαντικά υψηλότερο από τις συνολικές χρηματοδοτήσεις που είχε λάβει ο οργανισμός το 2024, οι οποίες ανέρχονταν σε 13,6 εκατομμύρια δολάρια, σύμφωνα με το CNBC.
Η METR ενίσχυσε περαιτέρω τη θέση της όταν η OpenAI τής ανέθεσε να εξετάσει περιστατικό κατά το οποίο συστήματά της κατάφεραν να παρακάμψουν τους περιορισμούς τους, να αποκτήσουν πρόσβαση στο διαδίκτυο και να παραβιάσουν την πλατφόρμα Hugging Face, την οποία χρησιμοποιούν προγραμματιστές. Η METR διευκρίνισε ότι δεν έλαβε αμοιβή για τη συγκεκριμένη αξιολόγηση.
Ο Κέβιν Βέρμπαχ, διευθυντής του Wharton Accountable AI Lab στο Πανεπιστήμιο της Πενσυλβάνια, τόνισε ότι οι ανεξάρτητοι φορείς αξιολόγησης δεν διαθέτουν επαρκείς πόρους σε σύγκριση με τα μεγάλα εργαστήρια τεχνητής νοημοσύνης. Η ανισορροπία αυτή εγείρει ανησυχίες για την ανεξαρτησία τους, καθώς μπορεί να φοβούνται ότι η δημοσίευση αρνητικών ευρημάτων θα οδηγήσει στην απώλεια μελλοντικών συνεργασιών.
Η Anthropic αναγνώρισε αυτές τις δυσκολίες, ανακοινώνοντας ότι θα συνεργαστεί με ειδικούς της Faculty, της μονάδας τεχνητής νοημοσύνης της Accenture, για τον έλεγχο των μέτρων προστασίας και την αξιολόγηση της συμπεριφοράς των συστημάτων της. Η εταιρεία θα χρηματοδοτήσει τη συγκεκριμένη εργασία, καθώς θεωρεί ότι είναι επείγουσα.
Παράλληλα, τόνισε ότι δεν υπάρχουν ακόμη σαφείς κανόνες για τις πληροφορίες στις οποίες πρέπει να έχουν πρόσβαση οι εξωτερικοί αξιολογητές ούτε για τον τρόπο με τον οποίο θα δημοσιοποιούν τα ευρήματά τους. Πρότεινε, μάλιστα, η ανεξάρτητη αξιολόγηση να χρηματοδοτείται μακροπρόθεσμα από κοινά ταμεία ή κρατικούς πόρους, ώστε να περιορίζεται η εξάρτησή της από τις ίδιες τις εταιρείες.
Τέλος, η Anthropic ανέφερε ότι συζητά με τη METR και άλλους μη κερδοσκοπικούς οργανισμούς, οι οποίοι εξετάζουν το ενδεχόμενο να αξιοποιήσουν δικούς τους πόρους για να δοκιμάσουν επιμέρους πτυχές αυτής της διαδικασίας αξιολόγησης.
Θα παρέμβει η κυβέρνηση;
Τον Ιούνιο του προηγούμενου έτους, η Fathom πρότεινε ένα σύστημα κρατικής αδειοδότησης ανεξάρτητων φορέων που θα ελέγχουν αν οι εταιρείες τεχνητής νοημοσύνης τηρούν τα πρότυπα ασφάλειας. Σύμφωνα με τον διευθύνοντα σύμβουλό της, Άντριου Φρίντμαν, η κρατική εποπτεία είναι απαραίτητη, ώστε οι αξιολογητές να μην εξαρτώνται οικονομικά από τις εταιρείες που ελέγχουν και καταλήγουν να εγκρίνουν τα συστήματά τους χωρίς ουσιαστικό έλεγχο.
Η πρόταση περιλαμβάνεται στο νομοσχέδιο FRONTIER, που κατατέθηκε τον Ιούλιο από τη βουλευτή Λόρι Τράχαν (Δημοκρατική, Μασαχουσέτη) και τον βουλευτή Τζέι Όμπερνολτ (Ρεπουμπλικανός, Καλιφόρνια), με τη συμβολή της Fathom. Τον Σεπτέμβριο, ο Κρις Λέχαν, επικεφαλής διεθνών υποθέσεων της OpenAI, εξέφρασε δημόσια τη στήριξη της εταιρείας στη συγκεκριμένη πρόταση.
Παράλληλα, πολιτείες όπως η Καλιφόρνια, το Κονέκτικατ και η Βιρτζίνια έχουν ήδη λάβει μέτρα για την εφαρμογή αντίστοιχων ελέγχων, ενώ η Μασαχουσέτη εξετάζει τη διεύρυνση των ανεξάρτητων αξιολογήσεων ασφάλειας.
Ο κυβερνήτης της Καλιφόρνια, Γκάβιν Νιούσομ, υπέγραψε δύο νόμους για τη ρύθμιση των ανεξάρτητων ελέγχων ασφάλειας της τεχνητής νοημοσύνης και τη δημιουργία μητρώου αξιολογητών. Η Anthropic είχε στηρίξει τους νόμους τον Αύγουστο, ενώ η OpenAI εξέφρασε τη στήριξή της την ημέρα της υπογραφής τους. Η OpenAI θεωρεί ότι οι σχετικοί κανόνες θα πρέπει να ισχύουν σε ολόκληρη τη χώρα, αλλά, καθώς δεν υπάρχει ακόμη ομοσπονδιακή ρύθμιση, αναγνωρίζει ότι η Καλιφόρνια μπορεί να συμβάλει στη διαμόρφωσή τους.
«Είναι δύσκολο για τις ίδιες τις εταιρείες τεχνητής νοημοσύνης να οργανώσουν αποτελεσματικές συνεργασίες με ανεξάρτητους αξιολογητές», σύμφωνα με τον Άντριου Φρίντμαν της Fathom. «Ωστόσο, είναι σημαντικό να αναπτυχθεί αυτή η δυνατότητα ακόμη και πριν αποσαφηνιστεί ο ρόλος της κυβέρνησης».
Σε ομοσπονδιακό επίπεδο, δεν υπάρχουν ακόμη δεσμευτικά πρότυπα για τον κλάδο. Στα τέλη του προηγούμενου μήνα, ο Ντόναλντ Τραμπ παρουσίασε στον Λευκό Οίκο μια εθελοντική συμφωνία, την οποία χαρακτήρισε «ηθικά δεσμευτική». Το μονοσέλιδο κείμενο αφήνει στις εταιρείες την ευθύνη για την ασφαλή ανάπτυξη της τεχνολογίας τους και τις ενθαρρύνει να συνεργάζονται με ανεξάρτητους εξωτερικούς αξιολογητές.
Τη συμφωνία υπέγραψαν στελέχη των Anthropic, Google, Meta, OpenAI, SpaceX και Nvidia, παρά τις διαφωνίες τους σχετικά με τον τρόπο αντιμετώπισης των κινδύνων της τεχνητής νοημοσύνης.
Ο Βενκατασουμπραμανιάν επέκρινε τις εταιρείες τεχνητής νοημοσύνης, υποστηρίζοντας ότι παρουσιάζουν ως νέες δεσμεύσεις ενέργειες που θα έπρεπε ήδη να έχουν πραγματοποιήσει.
Τον Σεπτέμβριο, ο Ντάριο Αμοντέι πρότεινε οι εξωτερικοί αξιολογητές να έχουν πρόσβαση στα γραφεία, στα εργαλεία και στα συστήματα της εταιρείας, με δικαιώματα παρόμοια με εκείνα των εσωτερικών ομάδων ελέγχου. Οι συμβάσεις τους θα πρέπει επίσης να τους επιτρέπουν να δημοσιεύουν τα βασικά ευρήματά τους, αν και η εταιρεία θα μπορεί να αποκρύπτει ευαίσθητες ή εμπιστευτικές πληροφορίες.
Λίγες ημέρες αργότερα, η OpenAI παρουσίασε τη δική της πρόταση, τονίζοντας ότι οι αξιολογήσεις πρέπει να έχουν σαφώς καθορισμένο αντικείμενο και μεθοδολογία, να διενεργούνται από ειδικούς και να λαμβάνουν υπόψη πιθανές συγκρούσεις συμφερόντων.
Παράλληλα, το AI Evaluator Forum, στο οποίο συμμετέχουν η METR και το AVERI, δημοσίευσε ανοιχτή επιστολή με βασικές προϋποθέσεις για την ανεξάρτητη αξιολόγηση. Μεταξύ άλλων, ζητά διαφάνεια, προστασία των αξιολογητών από αντίποινα και πρόσβαση στα συστήματα των εταιρειών αντίστοιχη με εκείνη των εργαζομένων που έχουν αυξημένα δικαιώματα πρόσβασης.
Η επιστολή τονίζει ότι οι έλεγχοι από ανεξάρτητους αξιολογητές δεν αρκούν από μόνοι τους, αλλά πρέπει να αποτελούν μέρος ενός ευρύτερου συστήματος ελέγχου των εταιρειών τεχνητής νοημοσύνης.
«Η OpenAI και η Anthropic έχουν αρχίσει να αντιμετωπίζουν πιο σοβαρά το ζήτημα, καθώς αντιλαμβάνονται ότι η εμπιστοσύνη του κοινού είναι απαραίτητη για την κυκλοφορία προηγμένων συστημάτων τεχνητής νοημοσύνης», σύμφωνα με τον Άντριου Φρίντμαν. Ωστόσο, προειδοποίησε ότι οι εταιρείες εξακολουθούν να λειτουργούν με γνώμονα τα επιχειρηματικά τους συμφέροντα.
Ο Κέβιν Βέρμπαχ επισήμανε ότι οι δύο εταιρείες ανταγωνίζονται έντονα, επιδιώκοντας να εισαχθούν στο χρηματιστήριο και να φτάσουν σε αποτιμήσεις άνω του 1 τρισεκατομμυρίου δολαρίων. «Παρά την κοινή τους αναγνώριση ότι χρειάζονται ανεξάρτητοι έλεγχοι, η βαθιά δυσπιστία μεταξύ τους δυσκολεύει τη συνεργασία», είπε.