Ο διευθύνων σύμβουλος της Meta, Μαρκ Ζάκερμπεργκ, τάχθηκε υπέρ της χρήσης ανεξάρτητων αξιολογητών και συμβούλων για τον έλεγχο της ασφάλειας των μοντέλων τεχνητής νοημοσύνης, παίρνοντας θέση στη διεθνή συζήτηση για το αν η βιομηχανία πρέπει να επιβραδύνει την ανάπτυξη των πιο προηγμένων συστημάτων AI.
«Η συμμετοχή ανεξάρτητων αξιολογητών και συμβούλων αποτελεί βέλτιστη πρακτική για τον κλάδο», έγραψε ο Ζάκερμπεργκ σε ανάρτησή του στην πλατφόρμα Χ, υποστηρίζοντας ότι οι εταιρείες μπορούν να αντιμετωπίσουν τους κινδύνους μέσω διαδικασιών ελέγχου, χωρίς να χρειάζεται μια συλλογική παύση της τεχνολογικής προόδου.
Last month I wrote about how we can build a positive and safe future for everyone: https://t.co/eoLGVY8yad
Every lab has the responsibility and incentive to move at the pace required to train its models safely, and the ability to take its own actions to ensure that happens.
The reality is:
– People won’t want to use agents that are misaligned with them and that don’t do what they ask, so labs have a strong natural incentive to make their models more aligned.
There is a lot of debate about slowing progress on capabilities until alignment catches up. My view is that trust and alignment are quickly becoming the most important capabilities that will differentiate agents and models. Any lab that doesn’t focus on alignment will fall behind.
– Labs face significant liability if their models cause harm, so they have a strong incentive to prevent this as well.
Meta delayed shipping Muse for several months to focus on safety and security. We didn’t call for everyone else to do this before we would. We just did it as part of our day-to-day work because it was clearly the right thing for people and for us. I’m proud of the security foundations we’ve built.
– Engaging independent evaluators and advisors is industry best practice. MSL already does this today in several areas because it helps produce better work. Other labs can just do this too. In general, it would be helpful for there to be a larger and more diverse ecosystem of evaluators.
– Committing the significant majority of compute towards serving people rather than racing towards recursive self-improvement is one of the best ways to ensure we develop this technology safely. Meta has made this commitment and other labs can do this as well.
I believe the key to building a positive future for everyone is maintaining the right balance of power. This is within our power to do.
— Mark Zuckerberg (@finkd) September 15, 2026
Η τοποθέτησή του έρχεται μετά την απόφαση της Meta να καθυστερήσει για αρκετούς μήνες την κυκλοφορία του εργαλείου τεχνητής νοημοσύνης Muse, προκειμένου να ενισχύσει τα μέτρα ασφαλείας.
«Η Meta καθυστέρησε την κυκλοφορία του Muse για αρκετούς μήνες ώστε να επικεντρωθεί στην ασφάλεια και την προστασία. Δεν ζητήσαμε από όλους τους άλλους να κάνουν το ίδιο πριν προχωρήσουμε εμείς. Το κάναμε επειδή ήταν ξεκάθαρα το σωστό για τους ανθρώπους και για εμάς», ανέφερε.
Η αντιπαράθεση για την επιβράδυνση της AI
Η συζήτηση για τα όρια και τους κινδύνους της τεχνητής νοημοσύνης εντάθηκε μετά από εκτενές κείμενο του διευθύνοντος συμβούλου της Anthropic, Ντάριο Αμοντέι, ο οποίος υποστήριξε ότι η ανάπτυξη των πιο προηγμένων συστημάτων πρέπει να επιβραδυνθεί ώστε οι ερευνητές να κατανοήσουν καλύτερα τις πιθανές απειλές.
Την παρέμβαση του Αμοντέι υποστήριξαν ο διευθύνων σύμβουλος της OpenAI, Σαμ Άλτμαν, και ο Έλον Μασκ, οι εταιρείες των οποίων αποτελούν ανταγωνιστές της Anthropic. Παράλληλα, η OpenAI ανακοίνωσε ότι συνεργάζεται με την Anthropic και τη Google DeepMind για ζητήματα ασφάλειας της AI.
Ο Ζούκερμπεργκ, με την πρώτη δημόσια παρέμβασή του στον νέο γύρο συζητήσεων, διαφοροποιήθηκε από την προσέγγιση της συλλογικής επιβράδυνσης, υποστηρίζοντας ότι η αξιολόγηση από ανεξάρτους φορείς αποτελεί πιο πρακτική λύση.
Χουάνγκ: «Η ασφάλεια είναι ζήτημα μηχανικής»
Παρόμοια θέση εξέφρασε και ο επικεφαλής της Nvidia, Τζένσεν Χουάνγκ, ο οποίος δήλωσε ότι η ασφάλεια πρέπει να αποτελεί σταθερό μέρος της διαδικασίας ανάπτυξης της τεχνητής νοημοσύνης.
«Η ασφάλεια είναι υψίστης σημασίας. Από πολλές απόψεις είναι η πρώτη προτεραιότητα. Ωστόσο, η ασφάλεια είναι ένα πρόβλημα μηχανικής», ανέφερε σε εκδήλωση της Salesforce.
Ο Χουάνγκ υποστήριξε ότι οι εταιρείες μπορούν να αποφασίζουν να μην κυκλοφορούν προϊόντα όταν δεν είναι βέβαιες για την ασφάλειά τους, ενώ απέρριψε την ανάγκη για νέες ρυθμίσεις στην AI.
«Δεν χρειαζόμαστε νέους νόμους, δεν χρειαζόμαστε νέους κανονισμούς», είπε, υποστηρίζοντας ότι οι δυνάμεις της αγοράς μπορούν να λειτουργήσουν ως μηχανισμός ελέγχου.
«Υπάρχει μια λανθασμένη επιλογή μεταξύ ασφαλούς και γρήγορης ανάπτυξης. Μπορείς να έχεις και τα δύο ταυτόχρονα», πρόσθεσε.
Άλτμαν: Η βιομηχανία μπορεί να αυτορυθμιστεί
Στο ίδιο συνέδριο, ο Σαμ Άλτμαν εμφανίστηκε επίσης καθησυχαστικός, εκτιμώντας ότι οι εταιρείες τεχνολογίας μπορούν να αναπτύξουν την AI με ασφάλεια χωρίς να προκαλέσουν σημαντικές βλάβες.
«Είμαι πολύ βέβαιος για την ικανότητα της εταιρείας μας — και του κλάδου μας — να το κάνει με ασφάλεια», δήλωσε.
Ο επικεφαλής της OpenAI τόνισε ότι οι εταιρείες πρέπει να μπορούν να βελτιώνουν τα μοντέλα τους με ασφαλή τρόπο, εκφράζοντας παράλληλα τη διαφωνία του με τον τρόπο που έχει παρουσιαστεί η συζήτηση για την ασφάλεια της τεχνητής νοημοσύνης.
Διαβάστε ακόμη
Τι είναι το σκούρο ρόφημα που κάνει θραύση στους αθλητές
Γιατί ο υποτιμημένος χαλκός γίνεται το νέο πολύτιμο μέταλλο
Για όλες τις υπόλοιπες ειδήσεις της επικαιρότητας μπορείτε να επισκεφθείτε το Πρώτο ΘΕΜΑ