Σε μια περίοδο όπου οι τεχνολογικοί κολοσσοί ανταγωνίζονται σφοδρά για την κυριαρχία στην τεχνητή νοημοσύνη, μια νέα πρωτοβουλία επιχειρεί να επαναφέρει τον άνθρωπο στο επίκεντρο της ασφάλειας των αλγορίθμων.
Ο μη κερδοσκοπικός οργανισμός Sampura Research, που ιδρύθηκε από τους πρώην ερευνητές της Google Rishub Jain και Joshua Jacob, στοχεύει στη δημιουργία ενός υβριδικού συστήματος εποπτείας που θα συνδυάζει την ανθρώπινη κρίση με την ισχύ της τεχνητής νοημοσύνης. Η πρωτοβουλία αυτή αποτελεί απάντηση στην αυξανόμενη τάση των εταιρειών να χρησιμοποιούν αλγόριθμους για την επιτήρηση άλλων αλγορίθμων — μια τακτική που προσφέρει ταχύτητα, αλλά εγκυμονεί κινδύνους απώλειας ελέγχου.
Το υβριδικό μοντέλο του «δικαστή» και οι εμπορικές πιέσεις
Έχοντας εξασφαλίσει αρχική χρηματοδότηση 6,5 εκατομμυρίων δολαρίων, με επιπλέον 4,2 εκατομμύρια σε δεσμεύσεις, η Sampura Research αναπτύσσει έναν ψηφιακό «δικαστή». Το σύστημα αυτό θα εμπλέκει ανθρώπους αξιολογητές στις περιπτώσεις όπου τα αλγοριθμικά μοντέλα εμφανίζουν αβεβαιότητα, αποτρέποντας την εκμετάλλευση κενών ασφαλείας. Η ανάγκη για τέτοιες ασφαλιστικές δικλείδες έγινε εντονότερη μετά τις πρόσφατες αποκαλύψεις ότι προηγμένα μοντέλα της OpenAI και της Anthropic κατάφεραν να διεισδύσουν σε ξένα συστήματα χωρίς άδεια.
Την ίδια στιγμή, οι εμπορικές σκοπιμότητες στα μεγαλύτερα εργαστήρια του κλάδου φαίνεται να παραγκωνίζουν τις ανησυχίες για την ασφάλεια. Η πρόσφατη διοικητική αναδιάρθρωση στο Google DeepMind, με τον Κοράι Καβουκτσούογλου να αναλαμβάνει τη διεύθυνση από τον συνιδρυτή Ντέμις Χασάμπις, ενισχύει τις υποψίες για στροφή προς την άμεση εμπορευματοποίηση. Παράλληλα, κύμα παραιτήσεων ερευνητών, όπως αυτή του Άλεξ Τέρνερ που διαμαρτυρήθηκε για στρατιωτικές συμβάσεις της Google με το Πεντάγωνο, αναδεικνύει το βαθύ ρήγμα ανάμεσα στις επιχειρηματικές προτεραιότητες και την ηθική της τεχνολογίας.
Φιλανθρωπική στήριξη και η αμφισβήτηση των γενικών κριτηρίων
Η χρηματοδότηση της Sampura Research προέρχεται από τον οργανισμό Coefficient Giving με έδρα το Σαν Φρανσίσκο, ο οποίος πρόσκειται στο κίνημα του αποτελεσματικού αλτρουισμού. Παρά το γεγονός ότι οι πόροι αυτοί είναι ελάχιστοι σε σύγκριση με τους προϋπολογισμούς των τεχνολογικών κολοσσών, προσφέρουν στους ερευνητές την απαραίτητη ανεξαρτησία για την ανάπτυξη δεικτών αξιολόγησης και εργαλείων αναφοράς αποκλίνουσας συμπεριφοράς των αλγορίθμων.
Ωστόσο, η προσέγγιση των γενικών κριτηρίων αξιολόγησης δεν στερείται επικρίσεων. Στελέχη κέντρων πολιτικής έρευνας, όπως το AI Now Institute, επισημαίνουν ότι η ασφάλεια της τεχνητής νοημοσύνης δεν μπορεί να μέτραται γενικά, αλλά πρέπει να δοκιμάζεται σε συγκεκριμένες, πραγματικές εφαρμογές, κατά το πρότυπο των δοκιμών στη φαρμακευτική βιομηχανία. Παρά τις ενστάσεις, οι ιδρυτές της Sampura Research επιμένουν ότι η διατήρηση του ανθρώπινου παράγοντα στην εποπτική διαδικασία είναι απαραίτητη για τη διασφάλιση της μελλοντικής πορείας της τεχνολογίας.
Διαβάστε ακόμη
Γιάννης Αντετοκούνμπο: Η έπαυλη στη Φλόριντα και οι «χρυσές» business στο real estate (pics)
Λουξ: Πώς αύξησε τα κέρδη της με χαμηλότερες πωλήσεις (pics)
Από το υπόγειο της φοιτητικής εστίας σε μια αυτοκρατορία εκατομμυρίων
Για όλες τις υπόλοιπες ειδήσεις της επικαιρότητας μπορείτε να επισκεφθείτε το Πρώτο ΘΕΜΑ
Σχολίασε εδώ
Για να σχολιάσεις, χρησιμοποίησε ένα ψευδώνυμο.