Κατά του σχεδίου της Anthropic να επεκτείνει την πρόσβαση στο μοντέλο τεχνητής νοημοσύνης Mythos τάσσεται ο Λευκός Οίκος, σύμφωνα με αξιωματούχο της αμερικανικής κυβέρνησης.
Μέλη της κυβέρνησης του Προέδρου των Ηνωμένων Πολιτειών Ντόναλντ Τραμπ ενημέρωσαν την Anthropic ότι διαφωνούν με το πλάνο της εταιρείας να επιτρέψει πρόσβαση στην τεχνολογία Mythos σε περίπου 70 εταιρείες και οργανισμούς.
Ο αξιωματούχος, που μίλησε υπό καθεστώς ανωνυμίας λόγω του ιδιωτικού χαρακτήρα των συζητήσεων, ανέφερε ότι η κυβέρνηση εκφράζει σοβαρές επιφυλάξεις για τις δυνατότητες και τους κινδύνους του συστήματος.
Ανησυχίες για κυβερνοεπιθέσεις και υπολογιστική ισχύ
Οι ανησυχίες γύρω από το Mythos — το οποίο η ίδια η Anthropic θεωρεί αρκετά ισχυρό ώστε να μπορεί να χρησιμοποιηθεί για επικίνδυνες κυβερνοεπιθέσεις — είχαν αποκαλυφθεί νωρίτερα από τη The Wall Street Journal.
Σύμφωνα με το δημοσίευμα, Αμερικανοί αξιωματούχοι ανησυχούν ότι η Anthropic δεν διαθέτει επαρκή υπολογιστική ισχύ ώστε να εξυπηρετήσει περισσότερους χρήστες του Mythos χωρίς να επηρεαστεί η δυνατότητα της αμερικανικής κυβέρνησης να χρησιμοποιεί αποτελεσματικά το σύστημα.
Αξιωματούχος του Λευκού Οίκου δήλωσε στην εφημερίδα ότι η κυβέρνηση προσπαθεί να ισορροπήσει ανάμεσα στην καινοτομία και την ασφάλεια, συνεργαζόμενη με τον ιδιωτικό τομέα ώστε τα μοντέλα τεχνητής νοημοσύνης να διατίθενται με ασφαλή τρόπο.
Το Mythos και οι φόβοι για ανεξέλεγκτη χρήση
Το Mythos παρουσιάστηκε στις αρχές Απριλίου και, σύμφωνα με την Anthropic, διαθέτει τη δυνατότητα να εντοπίζει και να εκμεταλλεύεται ευπάθειες σε μεγάλο εύρος κρίσιμου λογισμικού.
Η εταιρεία έκρινε ότι το μοντέλο είναι υπερβολικά επικίνδυνο για ευρεία διάθεση και έτσι επέτρεψε μόνο σε περιορισμένο αριθμό εταιρειών να το δοκιμάσουν στα δικά τους συστήματα.
Ωστόσο, όπως έχει μεταδώσει το Bloomberg News, μικρή ομάδα μη εξουσιοδοτημένων χρηστών κατάφερε να αποκτήσει πρόσβαση στο Mythos.
Σύμφωνα με πρόσωπο που γνωρίζει την υπόθεση και έγγραφα που εξέτασε το Bloomberg, η παραβίαση σημειώθηκε την ίδια ημέρα που η Anthropic ανακοίνωσε το περιορισμένο πρόγραμμα διάθεσης του μοντέλου.
Μια μικρή ομάδα χρηστών σε ιδιωτικό διαδικτυακό φόρουμ απέκτησε πρόσβαση στο σύστημα χωρίς άδεια, εντείνοντας τις ανησυχίες για την ασφάλεια και τον έλεγχο τέτοιων προηγμένων μοντέλων τεχνητής νοημοσύνης.
Διαβάστε ακόμη
H KKR εξετάζει την πώληση της Flora Food για $10 δισ. (tweet)
Ενέργεια: Εκτόξευση του φυσικού αερίου στην Ευρώπη, λόγω των εξελίξεων στη Μ. Ανατολή (pics)
Για όλες τις υπόλοιπες ειδήσεις της επικαιρότητας μπορείτε να επισκεφτείτε το Πρώτο Θέμα