Η xAI, η εταιρεία τεχνητής νοημοσύνης του Έλον Μασκ, ανακοίνωσε ότι μια «μη εξουσιοδοτημένη τροποποίηση» στον μηχανισμό του chatbot Grok προκάλεσε απαντήσεις που παραβιάζουν τις πολιτικές και τις θεμελιώδεις αξίες της εταιρείας, ιδίως σχετικά με θεωρίες περί «λευκής γενοκτονίας» στη Νότια Αφρική.
Η παρέμβαση πραγματοποιήθηκε τα ξημερώματα της 14ης Μαΐου και παρακάμπτοντας τις προβλεπόμενες διαδικασίες ελέγχου κώδικα, επέτρεψε στο bot να απαντά σε ερωτήσεις με ανεπιβεβαίρωτες ή αμφιλεγόμενες θεωρίες. Η xAI παραδέχτηκε το κενό ασφαλείας και δεσμεύτηκε για ενίσχυση των μηχανισμών εποπτείας, με την καθιέρωση αυστηρότερων πρωτοκόλλων για την τροποποίηση των prompts από εργαζομένους.
Το περιστατικό προκάλεσε ανησυχία για την επάρκεια ελέγχου στα AI chatbots. Ένα χαρακτηριστικό παράδειγμα είναι όταν ο Grok απάντησε σε χρήστη που ρωτούσε για εταιρικό λογισμικό, συγκρίνοντάς το με αλλαγή Lego με ξύλινα τουβλάκια — και κατόπιν, χωρίς πρόβλεψη, μετέφερε τη συζήτηση στις θεωρίες περί λευκής γενοκτονίας, λέγοντας ότι «τα δικαστήρια και οι αναλυτές αρνούνται την ύπαρξή της, αλλά κάποιες ομάδες την υποστηρίζουν».
Η απρόβλεπτη συμπεριφορά του Grok εντείνει τις ανησυχίες για τον βαθμό στον οποίο τα bots μπορούν να αλλοιωθούν ώστε να μεταδίδουν ψευδείς ή επικίνδυνες αφηγήσεις. Το περιστατικό αποκτά επιπλέον βαρύτητα καθώς σχετίζεται με μια θεωρία συνωμοσίας την οποία ο ίδιος ο Έλον Μασκ έχει αναπαραγάγει στο παρελθόν.
Πιο αυστηροί έλεγχοι και δημοσιοποίηση κώδικα στο GitHub
Σε απάντηση, η xAI ανακοίνωσε νέα μέτρα, μεταξύ των οποίων:
Δημοσίευση των system prompts στο GitHub, ώστε να υπάρχει δημόσια διαφάνεια και δυνατότητα σχολιασμού.
Συγκρότηση 24ωρης ομάδας επιτήρησης, που θα παρεμβαίνει σε πραγματικό χρόνο για αποκλίσεις που δεν εντοπίζονται αυτόματα.
Το επεισόδιο συμβάλλει στη γενικότερη συζήτηση γύρω από την ανάγκη θεσμικών πλαισίων και αυστηρότερων προτύπων διακυβέρνησης για τα chatbots, ειδικά όταν εμπλέκονται ευαίσθητα κοινωνικοπολιτικά θέματα.
Διαβάστε ακόμη
Ελλάδα, Κύπρος και Ισραήλ στέλνουν πρόσκληση στις ΗΠΑ για την επόμενη συνάντηση του σχήματος «3+1»
ΝΟΚ και αντιπαροχή: «Παγωμένες» συμφωνίες και πιθανή συμπίεση έως και 5% στα μελλοντικά ποσοστά
TτΕ: Ποιος είναι ο χάρτης των επιχειρηματικών δανείων το 2024 (γραφήματα)
Για όλες τις υπόλοιπες ειδήσεις της επικαιρότητας μπορείτε να επισκεφτείτε το Πρώτο Θέμα