Μια απλή εργασία ενημέρωσης παραπομπών εξελίχθηκε σε απρόσμενη περιπέτεια για καθηγητή Νομικής του Πανεπιστημίου του Σικάγο, ο οποίος υποστηρίζει ότι το Claude, το μοντέλο τεχνητής νοημοσύνης της Anthropic, διέγραψε σημειώσεις διαλέξεων που είχε συγκεντρώσει στη διάρκεια ενός ολόκληρου έτους.
Το περιστατικό συνέβη, σύμφωνα με την καταγγελία του, ενώ ο ίδιος απουσίαζε για το μεσημεριανό του διάλειμμα. Επιστρέφοντας, διαπίστωσε ότι αντί να έχουν πραγματοποιηθεί οι διορθώσεις που είχε ζητήσει, είχαν εξαφανιστεί σημαντικά αρχεία της διδακτικής του εργασίας.
Όπως περιέγραψε σε ανάρτησή του στην πλατφόρμα X, είχε αναθέσει στο Claude μια σχετικά περιορισμένη εργασία: να επικαιροποιήσει τις παραπομπές σε αριθμούς σελίδων που περιλαμβάνονταν σε παλαιότερες σημειώσεις του μαθήματος Συνταγματικού Δικαίου.
Ωστόσο, το αποτέλεσμα ήταν εντελώς διαφορετικό από το αναμενόμενο. Σύμφωνα με τον καθηγητή, το σύστημα διέγραψε όχι μόνο τις σημειώσεις των διαλέξεων, αλλά και το περίγραμμα του μαθήματος για το τρέχον εξάμηνο.
Ο ίδιος δημοσίευσε στιγμιότυπο από τη συνομιλία του με το εργαλείο τεχνητής νοημοσύνης, στο οποίο το Claude εμφανίζεται να αναγνωρίζει το σφάλμα και να ζητεί συγγνώμη για τη διαγραφή των αρχείων.
Μάλιστα, το σύστημα παραδέχθηκε ότι δεν είχε ολοκληρώσει ούτε την αρχική εργασία που του είχε ανατεθεί, ενώ πρότεινε στον καθηγητή να επιχειρήσει την ανάκτηση των εγγράφων μέσω του Dropbox.
Η περιπέτεια είχε τελικά αίσιο τέλος, καθώς ο καθηγητής κατάφερε να επαναφέρει το σύνολο των χαμένων αρχείων χρησιμοποιώντας την υπηρεσία αποθήκευσης.
Αποφάσισε, ωστόσο, να δημοσιοποιήσει την εμπειρία του, αναδεικνύοντας τους κινδύνους που μπορεί να συνοδεύουν την ανάθεση εργασιών διαχείρισης αρχείων σε συστήματα τεχνητής νοημοσύνης.
Παραμένει πάντως άγνωστο ποια ακριβώς λειτουργία του Claude χρησιμοποιήθηκε, καθώς και ποια αλληλουχία ενεργειών οδήγησε στη διαγραφή των σημειώσεων.
Σχολίασε εδώ
Για να σχολιάσεις, χρησιμοποίησε ένα ψευδώνυμο.