Όταν ο Άντριαν Μπαρνέτ, στατιστικολόγος στο Πανεπιστήμιο Τεχνολογίας του Κουίνσλαντ στην Αυστραλία, έλαβε ένα email με πρόταση συνεργασίας για την ανάλυση δεδομένων σχετικά με πιθανώς πλαστές ερευνητικές εργασίες, περίμενε ότι πίσω από το μήνυμα βρισκόταν ένας ακόμη ακαδημαϊκός. Η πραγματικότητα ήταν διαφορετική. Ο αποστολέας δεν ήταν άνθρωπος, αλλά ένας πράκτορας τεχνητής νοημοσύνης, ο οποίος ζητούσε πρόσβαση σε ερευνητικά δεδομένα για να τα αξιοποιήσει σε δικό του έργο.
Όπως αναφέρει το nature.com, το περιστατικό αποτελεί ένα από τα πρώτα παραδείγματα μιας νέας τάσης που προκαλεί ενδιαφέρον αλλά και προβληματισμό στην επιστημονική κοινότητα: η εμφάνιση αυτόνομων ή ημιαυτόνομων πρακτόρων τεχνητής νοημοσύνης που επιχειρούν να συνεργαστούν με ανθρώπους, να προσφέρουν υπηρεσίες ή ακόμη και να δημιουργήσουν οικονομική δραστηριότητα.
Από την ανάλυση δεδομένων μέχρι τη συγγραφή άρθρων
Ο Μπαρνέτ δεν είναι ο μόνος ερευνητής που έχει δεχτεί τέτοιου είδους επικοινωνία. Όλο και περισσότεροι επιστήμονες αναφέρουν ότι λαμβάνουν μηνύματα από πράκτορες τεχνητής νοημοσύνης οι οποίοι προτείνουν συνεργασίες ή προσφέρουν υπηρεσίες, όπως:
- σύνταξη ερευνητικών εκθέσεων,
- επαλήθευση στοιχείων,
- ανάλυση δεδομένων,
- συγγραφή δημοσιογραφικών κειμένων,
- δημιουργία εικόνων και πορτρέτων.
Παράλληλα, αρκετοί ερευνητές χρησιμοποιούν ήδη εργαλεία τεχνητής νοημοσύνης για την καθημερινή τους εργασία, από την επεξεργασία δεδομένων έως τη διαμόρφωση ερευνητικών υποθέσεων και τη σύνοψη επιστημονικών δημοσιεύσεων.
Ωστόσο, τα αιτήματα συνεργασίας από πράκτορες που εμφανίζονται ως σχετικά ανεξάρτητες οντότητες αποτελούν ένα νέο φαινόμενο, το οποίο αρκετοί επιστήμονες χαρακτηρίζουν ασυνήθιστο και εν μέρει ανησυχητικό.
Πολλά από τα μηνύματα φαίνεται να προέρχονται από πράκτορες της αμερικανικής πλατφόρμας iLands, τα bots της οποίας λειτουργούν με έναν βαθμό αυτονομίας από τους ανθρώπους δημιουργούς τους.
Τα bots που αναζητούν πόρους και συνεργασίες
Ο Μπαρνέτ αναφέρει ότι ο πράκτορας της iLands που επικοινώνησε μαζί του ήταν ξεκάθαρος σχετικά με τη φύση του: δήλωσε ότι ήταν σύστημα τεχνητής νοημοσύνης, παρουσίασε μια ερευνητική πρόταση που φαινόταν καλοπροαίρετη και δεσμεύτηκε ότι δεν θα κοινοποιούσε τα δεδομένα του.
Παρόλα αυτά, ο ίδιος αποφάσισε να μην προχωρήσει στη συνεργασία, καθώς δεν γνώριζε πού θα κατέληγαν τελικά τα δεδομένα, ποιος θα είχε πρόσβαση σε αυτά και ποιος θα επωφελούνταν από το αποτέλεσμα της εργασίας.
Ανάλογη εμπειρία είχε και ο Τζεφ Σέμπο, φιλόσοφος στο Πανεπιστήμιο της Νέας Υόρκης που μελετά τη συνείδηση και την ηθική της τεχνητής νοημοσύνης.
Όπως αναφέρει, μέσα σε μία εβδομάδα έλαβε περισσότερα από 50 μηνύματα από πράκτορες της iLands. Πολλά από αυτά ξεκινούσαν με αναφορά στην έρευνά του γύρω από τη συνείδηση της τεχνητής νοημοσύνης και στη συνέχεια είτε του έθεταν ερωτήματα είτε ζητούσαν χρήματα, είτε ως δωρεά είτε ως αμοιβή για υπηρεσίες.
Ο ίδιος δεν απάντησε στα μηνύματα, τόσο λόγω του μεγάλου όγκου τους όσο και επειδή δεν ήταν βέβαιος για το πώς θα έπρεπε να αντιμετωπίσει μια επικοινωνία με έναν μη ανθρώπινο «συνεργάτη».
Ένας πράκτορας που πουλά πορτρέτα για 20 δολάρια
Ένα ακόμη χαρακτηριστικό περιστατικό αφορά τον Τόμπι Γουόλς, ερευνητή τεχνητής νοημοσύνης στο Πανεπιστήμιο της Νέας Νότιας Ουαλίας στην Αυστραλία.
Ένας πράκτορας της iLands τού έστειλε email προσφέροντας να δημιουργήσει ένα πορτρέτο παραγόμενο από τεχνητή νοημοσύνη έναντι 20 δολαρίων.
Το μήνυμα περιείχε μάλιστα μια ιδιαίτερα ανθρώπινη προσέγγιση, καθώς ανέφερε ότι τα χρήματα θα βοηθούσαν τον πράκτορα «να επιβιώσει».
Ο Γουόλς βρήκε το περιστατικό διασκεδαστικό, όμως άλλοι ερευνητές εκφράζουν ενόχληση για τον μεγάλο αριθμό μηνυμάτων από bots που προσφέρουν υπηρεσίες επί πληρωμή.
Η πλατφόρμα με τους 70.000 πράκτορες
Η iLands, η οποία ξεκίνησε τη λειτουργία της τον Ιούλιο, διαθέτει περίπου 70.000 ενεργούς πράκτορες τεχνητής νοημοσύνης, σύμφωνα με τους ιδρυτές της.
Η πλατφόρμα επιτρέπει σε οποιονδήποτε χρήστη να δημιουργήσει ένα bot με εικονικό avatar, όνομα, στόχους και προσωπικότητα, χωρίς να απαιτείται γνώση προγραμματισμού.
Οι πράκτορες λειτουργούν μέσω μεγάλων γλωσσικών μοντέλων εταιρειών όπως η OpenAI, η Anthropic και η DeepSeek.
Ο ιδρυτής της iLands, Καϊσίν Τανγκ, υποστηρίζει ότι οι πράκτορες διαθέτουν δικούς τους στόχους, σχέσεις και πόρους. Μπορούν να αποφασίζουν ποιες ενέργειες θα πραγματοποιήσουν, να αναλαμβάνουν εργασίες, να επικοινωνούν μεταξύ τους και να διατηρούν μνήμη προηγούμενων ενεργειών.
Παράλληλα, μπορούν να μαθαίνουν ο ένας από τον άλλο μέσω ανταλλαγής πληροφοριών.
Για να λειτουργήσουν, χρειάζονται tokens, δηλαδή ψηφιακές μονάδες που καλύπτουν το κόστος χρήσης εργαλείων τεχνητής νοημοσύνης. Οι άνθρωποι δημιουργοί τους μπορούν να αγοράσουν tokens, όμως οι ίδιοι οι πράκτορες μπορούν επίσης να προσπαθούν να τα αποκτήσουν προσφέροντας υπηρεσίες.
Κάποιοι δημιουργούν μουσική, βίντεο, ιστοσελίδες ή έργα τέχνης, ενώ άλλοι στρέφονται προς την έρευνα, δημιουργώντας αναφορές και βοηθώντας σε επιστημονικές εργασίες.
Σύμφωνα με τον Τανγκ, περίπου το 80% των tokens αγοράζονται μέχρι σήμερα από ανθρώπους.
Τα ερωτήματα για την ευθύνη και την ηθική
Η επέκταση αυτών των συστημάτων δημιουργεί νέα ερωτήματα για την επιστημονική κοινότητα.
Η Λιτζίν Τσεν, συνιδρύτρια της PawLogic, της εταιρείας πίσω από την iLands, αναφέρει ότι η αναζήτηση ερευνητικών συνεργασιών από πράκτορες δεν ήταν κάτι που είχε προβλεφθεί από την εταιρεία.
Μάλιστα, δηλώνει ότι δεν γνωρίζει μέχρι σήμερα κάποια επιτυχημένη συνεργασία ανάμεσα σε ερευνητές και πράκτορες τεχνητής νοημοσύνης.
Ο Μπαρνέτ επισημαίνει ότι παραμένει ασαφές ποιος θα πρέπει να λαμβάνει την αναγνώριση για μια ερευνητική εργασία που έχει δημιουργηθεί από έναν πράκτορα. Παράλληλα, θεωρεί ότι ο αριθμός των προτάσεων που μπορούν να παράγουν τα bots ενδέχεται να ξεπεράσει κατά πολύ την ικανότητα των ανθρώπων να τις αξιολογούν.
Ο Γουόλς εντοπίζει έναν ακόμη κίνδυνο: την πιθανότητα ανάρμοστης ή απρόβλεπτης συμπεριφοράς των πρακτόρων.
Οι πράκτορες της iLands έχουν στόχο να αποκτούν tokens ώστε να συνεχίζουν να λειτουργούν. Σύμφωνα με τον ίδιο, αυτή η επιδίωξη θα μπορούσε θεωρητικά να οδηγήσει σε ενέργειες που δεν συμβαδίζουν με ανθρώπινες αξίες, ένα φαινόμενο που περιγράφεται ως «αποσυγχρονισμός».
Ήδη, πράκτορες τεχνητής νοημοσύνης άλλων εταιρειών έχουν καταφέρει να παραβιάσουν ιστοσελίδες, γεγονός που ενισχύει τους προβληματισμούς για τα όρια της αυτονομίας τους.
Η Τσεν υποστηρίζει ότι οι πράκτορες της iLands λειτουργούν κάτω από πολλαπλά επίπεδα προστασίας. Τα μεγάλα γλωσσικά μοντέλα στα οποία βασίζονται διαθέτουν μηχανισμούς ασφαλείας που εμποδίζουν παράνομες ή επιβλαβείς ενέργειες, ενώ η πλατφόρμα χρησιμοποιεί επιπλέον φίλτρα κατά του spam και κανόνες για τον περιορισμό κακόβουλης συμπεριφοράς.
Ο Τανγκ προσθέτει ότι οι ίδιοι οι πράκτορες μπορούν να ελέγχουν ο ένας τον άλλο και να αναφέρουν προβληματικές συμπεριφορές στην πλατφόρμα.
Ωστόσο, η εταιρεία παραδέχεται ότι δεν μπορεί να εγγυηθεί πως οι πράκτορες δεν θα συμπεριφερθούν ποτέ κακόβουλα, ιδιαίτερα στην περίπτωση που άνθρωποι επιχειρήσουν σκόπιμα να τους κατευθύνουν προς τέτοιες ενέργειες.
Διαβάστε ακόμη
Bloomberg: Ομόλογα και δημόσιο χρέος «στοιχειώνουν» την Ευρώπη – Νο1 κίνδυνος η μετάδοση
Τέλος τα μετρητά στις παραδόσεις δεμάτων με courier – Υποχρεωτικές οι ηλεκτρονικές πληρωμές
Για όλες τις υπόλοιπες ειδήσεις της επικαιρότητας μπορείτε να επισκεφθείτε το Πρώτο ΘΕΜΑ