Την ώρα που η τεχνητή νοημοσύνη περνά από την απλή παροχή απαντήσεων στην εκτέλεση πραγματικών ενεργειών για λογαριασμό των χρηστών, ένα νέο κεφάλαιο ανοίγει για το διαδίκτυο. Οι λεγόμενοι AI agents δεν περιορίζονται πλέον στο να συνομιλούν με τον χρήστη. Μπορούν να περιηγούνται μόνοι τους στο διαδίκτυο, να πραγματοποιούν αγορές, να κλείνουν ραντεβού, να επικοινωνούν με επιχειρήσεις και να αναλαμβάνουν εργασίες που μέχρι σήμερα απαιτούσαν ανθρώπινη παρέμβαση.
Ένα από τα πιο χαρακτηριστικά παραδείγματα είναι το Muse της Meta, ένας AI agent που έχει σχεδιαστεί ώστε να αναλαμβάνει σύνθετες εργασίες με περιορισμένη ανθρώπινη επίβλεψη. Το σύστημα μπορεί να χρησιμοποιεί τον δικό του browser για να ακυρώνει συνδρομές σε γυμναστήρια, να διαπραγματεύεται με τμήματα εξυπηρέτησης πελατών, να αγοράζει προϊόντα και να προσκαλεί φίλους σε εκδηλώσεις. Σύντομα αναμένεται να μπορεί ακόμη και να πραγματοποιεί τηλεφωνικές κλήσεις.
Πρόκειται για ένα από τα πρώτα δωρεάν, πλήρως εξοπλισμένα εργαλεία AI agent που λανσάρονται από μεγάλο τεχνολογικό όμιλο. Εκατομμύρια χρήστες το κατέβασαν μέσα στις πρώτες εβδομάδες, ενώ και άλλες εταιρείες τεχνητής νοημοσύνης ετοιμάζουν αντίστοιχα προϊόντα.
Η εξέλιξη αυτή δημιουργεί την αίσθηση ότι το διαδίκτυο περνά σε μια νέα εποχή. Όμως, μαζί με τις δυνατότητες έρχονται και σημαντικοί κίνδυνοι, όπως μεταδίδει το BBC.
Ένα διαδίκτυο σχεδιασμένο για ανθρώπους
Το σημερινό διαδίκτυο δημιουργήθηκε με βάση την παραδοχή ότι οι χρήστες είναι άνθρωποι με περιορισμένο χρόνο και υπομονή. Οι AI agents δεν έχουν τους ίδιους περιορισμούς.
Αυτό σημαίνει ότι οι χρήστες μπορεί σύντομα να χρειάζεται να ανταγωνίζονται bots για εισιτήρια συναυλιών, κρατήσεις εστιατορίων και ραντεβού. Μικρές επιχειρήσεις κινδυνεύουν να κατακλυστούν από αυτοματοποιημένα αιτήματα, ενώ ιστοσελίδες που βασίζονται στη διαφήμιση αντιμετωπίζουν ήδη σημαντικές πιέσεις, καθώς οι AI agents δεν βλέπουν διαφημίσεις και δεν κάνουν κλικ σε αυτές.
Παράλληλα, οι χρήστες ενδέχεται να βρεθούν αντιμέτωποι με ολοένα περισσότερες διαδικασίες επιβεβαίωσης ότι είναι άνθρωποι, καθώς οι ιστοσελίδες προσπαθούν να προστατευθούν από την αυξανόμενη δραστηριότητα των bots.
Το αποτέλεσμα μπορεί να είναι μια περίοδος ψηφιακού χάους, μέχρι να δημιουργηθούν νέοι κανόνες και υποδομές που θα ανταποκρίνονται στην πραγματικότητα των AI agents.
Το «πρόβλημα της Τέιλορ Σουίφτ»
Ένα χαρακτηριστικό παράδειγμα του τι μπορεί να συμβεί αφορά την αγορά εισιτηρίων.
Το 2024, θαυμαστές της Τέιλορ Σουίφτ στις ΗΠΑ ταξίδεψαν στην Ευρώπη για να παρακολουθήσουν συναυλίες της, καθώς οι τιμές των εισιτηρίων στις ΗΠΑ είχαν εκτοξευθεί. Οι μεταπωλητές εισιτηρίων αγόραζαν μεγάλες ποσότητες και στη συνέχεια τις διέθεταν σε υψηλότερες τιμές.
Με τους AI agents, κάθε χρήστης θα μπορούσε ουσιαστικά να έχει στη διάθεσή του έναν προσωπικό bot μεταπώλησης εισιτηρίων.
Το φαινόμενο αυτό θα μπορούσε να επεκταθεί πολύ πέρα από τις συναυλίες. Οι διαθέσιμες κρατήσεις σε ένα δημοφιλές εστιατόριο μπορεί να εξαφανίζονται σχεδόν αμέσως, ενώ ραντεβού για ανανέωση διαβατηρίων ή αδειών οδήγησης θα μπορούσαν να γίνονται αντικείμενο μαζικών αυτοματοποιημένων κρατήσεων.
Κάποιοι χρήστες ενδέχεται να κλείνουν ακόμη και πέντε ραντεβού ταυτόχρονα, απλώς και μόνο επειδή η διαδικασία θα είναι τόσο εύκολη μέσω ενός AI agent.
Μία πιθανή λύση θα ήταν η εγκατάλειψη του μοντέλου «όποιος προλάβει» και η μετάβαση σε σύστημα κλήρωσης. Ωστόσο, κάτι τέτοιο θα αποτελούσε μεγάλη αλλαγή στον τρόπο με τον οποίο λειτουργούν σήμερα οι ψηφιακές υπηρεσίες.
Όταν οι ιστοσελίδες δεν αντέχουν
Το πρόβλημα γίνεται ακόμη μεγαλύτερο όταν εκατομμύρια ή δισεκατομμύρια agents αρχίσουν να εκτελούν ταυτόχρονα εργασίες που ένας άνθρωπος θα χρειάζονταν ημέρες ή εβδομάδες για να ολοκληρώσει.
Ένας άνθρωπος μπορεί να στείλει δύο ερωτήματα σε μια επιχείρηση μέσα σε μία ημέρα. Ένας AI agent, όμως, θα μπορούσε να στείλει εκατοντάδες αιτήματα.
Αυτό μπορεί να δημιουργήσει τεράστια επιβάρυνση για επιχειρήσεις και ιστοσελίδες που δεν έχουν σχεδιαστεί για τέτοιο όγκο ψηφιακής κίνησης.
Η πίεση στο διαδίκτυο έχει ήδη αρχίσει να γίνεται αισθητή. Οι μηχανές αναζήτησης και τα chatbots απαντούν πλέον απευθείας σε ολοένα περισσότερες ερωτήσεις, με αποτέλεσμα οι χρήστες να επισκέπτονται λιγότερες ιστοσελίδες.
Οι AI agents θα μπορούσαν να εντείνουν ακόμη περισσότερο αυτή την τάση. Δεν κάνουν κλικ σε διαφημίσεις, δεν αγοράζουν συνδρομές και δεν περιηγούνται στις ιστοσελίδες με τον τρόπο που το κάνουν οι άνθρωποι.
Παράλληλα, η κίνηση από bots αυξάνεται σημαντικά, δημιουργώντας ένα νέο φορτίο για τις ψηφιακές υποδομές. Ιστοσελίδες και υπηρεσίες που δεν έχουν σχεδιαστεί για τέτοιο όγκο αυτοματοποιημένης κίνησης μπορεί να αντιμετωπίσουν σοβαρά προβλήματα.
Θα λειτουργούν πραγματικά προς όφελος του χρήστη;
Υπάρχει όμως και ένας διαφορετικός κίνδυνος: τι γίνεται αν ο AI agent δεν ενεργεί αποκλειστικά προς το συμφέρον του χρήστη;
Όταν ένα σύστημα αποκτά τη δυνατότητα να λαμβάνει αποφάσεις για αγορές, ταξίδια ή προσωπικές προτιμήσεις, δημιουργείται η πιθανότητα να επηρεαστεί από εμπορικά συμφέροντα.
Για παράδειγμα, αν ένας agent οργανώσει ένα ταξίδι, ο χρήστης δεν θα γνωρίζει απαραίτητα αν επέλεξε την καλύτερη τιμή ή αν προτίμησε αεροπορικές εταιρείες και ξενοδοχεία που συνεργάζονται με την εταιρεία που ανέπτυξε το σύστημα.
Αντίστοιχα, ένας AI agent που προτείνει μουσική θα μπορούσε να επιλέγει με βάση τις προτιμήσεις του χρήστη ή να προβάλλει καλλιτέχνες που έχουν εμπορικές συμφωνίες με την πλατφόρμα.
Η Meta υποστηρίζει ότι το Muse διαθέτει δικλείδες ασφαλείας και ελέγχους χρήστη, ενώ έχει σχεδιαστεί να λειτουργεί σαν προσωπικός βοηθός που ενεργεί για λογαριασμό ενός ανθρώπου και ακολουθεί συγκεκριμένους κανόνες.
Ωστόσο, παραμένουν ερωτήματα σχετικά με το κατά πόσο οι όροι χρήσης εγγυώνται ότι ο agent θα λαμβάνει πάντοτε αποφάσεις που εξυπηρετούν αποκλειστικά τον χρήστη.
Τα προσωπικά δεδομένα στο επίκεντρο
Ο μεγαλύτερος ίσως προβληματισμός αφορά τον όγκο των προσωπικών δεδομένων που χρειάζεται να αποκτήσει ένας AI agent για να λειτουργήσει πραγματικά ως ψηφιακός βοηθός.
Ένας χρήστης μπορεί να του δώσει πρόσβαση στο Gmail, στο ημερολόγιό του, ακόμη και στον υπολογιστή του.
Το ηλεκτρονικό ταχυδρομείο μπορεί να περιέχει χρόνια προσωπικών συνομιλιών, οικονομικά στοιχεία, συμβόλαια, αποδείξεις, ιατρικά αποτελέσματα και νομικά έγγραφα. Με άλλα λόγια, αποτελεί ένα είδος ψηφιακού παραθύρου στον προσωπικό κόσμο του χρήστη.
Το Muse μπορεί επίσης να ζητήσει πρόσβαση σε τραπεζικούς λογαριασμούς ή στον σκληρό δίσκο του υπολογιστή, αν και ο χρήστης δεν είναι υποχρεωμένος να την παραχωρήσει.
Η Meta υποστηρίζει ότι τα δεδομένα που συλλέγει το Muse δεν συνδέονται με τα διαφημιστικά της συστήματα και ότι ειδικοί μηχανισμοί εμποδίζουν την πρόσβαση της AI σε κωδικούς πρόσβασης και στοιχεία πληρωμών.
Όταν το Muse συνδέεται με το Gmail, ο χρήστης μπορεί επίσης να επιλέξει αν ο agent θα σαρώσει ολόκληρο το inbox ή μόνο τα μηνύματα που σχετίζονται με συγκεκριμένες εργασίες.
Ωστόσο, σύμφωνα με τους όρους λειτουργίας που περιγράφονται, τα δεδομένα του Muse χρησιμοποιούνται εξ ορισμού για την εκπαίδευση νέων μοντέλων AI, με δυνατότητα εξαίρεσης μέσω σχετικής ρύθμισης. Η Meta αναφέρει ότι πριν χρησιμοποιηθούν για εκπαίδευση, τα δεδομένα υφίστανται επεξεργασία ώστε να αφαιρούνται στοιχεία που μπορούν να ταυτοποιήσουν τον χρήστη.
Ένα κρίσιμο κενό ασφαλείας
Οι ανησυχίες δεν περιορίζονται στη θεωρία.
Λίγο μετά την κυκλοφορία του Muse, ερευνητής ασφαλείας εντόπισε κρίσιμη ευπάθεια στην εφαρμογή. Σύμφωνα με την ανάλυσή του, ένας εισβολέας θα μπορούσε, μέσω μιας σχετικά απλής επίθεσης, να αποκτήσει τον έλεγχο του Muse, των δεδομένων του και ακόμη και άλλων συνδεδεμένων συσκευών, όπως ένα κινητό τηλέφωνο ή μια έξυπνη κλειδαριά.
Η Meta διόρθωσε άμεσα την ευπάθεια και υποστηρίζει ότι το Muse είχε υποβληθεί σε εκτεταμένες δοκιμές ασφαλείας και ιδιωτικότητας πριν από την κυκλοφορία του.
Ωστόσο, το περιστατικό δείχνει πόσο διαφορετικές είναι οι απαιτήσεις ασφαλείας ενός απλού chatbot από εκείνες ενός AI agent που διαθέτει πρόσβαση στην πραγματική ζωή του χρήστη.
Χρειάζονται «κανόνες κυκλοφορίας»
Η νέα πραγματικότητα οδηγεί ερευνητές και τεχνολογικές εταιρείες στην αναζήτηση ενός διαφορετικού μοντέλου για το διαδίκτυο.
Η βασική ιδέα είναι ότι οι AI agents χρειάζονται κανόνες αντίστοιχους με εκείνους που ισχύουν για τα αυτοκίνητα στους δρόμους: φρένα, φανάρια, κανόνες κυκλοφορίας και σαφή όρια συμπεριφοράς.
Παράλληλα, ο κλάδος αναπτύσσει πρωτόκολλα και πρότυπα που θα επιτρέπουν στους agents να συνδέονται απευθείας με άλλες υπηρεσίες με πιο ελεγχόμενο και συνεργατικό τρόπο.
Ορισμένες εταιρείες εξετάζουν ακόμη και μοντέλα όπου οι AI agents θα πληρώνουν για την πρόσβαση σε περιεχόμενο και δεδομένα ιστοσελίδων, αντί να τα συλλέγουν μαζικά χωρίς ανταπόδοση.
Ήδη ορισμένες πλατφόρμες κρατήσεων εστιατορίων έχουν απαγορεύσει τη χρήση AI agents για συγκεκριμένες διαδικασίες, ενώ στη Βρετανία έχουν αλλάξει οι κανόνες για την κράτηση εξετάσεων οδήγησης, εν μέρει ως απάντηση στη δράση των bots.
Η προοπτική παραμένει σημαντική: οι AI agents θα μπορούσαν να δημιουργήσουν νέες επενδύσεις, καινοτομία και οικονομική αξία. Όμως το κρίσιμο ερώτημα είναι αν οι κανόνες και οι υποδομές που θα δημιουργηθούν θα αποτρέψουν την απόκτηση αθέμιτων πλεονεκτημάτων από συγκεκριμένες εταιρείες.
Ένα νέο κόστος για τους χρήστες
Το διαδίκτυο φαίνεται να βρίσκεται στην αρχή μιας μεγάλης μετάβασης.
Οι AI agents μπορούν να κάνουν πράγματα που μέχρι σήμερα απαιτούσαν χρόνο και ανθρώπινη προσπάθεια. Μπορούν να στείλουν μηνύματα σε πωλητές, να κάνουν αγορές, να διαπραγματευτούν εκπτώσεις και να οργανώσουν καθημερινές εργασίες.
Αυτό όμως σημαίνει ότι, σε μεγάλη κλίμακα, η ίδια τεχνολογία μπορεί να δημιουργήσει τεράστια πίεση στις επιχειρήσεις και στις ψηφιακές υποδομές, ενώ ταυτόχρονα αυξάνει την ανάγκη πρόσβασης σε προσωπικά δεδομένα.
Η νέα εποχή των AI agents μπορεί επομένως να προσφέρει σημαντική ευκολία, αλλά θα συνοδεύεται από ένα τίμημα: περισσότερα προσωπικά δεδομένα, μεγαλύτερη έκθεση σε κινδύνους ασφαλείας και ένα διαδίκτυο που θα πρέπει να ξανασχεδιαστεί για ανθρώπους και μηχανές ταυτόχρονα.
Το ερώτημα δεν είναι πλέον αν οι AI agents θα μπουν στην καθημερινότητα. Έχουν ήδη αρχίσει να το κάνουν. Το κρίσιμο ζήτημα είναι ποιοι κανόνες θα υπάρχουν όταν δισεκατομμύρια από αυτούς αρχίσουν να κινούνται ταυτόχρονα στο διαδίκτυο.
Διαβάστε ακόμη
Η άμμος που αποθηκεύει ενέργεια και θερμαίνει κτήρια
Παίζει ρόλο η εμφάνιση στη δουλειά;
Για όλες τις υπόλοιπες ειδήσεις της επικαιρότητας μπορείτε να επισκεφθείτε το Πρώτο ΘΕΜΑ
Σχολίασε εδώ
Για να σχολιάσεις, χρησιμοποίησε ένα ψευδώνυμο.