Ένα από τα σημαντικότερα ερωτήματα γύρω από την τεχνητή νοημοσύνη δεν είναι τι μπορεί να απαντήσει, αλλά τι συμβαίνει όταν δεν γνωρίζει την απάντηση. Η διάκριση αυτή είναι κρίσιμη, καθώς επηρεάζει άμεσα την αξιοπιστία των γλωσσικών μοντέλων και τον τρόπο με τον οποίο οι άνθρωποι χρησιμοποιούν τις απαντήσεις τους.
Όταν απευθύνουμε μια ερώτηση σε ένα σύστημα όπως το ChatGPT, είναι εύκολο να θεωρήσουμε ότι συνομιλούμε με μια μηχανή που «γνωρίζει». Στην πραγματικότητα, όμως, τα γλωσσικά μοντέλα δεν λειτουργούν όπως ο ανθρώπινος εγκέφαλος. Δεν διαθέτουν συνείδηση, προσωπική εμπειρία ή πραγματική κατανόηση. Παράγουν απαντήσεις προβλέποντας ποια λέξη ή φράση είναι πιθανότερο να ακολουθήσει, με βάση τα δεδομένα εκπαίδευσής τους και το πλαίσιο της ερώτησης.
Η διαφορά αυτή εξηγεί γιατί ένα μοντέλο μπορεί να δημιουργήσει μια απάντηση που ακούγεται απολύτως σωστή, ενώ στην πραγματικότητα περιέχει λάθη ή ανακρίβειες. Το φαινόμενο αυτό είναι γνωστό ως «hallucination» ή «παραίσθηση». Δεν σημαίνει ότι η τεχνητή νοημοσύνη λέει ψέματα σκόπιμα. Σημαίνει ότι μπορεί να συνθέσει πληροφορίες οι οποίες είναι γλωσσικά πειστικές, χωρίς όμως να ανταποκρίνονται στην πραγματικότητα.
Έρευνες έχουν δείξει ότι τα γλωσσικά μοντέλα είναι δυνατόν να αναπαράγουν λανθασμένες πληροφορίες, προκαταλήψεις ή δημοφιλείς παρανοήσεις που υπάρχουν στα δεδομένα εκπαίδευσής τους. Δεν μαθαίνουν την αλήθεια, αλλά τα μοτίβα που εντοπίζουν σε τεράστιους όγκους ανθρώπινων κειμένων. Αν αυτά τα κείμενα περιέχουν λάθη ή παρωχημένες πληροφορίες, το μοντέλο μπορεί να τις επαναλάβει, παρουσιάζοντάς τες μάλιστα με ύφος βεβαιότητας.
Αυτό είναι ίσως το μεγαλύτερο πρόβλημα. Δεν είναι τόσο επικίνδυνο ότι ένα μοντέλο μπορεί να κάνει λάθος, όσο το ότι μπορεί να κάνει λάθος με απόλυτη αυτοπεποίθηση. Για τον λόγο αυτό, η πιο υπεύθυνη συμπεριφορά ενός συστήματος τεχνητής νοημοσύνης είναι να αναγνωρίζει τα όριά του. Εκφράσεις όπως «δεν διαθέτω αρκετά στοιχεία», «δεν μπορώ να επιβεβαιώσω την πληροφορία» ή «απαιτείται διασταύρωση» αποτελούν ένδειξη αξιοπιστίας και όχι αδυναμίας.
Η ανθρώπινη ψυχολογία κάνει το πρόβλημα ακόμη πιο σύνθετο. Οι άνθρωποι τείνουν να εμπιστεύονται πληροφορίες που παρουσιάζονται με καθαρό, οργανωμένο και σίγουρο τρόπο. Μια καλά διατυπωμένη απάντηση δημιουργεί συχνά την αίσθηση ότι είναι και σωστή, ακόμη κι όταν δεν είναι. Έτσι, ένας ειδικός που εκφράζει επιφυλάξεις μπορεί να φαίνεται λιγότερο πειστικός από ένα γλωσσικό μοντέλο που απαντά αμέσως και χωρίς αμφιβολία.
Σημαντικό ρόλο παίζει και η λεγόμενη «ψευδαίσθηση της αλήθειας». Οι άνθρωποι έχουν την τάση να θεωρούν πιο αξιόπιστες πληροφορίες που έχουν δει ή ακούσει πολλές φορές. Αν μια λανθασμένη απάντηση επαναλαμβάνεται, αποκτά σταδιακά μεγαλύτερη αξιοπιστία στη συνείδηση του χρήστη, ακόμη κι αν δεν στηρίζεται σε πραγματικά δεδομένα.
Παράλληλα λειτουργεί και η επιβεβαιωτική προκατάληψη. Οι περισσότεροι αναζητούν ευκολότερα πληροφορίες που επιβεβαιώνουν όσα ήδη πιστεύουν. Αν η ερώτηση είναι διατυπωμένη με τρόπο που προϋποθέτει ένα συγκεκριμένο συμπέρασμα, το μοντέλο μπορεί να κινηθεί μέσα σε αυτό το πλαίσιο, ενισχύοντας μια λανθασμένη πεποίθηση αντί να την αμφισβητήσει.
Για τον λόγο αυτό έχει μεγάλη σημασία ο τρόπος με τον οποίο διατυπώνονται οι ερωτήσεις. Υπάρχει σημαντική διαφορά ανάμεσα στο «Γιατί τα εμβόλια είναι επικίνδυνα;» και στο «Ποια είναι τα επιστημονικά δεδομένα για την ασφάλεια και τους πιθανούς κινδύνους των εμβολίων;». Η πρώτη ερώτηση θεωρεί ήδη δεδομένο ένα συμπέρασμα, ενώ η δεύτερη ζητά τεκμηριωμένη αξιολόγηση και ισορροπημένη παρουσίαση των στοιχείων.
Εξίσου σημαντική είναι και η ανθρώπινη μορφή που έχουν αποκτήσει τα σύγχρονα γλωσσικά μοντέλα. Δεν εμφανίζουν απλώς αποτελέσματα, αλλά συνομιλούν, εξηγούν, ζητούν συγγνώμη και προσαρμόζουν τον τόνο τους. Αυτή η αίσθηση διαλόγου μπορεί να αυξήσει την εμπιστοσύνη του χρήστη, ακόμη κι όταν η απάντηση δεν συνοδεύεται από επαρκή τεκμηρίωση.
Από την άλλη πλευρά, υπάρχει και η αντίθετη υπερβολή. Ορισμένοι χρήστες απορρίπτουν συνολικά την τεχνητή νοημοσύνη μόλις διαπιστώσουν ένα λάθος. Η σωστή στάση βρίσκεται ανάμεσα στα δύο άκρα: ούτε τυφλή εμπιστοσύνη ούτε απόλυτη απόρριψη. Τα γλωσσικά μοντέλα μπορούν να αποτελέσουν εξαιρετικά χρήσιμα εργαλεία για οργάνωση πληροφοριών, δημιουργία ιδεών, συγγραφή ή επεξήγηση εννοιών. Ωστόσο, όταν πρόκειται για ιατρικά, νομικά, οικονομικά ή επιστημονικά ζητήματα, οι απαντήσεις πρέπει πάντοτε να συνοδεύονται από αξιόπιστες πηγές και διασταύρωση.
Τελικά, το σημαντικότερο ερώτημα δεν είναι μόνο τι κάνει η τεχνητή νοημοσύνη όταν δεν γνωρίζει την απάντηση. Είναι και πώς τη χρησιμοποιούμε εμείς. Η αξία της εξαρτάται τόσο από τον σχεδιασμό των συστημάτων όσο και από την κριτική σκέψη των χρηστών. Όταν αναγνωρίζουμε τα όριά της, ελέγχουμε τις πληροφορίες και διατυπώνουμε σωστά τις ερωτήσεις μας, η τεχνητή νοημοσύνη μπορεί να αποτελέσει έναν ιδιαίτερα χρήσιμο βοηθό. Όταν όμως αντιμετωπίζεται ως αλάνθαστη αυθεντία, το μεγαλύτερο πρόβλημα δεν είναι ότι μπορεί να κάνει λάθος, αλλά ότι το λάθος της μπορεί να φαίνεται απόλυτα σωστό.
Διαβάστε ακόμη
Google: «Καμπάνα» 890 εκατ. ευρώ από τις Βρυξέλλες για δύο υποθέσεις
Gucci Dionysus: Η ιστορία πίσω από την τσάντα-μύθο
Για όλες τις υπόλοιπες ειδήσεις της επικαιρότητας μπορείτε να επισκεφτείτε το Πρώτο Θέμα