Η Τεχνητή Νοημοσύνη εξελίσσεται σε ένα εξαιρετικά ισχυρό και δωρεάν εργαλείο, προσφέροντας άμεση πρόσβαση σε τεράστιο όγκο παγκόσμιας γνώσης. Η δυνατότητα γρήγορων λύσεων τόσο στις επιχειρήσεις όσο και στην καθημερινότητα λειτουργεί ιδιαίτερα δελεαστικά. Ωστόσο, όταν οι απαντήσεις αφορούν κρίσιμα ζητήματα, τα λάθη μπορούν να προκαλέσουν σοβαρές συνέπειες. Πρόσφατη έρευνα αποκάλυψε ότι σχεδόν οι μισές απαντήσεις δημοφιλών μοντέλων AI περιέχουν σημαντικές ανακρίβειες ή ακόμη και κατασκευασμένες πηγές, παραπλανώντας ακόμη και μεγάλες εταιρείες.
Με μια πρώτη ματιά, η Τεχνητή Νοημοσύνη μοιάζει με εξελιγμένη μηχανή αναζήτησης, καθώς εντοπίζει και συνοψίζει πληροφορίες μέσα σε λίγα δευτερόλεπτα. Ωστόσο, διαφέρει ουσιαστικά από τα παραδοσιακά συστήματα αναζήτησης. Η Πραγκάτι Αβάστι, επίκουρη καθηγήτρια στο Πανεπιστήμιο Ντρέξελ, εξηγεί ότι τα μοντέλα AI παράγουν κείμενο προβλέποντας στατιστικά ποιες λέξεις είναι πιθανότερο να ακολουθήσουν, με βάση τα μοτίβα της εκπαίδευσής τους.
«Η Τεχνητή Νοημοσύνη μπορεί να δημιουργήσει μια απάντηση που ακούγεται απολύτως πειστική και καλογραμμένη, αλλά στην πραγματικότητα να είναι εντελώς λανθασμένη», σημειώνει η Αβάστι.
Το ποσοστό αξιοπιστίας των απαντήσεων εξακολουθεί να αποτελεί αντικείμενο συζήτησης και επηρεάζεται από πολλούς παράγοντες, αναφέρει το Forbes. Σε έρευνα του BBC και της Ευρωπαϊκής Ένωσης Ραδιοτηλεόρασης, τουλάχιστον το 45% των απαντήσεων εμφάνιζε κάποιο σοβαρό πρόβλημα. Η μελέτη βασίστηκε σε δεδομένα από 22 οργανισμούς μέσων ενημέρωσης και κατέδειξε ότι το 31% των περιπτώσεων περιείχε ελλιπείς, παραπλανητικές ή λανθασμένες παραπομπές.
Παράλληλα, το 20% των απαντήσεων περιλάμβανε σοβαρά σφάλματα ακρίβειας, όπως ξεπερασμένα στοιχεία ή εντελώς φανταστικές πληροφορίες.
Τα πιο συνηθισμένα λάθη
Τα συνηθέστερα προβλήματα της Τεχνητής Νοημοσύνης περιλαμβάνουν παραπληροφόρηση, παρωχημένες ειδήσεις και τις λεγόμενες «ψευδαισθήσεις» (hallucinations).
Παρουσιάζονται επίσης παραλείψεις στοιχείων, επικαλύψεις, κατασκευασμένες πηγές ή συνδυασμός αληθινών και ψευδών δεδομένων. Τα λανθασμένα αυτά αποτελέσματα μπορούν να ξεγελάσουν ακόμη και τις πιο οργανωμένες επιχειρήσεις.
Χαρακτηριστικό παράδειγμα, σύμφωνα με τους New York Times, αποτέλεσε η μεγάλη δικηγορική εταιρεία της Wall Street Sullivan & Cromwell, η οποία κατέθεσε στο δικαστήριο έγγραφα με εντελώς ανύπαρκτες νομικές υποθέσεις που είχαν δημιουργηθεί από AI.
Τα μοντέλα βασίζονται αποκλειστικά στα δεδομένα με τα οποία έχουν εκπαιδευτεί, κάτι που καθιστά τις απαντήσεις τους ευάλωτες. Αν οι βάσεις δεδομένων δεν έχουν ενημερωθεί πρόσφατα, οι πληροφορίες μετά από συγκεκριμένο χρονικό σημείο απλώς απουσιάζουν. Επιπλέον, πολλές φορές δεν καλύπτεται η εξειδικευμένη γνώση που αναζητά ο χρήστης. Το σύστημα μπορεί να παραδεχθεί ότι δεν διαθέτει επαρκή στοιχεία, όμως ο μεγαλύτερος κίνδυνος εμφανίζεται όταν ο χρήστης αγνοεί αυτούς τους περιορισμούς.
Όταν η Τεχνητή Νοημοσύνη επικαλείται πηγές από επιστημονικά περιοδικά ή έγκυρους οργανισμούς, δημιουργείται μια ψευδαίσθηση αυθεντίας. Στην πραγματικότητα, το μοντέλο αναπαράγει στατιστικά μοτίβα χωρίς να αξιολογεί ουσιαστικά το περιεχόμενο. Παράλληλα, υπάρχει πάντα ο κίνδυνος σύγχυσης συμφραζομένων και ακατάλληλης σύνδεσης άσχετων πληροφοριών.
Το θετικό στοιχείο είναι ότι τα λάθη μπορούν ακόμη να εντοπιστούν, αρκεί να υπάρχει χρόνος και προσεκτικός έλεγχος των απαντήσεων.
Τα έξι βήματα ελέγχου αξιοπιστίας
- Πλάγια ανάγνωση και διασταύρωση πηγών
Οι χρήστες δεν πρέπει να θεωρούν ποτέ τις απαντήσεις της AI μοναδική πηγή πληροφόρησης. Το Πανεπιστήμιο Texas A&M Corpus Christi προτείνει την τεχνική της πλάγιας ανάγνωσης, δηλαδή την ανεξάρτητη επιβεβαίωση των πληροφοριών μέσω Google ή Google Scholar. - Διαρκής αμφισβήτηση
Η κριτική στάση απέναντι στις απαντήσεις είναι απαραίτητη. Η Λόρι Κιν Κότσερ, CEO της Different Day, συμβουλεύει τους χρήστες να ζητούν από την AI να υποστηρίξει και την αντίθετη άποψη ή να εντοπίσει αδυναμίες στα επιχειρήματά της. - Σύγκριση διαφορετικών μοντέλων
Η υποβολή του ίδιου ερωτήματος σε διαφορετικά μοντέλα βοηθά στον εντοπισμό αποκλίσεων. Ο Σρούτι Τιουάρι της Dell Technologies εξηγεί ότι ChatGPT, Claude και Gemini έχουν εκπαιδευτεί σε διαφορετικά δεδομένα, άρα η συμφωνία μεταξύ τους αυξάνει την αξιοπιστία. - Έλεγχος επικαιρότητας
Τα μοντέλα AI σταματούν να ενημερώνονται μετά την ολοκλήρωση της εκπαίδευσής τους. Αυτό σημαίνει ότι μπορεί να μην γνωρίζουν πρόσφατες εξελίξεις ή νέα δεδομένα, ειδικά σε ειδήσεις και στατιστικά. - Έλεγχος παραπομπών
Ο Ντόιλ Άλμπι της Prolexity τονίζει ότι οι χρήστες πρέπει να επιβεβαιώνουν αν οι πηγές όντως υποστηρίζουν όσα αναφέρει η AI. Ο Σαχίλ Ντάτα προειδοποιεί ότι πολλές φορές δημιουργούνται ψεύτικες βιβλιογραφικές αναφορές που δεν υπάρχουν σε επιστημονικές βάσεις δεδομένων. - Εμπιστοσύνη στο ένστικτο
Η ανθρώπινη διαίσθηση λειτουργεί συχνά ως προειδοποιητικό σήμα. Οι λανθασμένες απαντήσεις εμφανίζουν συχνά υπερβολική βεβαιότητα και επαναλαμβανόμενα μοτίβα. Όταν μια απάντηση φαίνεται ύποπτη, απαιτείται επιστροφή στα προηγούμενα στάδια ελέγχου.
Διαβάστε ακόμη
Νεμπής: Στην Ελλάδα τα δίκτυα ήταν, είναι και θα είναι ταυτόσημα με τον ΟΤΕ
Για όλες τις υπόλοιπες ειδήσεις της επικαιρότητας μπορείτε να επισκεφτείτε το Πρώτο Θέμα