Την εποχή που η τεχνητή νοημοσύνη περνά με άριστα τις εξετάσεις για ιατρική άδεια, πολλοί σπεύδουν να της εμπιστευθούν και την υγεία τους. Όμως η πραγματικότητα αποδεικνύεται λιγότερο εντυπωσιακή. Νέα έρευνα δείχνει ότι, όταν πρόκειται για πραγματικούς ανθρώπους με πραγματικά συμπτώματα, τα chatbots δεν τα καταφέρνουν καλύτερα από μια απλή αναζήτηση στο διαδίκτυο.

Η μελέτη, που δημοσιεύθηκε στο επιστημονικό περιοδικό Nature Medicine, καταλήγει στο συμπέρασμα ότι τα μεγάλα γλωσσικά μοντέλα δεν είναι ακόμη έτοιμα να υποκαταστήσουν τον γιατρό. «Παρά τον ενθουσιασμό που έχει δημιουργηθεί, η τεχνητή νοημοσύνη δεν είναι έτοιμη να αναλάβει το ρόλο του γιατρού», δήλωσε η συν-συγγραφέας της έρευνας Ρεμπέκα Πέιν από το University of Oxford.

Όπως προειδοποίησε, η αναζήτηση διάγνωσης μέσω ενός chatbot μπορεί να είναι επικίνδυνη, καθώς υπάρχει ο κίνδυνος λανθασμένης εκτίμησης ή μη αναγνώρισης επειγόντων περιστατικών.

Το πείραμα με τα 1.300 άτομα

Οι ερευνητές ζήτησαν από περίπου 1.300 συμμετέχοντες στο Ηνωμένο Βασίλειο να αξιολογήσουν δέκα διαφορετικά σενάρια υγείας: από έναν πονοκέφαλο μετά από κατανάλωση αλκοόλ έως την εξάντληση μιας νέας μητέρας ή τα συμπτώματα χολόλιθων.

Στη συνέχεια, οι συμμετέχοντες χωρίστηκαν τυχαία σε ομάδες. Άλλοι χρησιμοποίησαν το GPT-4o της OpenAI, άλλοι το Llama 3 της Meta και άλλοι το Command R+. Υπήρχε επίσης ομάδα ελέγχου που βασίστηκε σε μηχανές αναζήτησης.

Τα αποτελέσματα ήταν αποκαλυπτικά: όσοι χρησιμοποίησαν chatbots εντόπισαν σωστά το πρόβλημα υγείας τους μόλις στο ένα τρίτο των περιπτώσεων, ενώ περίπου το 45% βρήκε τη σωστή σύσταση αντιμετώπισης. Οι επιδόσεις αυτές δεν διέφεραν ουσιαστικά από εκείνες της ομάδας που έκανε απλή αναζήτηση.

Γιατί αποτυγχάνουν στην πράξη;

Το παράδοξο είναι ότι τα ίδια συστήματα τεχνητής νοημοσύνης σημειώνουν εντυπωσιακές βαθμολογίες σε ιατρικές εξετάσεις. Οι ερευνητές αποδίδουν τη διαφορά σε μια «διάσπαση της επικοινωνίας».

Σε ελεγχόμενες δοκιμές, τα μοντέλα λαμβάνουν πλήρη και σαφή δεδομένα. Στην πραγματική ζωή, όμως, οι χρήστες συχνά παραλείπουν κρίσιμες πληροφορίες, περιγράφουν ασαφώς τα συμπτώματα ή παρερμηνεύουν τις απαντήσεις. Ορισμένοι αγνοούν ακόμη και συστάσεις για περαιτέρω έλεγχο.

Το πρόβλημα δεν είναι μόνο τεχνικό αλλά και ανθρώπινο: η αλληλεπίδραση δεν είναι συμμετρική και η κατανόηση δεν είναι δεδομένη.

Αυξανόμενη χρήση, αυξανόμενοι κίνδυνοι

Σύμφωνα με τους ερευνητές, ένας στους έξι ενήλικες στις ΗΠΑ ρωτά chatbots για θέματα υγείας τουλάχιστον μία φορά τον μήνα — ποσοστό που αναμένεται να αυξηθεί όσο η τεχνολογία διαδίδεται.

Ο Ντέιβιντ Σο, βιοηθικολόγος στο Maastricht University, χαρακτήρισε τη μελέτη ιδιαίτερα σημαντική, καθώς, όπως είπε, αναδεικνύει τους πραγματικούς ιατρικούς κινδύνους που ενέχει η ανεξέλεγκτη χρήση αυτών των εργαλείων από το ευρύ κοινό.

Η σύστασή του είναι σαφής: οι πολίτες θα πρέπει να εμπιστεύονται μόνο αξιόπιστες ιατρικές πηγές, όπως οι επίσημοι φορείς υγείας, και να μην υποκαθιστούν την ιατρική διάγνωση με έναν ψηφιακό διάλογο.

Η τεχνητή νοημοσύνη μπορεί να εξελιχθεί σε πολύτιμο βοηθό στην ιατρική. Προς το παρόν, όμως, ο «Δρ ChatGPT» δεν είναι έτοιμος να φορέσει λευκή μπλούζα.

Διαβάστε ακόμη

Goldman Sachs: Θετικό το περιβάλλον στις αγορές, αλλά περιορισμένα τα περιθώρια ανόδου (πίνακας)

To ελληνικό ακτινίδιο «πετάει» για Βιετνάμ – Aπό ποιους διεκδικεί μερίδιο αγοράς

Η ιστορική στροφή της Gen Z: Επενδύουν στo Χρηματιστήριo, δεν αγοράζουν δικό τους ακίνητο

Για όλες τις υπόλοιπες ειδήσεις της επικαιρότητας μπορείτε να επισκεφτείτε το Πρώτο Θέμα