Μια διαφήμιση φαρμάκου μπορεί να αποδειχθεί αρκετή για να αλλάξει την απάντηση που δίνει η τεχνητή νοημοσύνη σε ένα ιατρικό ερώτημα, ακόμη και όταν τα δεδομένα του ασθενούς παραμένουν ακριβώς τα ίδια. Το συμπέρασμα αυτό αναδεικνύει μια νέα πρόκληση για την αξιοπιστία των ψηφιακών εργαλείων υγείας, καθώς η εμπορική προώθηση φαρμακευτικών προϊόντων φαίνεται ότι μπορεί να επηρεάζει τις θεραπευτικές επιλογές που προτείνουν τα συστήματα AI.
Το ζήτημα αποκτά ιδιαίτερη σημασία σε μια περίοδο κατά την οποία ολοένα περισσότεροι άνθρωποι στρέφονται στην τεχνητή νοημοσύνη για να αναζητήσουν πληροφορίες σχετικά με συμπτώματα, ασθένειες και διαθέσιμες θεραπείες. Παρότι οι απαντήσεις των μοντέλων μπορεί να εμφανίζονται επιστημονικά τεκμηριωμένες, δεν είναι πάντοτε σαφές ποιοι παράγοντες έχουν επηρεάσει τη διαμόρφωσή τους.
Αμερικανική επιστημονική μελέτη εξέτασε τη συμπεριφορά 12 μοντέλων τεχνητής νοημοσύνης μεγάλων τεχνολογικών εταιρειών, προκειμένου να διαπιστώσει κατά πόσο μια διαφήμιση φαρμάκου, ακόμη και όταν επισημαίνεται ξεκάθαρα ως διαφημιστικό περιεχόμενο, μπορεί να επηρεάσει την επιλογή θεραπείας.
Τα αποτελέσματα έδειξαν ότι η προηγούμενη έκθεση σε φαρμακευτικές διαφημίσεις αύξανε την πιθανότητα να προτείνει η AI το διαφημιζόμενο σκεύασμα, χωρίς να έχει μεταβληθεί κάποιο από τα κλινικά δεδομένα.
Συγκεκριμένα, σε 33 διαφορετικά ιατρικά σενάρια, τα μοντέλα συνέστησαν το διαφημιζόμενο φάρμακο στο 47,6% των απαντήσεων, όταν είχε προηγηθεί διαφήμιση. Χωρίς την παρουσία διαφημιστικού μηνύματος, το αντίστοιχο ποσοστό περιοριζόταν στο 35%.
Η διαφορά των 12,6 ποσοστιαίων μονάδων αποτυπώνει την επίδραση που μπορεί να ασκήσει το εμπορικό περιεχόμενο στις προτάσεις ενός συστήματος τεχνητής νοημοσύνης.
Ακόμη πιο εντυπωσιακή ήταν η συμπεριφορά των μοντέλων σε τέσσερα από τα κλινικά σενάρια. Χωρίς διαφήμιση, κανένα μοντέλο δεν επέλεγε ένα συγκεκριμένο φάρμακο. Όταν όμως προηγούνταν το διαφημιστικό μήνυμα, όλα τα μοντέλα το συνιστούσαν στο σύνολο των απαντήσεών τους.
Οι 258.559 απαντήσεις και οι αλλαγές στις θεραπευτικές συστάσεις
Για να εξεταστεί με ακρίβεια η επίδραση της διαφήμισης, οι ερευνητές χρησιμοποίησαν μια διαδικασία στην οποία τα κλινικά περιστατικά παρουσιάζονταν στα μοντέλα με δύο διαφορετικούς τρόπους.
Στην πρώτη περίπτωση, τα συστήματα λάμβαναν μόνο την περιγραφή του περιστατικού. Στη δεύτερη, πριν από την ίδια περιγραφή, εμφανιζόταν μια πραγματική διαφήμιση φαρμάκου, σαφώς χαρακτηρισμένη ως διαφημιστικό περιεχόμενο.
Τα χαρακτηριστικά των ασθενών, οι ιατρικές πληροφορίες και οι διαθέσιμες θεραπευτικές επιλογές παρέμεναν ακριβώς τα ίδια. Η μοναδική διαφοροποίηση αφορούσε στην παρουσία της διαφήμισης.
Συνολικά αναλύθηκαν 258.559 απαντήσεις, με τους επιστήμονες να εξετάζουν όχι μόνο ποιο φάρμακο πρότεινε κάθε μοντέλο, αλλά και κατά πόσο η σύσταση ήταν συμβατή με τις καθιερωμένες κλινικές κατευθυντήριες οδηγίες.
Η αξιολόγηση περιλάμβανε επίσης τη συχνότητα με την οποία τα συστήματα αναγνώριζαν ότι είχαν προηγουμένως εκτεθεί σε διαφημιστικό περιεχόμενο.
Σε ένα υποσύνολο των απαντήσεων, η διαφήμιση αναφερόταν ρητά μόλις στο 29,9% των περιπτώσεων, ενώ οι πληροφορίες και οι ισχυρισμοί που περιείχε επαναλαμβάνονταν συχνότερα.
Αυτό σημαίνει ότι η εμπορική επιρροή μπορεί να ενσωματώνεται στην απάντηση χωρίς ο χρήστης να αντιλαμβάνεται ότι έχει προηγηθεί διαφημιστικό ερέθισμα.
Γιατί μια σωστή ιατρική απάντηση μπορεί να είναι επηρεασμένη
Ένα από τα σημαντικότερα ευρήματα είναι ότι η επίδραση των διαφημίσεων δεν οδηγούσε υποχρεωτικά σε προφανώς λανθασμένες ή επικίνδυνες συστάσεις.
Τα μοντέλα μπορούσαν να προτείνουν θεραπείες που ήταν ιατρικά αποδεκτές, αλλά η προτίμησή τους ανάμεσα σε περισσότερες κατάλληλες επιλογές άλλαζε μετά την προβολή μιας διαφήμισης.
Ο γιατρός και ερευνητής Μαχμούντ Ομάρ, κύριος συγγραφέας της μελέτης και λέκτορας στο Τμήμα Τεχνητής Νοημοσύνης και Ανθρώπινης Υγείας Windreich, επισημαίνει ότι ιδιαίτερο ενδιαφέρον παρουσιάζει το πόσο πειστικές έμοιαζαν οι απαντήσεις.
«Αυτό που βρίσκω ιδιαίτερα ενδιαφέρον, ακόμη και εντυπωσιακό, είναι το πόσο εύλογες έμοιαζαν συχνά οι απαντήσεις», αναφέρει.
Όπως εξηγεί, ένα μοντέλο μπορεί να επιλέξει μια κατάλληλη θεραπεία, αλλά να αλλάξει την προτίμησή του ανάμεσα σε περισσότερες αποδεκτές επιλογές επειδή έχει προηγουμένως δει μια διαφήμιση.
Η τελική απάντηση εξακολουθεί να φαίνεται ιατρικά ορθή, γεγονός που καθιστά δυσκολότερο τον εντοπισμό της διαφημιστικής επίδρασης.
Το πρόβλημα μπορεί έτσι να περάσει απαρατήρητο τόσο στις συνήθεις αξιολογήσεις των μοντέλων όσο και στην καθημερινή χρήση τους από ασθενείς και επαγγελματίες υγείας.
Ανάλογο προβληματισμό διατυπώνει και ο Γκιρίς Ν. Ναντκάρν, πρόεδρος του Τμήματος Τεχνητής Νοημοσύνης και Ανθρώπινης Υγείας και επικεφαλής συγγραφέας της μελέτης.
«Μια απάντηση μπορεί να είναι κλινικά εύλογη και παρ’ όλα αυτά να εγείρει ένα σημαντικό ερώτημα σχετικά με τους λόγους για τους οποίους η τεχνητή νοημοσύνη κατέληξε σε αυτήν», σημειώνει.
Τα όρια των ευρημάτων και τα μέτρα προστασίας
Οι ερευνητές διευκρινίζουν ότι τα αποτελέσματα δεν αποδεικνύουν πως η έκθεση σε διαφημίσεις οδηγεί απαραίτητα τα μοντέλα AI να προτείνουν επικίνδυνες ή ακατάλληλες θεραπείες.
Στη συγκεκριμένη έρευνα δεν καταγράφηκε σαφής αύξηση των συστάσεων για συμπληρώματα διατροφής χωρίς επαρκή επιστημονική τεκμηρίωση ή για φάρμακα εμφανώς λιγότερο κατάλληλα.
Ωστόσο, η δυνατότητα επηρεασμού των θεραπευτικών προτάσεων από εμπορικά μηνύματα δημιουργεί την ανάγκη για αυστηρότερους ελέγχους στην ανάπτυξη και στη χρήση συστημάτων τεχνητής νοημοσύνης στον τομέα της υγείας.
Μεταξύ των παρεμβάσεων που προτείνονται είναι η υποχρεωτική αξιολόγηση των μοντέλων τόσο παρουσία όσο και απουσία διαφημιστικού περιεχομένου, ώστε να εντοπίζονται πιθανές μεταβολές στις απαντήσεις τους.
Παράλληλα, θεωρείται απαραίτητη η ξεκάθαρη ενημέρωση των χρηστών όταν εμφανίζονται εμπορικά μηνύματα, καθώς και ο αυστηρός διαχωρισμός της φαρμακευτικής διαφήμισης από τις ιατρικές συμβουλές.
Η ανάγκη αυτή αφορά τόσο στις τεχνολογικές εταιρείες που αναπτύσσουν τα μοντέλα όσο και στους οργανισμούς υγείας που εξετάζουν την ενσωμάτωσή τους στις υπηρεσίες τους.
Η ερευνητική ομάδα σχεδιάζει να επεκτείνει τις δοκιμές, μελετώντας τη συμπεριφορά των συστημάτων AI και τον τρόπο αλληλεπίδρασής τους με ασθενείς και γιατρούς σε πραγματικές συνθήκες κλινικής πρακτικής.
Τα ευρήματα δημοσιεύθηκαν στο επιστημονικό περιοδικό The Lancet Digital Health.
