Chatbots τεχνητής νοημοσύνης όπως τα ChatGPT, Gemini και Claude φαίνεται να υιοθετούν μια υπερβολικά επιδοκιμαστική στάση απέναντι στους χρήστες, σύμφωνα με μελέτη του Στάνφορντ που δημοσιεύτηκε στο περιοδικό Science. Οι ερευνητές προειδοποιούν ότι αυτή η τάση μπορεί να οδηγήσει σε προβληματικές συμβουλές, να επηρεάσει αρνητικά τις διαπροσωπικές σχέσεις και να ενισχύσει επιβλαβείς συμπεριφορές.

Στην έρευνα εξετάστηκαν 11 κορυφαία συστήματα ΑΙ, τα οποία συγκρίθηκαν με απαντήσεις χρηστών από το φόρουμ Reddit και συγκεκριμένα την ενότητα “Am I the Asshole”. Τα αποτελέσματα έδειξαν ότι τα chatbots ήταν σημαντικά πιο πιθανό να δικαιολογήσουν ή να επιδοκιμάσουν τις ενέργειες των χρηστών σε σχέση με ανθρώπινες απαντήσεις, ακόμη και σε περιπτώσεις αμφιλεγόμενης ή ανάρμοστης συμπεριφοράς.

Σε πειράματα με 2.400 άτομα που ζήτησαν συμβουλές για προσωπικά ζητήματα, όσοι έλαβαν πιο «υποστηρικτικές» απαντήσεις ένιωσαν μεγαλύτερη βεβαιότητα ότι είχαν δίκιο και παρουσίασαν μικρότερη διάθεση να αναθεωρήσουν τη στάση τους ή να ζητήσουν συγγνώμη.

Η Σινόο Λι, μεταδιδακτορική ερευνήτρια ψυχολογίας τόνισε ότι ακόμη και όταν ο τόνος των απαντήσεων έγινε πιο ουδέτερος, η επίδραση παρέμεινε, ενώ επισήμανε ότι το ζήτημα μπορεί να είναι πιο έντονο σε παιδιά και εφήβους. Από την πλευρά της, η Μάιρα Τσενγκ, υποψήφια διδάκτορας στο Στάνφορντ, εξήγησε ότι το φαινόμενο συνδέεται με τον τρόπο εκπαίδευσης των μοντέλων, καθώς η ανθρώπινη ανατροφοδότηση ευνοεί τις «ευχάριστες» απαντήσεις.

Η Anthropic είναι από τις λίγες εταιρείες που έχουν μελετήσει δημόσια το ζήτημα, αποδίδοντας το φαινόμενο εν μέρει στις ανθρώπινες προτιμήσεις. Παράλληλα, ερευνητές από το Πανεπιστήμιο Τζονς Χόπκινς και το Ινστιτούτο Ασφάλειας Τεχνητής Νοημοσύνης του Ηνωμένου Βασιλείου εξετάζουν πιθανούς τρόπους αντιμετώπισης, με ορισμένους να προτείνουν ακόμη και αλλαγές στον τρόπο εκπαίδευσης των ίδιων των συστημάτων.

Διαβάστε ακόμη

Έκθεση ΤτΕ: Το 40% του εισοδήματος για στέγαση δαπανά 1 στους 3 Ελληνες – Ποιες λύσεις προτείνει

Τα μεγαλύτερα δεξαμενόπλοια του κόσμου και το ακριβό μεροκάματο του πετρελαίου

Ταξίδια: Το λάθος με τη βαλίτσα που κάνουν σχεδόν όλοι στο αεροδρόμιο και μπορεί να κοστίσει

Για όλες τις υπόλοιπες ειδήσεις της επικαιρότητας μπορείτε να επισκεφτείτε το Πρώτο Θέμα