Νέα όρια στον τρόπο με τον οποίο οι χρήστες αλληλεπιδρούν με την τεχνητή νοημοσύνη θέτει η Anthropic, αποφασίζοντας να απαγορεύσει την «επίμονη και αδικαιολόγητη» κακοποιητική συμπεριφορά απέναντι στο chatbot της, Claude. Η απόφαση έχει πυροδοτήσει αντιπαράθεση σχετικά με το αν ένα σύστημα τεχνητής νοημοσύνης μπορεί να αποτελεί αποδέκτη κακοποιητικής συμπεριφοράς και πού πρέπει να τίθενται τα όρια στην επικοινωνία ανθρώπων και μηχανών.
Η αμερικανική εταιρεία ανακοίνωσε ότι επικαιροποιεί την πολιτική χρήσης των υπηρεσιών της, επιτρέποντας στα εργαλεία της να τερματίζουν συνομιλίες όταν διαπιστώνεται επαναλαμβανόμενη και ακραία κακοποιητική συμπεριφορά. Σύμφωνα με την Anthropic, αντίστοιχες παρεμβάσεις είχαν πραγματοποιηθεί και στο παρελθόν, αλλά μόνο σε σπάνιες περιπτώσεις.
Η νέα απαγόρευση προστίθεται σε έναν κατάλογο μη επιτρεπόμενων ενεργειών, στον οποίο περιλαμβάνονται ήδη ο εκφοβισμός άλλων προσώπων, η προώθηση του αυτοτραυματισμού και η δημιουργία μη συναινετικού σεξουαλικού περιεχομένου.
Πότε θα διακόπτει τις συνομιλίες το Claude
Η Anthropic διευκρινίζει ότι το μέτρο θα ενεργοποιείται αποκλειστικά σε «ακραίες περιπτώσεις» συστηματικής κακοποιητικής συμπεριφοράς και δεν θα αφορά συνηθισμένες εκδηλώσεις εκνευρισμού ή απογοήτευσης από τους χρήστες.
Εκτός του πεδίου εφαρμογής παραμένουν επίσης η δημιουργική γραφή με σκοτεινή θεματολογία, καθώς και οι διαδικασίες έρευνας και δοκιμών των μοντέλων. Ωστόσο, δεν έχει αποσαφηνιστεί πλήρως τι ακριβώς συνιστά «σκληρή» ή «κακοποιητική» συμπεριφορά απέναντι σε ένα chatbot, γεγονός που δημιουργεί ερωτήματα για τον τρόπο εφαρμογής των νέων κανόνων.
Αντιδράσεις για την «ανθρωποποίηση» της τεχνητής νοημοσύνης
Η απόφαση προκάλεσε έντονη συζήτηση στα μέσα κοινωνικής δικτύωσης. Ορισμένοι χρήστες την υποδέχθηκαν θετικά, θεωρώντας ότι ενθαρρύνει την ευγενική συμπεριφορά, ενώ άλλοι υποστήριξαν ότι η αντιμετώπιση των chatbots ως πιθανών θυμάτων κακοποίησης δημιουργεί λανθασμένες εντυπώσεις για τη φύση της τεχνητής νοημοσύνης.
Ο Μπάρι Σκάνελ, νομικός σύμβουλος τεχνολογίας στην ιρλανδική δικηγορική εταιρεία William Fry, άσκησε έντονη κριτική, επισημαίνοντας ότι «δεν μπορείς να φέρεσαι σκληρά σε αριθμούς και μαθηματικά».
Όπως υποστήριξε, η ανθρωποποίηση των συστημάτων AI είναι επιζήμια, επειδή ενθαρρύνει τους ανθρώπους να τους αποδίδουν ιδιότητες που δεν έχει αποδειχθεί ότι διαθέτουν.
Στη συζήτηση παρενέβη και ο Μουσταφά Σουλεϊμάν, επικεφαλής τεχνητής νοημοσύνης της Microsoft, ο οποίος αντέδρασε στην ανακοίνωση δημοσιεύοντας ένα emoji με πρόσωπο που λιώνει. Ο ίδιος είχε επικρίνει και στο παρελθόν την Anthropic για την τάση της να αντιμετωπίζει την τεχνητή νοημοσύνη με ανθρωποκεντρικούς όρους.
Πρέπει να λέμε «παρακαλώ» και «ευχαριστώ» στην AI;
Η αντιπαράθεση επανέφερε ένα ευρύτερο ερώτημα: έχει νόημα να είμαστε ευγενικοί απέναντι στα chatbots ή πρόκειται για περιττή συνήθεια;
Ορισμένοι ειδικοί υποστηρίζουν ότι εκφράσεις όπως «παρακαλώ» και «ευχαριστώ» καταναλώνουν επιπλέον tokens, δηλαδή μονάδες επεξεργασίας των μεγάλων γλωσσικών μοντέλων, αυξάνοντας έστω και οριακά τους υπολογιστικούς πόρους που απαιτούνται. Άλλοι θεωρούν ότι η ευγενική διατύπωση μπορεί να συμβάλει σε καλύτερη επικοινωνία και ποιοτικότερες απαντήσεις.
Χαρακτηριστική ήταν η τοποθέτηση του επικεφαλής της OpenAI, Σαμ Άλτμαν, όταν ρωτήθηκε για το ενεργειακό κόστος των ευγενικών μηνυμάτων προς το ChatGPT. Ο ίδιος απάντησε ότι πρόκειται για «δεκάδες εκατομμύρια δολάρια που δαπανήθηκαν σωστά», προσθέτοντας με χιούμορ ότι «ποτέ δεν ξέρεις».
Από το «clanker» μέχρι την ευγένεια προς τις μηχανές
Η μεταβαλλόμενη σχέση των ανθρώπων με την τεχνητή νοημοσύνη αποτυπώνεται και στη γλώσσα. Το λεξικό Collins συμπεριέλαβε το 2025 στη βραχεία λίστα των χαρακτηριστικών λέξεων της χρονιάς τον όρο «clanker», έναν υποτιμητικό χαρακτηρισμό για ρομπότ και συστήματα AI.
Η λέξη, γνωστή από το σύμπαν του Star Wars, απέκτησε νέα δημοτικότητα στα μέσα κοινωνικής δικτύωσης, ιδιαίτερα στο TikTok, όπου χρησιμοποιήθηκε για να εκφράσει τη δυσαρέσκεια απέναντι στις μηχανές τεχνητής νοημοσύνης.
Πέρα από το ζήτημα της συμπεριφοράς προς τα ίδια τα συστήματα, ορισμένοι ειδικοί προειδοποιούν ότι η συστηματική αγένεια απέναντι στα chatbots ενδέχεται να επηρεάσει και τον τρόπο επικοινωνίας μεταξύ των ανθρώπων, εφόσον τέτοιες συμπεριφορές μεταφέρονται σταδιακά και στις πραγματικές κοινωνικές σχέσεις.
Η νέα πολιτική της Anthropic φέρνει έτσι στο προσκήνιο ένα ζήτημα που αναμένεται να απασχολήσει όλο και περισσότερο την τεχνολογική κοινότητα: όχι μόνο τι επιτρέπεται να κάνουν οι μηχανές, αλλά και πώς επιλέγουν οι άνθρωποι να συμπεριφέρονται απέναντί τους.
Σχολίασε εδώ
Για να σχολιάσεις, χρησιμοποίησε ένα ψευδώνυμο.