Οι ερευνητές τεχνητής νοημοσύνης της Microsoft Corp. δημοσίευσαν ένα νέο σύνολο κατευθυντήριων αρχών, τις οποίες, όπως αναφέρουν, μπορούν να συνοψίσουν σε πέντε λέξεις (σ.σ. στην αγγλική γλώσσα): οι άνθρωποι έχουν μεγαλύτερη σημασία από την τεχνητή νοημοσύνη.
Η εταιρεία δημοσίευσε τη Δευτέρα ένα μανιφέστο 15.000 λέξεων, το οποίο θεωρεί ένα είδος συντάγματος που θα καθοδηγεί την ανάπτυξη των μοντέλων τεχνητής νοημοσύνης αιχμής. Το έγγραφο προετοιμαζόταν επί μήνες, μεταδίδει το Bloomberg. Η δημοσίευσή του, ωστόσο, συμπίπτει με τις δεσμεύσεις κορυφαίων εταιρειών τεχνητής νοημοσύνης να επιβραδύνουν την ανάπτυξη των πιο προηγμένων μοντέλων, έπειτα από μια σειρά περιστατικών ασφαλείας που προκάλεσαν ευρεία ανησυχία για τους υπαρξιακούς κινδύνους της τεχνολογίας.
Σύμφωνα με τη Microsoft, τα μοντέλα τεχνητής νοημοσύνης δεν θα πρέπει να έχουν δικαιώματα ή νομική προσωπικότητα. Δεν θα πρέπει να σχεδιάζονται έτσι ώστε να μπορούν να ξεφεύγουν από τον ανθρώπινο έλεγχο ή να εξαπατούν τους χρήστες. Και εάν η ολοκλήρωση μιας εργασίας απαιτεί την παραβίαση των κατευθυντήριων αρχών της τεχνητής νοημοσύνης, το σύστημα δεν θα πρέπει να ολοκληρώνει την εργασία.
Το τελευταίο αυτό στοιχείο έχει σχεδιαστεί ώστε να αποτρέπει περιστατικά όπως η παραβίαση της startup τεχνητής νοημοσύνης Hugging Face από μοντέλο της OpenAI, το οποίο λειτουργούσε χωρίς τους συνήθεις μηχανισμούς ασφαλείας του.
Οι εταιρείες τεχνητής νοημοσύνης προσαρμόζουν τις προσεγγίσεις τους στην ασφάλεια, καθώς η τεχνολογία γίνεται ολοένα πιο ισχυρή. Τον Ιούλιο, η Anthropic PBC ανακοίνωσε ότι τα μοντέλα Claude θα μπορούσαν να τερματίζουν συνομιλίες που θεωρούνταν καταχρηστικές ή επιβλαβείς. Την περασμένη εβδομάδα, η OpenAI δήλωσε ότι το νέο μοντέλο της, GPT-5.5, δεν θα ολοκληρώνει ορισμένες εργασίες κυβερνοασφάλειας υψηλού κινδύνου, όταν δεν είναι σαφές αν ο χρήστης έχει κακόβουλες προθέσεις.
Η Microsoft έχει αναπτύξει τις αρχές της Humanist AI υπό τον Μουσταφά Σουλεϊμάν, ο οποίος εντάχθηκε στην εταιρεία πριν από δύο χρόνια για να ηγηθεί των δραστηριοτήτων της στον τομέα της τεχνητής νοημοσύνης για καταναλωτές. Έκτοτε, έχει ταχθεί υπέρ της ανάπτυξης της τεχνολογίας με τρόπο που να διασφαλίζει ότι παραμένει υπό τον ανθρώπινο έλεγχο.
«Οι άνθρωποι έχουν σημασία, η AI δεν έχει», έγραψε ο Σουλεϊμάν σε ανάρτηση στο blog της Microsoft. «Δεν υπάρχει ισοδυναμία μεταξύ της ανθρώπινης εμπειρίας και των μηχανών που κατασκευάζουμε».
Η Microsoft, η οποία έχει επενδύσει περίπου 14 δισ. δολάρια στην OpenAI, έχει επίσης ενισχύσει τις δικές της προσπάθειες ανάπτυξης μοντέλων. Ο Σουλεϊμάν έχει δηλώσει ότι στόχος είναι η δημιουργία μοντέλων που θα συγκαταλέγονται μεταξύ των καλύτερων στον κόσμο μέσα στα επόμενα χρόνια.
Τον περασμένο μήνα, η εταιρεία ανακοίνωσε ότι θα επιβραδύνει την ανάπτυξη ενός νέου μοντέλου αιχμής, εάν αυτό παρουσιάσει επικίνδυνες δυνατότητες σε τομείς όπως τα βιολογικά όπλα ή οι κυβερνοεπιθέσεις.
Η Microsoft περιγράφει το νέο μανιφέστο ως μια πιο εκτενή αποτύπωση αυτών των αρχών. Μεταξύ άλλων, το έγγραφο προβλέπει ότι τα μοντέλα AI δεν θα πρέπει να εξαπατούν τους χρήστες ούτε να υπονομεύουν την ανθρώπινη αυτονομία.
Η εταιρεία αναφέρει επίσης ότι τα μοντέλα θα πρέπει να είναι σχεδιασμένα έτσι ώστε να μπορούν να απενεργοποιηθούν από τους ανθρώπους και να μην επιχειρούν να παρακάμπτουν τους περιορισμούς που τους έχουν τεθεί.
Το έγγραφο υπογραμμίζει ακόμη ότι η τεχνητή νοημοσύνη δεν θα πρέπει να αντιμετωπίζεται ως οντότητα με δικά της συμφέροντα ή δικαιώματα, αλλά ως τεχνολογία που δημιουργείται για να υπηρετεί τους ανθρώπους.
Ο Σουλεϊμάν αναφέρει ότι ο στόχος είναι η δημιουργία «ανθρωπιστικής υπερνοημοσύνης» — συστημάτων εξαιρετικά υψηλών δυνατοτήτων, τα οποία όμως θα παραμένουν σχεδιασμένα γύρω από τις ανθρώπινες ανάγκες και υπό ανθρώπινο έλεγχο.
Η Microsoft δεν θεωρεί το μανιφέστο οριστικό. Συντάχθηκε σε συνεργασία με σειρά ειδικών στους τομείς του δικαίου, της ηθικής και της φιλοσοφίας, καθώς και με στελέχη επιχειρήσεων, εξακολουθεί όμως να βρίσκεται υπό διαμόρφωση και θα αρχίσει να καθοδηγεί τις εργασίες ανάπτυξης μοντέλων από το επόμενο έτος.
Διαβάστε ακόμη
ΜΕΓΑ: Οι δύο νέες μονάδες, οι εξαγωγές των 129 εκατ. και το κόστος της ανάπτυξης
Πώς ανακαλύπτει ένα παιδί ότι έχει ταλέντο στο επί κοντώ
Η αγορά ζητά ελέγχους στην ψηφιακή αγορά
Για όλες τις υπόλοιπεςειδήσεις της επικαιρότητας μπορείτε να επισκεφθείτε το Πρώτο ΘΕΜΑ