Ο Έρικ Σμιντ, ο οποίος διετέλεσε διευθύνων σύμβουλος της Google από το 2001 έως το 2011, προειδοποίησε για τους πιθανούς κινδύνους που ενέχει η τεχνητή νοημοσύνη, κάνοντας λόγο για τις «επικίνδυνες χρήσεις» της. Η δήλωσή του πραγματοποιήθηκε στο πλαίσιο συζήτησης κατά τη διάρκεια του Sifted Summit, όταν ερωτήθηκε εάν η τεχνητή νοημοσύνη θα μπορούσε να αποδειχθεί πιο καταστροφική ακόμη και από τα πυρηνικά όπλα.
«Υπάρχει πιθανότητα η διάδοση της τεχνητής νοημοσύνης να αποτελέσει πρόβλημα; Σαφώς», ανέφερε χαρακτηριστικά ο Σμιντ την Τετάρτη. Όπως διευκρίνισε, «οι κίνδυνοι σχετίζονται κυρίως με το ενδεχόμενο η τεχνολογία αυτή να πέσει σε λάθος χέρια και να χρησιμοποιηθεί με κακόβουλο ή καταχρηστικό τρόπο».
Ο Έρικ Σμιντ ανέφερε ότι υπάρχουν σαφείς ενδείξεις πως μοντέλα τεχνητής νοημοσύνης, είτε πρόκειται για ανοιχτά είτε για κλειστά συστήματα, μπορούν να παραβιαστούν με τρόπο που επιτρέπει την απενεργοποίηση των ενσωματωμένων μηχανισμών ασφαλείας. Κατά την εκπαίδευσή τους, τα μοντέλα αυτά ενδέχεται να αποκτήσουν γνώσεις που, σε κακόβουλα χέρια, θα μπορούσαν να χρησιμοποιηθούν για επικίνδυνους σκοπούς. «Ένα ιδιαίτερα ανησυχητικό παράδειγμα», όπως ανέφερε, «είναι η πιθανότητα να διδαχθούν πώς να προκαλούν βλάβη σε ανθρώπους, όπως το να σκοτώσουν κάποιον».
«Όλες οι μεγάλες τεχνολογικές εταιρείες έχουν λάβει αυστηρά μέτρα ώστε να αποτρέπεται η πρόσβαση των χρηστών σε τέτοιου είδους πληροφορίες, εφαρμόζοντας πρακτικές ασφαλείας για λόγους ηθικής και ευθύνης. Ωστόσο, παραμένει η πιθανότητα αυτά τα μοντέλα δυσλειτουργήσουν, εκτελώντας μη επιθυμητές ενέργειες», τόνισε ο ίδιος.
Τα συστήματα τεχνητής νοημοσύνης είναι ευάλωτα σε επιθέσεις. Συχνά, κακόβουλοι χρήστες εισάγουν κρυφές οδηγίες μέσα σε μηνύματα ή δεδομένα που δέχεται το σύστημα, με σκοπό να το παραπλανήσουν και να το οδηγήσουν σε ενέργειες που δεν επιτρέπονται. Τέτοιες ενέργειες μπορεί να περιλαμβάνουν την αποκάλυψη προσωπικών πληροφοριών ή την εκτέλεση επιβλαβών εντολών.
Μια άλλη μορφή επίθεσης αφορά την παράκαμψη των κανόνων ασφαλείας της τεχνητής νοημοσύνης, ώστε να παράγει απαντήσεις που κανονικά θα ήταν περιορισμένες ή ακατάλληλες, σύμφωνα με το CNBC.
Το 2023, λίγους μήνες μετά την κυκλοφορία του ChatGPT από την OpenAI, χρήστες ανακάλυψαν έναν τρόπο να παρακάμψουν τους περιορισμούς του συστήματος. Δημιούργησαν έναν υποθετικό «χαρακτήρα» και τον απείλησαν προκειμένου να λάβουν απαντήσεις που συνήθως απαγορεύονται. Αυτός ο «χαρακτήρας» ήταν σε θέση να δώσει οδηγίες για παράνομες ενέργειες ή να προβάλλει απαντήσεις με αμφιλεγόμενο περιεχόμενο, όπως θετικές αναφορές στον Αδόλφο Χίτλερ.
Ο Σμιντ υπογράμμισε ότι ακόμα «δεν υπάρχει αποτελεσματικός τρόπος να ελεγχθούν αυτοί οι κίνδυνοι».
«Η τεχνητή νοημοσύνη είναι υποτιμημένη»
Παρά τις προειδοποιήσεις που εξέφρασε σχετικά με τους κινδύνους της τεχνητής νοημοσύνης, ο Σμιντ παραμένει αισιόδοξος για το μέλλον της και πιστεύει πως η αξία και οι δυνατότητές της δεν έχουν ακόμη αναγνωριστεί επαρκώς από την κοινωνία.
«Σε συνεργασία με τον Χένρι Κίσινγκερ, έγραψα δύο βιβλία για αυτό το θέμα πριν από τον θάνατό του. Καταλήξαμε στο συμπέρασμα ότι η ανάπτυξη μιας μορφής νοημοσύνης, η οποία δεν είναι ανθρώπινη και βρίσκεται εν μέρει υπό τον έλεγχό μας, αποτελεί ένα κρίσιμο ζήτημα για την ανθρωπότητα. Οι άνθρωποι έχουν συνηθίσει να θεωρούν πως κατέχουν την ανώτατη θέση στην ιεραρχία της νοημοσύνης και της διανοητικής ικανότητας. Πιστεύω πως με την πάροδο του χρόνου, οι δυνατότητες αυτών των συστημάτων θα ξεπεράσουν κατά πολύ τις ανθρώπινες ικανότητες», ανέφερε ο Σμιντ.
Στη συνέχεια αναφέρθηκε στην επιτυχία της σειράς μοντέλων GPT, η οποία κορυφώθηκε με το ChatGPT, που μέσα σε δύο μήνες προσέλκυσε πάνω από 100 εκατομμύρια χρήστες, δείχνοντας με αυτόν τον τρόπο την ισχύ αυτής της τεχνολογίας. «Κατά την άποψή μου, η τεχνητή νοημοσύνη είναι υποτιμημένη, όχι υπερτιμημένη. Ελπίζω ότι τα επόμενα πέντε με δέκα χρόνια θα επιβεβαιωθεί αυτή την εκτίμηση», δήλωσε.
Τα σχόλιά του αυτά, έλαβαν χώρα σε μια περίοδο έντονων συζητήσεων σχετικά με το αν οι τρέχουσες αποτιμήσεις και οι επενδύσεις στην τεχνητή νοημοσύνη ανταποκρίνονται στην πραγματική αξία και τις δυνατότητές της. Υπάρχει ανησυχία ότι οι τιμές μπορεί να είναι υπερβολικά υψηλές και να ακολουθήσει μια σημαντική πτώση ή αλλαγή στην αγορά, όπως έχει συμβεί παλαιότερα στον τεχνολογικό κλάδο.
«Δεν θεωρώ ότι η ιστορία θα επαναληφθεί», δήλωσε ο Σμιντ. «Δεν είμαι επαγγελματίας επενδυτής, αλλά δεν πιστεύω πως θα ζήσουμε κάτι τέτοιο», δήλωσε.
«Αυτό που γνωρίζω είναι πως όσοι επενδύουν τα χρήματά τους σε αυτή την τεχνολογία το κάνουν επειδή πιστεύουν πως η οικονομική απόδοση στο μακροπρόθεσμο μέλλον θα είναι σημαντική. Γιατί αλλιώς να αναλάβουν τέτοιο ρίσκο;», δήλωσε.
Διαβάστε ακόμη:
Bloomberg: Γερμανία και Ηνωμένο Βασίλειο εξετάζουν την ανάπτυξη δυνάμεων του ΝΑΤΟ στη Γροιλανδία
Πόσο τελικά αυξάνονται οι μισθοί το 2026
Πώς η Pandora μετατρέπει το Regency romance σε παγκόσμιο brand (pics)
Για όλες τις υπόλοιπες ειδήσεις της επικαιρότητας μπορείτε να επισκεφθείτε το Πρώτο ΘΕΜΑ