Η καθημερινότητα στα πιο προηγμένα εργαστήρια τεχνητής νοημοσύνης δεν θυμίζει τη λειτουργία μιας συνηθισμένης μεγάλης τεχνολογικής εταιρείας. Οι ρυθμοί είναι ασταθείς, τα χρονικά περιθώρια ασφυκτικά, η αβεβαιότητα διαρκής και η πίεση έντονη. Για όσους εργάζονται στην αιχμή της τεχνολογίας, κάθε στάδιο ανάπτυξης ενός μοντέλου μπορεί να αλλάξει πλήρως τις προτεραιότητες της ημέρας.

Αυτό περιγράφει ο Πράκαρ Αγκάρβαλ, εφαρμοσμένος ερευνητής στα Meta superintelligence labs, ο οποίος στο παρελθόν εργάστηκε και στην OpenAI. Όπως αναφέρει, η καθημερινή εργασία διαφέρει σημαντικά, ανάλογα με το στάδιο στο οποίο βρίσκεται κάθε έργο και με τα άμεσα παραδοτέα που πρέπει να ολοκληρωθούν. Στη Meta και την OpenAI, εξηγεί, υπάρχουν συγκεκριμένα ορόσημα, για παράδειγμα μια μεγάλη εκπαίδευση μοντέλου ή ένας κύκλος ενισχυτικής μάθησης, που μπορεί να έχουν ορίζοντα περίπου δέκα μηνών. Όσο πλησιάζει η προθεσμία, η ένταση αυξάνεται αισθητά.

Η εργασία που καλείται κάθε φορά να κάνει συνδέεται άμεσα με την τρέχουσα εκδοχή του μοντέλου. Αν διαπιστώσει ότι το μοντέλο δεν αποδίδει καλά σε ένα συγκεκριμένο σημείο και εντοπίσει μια λύση που το βελτιώνει, αυτή η παρέμβαση αφορά μόνο εκείνη την έκδοση. Αν χαθεί η προθεσμία, δεν είναι βέβαιο ότι η επόμενη έκδοση θα εμφανίζει το ίδιο πρόβλημα. Όταν η ομάδα βρίσκεται μακριά από το επόμενο μεγάλο ορόσημο, η δουλειά εστιάζει κυρίως στις αξιολογήσεις, στην αναζήτηση αστοχιών και στον εντοπισμό προβλημάτων στο ήδη υπάρχον μοντέλο. Σύμφωνα με τα όσα δηλώνει στο BusinessInsider, πρόκειται για εργασία εξαιρετικά δυναμική. Κάποιες φορές κάτι μοιάζει πολύ απλό και φαίνεται ότι θα ολοκληρωθεί μέσα σε μία ημέρα. Άλλες φορές, συμβαίνει το αντίθετο, επειδή υπάρχουν τόσοι άγνωστοι παράγοντες, μπορεί να χρειαστεί ολόκληρη εβδομάδα.

Γιατί τα εργαστήρια τεχνητής νοημοσύνης δεν θυμίζουν Big Tech

Ο Αγκάρβαλ τονίζει ότι τα εργαστήρια θεμελιωδών μοντέλων περιορίζονται κυρίως από την υπολογιστική ισχύ. Σε αντίθεση με πολλές μεγάλες τεχνολογικές εταιρείες, δεν είναι δυνατόν να προσλαμβάνονται συνεχώς νέα άτομα και να τους ανατίθενται μικρά τμήματα μιας ευρύτερης εργασίας.

Ο λόγος είναι ότι όλοι χρειάζονται υπολογιστική ισχύ για να κάνουν ουσιαστική δουλειά. Όσο αυξάνεται ο αριθμός των εργαζομένων, η διαθέσιμη υπολογιστική ισχύς διαμοιράζεται, με αποτέλεσμα τελικά να μη φτάνει για κανέναν. Ταυτόχρονα, απαιτείται επικοινωνία υψηλής ταχύτητας μεταξύ όσων εμπλέκονται σε κάθε έργο. Δεν υπάρχει χώρος για πολλά επίπεδα ιεραρχίας ή για αργή μεταφορά πληροφορίας. Η ταχύτητα επανάληψης είναι πολύ μεγαλύτερη, γι’ αυτό και οι βασικές ομάδες παραμένουν μικρές και δεμένες.

Σε αυτό το περιβάλλον, ακόμη και η έννοια της «ομάδας» είναι ρευστή. Κάθε άτομο έχει τα δικά του έργα, αλλά συνεργάζεται ταυτόχρονα με άλλους σε κοινά εγχειρήματα. Στη Meta και την OpenAI, όπως λέει, υπάρχουν πολλοί ανώτεροι σε εμπειρία ερευνητές και όχι τόσοι νεότεροι, γεγονός που σημαίνει ότι όλοι αναλαμβάνουν ένα ουσιαστικό εύρος έργων.

Δεν είναι σπάνιο να συνεργάζεται περισσότερο με ανθρώπους έξω από την άμεση ομάδα του παρά με όσους βρίσκονται εντός αυτής. Το εύρος της δουλειάς δεν περιορίζεται σε τέσσερα ή πέντε πρόσωπα, αλλά καθορίζεται από το ίδιο το πρόβλημα που πρέπει να λυθεί.

Η επικοινωνία και η βαθιά κατανόηση του κώδικα

Κατά τον ίδιο, η επικοινωνία είναι το σημαντικότερο στοιχείο σε αυτού του είδους τα εργαστήρια. Επειδή πολλά πράγματα δεν έχουν ακόμη τεκμηριωθεί γραπτώς, ο εργαζόμενος πρέπει να μπορεί να εξηγεί με σαφήνεια τι κάνει, γιατί το κάνει, ποια είναι τα επόμενα βήματα, ποια αποτελέσματα προκύπτουν και ποια ανατροφοδότηση χρειάζεται. Εξίσου σημαντική θεωρεί την άνεση με τον ίδιο τον κώδικα. Η ικανότητα να διαβάζει κανείς τον κώδικα, να εντοπίζει λεπτομέρειες και να κατανοεί σε βάθος τι συμβαίνει είναι, όπως λέει, μία από τις πιο κρίσιμες δεξιότητες που έχει διαπιστώσει.

Η εξέλιξη του κώδικα είναι πολύ ταχύτερη από την εξέλιξη της τεκμηρίωσης. Για τον λόγο αυτό, όταν κάποιος «κολλάει» σε κάτι, η καλύτερη λύση είναι να επιστρέφει στον κώδικα και να προσπαθεί να το καταλάβει μόνος του. Προσθέτει επίσης ότι βοηθά σημαντικά να υπάρχει μια γενική εικόνα για το τι συμβαίνει σε διαφορετικούς τομείς του ίδιου οργανισμού. Επειδή όλα συνδέονται στενά μεταξύ τους, μπορεί να προκύψει γνώση από αλλού ή να εμφανιστούν νέοι τρόποι συμβολής.

Ο Αγκάρβαλ θεωρεί ότι το μεγαλύτερο πλεονέκτημα αυτών των εργαστηρίων δεν είναι μόνο ότι ξέρουν τι αποδίδει, αλλά κυρίως ότι ξέρουν τι δεν αποδίδει. Όπως εξηγεί, ένα ερευνητικό άρθρο συνήθως παρουσιάζει μια καθαρή ιστορία, εφαρμόστηκαν συγκεκριμένα βήματα και προέκυψε ένα επιτυχημένο αποτέλεσμα. Αυτό που δεν φαίνεται είναι ότι πριν από αυτά τα βήματα δοκιμάστηκαν δεκάδες άλλες ιδέες που απέτυχαν και για αυτές σπάνια γίνεται λόγος.

Ακριβώς εκεί, εξηγεί, βρίσκεται η πραγματική δύναμη των εργαστηρίων θεμελιωδών μοντέλων. Μέσα από την εκτεταμένη πειραματική διαδικασία και τον όγκο της δουλειάς που έχει ήδη γίνει, οι ομάδες έχουν αναπτύξει πολύ ισχυρή διαίσθηση. Γνωρίζουν ποιες προσεγγίσεις δεν λειτουργούν, ποιες δεν μπορούν να αναπτυχθούν σε μεγάλη κλίμακα και ποιες έχουν προοπτική να αποδώσουν ουσιαστικά.

Κατά την άποψή του, όσοι βρίσκονται εκτός αυτών των οργανισμών συχνά εστιάζουν μόνο στα επιτυχημένα αποτελέσματα, παραβλέποντας ότι ακόμη και οι αποτυχίες έχουν πολύ μεγάλη αξία.

Η συμβουλή του σε όσους θέλουν να φτάσουν εκεί

Σε ό,τι αφορά τη διαχείριση της εξουθένωσης, ο ίδιος παραδέχεται ότι δεν έχει μια ιδανική απάντηση. Όπως λέει, ουσιαστικά ακολουθεί κανείς τη ροή των πραγμάτων. Όταν εργάζεται στην αιχμή της τεχνολογίας, δεν μπορεί να προσεγγίζει την καθημερινότητα με αυστηρά στενά όρια. Αν έπρεπε να δώσει μια συμβουλή στον νεότερο εαυτό του, αυτή θα ήταν να αισθάνεται άνετα εξερευνώντας νέες διαδρομές και νέες ιδέες. Όπως σημειώνει, πολλοί άνθρωποι τείνουν να κινούνται μέσα στις γνωστές τους δυνάμεις ή να παραμένουν σε ένα προβλέψιμο περιβάλλον όπου γνωρίζουν ότι θα τα καταφέρουν καλά.

Όμως σε αυτούς τους τομείς, οι αλλαγές είναι τόσο γρήγορες, ώστε είναι απαραίτητο να μπορεί κανείς να μεταπηδά διαρκώς σε καινούργια θέματα. Το πιο σημαντικό, καταλήγει, είναι να «χτίσει» κάποιος τη νοητική αντοχή που απαιτείται για να βρεθεί ξαφνικά μέσα σε κάτι εντελώς νέο. Σε πολλές περιπτώσεις, το εμπόδιο είναι περισσότερο ψυχολογικό παρά ζήτημα δεξιοτήτων.

Διαβάστε ακόμη

Το τέλος της δωρεάν παρέας και η μεγάλη αγορά της κοινωνικής απομόνωσης

JP Morgan: Υποβαθμίζει την Ελλάδα σε ουδέτερη στάση λόγω γεωπολιτικών και ενέργειας

Καταρρέει το επενδυτικό κλίμα στη Γερμανία – Ανησυχία για την ανάπτυξη

Για όλες τις υπόλοιπες ειδήσεις της επικαιρότητας μπορείτε να επισκεφτείτε το Πρώτο Θέμα