Η OpenAI εμφανίζεται δυσαρεστημένη με ορισμένα από τα πιο πρόσφατα τσιπ τεχνητής νοημοσύνης της Nvidia, γεγονός που την οδήγησε ήδη από πέρυσι να αναζητήσει εναλλακτικές λύσεις, σύμφωνα με οκτώ πηγές με γνώση των εξελίξεων. Η στροφή αυτή ενδέχεται να περιπλέξει τη σχέση των δύο πιο προβεβλημένων παικτών της παγκόσμιας έκρηξης της τεχνητής νοημοσύνης.
Η αλλαγή στρατηγικής της OpenAI –η οποία αποκαλύπτεται για πρώτη φορά– συνδέεται με την αυξανόμενη έμφαση σε τσιπ που χρησιμοποιούνται σε επιμέρους στάδια του AI inference, δηλαδή της διαδικασίας κατά την οποία ένα μοντέλο τεχνητής νοημοσύνης, όπως αυτό που «τρέχει» το ChatGPT, απαντά σε ερωτήματα χρηστών. Η Nvidia παραμένει κυρίαρχη στην εκπαίδευση μεγάλων AI μοντέλων, ωστόσο το inference αναδεικνύεται σε νέο, κρίσιμο πεδίο ανταγωνισμού, όπως μεταδίδει το Reuters.
Επενδυτικές συνομιλίες και καθυστερήσεις
Η απόφαση της OpenAI –και άλλων εταιρειών– να εξετάσουν εναλλακτικές στην αγορά inference chips αποτελεί σημαντική δοκιμασία για την κυριαρχία της Nvidia, τη στιγμή που οι δύο πλευρές βρίσκονται σε επενδυτικές συνομιλίες. Τον Σεπτέμβριο, η Nvidia είχε ανακοινώσει πρόθεση επένδυσης έως και 100 δισ. δολαρίων στην OpenAI, στο πλαίσιο συμφωνίας που θα έδινε στη Nvidia μετοχικό μερίδιο και θα παρείχε στην OpenAI κεφάλαια για την αγορά προηγμένων τσιπ.
Η συμφωνία αναμενόταν να ολοκληρωθεί εντός εβδομάδων, ωστόσο οι διαπραγματεύσεις έχουν παραταθεί για μήνες. Στο διάστημα αυτό, η OpenAI έχει συνάψει συμφωνίες με την AMD και άλλους προμηθευτές για GPUs που ανταγωνίζονται εκείνα της Nvidia. Παράλληλα, η αναθεώρηση του τεχνολογικού οδικού χάρτη της OpenAI έχει μεταβάλει τις ανάγκες της σε υπολογιστικούς πόρους, επιβαρύνοντας περαιτέρω τις συνομιλίες.
Το Σάββατο, ο διευθύνων σύμβουλος της Nvidia, Τζένσεν Χουάνγκ, χαρακτήρισε «ανοησία» τα δημοσιεύματα περί έντασης με την OpenAI, τονίζοντας ότι η Nvidia σχεδιάζει μεγάλη επένδυση στην εταιρεία. Από την πλευρά της, η Nvidia υποστήριξε ότι συνεχίζει να προσφέρει την καλύτερη απόδοση και το χαμηλότερο συνολικό κόστος για inference σε μεγάλη κλίμακα.
Εκπρόσωπος της OpenAI ανέφερε ότι η εταιρεία βασίζεται στη Nvidia για τη συντριπτική πλειονότητα του inference στόλου της και ότι τα τσιπ της Nvidia προσφέρουν την καλύτερη απόδοση ανά δολάριο. Μετά τη δημοσίευση του ρεπορτάζ, ο CEO της OpenAI, Σαμ Άλτμαν, έγραψε στην πλατφόρμα X ότι η Nvidia κατασκευάζει «τα καλύτερα AI chips στον κόσμο» και πως η OpenAI ελπίζει να παραμείνει «γιγαντιαίος πελάτης για πολύ καιρό».
Το πρόβλημα της ταχύτητας στο inference
Επτά πηγές αναφέρουν ότι η OpenAI δεν είναι ικανοποιημένη από την ταχύτητα με την οποία το hardware της Nvidia παράγει απαντήσεις για ορισμένα είδη εργασιών, όπως η ανάπτυξη λογισμικού ή η επικοινωνία AI με άλλα προγράμματα. Η OpenAI εκτιμά ότι στο μέλλον θα χρειαστεί νέο hardware που θα καλύπτει περίπου το 10% των αναγκών της σε inference.
Η συζήτηση αυτή έχει φέρει την OpenAI σε επαφή με startups όπως η Cerebras και η Groq, οι οποίες ειδικεύονται σε ταχύτερα inference chips. Ωστόσο, η Nvidia προχώρησε σε συμφωνία αδειοδότησης ύψους 20 δισ. δολαρίων με τη Groq, γεγονός που πάγωσε τις συνομιλίες της OpenAI με την εταιρεία.
Η αναζήτηση εναλλακτικών GPUs από την OpenAI εστιάζει σε τσιπ με μεγάλες ποσότητες ενσωματωμένης μνήμης SRAM στο ίδιο κομμάτι πυριτίου. Η προσέγγιση αυτή μπορεί να προσφέρει σημαντικά πλεονεκτήματα ταχύτητας για chatbots και AI συστήματα που εξυπηρετούν εκατομμύρια αιτήματα χρηστών.
Σε αντίθεση με την εκπαίδευση μοντέλων, το inference απαιτεί περισσότερη μνήμη, καθώς το τσιπ αφιερώνει περισσότερο χρόνο στην ανάκτηση δεδομένων παρά στους μαθηματικούς υπολογισμούς. Τα GPUs της Nvidia και της AMD βασίζονται σε εξωτερική μνήμη, κάτι που επιβραδύνει την απόκριση των εφαρμογών.
Στο εσωτερικό της OpenAI, το ζήτημα έγινε ιδιαίτερα εμφανές στο Codex, το προϊόν δημιουργίας κώδικα που η εταιρεία προωθεί δυναμικά. Σε τηλεδιάσκεψη στα τέλη Ιανουαρίου, ο Άλτμαν υπογράμμισε ότι οι πελάτες των μοντέλων κώδικα «δίνουν τεράστια σημασία στην ταχύτητα».
Καθώς η OpenAI εξέφραζε τις επιφυλάξεις της, η Nvidia προσέγγισε εταιρείες με SRAM-heavy chips, όπως η Cerebras και η Groq, διερευνώντας πιθανές εξαγορές. Η Cerebras αρνήθηκε, επιλέγοντας εμπορική συμφωνία με την OpenAI, ενώ η Groq κατέληξε σε μη αποκλειστική συμφωνία αδειοδότησης με τη Nvidia. Πλέον, η Groq στρέφεται περισσότερο σε λύσεις cloud, την ώρα που η Nvidia απορροφά βασικά στελέχη της.
Διαβάστε ακόμη
Στην «κούρσα» των εξαγορών και οι «μικροί» της πληροφορικής – Οταν η ρευστότητα γίνεται… αγκάθι
Για όλες τις υπόλοιπες ειδήσεις της επικαιρότητας μπορείτε να επισκεφτείτε το Πρώτο Θέμα