Τη Δευτέρα, ο Διευθύνων Σύμβουλος του Decagon, Jesse Zhang, δημοσίευσε μια προκλητική νέα θεωρία, που δημοσιεύτηκε με τίτλο «Όλοι κάνουν λάθος για την τεχνητή νοημοσύνη ανοιχτού κώδικα στην επιχείρηση». Η ανάρτηση παλεύει με μια από τις πιο ενδιαφέρουσες αντιφάσεις της σημερινής οικονομίας της τεχνητής νοημοσύνης: Οι πιο ώριμες εφαρμογές τεχνητής νοημοσύνης κινούνται σε ελαφρύτερα μοντέλα, λέει, ακόμη και εντός της εταιρείας του. Αλλά το συνολικό κόστος για τα ακριβά μοντέλα τελευταίας τεχνολογίας δεν έχει υποχωρήσει σχεδόν καθόλου.
Αυτός είναι ένας νέος τρόπος σκέψης για τη σχέση μεταξύ μοντέλων συνόρων και μοντέλων ανοιχτού κώδικα. Σύμφωνα με τον Zhang, δεν είναι ανταγωνιστές και η επιτυχία των μοντέλων ανοιχτού κώδικα δεν γίνεται εις βάρος των συνοριακών εργαστηρίων. Αντίθετα, είναι δύο φάσεις του ίδιου κύκλου ζωής, με ακριβά μοντέλα συνόρων που χρησιμοποιούνται για να αποδεικνύουν περιπτώσεις χρήσης που μπορούν να μεταφερθούν σε φθηνότερες εναλλακτικές λύσεις ανοιχτού κώδικα καθώς ωριμάζουν.
Καθώς οι πιο ώριμες θήκες χρήσης μετακινούνται σε ελαφρύτερα μοντέλα, συνεχίζουν να εμφανίζονται νέες θήκες χρήσης – και το συνολικό κόστος των μοντέλων αιχμής σχεδόν δεν μειώνεται.
Ο Zhang δεν παρέχει πολλά δεδομένα για να υποστηρίξει τη διατριβή, αλλά τα δεδομένα δεν είναι δύσκολο να βρεθούν. Ο πίνακας εργαλείων πύλης AI της Vercel δείχνει ότι μόνο την περασμένη εβδομάδα, το DeepSeek έχει βγει στην κορυφή για όγκους διακριτικών, επεξεργάζοντας τώρα λίγο περισσότερο από το ένα τρίτο των κουπονιών που περνούν από την υποδομή της εταιρείας. Το Z.ai – το εργαστήριο πίσω από το δημοφιλές μοντέλο GLM-5.2 – ανέβηκε σε μια αξιοσέβαστη τέταρτη θέση την ίδια περίοδο.
Αλλά αν κάνετε κύλιση προς τα κάτω στη συνολική δαπάνη συμβολικού, θα δείτε ότι η Anthropic εξακολουθεί να αντιπροσωπεύει περισσότερο από το ήμισυ των συνολικών δαπανών AI στην πλατφόρμα. Δεδομένου ότι μεγάλο μέρος της πρόσφατης αλλαγής προήλθε από τις αυξανόμενες τιμές της ίδιας της Anthropic, η μετοχή υποχώρησε ελαφρά τον περασμένο μήνα, αλλά όχι σημαντικά.
Συντελεστές εικόνας:Πίνακας εργαλείων Vercel / εξαγωγή δεδομένων
Το OpenRouter λέει μια παρόμοια ιστορία, καλύπτοντας ένα πολύ μεγαλύτερο (αλλά ελαφρώς λιγότερο επιχειρηματικό) τμήμα της αγοράς. Το DeepSeek V4 Flash είναι ο κύριος νικητής της συνολικής χρήσης, επεξεργάζοντας 5,3 τρισεκατομμύρια μάρκες την εβδομάδα. Το πιο δημοφιλές οριακό μοντέλο, το Opus 4.8, επεξεργάζεται κάτι περισσότερο από 2 τρισ. Το OpenRouter δεν κατατάσσει τα μοντέλα με βάση το συνολικό κόστος, αλλά καταγράφει τη μέση τιμή συμβολικού για το Opus 4.8 ως περίπου 23 φορές υψηλότερη από το V4 Flash (1,37 $ ανά εκατομμύριο μάρκες, σε σύγκριση με μόλις 6 σεντ), πράγμα που σημαίνει ότι η Opus εξακολουθεί να παίρνει τη μερίδα του λέοντος στο κόστος.
Αυτοί οι αριθμοί δεν καλύπτουν καν την τελευταία άφιξη, το Nemotron της Nvidia, το οποίο είναι έτοιμο να μεταβεί στο μπροστινό μέρος του πακέτου χάρη στις ισχυρές συνδέσεις της Nvidia και την εξαιρετική προσαρμοστικότητα του ίδιου του μοντέλου.
Αυτοί οι αριθμοί δεν αποδεικνύουν πλήρως την άποψη του Zhang σχετικά με τους κύκλους ζωής της τεχνητής νοημοσύνης, αλλά δείχνουν ότι τα συνοριακά εργαστήρια όπως το Anthropic δεν υποφέρουν πάρα πολύ από την άνοδο του ανοιχτού κώδικα – τουλάχιστον όχι ακόμη. Μια εξήγηση είναι ότι η αγορά για εργασίες που μπορούν να απευθύνονται σε τεχνητή νοημοσύνη αναπτύσσεται τόσο γρήγορα που τα καλύτερα μοντέλα μπορούν να διατηρήσουν τη θέση τους μόνο κυριαρχώντας στην υλοποίηση σε πρώιμο στάδιο. Όπως λέει ο Zhang, “Τα συνοριακά εργαστήρια θα συνεχίσουν να κατέχουν ανακάλυψη. Ο ανοιχτός κώδικας θα κατέχει όλο και περισσότερο την παραγωγή.” Μια άλλη εξήγηση μπορεί να είναι ότι ακόμα και όταν οι πελάτες μετακινούνται σε ανοιχτό κώδικα, πολλές περιπτώσεις χρήσης είναι τόσο δύσκολες που δεν μπορούν να αντικατασταθούν πλήρως από φθηνότερες εναλλακτικές λύσεις.
Είτε έτσι είτε αλλιώς, αυτή η οικονομία μοντέλου δύο επιπέδων μπορεί να γίνει ένα σχετικά σταθερό χαρακτηριστικό της οικονομίας της τεχνητής νοημοσύνης.
Μόλις τον περασμένο Σεπτέμβριο, έγραψα για την πιθανότητα τα θεμελιώδη εργαστήρια να καταλήξουν να πουλούν κόκκους καφέ στα Starbucks—δηλαδή να χρησιμεύουν ως προϊόντα εισόδου ενώ το επίπεδο εφαρμογής αποκομίζει τα οφέλη. Ορισμένα σημεία αυτής της πρόβλεψης έχουν γίνει πραγματικότητα: τα παιχνίδια κάθετης τεχνητής νοημοσύνης έχουν μετατοπιστεί σε ελαφρύτερα μοντέλα, για ένα πράγμα, και η οικονομία των startups “GPT-shell” έχει παραμείνει ως επί το πλείστον σταθερή.
Αλλά βλέπουμε επίσης ότι το token for token, οι παροχείς περιθωρίου κατάφεραν να κατακτήσουν το πιο επιθυμητό μέρος της αγοράς – την premium τιμή του token. Και αυτό δεν φαίνεται να αλλάξει σύντομα.