3 Minutes
Mokėdami 200 JAV dolerių per mėnesį galite manyti, kad gaunate aukščiausios klasės botą. Tačiau techninėje pusėje ši mėnesinė įmoka modelį valdančiai bendrovei gali virsti gerokai didesne sąskaita. SemiAnalysis išbandė intensyvaus naudojimo scenarijus OpenAI ir Anthropic mokamuose planuose, o skaičiai yra išties įspūdingi.
Įsivaizduokite pažengusį vartotoją, kuris vykdo ilgai trunkančias programavimo užduotis ir agentais paremtas darbo eigas tol, kol išnaudoja savaitinius limitus. Trumpa užklausa? Nedidelė kaina. Suderinti agentai, kurie kartoja veiksmus, kviečia įrankius ir iš naujo formuluoja užklausas? Tokenų skaičius šauna į viršų. SemiAnalysis vertinimu, visiškai išnaudota ChatGPT Pro 20x prenumerata, kainuojanti 200 JAV dolerių per mėnesį, OpenAI galėtų reikšti maždaug 14 000 JAV dolerių API lygio tokenų sąnaudų. Anthropic atveju Claude Max 20x už tokią pačią nurodytą kainą galėtų kainuoti apie 8 000 JAV dolerių.
Šie skaičiai aiškiai parodo vieną dalyką: viešai skelbiamos prenumeratų kainos beveik nieko nepasako apie tikrąją ekonominę modelio veikimo pusę. Kaip greitai paslaugos teikėjas pasiekia pelningumą, mažiau priklauso nuo vartotojo sumokamos sumos ir labiau nuo to, kaip efektyviai tas vartotojas naudoja skaičiavimo išteklius ir tokenus.

Nenuostolingumo taškai pasiekiami greičiau, nei gali atrodyti. SemiAnalysis modeliavimas rodo, kad Anthropic Claude Pro ir Claude Max 5x planai tampa pelningi tik tada, jei tipinis vartotojo efektyvumas siekia apie 20 procentų. OpenAI maržos dar labiau įtemptos: ChatGPT Plus ir ChatGPT Pro 5x gali tapti nuostolingi, kai vartotojo išnaudojimas pakyla virš maždaug 11,4 procento. Aukščiausiuose planuose padėtis dar sudėtingesnė, Anthropic nulinę bendrąją maržą pasiekia ties maždaug 10 procentų išnaudojimo riba, o OpenAI į neigiamą zoną pereina viršijus apie 5,7 procento.
Paprastai tariant: nereikia ištisos itin aktyvių vartotojų armijos, kad prenumerata taptų nuostolinga. Sudėtingos agentų darbo eigos, intensyvios kodo derinimo sesijos ar įmonių automatizavimo procesai gana greitai gali pastūmėti vartojimą į pavojingą zoną.
200 JAV dolerių per mėnesį kainuojantis planas, blogiausio intensyvaus naudojimo atveju, paslaugos teikėjui gali sugeneruoti iki 14 000 JAV dolerių tokenų sąnaudų.
Šis finansinis spaudimas jau keičia vidinį įmonių elgesį. Tokenų vartojimas sparčiai auga, agentinio tipo sistemos gali pareikalauti iki 1 000 kartų daugiau tokenų nei viena paprasta užklausa. Bendrovės, kurios anksčiau skatino plačius vidinius eksperimentus, dabar riboja prieigą. Microsoft, Meta ir Amazon sugriežtino vidines programas po netikėtų sąskaitų, kai entuziastingi darbuotojai didelius kalbos modelius traktavo kaip nemokamus tyrimų įrankius.
Čia atsiranda politikos įtampa. Fiksuoto tarifo prenumeratos buvo vartotojų augimo ir masinio pritaikymo variklis. Jos sumažina įėjimo barjerą ir vertės pasiūlymą padaro paprastą. Tačiau jos taip pat paslepia ribines sąnaudas, o atsiradus keliems itin daug išteklių naudojantiems vartotojams, šie gali greitai sugriauti ekonomiką, ant kurios laikėsi kainodaros modelis.

SemiAnalysis vis dėlto mato ir palengvėjimo kelią: gerėjant infrastruktūrai ir modelių efektyvumui, vidutinio pajėgumo modelių eksploatavimas galėtų gerokai atpigti, galbūt tai virstų vartotojams skirtais planais už maždaug 20 JAV dolerių per mėnesį. Tačiau yra viena sąlyga, susijusi su aukščiausios klasės modeliais. Pajėgiausios naujos kartos sistemos greičiausiai ir toliau bus brangios eksploatuoti, todėl intensyviems vartotojams jos gali būti perkeltos iš prenumeratų pasiūlos į prieigą tik per API, taikant mokėjimą pagal faktinį naudojimą.
Verslui ir pažengusiems vartotojams tai rodo galimą ateities perskyrą: įperkamos prenumeratos kasdienėms užduotims ir matuojama API prieiga didelės apimties automatizavimui bei pažangiam agentų darbui. Paslaugų teikėjams iššūkis yra labiau politinis nei techninis: kaip sugriežtinti prieigą ar padidinti kainas nestabdant augimo ir neatstumiant vartotojų bazės, kuri dar tik pratinas prie šios technologijos.
Bet kuriuo atveju matematika vejasi dirbtinio intelekto ažiotažą. Prenumeratos buvo augimo variklis. Dabar jos verčia bendroves pripažinti, kur iš tiesų slypi realios sąnaudos ir kas galiausiai apmoka sąskaitą.
Comments
No comments yet.
Leave a Comment