OpenAI od decembra zavádza pre ChatGPT a Codex spoločný limit využitia a zároveň zlučuje režimy Chat a Work do jedného rozhrania. Zmena prichádza len tri dni po tom, čo firma pod tlakom užívateľov zrušila plánované zníženie limitov pre drahšie tarify Pro a naopak ich zdvojnásobila. Ide o jednu z najväčších úprav toho, ako ChatGPT funguje a koľko sa dá v rámci predplatného reálne použiť.
V skratke
- Od decembra budú tarify Plus, Pro a Business čerpať spoločný limit tokenov pre ChatGPT aj Codex.
- Konverzácie s rýchlym modelom Instant sa do limitu nepočítajú, zložitejšie modely a úlohy ho vyčerpajú rýchlejšie.
- OpenAI testuje zlúčenie režimov Chat a Work do jedného rozhrania, najprv len s malou skupinou používateľov.
- Dvadsiateho deviateho októbra OpenAI zdvojnásobilo limity pre tarify Pro 100, Pro 200, Pro 500 a Business Premium po tom, čo plánované zníženie vyvolalo kritiku.
Prečo OpenAI mení pravidlá
Pôvodne chcela firma po 29. októbri znížiť zahrnuté množstvo využitia pre existujúcich predplatiteľov tarify Pro 200, hoci cena mesačného predplatného za 200 dolárov mala zostať nezmenená. Po vlne kritiky od zákazníkov OpenAI rozhodnutie otočila. Tibo, ktorý je podľa firmy tvárou ChatGPT a Codexu na sieti X, oznámil, že limity sa naopak zdvojnásobujú pre všetky tarify Pro 100, Pro 200 a Pro 500, ako aj pre Business Premium, a to s okamžitou platnosťou. Využitie takzvaných Dots, stále zapnutých AI asistentov OpenAI, zostáva podľa firmy oddelené a zmena sa ho nedotýka.
Krátko po tomto obrate prišlo oznámenie o druhej, väčšej úprave. OpenAI v e-maile predplatiteľom aj na aktualizovanej podpornej stránke potvrdilo, že chystá zlúčenie Chat a Work a spoločný limit pre ChatGPT a Codex. Firma tak reaguje aj na kritiku, že ChatGPT sa stal príliš zložitým, keď si používatelia museli vybrať medzi dvoma režimami fungovania a jedenástimi nastaveniami modelov, v ktorých sa podľa recenzií strácajú aj skúsení používatelia.
Chat a Work pod jednou strechou
Súčasťou zmien je testovanie spojeného rozhrania pre Chat a Work, najskôr s malou skupinou používateľov v najbližších týždňoch. Cieľom je, aby sa dalo prejsť od obyčajného rozhovoru k zložitejšej úlohe bez prepínania medzi záložkami. OpenAI to v e-maile vysvetlilo tak, že používateľ bude môcť nápad najprv preskúmať a potom ChatGPT poveriť, aby ho aj reálne zrealizoval, pričom priebeh práce bude môcť sledovať a usmerňovať na jednom mieste. Konkrétne pôjde o prácu s nahranými súbormi a doplnkami, tvorbu webových stránok či prezentácií, alebo úlohy, ktoré má ChatGPT vykonať priamo na webe.
Codex, nástroj OpenAI na programovanie, zostane v desktopovej aplikácii ChatGPT samostatným prostredím. Zdieľať však bude rovnaký limit využitia ako bežný chat, čo je zmena oproti doterajšiemu stavu, keď mal Codex vlastné alokácie.
OpenAI zdôrazňuje, že ide zatiaľ len o test s obmedzenou skupinou používateľov, nie o okamžitú zmenu pre všetkých. Firma si tak necháva priestor vyhodnotiť, ako nové rozhranie ovplyvní bežné používanie, a prípadne doladiť detaily skôr, než ho nasadí širšie. Súčasné rozdelenie na samostatné režimy Chat a Work totiž podľa kritikov pôsobilo zmätočne najmä pre nových používateľov, ktorí si nevedeli vybrať, kedy použiť ktorý z jedenástich dostupných nastavení modelov.
Ako budú fungovať nové limity
Token je základná jednotka, v ktorej model meria text a dáta, ktoré spracúva a generuje. Zložitejšie modely a náročnejšie úlohy spotrebujú tokeny rýchlejšie ako jednoduché otázky. Od decembra si tarify Plus, Pro a Business rozdelia jeden spoločný rozpočet tokenov medzi ChatGPT a Codex. Konverzácie s modelom Instant, ktorý je určený na rýchle a menej náročné odpovede, sa do tohto spoločného limitu nezapočítavajú, takže na papieri ostávajú plány stále takzvane flat rate, teda bez priameho účtovania za jednotlivé dopyty. Pri intenzívnom používaní drahších a výkonnejších modelov sa však rozpočet minie rýchlejšie, čo v praxi môže znamenať nižšiu kvalitu alebo dostupnosť odpovedí pre tých, čo pracujú na lacnejších tarifách.
Zostávajúce množstvo a čas, kedy sa limit obnoví, si budú môcť používatelia skontrolovať v nastaveniach, v sekcii Usage. Po vyčerpaní limitu bude k dispozícii niekoľko možností: počkať na obnovenie, prejsť na vyššiu tarifu, alebo si pri vybraných funkciách dokúpiť kredity navyše.
Čo to znamená pre firmy
Pre firmy, ktoré používajú ChatGPT Business alebo Enterprise a zároveň nasadzujú Codex pre vývojárske tímy, spoločný limit znamená, že intenzívne programovanie môže uberať z rozpočtu, ktorý si inak zamestnanci delia aj na bežnú prácu s textom a dátami. Tímy by si preto mali sledovať spotrebu v nastaveniach a plánovať, kedy nasadiť drahšie modely a kedy postačí rýchlejší Instant. Zmena prichádza v čase, keď OpenAI podľa skorších správ znížilo cieľ aktuálneho kola financovania a hľadá spôsoby, ako udržať náklady na prevádzku modelov pod kontrolou, podobne ako sme písali v článku o pripravovanom financovaní za 30 miliárd dolárov.
Zlúčenie Chat a Work tiež prichádza v čase zostrujúcej sa konkurencie s Anthropicom, ktorý podobný krok, spojenie chatu a pracovného režimu nazývaného Cowork, do Claude zaviedol už skôr. O súperení oboch firiem o firemných klientov sme písali aj v texte o cenovej vojne OpenAI o klientov Anthropicu.
Čo sledovať ďalej
V najbližších týždňoch OpenAI rozširuje test zlúčeného rozhrania Chat a Work na ďalšie skupiny používateľov a podľa ich spätnej väzby môže ešte upraviť rozsah alebo rýchlosť nasadenia. Skutočný dosah spoločného limitu na bežných aj firemných používateľov sa ukáže až v decembri, keď zmena naplno vstúpi do platnosti. Sledovať treba aj to, či OpenAI pri reálnom spustení opäť nenarazí na odpor zákazníkov, ako sa to stalo pri pôvodnom pláne na zníženie limitov pre tarifu Pro 200.
