Režim uvažovania Pro pri modeloch OpenAI

Režim uvažovania Pro pri modeloch OpenAI v CODEXIS AI: čo robí, ako sa účtuje a koľko kreditov spotrebuje v prevádzke.

Režim uvažovania prepnete v Nastavení modelu položkou Režim uvažování, ktorá má hodnoty Standardní a Pro. Voľba je dostupná pri modeloch GPT-5.6 Sol, GPT-5.6 Terra, GPT-5.6 Luna a GPT-6 Astra, predvolená hodnota je Standardní.

Rovnako ako ostatné nastavenia modelu volíte režim pred začatím konverzácie, v už prebiehajúcom chate ho zmeniť nie je možné. Na tejto stránke zistíte, čo režim Pro robí, ako sa účtuje a koľko kreditov spotrebuje v bežnej prevádzke.

Čo režim Pro robí

CODEXIS posiela zvolený režim do OpenAI ako režim uvažovania požiadavky. Podľa dokumentácie OpenAI odvedie model v režime Pro nad zadaním viac práce než v štandardnom režime, čím rastie spotreba tokenov aj cena. Je určený pre náročné úlohy, pri ktorých vám neprekáža dlhšie čakanie a vyššia spotreba.

Režim uvažovania a Úsilí při uvažování sú podľa OpenAI navzájom nezávislé. Režim vyberá štandardné alebo Pro vykonanie, úsilie riadi, koľko uvažovania model v rámci daného režimu použije. Režim Pro preto môžete kombinovať s ľubovoľným úsilím.

Odpoveď v režime Pro trvá citeľne dlhšie. CODEXIS na jednu odpoveď modelu čaká až 30 minút.

Ako sa Pro účtuje

Režim Pro nemá vlastný cenník. Každý token sa účtuje rovnakými kreditovými sadzbami ako v štandardnom režime, podľa zvoleného modelu a nastavenia Třída, pozri Modely a kreditové sadzby.

Drahšie vychádza preto, že model vytvorí oveľa viac tokenov uvažovania, obvykle dlhšiu odpoveď a v praxi potrebuje na jednu otázku viac krokov. Tokeny uvažovania sa účtujú sadzbou za output, teda najdrahšou sadzbou zo všetkých.

V Odhadu ceny v nastavení modelu sa režim Pro premieta ako tridsaťnásobok ceny štandardného režimu. Skutočná spotreba sa odvíja od veľkosti vstupu a dĺžky odpovede, pozri príklady nižšie.

Koľko Pro spotrebuje v praxi

Mediány z desiatich dní prevádzky, chatové požiadavky hlavného modelu:

Model	Kredity za požiadavku, Standardní	Kredity za požiadavku, Pro	Pomer	Tokeny uvažovania, Standardní	Tokeny uvažovania, Pro
GPT-5.6 Terra	590	5 300	9×	290	2 950
GPT-5.6 Sol	2 600	26 600	10×	470	4 160
GPT-6 Astra	4 800	37 600	8×	380	1 900

Za celú otázku vrátane všetkých krokov modelu vychádza pri GPT-6 Astra medián 18 200 kreditov v štandardnom režime a 189 400 kreditov v režime Pro, teda zhruba desaťnásobok. Otázky v režime Pro pritom nesú asi 3,5-krát viac vstupných tokenov, medián 929 000 proti 267 000. Príklady v ďalšej sekcii preto patria k menším Pro otázkam.

Uvedené pomery popisujú, ako používatelia režim Pro používajú, nie len samotný vplyv režimu. Zapínajú ho na dlhšie dokumenty a dlhšie konverzácie, takže rastie aj vstup. Na modeli GPT-5.6 Terra stojí pri rovnakej veľkosti vstupu požiadavka v režime Pro zhruba 1,5 až 2,6-násobok požiadavky v štandardnom režime a vytvorí trikrát až desaťkrát viac tokenov uvažovania.

V sledovanom období pripadlo na režim Pro 1,4 % používateľských otázok a 35 % všetkých spotrebovaných kreditov.

Príklad z prevádzky: GPT-6 Astra

Všetky tri príklady sú skutočné otázky z prevádzky na modeli GPT-6 Astra s nastavením Třída Standard a štandardným kontextom. Jedna požiadavka je jedno volanie modelu v rámci jednej používateľskej otázky, napríklad po tom, čo model prehľadal CODEXIS. Súčty kreditov zodpovedajú sume skutočne odpočítanej z účtu.

Sadzby GPT-6 Astra v triede Standard so štandardným kontextom na 1 000 000 tokenov:

Trieda	Input	Input cached	Output
Standard	250 000 kreditov	25 000 kreditov	1 250 000 kreditov

Output zahŕňa aj tokeny uvažovania.

Pro, úsilie pri uvažovaní vysoká

Vysoká je predvolená hodnota nastavenia Úsilí při uvažování.

Požiadavka	Input	Z toho cached	Output	Z toho uvažovanie	Kredity
1	55 731	40 732	1 277	1 007	6 364
2	62 178	43 292	3 390	1 563	10 195
3	65 403	48 156	1 392	847	7 256
Spolu	183 312	132 180	6 059	3 417	23 815

Standardní, úsilie pri uvažovaní vysoká

Otázka porovnateľnej veľkosti, tri požiadavky a zhruba 183 000 vstupných tokenov.

Požiadavka	Input	Z toho cached	Output	Z toho uvažovanie	Kredity
1	56 630	55 758	351	119	2 100
2	62 588	56 526	557	516	3 997
3	63 371	62 542	513	295	2 461
Spolu	182 589	174 826	1 421	930	8 558

Na výstupnej strane, teda v odpovedi vrátane uvažovania, je rozdiel 6 059 proti 1 421 tokenom, v kreditoch 7 574 proti 1 776. Zvyšok rozdielu leží na vstupnej strane, kde štandardná otázka dostala väčšiu časť vstupu z cache, 174 826 z 182 589 tokenov proti 132 180 z 183 312. Celý 2,8-násobný rozdiel v cene teda nejde len za režimom Pro.

Pro, úsilie pri uvažovaní maximálna

Požiadavka	Input	Z toho cached	Output	Z toho uvažovanie	Kredity
1	26 123	20 124	1 722	1 487	4 231
2	32 474	24 348	2 757	2 584	6 086
3	37 571	28 060	7 875	6 260	12 923
Spolu	96 168	72 532	12 354	10 331	23 241

Samotné tokeny uvažovania vyjdú pri sadzbe 1,25 kreditu za token na 12 914 kreditov, teda 56 % ceny celej otázky, a to pri vstupe pod 100 000 tokenov.

Kedy Pro zapnúť

Režim Pro zapínajte na náročné analýzy, kde je kvalita odpovede dôležitejšia než rýchlosť a cena. Pri bežnej práci nechajte režim na Standardní a najprv skúste zvýšiť Úsilí při uvažování, obvykle to stačí. Spotrebu si strážte podľa počtu kreditov uvedeného pod každou odpoveďou.

Ostatné nastavenia modelu popisuje kapitola Model a jeho prispôsobenie, účtovanie kapitola Kredity a cenník.