Režim uvažování Pro u modelů OpenAI
Režim uvažování Pro u modelů OpenAI v CODEXIS AI: co dělá, jak se účtuje a kolik kreditů spotřebuje v provozu.
Režim uvažování přepnete v Nastavení modelu položkou Režim uvažování, která má hodnoty Standardní a Pro. Volba je dostupná u modelů GPT-5.6 Sol, GPT-5.6 Terra, GPT-5.6 Luna a GPT-6 Astra, výchozí hodnota je Standardní.
Stejně jako ostatní nastavení modelu volíte režim před zahájením konverzace, v už probíhajícím chatu ho změnit nelze. Na této stránce zjistíte, co režim Pro dělá, jak se účtuje a kolik kreditů spotřebuje v běžném provozu.
Co režim Pro dělá
CODEXIS posílá zvolený režim do OpenAI jako režim uvažování požadavku. Podle dokumentace OpenAI odvede model v režimu Pro nad zadáním víc práce než ve standardním režimu, čímž roste spotřeba tokenů i cena. Je určený pro náročné úlohy, u kterých vám nevadí delší čekání a vyšší spotřeba.
Režim uvažování a Úsilí při uvažování jsou podle OpenAI na sobě nezávislé. Režim vybírá standardní nebo Pro provedení, úsilí řídí, kolik uvažování model v rámci daného režimu použije. Pro proto můžete kombinovat s libovolným úsilím.
Odpověď v režimu Pro trvá znatelně déle. CODEXIS na jednu odpověď modelu čeká až 30 minut.
Jak se Pro účtuje
Režim Pro nemá vlastní ceník. Každý token se účtuje stejnými kreditovými sazbami jako ve standardním režimu, podle zvoleného modelu a nastavení Třída, viz Modely a kreditové sazby.
Dražší vychází proto, že model vytvoří mnohem víc tokenů uvažování, obvykle delší odpověď a v praxi potřebuje na jednu otázku víc kroků. Tokeny uvažování se účtují sazbou za output, tedy nejdražší sazbou ze všech.
V Odhadu ceny v nastavení modelu se režim Pro promítá jako třicetinásobek ceny standardního režimu. Skutečná spotřeba se odvíjí od velikosti vstupu a délky odpovědi, viz příklady níže.
Kolik Pro spotřebuje v praxi
Mediány z deseti dnů provozu, chatové požadavky hlavního modelu:
| Model | Kredity za požadavek, Standardní | Kredity za požadavek, Pro | Poměr | Tokeny uvažování, Standardní | Tokeny uvažování, Pro |
|---|---|---|---|---|---|
| GPT-5.6 Terra | 590 | 5 300 | 9× | 290 | 2 950 |
| GPT-5.6 Sol | 2 600 | 26 600 | 10× | 470 | 4 160 |
| GPT-6 Astra | 4 800 | 37 600 | 8× | 380 | 1 900 |
Za celou otázku včetně všech kroků modelu vychází u GPT-6 Astra medián 18 200 kreditů ve standardním režimu a 189 400 kreditů v režimu Pro, tedy zhruba desetinásobek. Otázky v režimu Pro přitom nesou asi 3,5krát víc vstupních tokenů, medián 929 000 proti 267 000. Příklady v další sekci proto patří k menším Pro otázkám.
Uvedené poměry popisují, jak uživatelé režim Pro používají, ne jen samotný vliv režimu. Zapínají ho na delší dokumenty a delší konverzace, takže roste i vstup. Na modelu GPT-5.6 Terra stojí při stejné velikosti vstupu požadavek v režimu Pro zhruba 1,5 až 2,6násobek požadavku ve standardním režimu a vytvoří třikrát až desetkrát víc tokenů uvažování.
Ve sledovaném období připadlo na režim Pro 1,4 % uživatelských otázek a 35 % všech spotřebovaných kreditů.
Příklad z provozu: GPT-6 Astra
Všechny tři příklady jsou skutečné otázky z provozu na modelu GPT-6 Astra s nastavením Třída Standard a standardním kontextem. Jeden požadavek je jedno volání modelu v rámci jedné uživatelské otázky, například poté, co model prohledal CODEXIS. Součty kreditů odpovídají částce skutečně odečtené z účtu.
Sazby GPT-6 Astra ve třídě Standard se standardním kontextem na 1 000 000 tokenů:
| Třída | Input | Input cached | Output |
|---|---|---|---|
| Standard | 250 000 kreditů | 25 000 kreditů | 1 250 000 kreditů |
Output zahrnuje i tokeny uvažování.
Pro, úsilí při uvažování vysoká
Vysoká je výchozí hodnota Úsilí při uvažování.
| Požadavek | Input | Z toho cached | Output | Z toho uvažování | Kredity |
|---|---|---|---|---|---|
| 1 | 55 731 | 40 732 | 1 277 | 1 007 | 6 364 |
| 2 | 62 178 | 43 292 | 3 390 | 1 563 | 10 195 |
| 3 | 65 403 | 48 156 | 1 392 | 847 | 7 256 |
| Celkem | 183 312 | 132 180 | 6 059 | 3 417 | 23 815 |
Standardní, úsilí při uvažování vysoká
Otázka srovnatelné velikosti, tři požadavky a zhruba 183 000 vstupních tokenů.
| Požadavek | Input | Z toho cached | Output | Z toho uvažování | Kredity |
|---|---|---|---|---|---|
| 1 | 56 630 | 55 758 | 351 | 119 | 2 100 |
| 2 | 62 588 | 56 526 | 557 | 516 | 3 997 |
| 3 | 63 371 | 62 542 | 513 | 295 | 2 461 |
| Celkem | 182 589 | 174 826 | 1 421 | 930 | 8 558 |
Na výstupní straně, tedy v odpovědi včetně uvažování, je rozdíl 6 059 proti 1 421 tokenům, v kreditech 7 574 proti 1 776. Zbytek rozdílu leží na vstupní straně, kde standardní otázka dostala větší část vstupu z cache, 174 826 z 182 589 tokenů proti 132 180 z 183 312. Celý 2,8násobný rozdíl v ceně tedy nejde jen za režimem Pro.
Pro, úsilí při uvažování maximální
| Požadavek | Input | Z toho cached | Output | Z toho uvažování | Kredity |
|---|---|---|---|---|---|
| 1 | 26 123 | 20 124 | 1 722 | 1 487 | 4 231 |
| 2 | 32 474 | 24 348 | 2 757 | 2 584 | 6 086 |
| 3 | 37 571 | 28 060 | 7 875 | 6 260 | 12 923 |
| Celkem | 96 168 | 72 532 | 12 354 | 10 331 | 23 241 |
Samotné tokeny uvažování vyjdou při sazbě 1,25 kreditu za token na 12 914 kreditů, tedy 56 % ceny celé otázky, a to při vstupu pod 100 000 tokenů.
Kdy Pro zapnout
Režim Pro zapínejte na náročné analýzy, kde je kvalita odpovědi důležitější než rychlost a cena. Pro běžnou práci nechte režim na Standardní a nejdřív zkuste zvýšit Úsilí při uvažování, obvykle to stačí. Spotřebu si hlídejte podle počtu kreditů uvedeného pod každou odpovědí.
Ostatní nastavení modelu popisuje kapitola Model a jeho přizpůsobení, účtování kapitola Kredity a ceník.