Model a jeho prispôsobenie
Aktuálne CODEXIS AI využíva GPT-5.4 a ponúkame aj možnosti prispôsobenia modelu. Voliteľne si môžete prepnúť na novší GPT-5.5, ktorý je 2× drahší ako GPT-5.4. Predvoleným modelom zostáva GPT-5.4.
Nastaviť môžete, ako stručne má chat odpovedať, ako veľmi má pri odpovedi premýšľať, akú triedu spracovania použiť a tiež veľkosť kontextu.
Nové predvolené nastavenie je: nízka podrobnosť, stredné uvažovanie, štandard trieda a štandardný kontext.
Čo je možné nastaviť
Nová konfigurácia dáva používateľovi väčšiu kontrolu nad tým, akým spôsobom chat odpovedá a koľko výkonu aj ceny chce do odpovede investovať.
- Podrobnosť určuje, koľko toho má chat vypísať a aká stručná alebo rozvedená odpoveď bude.
- Úsilie pri uvažovaní určuje, koľko času a energie model venuje premýšľaniu nad odpoveďou. Čím vyššia úroveň, tým viac sa snaží hľadať súvislosti a skladať odpoveď.
- Trieda ovplyvňuje cenu a rýchlosť. Od pomalšej odpovede za polovicu ceny, cez bežné spracovanie, ako ho poznáte doteraz, až po najvyššie prioritné spracovanie za dvojnásobok ceny.
- Veľkosť kontextového okna určuje maximálny počet tokenov, ktoré môže model spracovať naraz (systémové inštrukcie, vstup používateľa, história konverzácie aj odpoveď modelu): 272 tisíc tokenov alebo 1,05 milióna tokenov. Extra veľký kontext je dostupný iba v triede Standard a používa vyššie sadzby ako štandardný kontext.
Prehľad jednotlivých volieb
- Podrobnosť: nízka, stredná, vysoká
- Úsilie pri uvažovaní: nízke, stredné, vysoké, extra vysoké
- Trieda: Flex, Standard, Priority
- Veľkosť kontextu: štandardný, extra veľký (len pre Standard)
Nastavenie modelu GPT-5.4
Podrobnosť
Pri modeli GPT-5.4 ide pri podrobnosti v praxi hlavne o "stručnosť" odpovede. Ovplyvňuje, koľko textu AI vypíše, či doplní viac príkladov a ako veľmi odpoveď rozvedie. Rovnaký efekt je často možné vyvolať aj jednoduchou inštrukciou v prompte, napríklad vypíš mi to detailne alebo buď veľmi stručný.
Možnosti sú nízka, stredná a vysoká. Predvolené nastavenie je nízka.
Úsilie pri uvažovaní
Ak presne viete, čo chcete, obvykle stačí nízke uvažovanie. Hodí sa napríklad pre úlohy typu: z konkrétneho paragrafu a konkrétneho iného paragrafu mi daj určitú informáciu a niečo k tomu vypíš.
Bežné nastavenie je stredné, čo zodpovedá pôvodnému predvolenému režimu CODEXIS AI. Vysoké a extra vysoké sa hodia pre hlbšie premýšľanie, hľadanie obskúrnych informácií alebo pre situácie, keď má model vyvodzovať závery z nejasne prepojených dokumentov a právnych konceptov. Ak nie ste spokojní so strednou odpoveďou, skúste vyššie nastavenie.
Trieda
Trieda určuje hlavne rýchlosť odpovede a cenu. Flex je za polovicu ceny a Priority za dvojnásobok ceny oproti triede Standard.
Ak neponáhľate, použite Flex. Ušetríte 50 %. Počítajte však s tým, že Flex nemusí byť vždy dostupná. Pri vysokom vyťažení je deprioritizovaná a môže vracať chyby, takže sa hodí skôr pre menej urgentnú prácu, ideálne dopoludnia.
Veľkosť kontextu
Pre bežné konverzácie odporúčame veľkosť kontextu nemeniť. Extra veľký kontext dáva zmysel hlavne vtedy, keď pracujete s veľmi rozsiahlymi podkladmi alebo dlhou históriou konverzácie.
Ak chcete obnoviť predvolené nastavenie, kliknite na Obnoviť predvolené hodnoty. Zmeny nie je možné robiť v už prebiehajúcom chate.
Rozhranie nastavení vidíte nižšie:
Upozornenie: Spotrebu kreditov si teraz môžete ovplyvniť sami. Oproti predvolenému nastaveniu si ju môžete znížiť až o 64 %, ale zároveň maximalistickým nastavením sa spotreba môže navýšiť až o 560 %.
Príklady nastavenia
- pre rýchle a lacnejšie odpovede použite Flex + nízku podrobnosť,
- pre zložitejšie úlohy si zvýšte uvažovanie a prípadne aj podrobnosť,
- pre veľké vstupy alebo rozsiahle podklady využite extra veľký kontext,