Predstavte si, že máte e-shop, ktorý zákazníkom odpovedá cez chatbota postaveného na modeli gpt-3.5-turbo.
Funguje to roky, náklady sú pár centov na konverzáciu a vy ste spokojní. A potom príde oznam: model, na ktorom celá logika stojí, má byť vypnutý. A odporúčaná náhrada môže mať podľa dostupných informácií výrazne vyššie náklady na výstup. Presne to sa teraz deje v rozhraní API spoločnosti OpenAI.
Čo presne OpenAI vypína a kedy
Podľa dostupných správ OpenAI plánuje ukončiť prevádzku modelu gpt-3.5-turbo a ďalších starších modelov v API. Ak máte v produkcii čokoľvek, čo volá tieto modely, po vypnutí vám integrácia prestane fungovať.
Je dôležité rozlíšiť dve roviny, ktoré sa v diskusiách často miešajú:
- ChatGPT ako aplikácia - tam ide o iný typ zmien (napríklad rušenie modelu GPT-4o, ktoré spomína Pravda). To sa týka bežných používateľov.
- API pre vývojárov - to je rovina, ktorú riešime tu. Model gpt-3.5-turbo bol dlhé roky najlacnejšou voľbou pre jednoduché úlohy: klasifikáciu textu, odpovede zákazníkom, sumarizáciu, extrakciu údajov z faktúr.
Prečo je to problém práve pre malé projekty
gpt-3.5-turbo bol ideálny bod medzi cenou a kvalitou. Malý e-shop, živnostník s rezervačným formulárom alebo firma s interným asistentom na triedenie e-mailov na ňom postavili celý pracovný postup práve preto, že bol lacný. Náhrada, ktorú OpenAI odporúča, je kvalitatívne lepšia - ale za vyššiu cenu.
Podľa dostupných informácií môžu byť náklady na výstup pri odporúčaných náhradách výrazne vyššie ako pri pôvodnom modeli. Pri veľkých objemoch to znamená, že projekt, ktorý bol ekonomicky životaschopný, sa môže stať stratovým. A to je presne ten typ skrytého nákladu, ktorý sa pri plánovaní rozpočtu ľahko prehliadne.
Pozor na jednu vec: konkrétne ceny za 1 milión tokenov sa pri jednotlivých modeloch menia a OpenAI ich upravuje priebežne. Pred prepočtom si aktuálny cenník overte priamo v dokumentácii OpenAI - neuvádzame tu konkrétne sumy v eurách, lebo by mohli byť o pár týždňov neaktuálne.
Čo s tým: realistické kroky ešte pred 23. októbrom
Ak máte v produkcii starý model, tu je postup, ktorý sa vyplatí stihnúť:
- Zmapujte, kde všade model voláte. Často je to na viacerých miestach - chatbot, sumarizácia, triedenie. Zoznam je prvý krok.
- Zmerajte reálny objem. Koľko vstupných a výstupných tokenov mesačne skutočne miniete? Bez tohto čísla neviete, či vás prechod zruinuje, alebo je to pár eur.
- Otestujte náhradu na svojich dátach. Novší model môže byť kvalitnejší, ale aj zhovorčivejší - teda vygeneruje viac tokenov na rovnakú úlohu. To náklady násobí dvakrát: vyššia cena za token a viac tokenov.
- Zvážte lacnejšie alternatívy pre jednoduché úlohy. Na klasifikáciu alebo extrakciu často stačí menší a lacnejší model. Nie každá úloha potrebuje najvýkonnejší model.
- Nastavte limit výstupu. Parameter maximálnej dĺžky odpovede je najjednoduchšia páka na kontrolu nákladov.
Kde sú slabiny a na čo si dať pozor
Prechod nie je len o výmene názvu modelu v kóde. Tri veci vás môžu prekvapiť:
- Iné správanie pri rovnakom vstupe. Novší model môže odpovedať inak, formátovať inak alebo odmietnuť požiadavku, ktorú starý model spracoval. Ak máte na výstup naviazaný parser, otestujte ho.
- Vyššia spotreba tokenov. Zhovorčivejší model znamená viac výstupných tokenov - a práve výstup je drahší.
- Časový tlak. Termín 23. októbra je pevný. Ak migráciu odložíte, integrácia jednoducho prestane fungovať a vy budete riešiť výpadok namiesto plánovanej zmeny.
Technický záver: Ako prejsť z gpt-3.5-turbo bez výpadku a bez prekvapení v rozpočte
Z praktického pohľadu pre vývojárov a firmy platí: gpt-3.5-turbo má byť vypnutý a odporúčané náhrady môžu mať výrazne vyššie náklady na výstup. Nečakajte na posledný deň - zmapujte volania, zmerajte reálny objem tokenov a otestujte náhradu na svojich dátach ešte pred termínom. Ak je rozpočet tesný, zvážte menší model pre jednoduché úlohy a limity výstupu. Konkrétne ceny za token si overte v aktuálnej dokumentácii OpenAI, menia sa. A ak prevádzkujete viac projektov, urobte si jednotný prehľad - najhorší scenár nie je vysoká cena, ale výpadok, ktorý zistíte až od zákazníka.
Zdroje
- Pravda - Končí ďalší obľúbený četbot. OpenAI ruší model GPT-4o, pravda.sk (citované 19. 10. 2026)
