Predstavte si, že máte v ruke faktúru za volania modelu cez API - 0,002 € za tisíc tokenov pri vstupe, 0,006 € pri výstupe, a na konci mesiaca z toho vyjde suma, ktorá prevyšuje váš rozpočet na hosting celého produktu.
Presne v tomto bode sa slovenské malé firmy a startupy začínajú obzerať po otvorených modeloch, ktoré si môžu spustiť na vlastnom hardvéri. Lenže „open-source“ v AI neznamená to, čo v Linuxe. A práve tu vzniká najviac nedorozumení.
Toto nie je článok o cenách API - tie sme rozobrali inde. Pozeráme sa na inú rovinu: čo sa stane, keď model prestanete prenajímať a začnete ho prevádzkovať.
„Open weights“ nie je open-source. A to mení všetko
Väčšina modelov, ktoré dnes nesú nálepku open-source, sú v skutočnosti open weights (otvorené váhy). Dostanete súbor s parametrami, ale nie tréningové dáta, nie kód tréningu, nie recept, ako model vznikol. Licencie sa pritom výrazne líšia:
- Llama (Meta) - vlastná komunitná licencia, nie OSI. Pri viac ako 700 miliónoch aktívnych používateľov mesačne potrebujete od Metu zvláštne povolenie. Pre startup je to teoretické, pre rastúcu službu už nie.
- Mistral (7B, Mixtral) - Apache 2.0 pri menších modeloch, pri väčších vlastná licencia. Apache 2.0 je to, čo naozaj chcete, ak plánujete model zabudovať do produktu a ďalej ho distribuovať.
- Qwen, DeepSeek - často Apache 2.0 alebo vlastné, ale s čínskym pôvodom. Pri práci s európskymi klientskymi dátami je to téma, ktorú si treba vedome uzavrieť, nie obísť.
Praktický dôsledok: ak vám právnik alebo investor položí otázku „na akej licencii to beží“, musíte vedieť odpovedať do minúty. Pri Apache 2.0 je odpoveď jednoduchá. Pri vlastných licenciách si prečítajte sekciu o komerčnom použití - nie je to formalita.
Kde sa open-source naozaj vyplatí - a kde nie
Rozdeľme to podľa reálnych prípadov, nie podľa marketingu.
Vyplatí sa, keď:
- Spracúvate citlivé dáta (zdravotníctvo, právo, účtovníctvo). Ak dáta nesmú opustiť vašu infraštruktúru, open weights je často jediná cesta. Žiadne API, žiadny prenos do zahraničia.
- Máte stabilnú, opakujúcu sa úlohu - klasifikácia dokumentov, extrakcia polí z faktúr, sumarizácia interných zápisov. Model raz vyladíte a beží roky.
- Objem volaní je vysoký a predvídateľný. Pri miliónoch volaní denne sa vlastný inference (beh modelu) môže dostať pod cenu API - ale až po započítaní všetkého nižšie.
Nevyplatí sa, keď:
- Potrebujete špičkovú kvalitu na širokú škálu úloh. Najlepšie uzavreté modely sú stále inde než to, čo si rozumne spustíte na jednom serveri.
- Máte malý a nepravidelný objem. Platíte za hardvér aj vtedy, keď model nič nerobí.
- Nemáte nikoho, kto sa o to postará. Toto je najčastejšia pasca.
Skryté náklady, ktoré sa v kalkulačkách neobjavia
Tu sa láme väčšina projektov. Cena GPU je len začiatok.
- Hardvér. Model so 7–8 miliardami parametrov v kvantizácii zvládne jedna GPU s 16–24 GB VRAM. Väčšie modely (70B) potrebujú 2× 48 GB alebo viac - a to už nie je server za pár stoviek eur. Prenájom takej GPU v cloude sa pohybuje rádovo v 1–3 € za hodinu (ceny sa menia, overte si aktuálne).
- Nepretržitá prevádzka. Ak držíte GPU zapnutú 24/7, platíte aj za ticho. Ak ju vypínate, platíte za studený štart - a ten pri veľkých modeloch trvá desiatky sekúnd.
- Inžinier. Niekto musí riešiť nasadenie, kvantizáciu, verzie, monitoring. Pri open-source je to reálna položka, ktorá pri API neexistuje.
- Kvalita po kvantizácii. Model „zoškrtaný“ na 4 bity beží rýchlo a lacno, ale výstupy sa zhoršia. Niekedy nebadane - a to je horšie.
Modelový príklad: Predstavme si firmu, ktorá spracúva 50 000 dokumentov mesačne. Pri API jej to vyjde na niekoľko stoviek eur. Ak si kúpi GPU za 2 000 € a venuje tomu tretinu úväzku inžiniera, návratnosť sa dostaví až pri výrazne vyšších objemoch - alebo nikdy, ak sa objem nezopakuje. Nejde o univerzálne číslo, ide o to, že bod zlomu je vyššie, než sa na prvý pohľad zdá.
Kde na Slovensku začať
- Európske a lokálne modely. Existujú európske iniciatívy na otvorené jazykové modely, ktoré majú bližšie k európskym jazykom a regulácii. Ich prehľad sa mení rýchlo - overte si aktuálny stav priamo u poskytovateľa, nie podľa článku spred roka.
- Nástroje na beh modelov. Bežne sa používajú Ollama (jednoduchý štart), vLLM (vysoký výkon pri obsluhe) a llama.cpp (beh aj na CPU). Prvé dva sú pre väčšinu startupov relevantné.
- Kvantizácia. Formáty ako GGUF alebo AWQ zmenšia model tak, aby sa vmestil na dostupný hardvér. Je to kompromis - kvalita za pamäť.
- Cloud vs. vlastné železo. Kým objem nie je stabilný, prenájom GPU dáva väčší zmysel než nákup. Nákup sa vyplatí až pri vysokom a trvalom zaťažení.
Verdikt: čo si vybrať
Ak ste malá firma alebo startup na Slovensku, rozhodujte sa podľa dvoch otázok, nie podľa popularity modelu:
- Musia dáta zostať u vás? Ak áno, open weights je jasná voľba - a začnite s menším modelom (7–8B, Apache 2.0), nie s tým najväčším.
- Je váš objem vysoký a stabilný? Ak nie, zostaňte pri API a open-source si nechajte na experimenty. Ušetríte si inžiniera aj GPU.
Praktické odporúčanie: začnite malým modelom s otvorenou licenciou, overte kvalitu na vašich dátach a až potom riešte hardvér. Väčšina projektov zlyhá na tom, že kúpi železo skôr, než vie, či model úlohu zvládne.
Technický záver: Licenčná a prevádzková mapa open-source AI pre slovenské startupy
Open-source v AI nie je lacnejšia verzia API - je to iná prevádzková filozofia. Rozhoduje licencia (Apache 2.0 vs. vlastná), veľkosť modelu (7B vs. 70B) a stabilita objemu. Bez týchto troch čísel je akékoľvek porovnanie s API len dohad.
Zdroje
- Meta - Llama licencia a politika aktívnych používateľov, llama.com (citované 28. 9. 2026)
- Mistral AI - Prehľad licencií modelov, mistral.ai (citované 28. 9. 2026)
- Ollama - Dokumentácia a podporované modely, ollama.com (citované 28. 9. 2026)
- vLLM - Dokumentácia k obsluhe modelov, docs.vllm.ai (citované 28. 9. 2026)
- llama.cpp - Repozitár a formát GGUF, github.com/ggerganov/llama.cpp (citované 28. 9. 2026)
