Stačí jedna faktúra od cloudového poskytovateľa za inferenciu (výpočet odpovedí modelu) a mnohé firmy začnú počítať, či by sa im neoplatilo mať model doma.
Odpoveď znie: pri niektorých úlohách áno, pri iných je to cesta k horším výsledkom za viac peňazí. Tento článok pre aiporadca.sk rozoberá, čo dnes znamená „open-weight" model, aký hardvér si reálne vyžiada a kde sú pasce, ktoré sa v marketingových materiáloch nespomínajú.
Čo je open-weight a čo nie
Open-weight model znamená, že máte k dispozícii váhy natrénovaného modelu a môžete si ho spustiť na vlastnom železe. Neznamená to automaticky open-source v právnom zmysle - licencia môže obmedzovať komerčné použitie, počet používateľov alebo zakazovať určité aplikácie. Pri každom modeli si preto najprv prečítajte licenčný dokument, nie len popis na stránke s váhami.
Druhá vec: „open-weight" neznamená, že máte aj trénovacie dáta alebo postup, ako model vznikol. Dostanete hotový produkt, ktorý si viete prispôsobiť - doladiť (fine-tuning) na svoje dáta, kvantizovať (zmenšiť presnosť čísel, aby sa model zmestil do menšej pamäte) alebo obaliť vlastným rozhraním.
Poznámka k názvom: konkrétne označenia „Meta Muse" a „FLUX 3" z reálnych verejných zdrojov k 20. 10. 2026 nevieme potvrdiť ako oficiálne názvy vydaných modelov - pri FLUX ide historicky o rodinu generatívnych obrazových modelov od Black Forest Labs. Ak na tieto názvy narazíte v ponuke, overte si priamo u vydavateľa, čo model robí, akú má licenciu a aké sú požiadavky na hardvér. Nepíšeme vám sem čísla, ktoré si nevieme doložiť.
Kedy sa lokálne nasadenie vyplatí
Lokálne nasadenie dáva zmysel v troch situáciách:
- Dáta nesmú opustiť firmu. Zdravotníctvo, právo, personalistika, interné dokumenty. Ak nemôžete podpísať spracovateľskú zmluvu s cloudom, lokálny model je jediná cesta.
- Objem je stabilný a vysoký. Pri tisíckach požiadaviek denne sa fixný náklad na GPU amortizuje rýchlejšie než pri desiatich dotazoch týždenne.
- Potrebujete predvídateľnosť. Žiadne zmeny cien API, žiadne výpadky, žiadne zmeny verzií modelu pod rukami.
Naopak, ak experimentujete, máte kolísavú záťaž alebo potrebujete špičkovú kvalitu na zložité úlohy, cloudové API býva lacnejšie a jednoduchšie. Toto nie je ideologická otázka, ale počítanie.
Hardvér: kde vás čaká najväčšie prekvapenie
Rozhodujúci údaj nie je počet parametrov modelu, ale koľko pamäte zaberie pri inferencii. Hrubé pravidlo: model so 7–8 miliardami parametrov v 4-bitovej kvantizácii potrebuje rádovo 3,5–5 GB pamäte GPU len na váhy, plus priestor na kontext (spracovaný text) a medzivýsledky. Pri 70-miliardovom modeli sa bavíme o desiatkach GB a o viacerých GPU alebo o špecializovanom akcelerátore.
Čo si overiť pred nákupom:
- Veľkosť pamäte GPU (VRAM) - najtvrdší limit. Ak sa model nezmestí, nepomôže rýchlejší čip.
- Priepustnosť pamäte - určuje, ako rýchlo model generuje tokeny. Pri lokálnom nasadení je to často dôležitejšie než počet jadier.
- Spotreba a chladenie - serverová GPU v pracovni znamená hluk a teplo. Počítajte s tým pri umiestnení.
- Napájanie a priestor v skrini - bežná kancelária nie je serverovňa.
Konkrétne ceny GPU sa menia rýchlo a líšia sa podľa regiónu aj dostupnosti - aktuálne ceny si overte u predajcu v deň nákupu, neberte čísla z článkov starších než pár mesiacov.
Skryté náklady, ktoré rozpočet často vynechá
Hardvér je len začiatok. Reálny prevádzkový náklad lokálneho modelu obsahuje:
- Elektrickú energiu - pri trvalo bežiacom serveri závisí od konkrétnej GPU, jej spotreby a ceny elektriny; môže ísť o stovky eur ročne, pri výkonnejších zostavách aj výrazne viac.
- Človeka, ktorý to udrží - aktualizácie, monitoring, zálohy, bezpečnostné záplaty. Ak takého človeka nemáte, je to externý náklad alebo riziko.
- Čas na ladenie - výber modelu, kvantizácie a nastavení zaberie dni, nie hodiny.
- Bezpečnosť - lokálny model je dostupný v sieti. Ak ho omylom vystavíte do internetu bez autentifikácie, máte problém, ktorý cloud aspoň čiastočne rieši za vás.
Modelový príklad: firma s jedným serverom a jedným človekom na čiastočný úväzok sa pri lokálnom nasadení dostane na nižšie jednotky tisíc eur ročne v prevádzke popri vstupnej investícii do hardvéru. Pri cloudovom API sa náklad škáluje s počtom požiadaviek - pri malom objeme je to smiešna suma, pri veľkom prevýši lokálny server.
Prvé kroky, ak to chcete skúsiť
- Začnite na svojom počítači. Väčšina open-weight modelov má hotové nástroje na lokálne spustenie. Vyskúšajte malý model, zmerajte kvalitu na svojich úlohách a až potom riešte server.
- Postavte si testovaciu sadu. Dvadsať reálnych otázok z vašej praxe s očakávanými odpoveďami. Bez toho porovnávate dojmy, nie modely.
- Porovnajte s cloudom na rovnakých úlohách. Rovnaká sada, rovnaké hodnotenie. Rozdiel v kvalite býva väčší než rozdiel v cene.
- Až potom nakupujte hardvér. Podľa zmeranej potreby, nie podľa odporúčaní z fór.
Záver: Open-weight modely a lokálny hardvér - kedy do toho ísť a kedy nie
Lokálne nasadenie open-weight modelu je dnes technicky dostupné aj menším firmám, ale nie je to univerzálna výhra. Vyplatí sa tam, kde dáta nesmú von, objem je stabilný a máte človeka na prevádzku. Pri experimentovaní a kolísavej záťaži je cloudové API lacnejšie a menej rizikové. Kľúčové je zmerať kvalitu na vlastných úlohách pred nákupom hardvéru - a pri názvoch ako Meta Muse či FLUX 3 si najprv overiť u vydavateľa, čo presne dostávate a za akých licenčných podmienok.
Zdroje
- Black Forest Labs - oficiálna stránka rodiny modelov FLUX, blackforestlabs.ai (citované 20. 10. 2026)
- Meta AI - prehľad dostupných modelov a licencií, ai.meta.com (citované 20. 10. 2026)
- Hugging Face - katalóg open-weight modelov a licenčných podmienok, huggingface.co (citované 20. 10. 2026)
