Predstavte si, že máte firmu s desiatimi zamestnancami a každý z nich denne pošle do cloudovej AI asistentky niekoľko dotazov - zhrnutie e-mailu, prepis zvukovej poznámky, kontrola zmluvy.
Na konci mesiaca príde faktúra a vy zistíte, že platíte za tokeny aj za to, že ste modelu poslali interné dáta, ktoré by ste radšej neposielali nikam. Presne tu začína byť otázka „cloud, alebo vlastný server?" praktickou otázkou, nie ideologickou.
Čo sa zmenilo v októbri 2026
Ešte donedávna platilo jednoduché pravidlo: open-source modely zaostávali za tými komerčnými natoľko, že self-hosting (prevádzka na vlastnom hardvéri) bol hobby pre nadšencov. To sa tento rok posunulo. Dnes existuje celý ekosystém nástrojov - od behových vrstiev typu Ollama, cez webové rozhrania ako Open WebUI, až po RAG (generovanie doplnené vyhľadávaním) aplikácie ako AnythingLLM - ktoré zvládnete nasadiť cez Docker za jedno popoludnie.
Do hry navyše vstúpili open-weight modely, ktoré menia kalkuláciu medzi cloudom a vlastným hardvérom. Táto oblasť sa vyvíja rýchlo - konkrétne označenia verzií a ich parametre si pred rozhodnutím overte v aktuálnych zdrojoch, nech nekupujete hardvér podľa zastaraného prehľadu.
Kedy sa self-hosting vyplatí - a kedy nie
Vyplatí sa, keď:
- Dáta nesmú opustiť firmu. Advokátska kancelária, účtovníctvo, zdravotnícke záznamy, interná dokumentácia. Ak model beží na vašom serveri, dáta fyzicky neopúšťajú vašu sieť. Pri cloudovom riešení to musíte riešiť zmluvne a aj tak zostáva riziko.
- Máte stabilnú, opakovanú záťaž. Ak AI používate denne a intenzívne, mesačné náklady za tokeny zvyčajne rastú s objemom využitia. Vlastný hardvér má jednorazový vstup a potom už len elektrinu.
- Potrebujete RAG nad vlastnými dokumentmi. Postup v praxi je zdokumentovaný: Ollama ako server modelu, predvolene na porte 11434, Open WebUI ako webové rozhranie s riadením prístupov, AnythingLLM na indexáciu PDF, DOCX a webových stránok (JanHasta, 2026). Beží to na Ubuntu 24.04 s Dockerom a Docker Compose.
- Chcete offline prevádzku. Bez internetu, bez API kľúčov, bez výpadku, keď dodávateľ cloudu zmení podmienky.
Nevyplatí sa, keď:
- Používate AI sporadicky. Pár dotazov denne nezaplatí ani elektrinu, nieto hardvér.
- Potrebujete špičkový výkon na náročné úlohy. Najväčšie komerčné modely stále bežia v cloude a na vlastný server by ste potrebovali hardvér, ktorý sa nezaplatí.
- Nemáte nikoho, kto to udrží. Toto je najčastejšie prehliadaná položka. Inštalácia je jednorazová, ale prevádzka nie.
Skryté náklady, ktoré sa v kalkuláciách vynechávajú
Pri porovnávaní cloud vs. vlastný server ľudia počítajú cenu GPU a zabudnú na tri veci:
- Čas na údržbu. Aktualizácie systému, bezpečnostné záplaty, zálohy, monitoring. Pri serverovom prostredí sa odporúčajú distribúcie s dlhodobou podporou (LTS) - Ubuntu Server LTS ponúka päť rokov štandardnej podpory, s rozšírenou podporou ESM aj dlhšie. Aj tak ale niekto musí aktualizácie nasadiť.
- Elektrina a chladenie. Server s výkonnou GPU beží nonstop. Pri menšom nasadení to môže byť porovnateľné s cloudovým predplatným.
- Odborná práca pri nasadení. Ako ilustrácia z príbuznej oblasti: pri nasadení serverového kontajnera na tracking sa jednorazový setup môže predstavovať desiatky hodín práce vývojára a ďalšie hodiny odbornej práce na konfiguráciu. Pri AI serveri je to iná technológia, ale princíp sedí - nasadenie nie je „nainštaluj a hotovo".
Aký hardvér reálne potrebujete
Toto je najčastejšia otázka a odpoveď závisí od veľkosti modelu:
- Malé modely (do cca 7 miliárd parametrov): zvládne ich aj bežný počítač alebo server bez dedikovanej GPU, no nároky na pamäť závisia od kvantizácie a dĺžky kontextu. Vhodné na testovanie, zhrnutia, jednoduché asistenty.
- Stredné modely: tu už je dedikovaná GPU prakticky nutnosť. Kľúčová je VRAM - koľko pamäte má grafická karta, no rýchlosť GPU tiež ovplyvňuje rýchlosť generovania.
- Veľké modely: na vlastnom serveri ekonomicky nedávajú zmysel pre bežnú firmu.
Praktické odporúčanie: začnite na existujúcom hardvéri s malým modelom, overte si, či vám to vôbec sedí do pracovného postupu, a až potom investujte do GPU. Opačné poradie je najčastejšia drahá chyba.
Ako začať - realistický plán
- Nainštalujte Docker a Docker Compose na Ubuntu Server LTS.
- Spustite Ollama ako server modelu.
- Pridajte Open WebUI ako webové rozhranie - zvládne správu používateľov, ukladanie konverzácií a prístup bez príkazového riadku (JanHasta, 2026).
- Ak potrebujete pracovať s dokumentmi, nasaďte AnythingLLM a nastavte trvalé úložisko pre indexované dáta.
- Otestujte na reálnych úlohách aspoň dva týždne, až potom riešte hardvér.
Verdikt: čo si vybrať
Ak spracúvate citlivé dáta alebo máte stabilnú dennú záťaž, self-hosting sa vám vyplatí - a v roku 2026 je technicky dostupnejší než kedykoľvek predtým. Ak používate AI občas alebo potrebujete špičkový výkon, cloud zostáva rozumnejšou voľbou a nemusíte sa zaň ospravedlňovať. Najčastejšia chyba nie je zlý výber, ale preskočenie overovacej fázy: nasadiť open-source model na existujúci hardvér je dnes pre technicky zdatného používateľa otázka hodín, nie týždňov - a až potom má zmysel počítať, či sa investícia do GPU vráti.
Hardvérový záver: Čo si z kalkulácie self-hostingu odniesť do praxe
Self-hosting AI modelov v roku 2026 prestal byť otázkou technickej zdatnosti a stal sa otázkou ekonomickej úvahy - a tá sa nezaobíde bez troch čísel: koľko hodín mesačne strávite údržbou, koľko tokenov miniete v cloude a koľko pamäte VRAM váš model reálne potrebuje. Kto má tieto tri čísla, rozhodne sa správne. Kto ich nemá, kúpi GPU a potom zistí, že mu chýba čas, nie výkon.
Zdroje
- GitHub Topics - gpt, github.com/topics/gpt (citované 16. 10. 2026)
- Starbomedia - Server Side Tagging vs Server Side Tracking, starbomedia.sk (citované 16. 10. 2026)
- Youstable - 10 najlepších operačných systémov pre servery v roku 2026, youstable.com (citované 16. 10. 2026)
- JanHasta - Lokálne AI modely alebo Ako sme postavili vlastný AI chat server, janhasta-blog.sk (citované 16. 10. 2026)
