Priložiť k otázke celý Občiansky zákonník a čakať odpoveď do pol minúty znie ako sci-fi - a predsa sa to dá na jednej pracovnej stanici.
Otázka nie je, či to technicky ide, ale či sa na odpoveď dá spoľahnúť. Redakcia aiporadca.sk preto v októbri 2026 spravila vlastné meranie: vzali sme celý text zákona, vložili ho do jednej otázky a sledovali, ako rýchlo a ako presne si s ním poradia dva otvorené modely bežiace lokálne.
Ako sme merali
Zostava bola jedna pracovná grafická karta s 48 GB pamäte a 128 GB operačnej pamäte (RAM). Na nej bežali dva otvorené modely typu MoE (mixture of experts - zmes expertov):
- Qwen3.8-Flash-Next - 125 miliárd parametrov.
- GLM-5.3-Flash - 321 miliárd parametrov, kvantizovaný na približne 3 bity.
Do jednej otázky sme vložili celý text Občianskeho zákonníka a položili tri otázky: všeobecnú premlčaciu dobu, premlčanie pri bezdôvodnom obohatení a lehotu na prijatie ústneho návrhu. Jedna kópia zákonníka má približne 52 až 62 tisíc tokenov, tri kópie za sebou 158 až 185 tisíc tokenov. Token je základná jednotka textu, s ktorou model pracuje.
Výsledky: väčší model nie je rýchlejší
Pri jednej kópii zákonníka:
- Qwen prečítal text za 16 sekúnd a odpovedal rýchlosťou 109 tokenov za sekundu.
- GLM prečítal text za 35 sekúnd a písal 37 tokenov za sekundu.
Pri troch kópiách za sebou sa rozdiel ešte zväčšil:
- Qwen: čítanie 48 sekúnd, 104 tokenov/s.
- GLM: čítanie 104 sekúnd, 36 tokenov/s.
Prečo je model s 321 miliardami parametrov pomalší než ten so 125 miliardami? Pri MoE modeloch totiž rozhoduje veľkosť a priepustnosť pamäte viac než hrubý výkon čipu. Na 48 GB kartu sa zmestí len asi 80 % expertov, ktoré model pri písaní potrebuje; zvyšok musí počítať procesor, a to celý proces spomalí. Qwen navyše pri každom slove zapája len asi 6 miliárd parametrov, GLM asi 18 miliárd, takže pri rovnakej pamäti musí preniesť a prepočítať oveľa menej dát. Preto je v tomto konkrétnom nasadení rýchlejší.
Kde sa AI mýli: čísla paragrafov
Rýchlosť je len polovica príbehu. Obsah odpovedí bol pri jednej kópii správny u oboch modelov (3 z 3). Problém nastal pri číslach paragrafov: text sme vložili bez číslovania, a tak si modely čísla paragrafov dotvárali z pamäti.
- Qwen uviedol správne číslo paragrafu v 2 z 3 prípadov.
- GLM len v 1 z 3.
Pri troch kópiách zákonníka sa situácia ešte zhoršila: GLM tretiu odpoveď pomýlil úplne, Qwen ostal na 3 z 3. Platí teda jednoduché pravidlo - čím dlhší vstup, tým vyššie riziko omylu. Číslo paragrafu vždy overte v samotnom zdroji, AI ho háda.
Softvér robí desaťnásobný rozdiel
Rovnaký model Qwen sme pustili aj cez bežný nástroj (Ollama) na tom istom železe. Jednu kópiu zákonníka čítal 158 sekúnd namiesto 16 sekúnd. To je 10-násobný rozdiel len vďaka softvéru. Výber nástroja je teda rovnako dôležitý ako výber grafickej karty - kto rieši len hardvér, polovicu výkonu necháva na stole.
Čo si z toho vziať pre firmu, advokáta či úrad
- Lokálne spracovanie je realita. Dlhý dokument zvládne bežná pracovná stanica za necelú minútu a dáta neopustia budovu. Pri citlivých textoch je to podstatný argument.
- Číslo paragrafu overujte vždy. AI ho háda z pamäti, nie z textu. Odpoveď berte ako orientáciu, nie ako právnu citáciu.
- Dlhší vstup zvyšuje riziko. Pri troch kópiách zákonníka jeden z modelov úplne zlyhal na tretej otázke.
- Softvér je polovica úspechu. Rovnaký model a rovnaký hardvér, desaťnásobný rozdiel v rýchlosti čítania.
Hardvérový verdikt: čo si vybrať
Ak chcete lokálne spracúvať dlhé dokumenty, nevyberajte naslepo podľa počtu parametrov. Pre 48 GB kartu je v tomto meraní rozumnejšou voľbou menší MoE model s menším počtom aktívnych parametrov - je rýchlejší a pri troch kópiách zákonníka ostal presnejší. Väčší model má zmysel vtedy, keď mu doprajete viac pamäte, inak jeho expertov zdržiava procesor. A nezabudnite: najprv vyladite softvér, až potom kupujte železo. Konkrétne ceny a dostupnosť kariet sa k dnešnému dňu (20. 10. 2026) menia, preto si ich pred nákupom overte u predajcu.
Zdroje
- Redakčné meranie aiporadca.sk - vlastný test na pracovnej stanici (48 GB GPU, 128 GB RAM), október 2026 (citované 20. 10. 2026)
