Predstavte si situáciu, keď chcete spustiť lokálny jazykový model na svojom PC, ale namiesto priateľského okna vás čaká príkazový riadok, chýbajúce knižnice CUDA a neustále chybové hlášky.
Práve tento problém rieši najnovšie vydanie open-source nástroja Strata, ktorý v októbri 2026 prekonal dôležitú hranicu: z experimentálneho projektu sa stal produkt s plnohodnotným inštalátorom pre Windows, Linux a Mac.
Verzie 0.2.0-beta (vydaná 19. 10. 2026) a následná opravná verzia 0.2.1 prinášajú zásadnú zmenu v prístupe k lokálnej AI. Pre bežného používateľa to znamená koniec manuálneho kompilovania a začiatok éry, kedy stačí stiahnuť jeden súbor, nainštalovať ho a spustiť model bez potreby technických znalostí o ovládačoch grafickej karty. Rýchlosti a nároky samotného modelu sme rozobrali v článku 125 miliárd parametrov na hernom PC, tu sa pozrieme na to, čo prinieslo nové vydanie.
Tri časti, jeden motor: Aplikácia, Terminál a Engine
Novinka prináša rozdelenie systému na tri jasne definované komponenty, ktoré zdieľajú jedno výpočtové jadro (engine):
- Strata aplikácia: Grafické rozhranie pre Windows (
.exe), Linux (AppImage) a Mac (Apple silicon,.dmg). Umožňuje komunikovať s AI agentom v režime chatu, pričom agent sa pred vykonaním akcie pýta na súhlas (režim Manual) alebo pracuje autonómne (Bypass). Podporuje vkladanie obrázkov priamo do chatu a má vstavaného agenta na prácu s kódom. - Terminál: Nástroj pre pokročilých, ktorý sa inštaluje jedným príkazom. Príkaz
strata launchspustí model v textovom režime s možnosťou ladenia parametrov, zatiaľ čostrata connectautomaticky nastaví integráciu s externými nástrojmi ako Claude Code, Codex CLI alebo OpenCode. - Engine (Motor): Samostatný balík šitý na mieru vašej grafickej karte. Inštalátory už obsahujú správny motor, takže po nainštalovaní môžete spustiť model okamžite, bez dodatočného sťahovania. Aktualizácie motora prebiehajú cez podpísaný feed (Ed25519), čo zabezpečuje integritu softvéru.
Obrázky na vstupe: Čo to znamená v praxi?
Jednou z najväčších zmien je zapnutie podpory obrázkov (vision) ako predvoleného nastavenia pre karty NVIDIA a AMD. Ak máte grafickú kartu s aspoň 24 GB VRAM, čítanie obrázkov beží priamo na GPU. Pri slabších kartách sa presunie na CPU, čo je pomalšie, ale funkčné.
Podľa dát z release notes (0.2.0) boli vykonané merania na karte Radeon AI PRO R9700:
- Spracovanie obrázka s 260 tokenmi trvalo 57 ms na GPU oproti 3,13 s na CPU.
- Väčší obrázok (972 tokenov) sa spracoval za 0,40 s na GPU oproti 14,1 s na CPU.
Verzia 0.2.1 zapla čítanie obrázkov aj na Macu (Apple silicon). Na čipe M4 sa obrázok so 972 tokenmi spracuje za 2,4 s na GPU oproti 194 s na CPU. Pre používateľov Intel Arc kariet (Alchemist) je k dispozícii nová cesta cez SYCL, kde spracovanie trvá 0,16 s na GPU oproti 1,73 s na CPU.
Rýchlosť a optimalizácia: Konkrétne čísla pre vaše PC
Vývojári sa zamerali na reálne zisky výkonu pri dlhších promptoch (vstupný text), čo je kritické pre agentov pracujúcich s veľkými dokumentmi alebo kódom. Všetky uvedené rýchlosti sú mediánmi meraní na konkrétnom hardvéri:
- NVIDIA RTX 3060 (12 GB): Rýchlosť dekódovania vzrástla z 60,36 na 66,52 tok/s (+10,2 %).
- AMD Radeon RX 9000 / R9700 (Linux): Pri čítaní promptov došlo k takmer dvojnásobnému zrýchleniu. Na modeli Qwen s kvantizáciou Q2_0 sa rýchlosť zvýšila z 1 151 na 2 286 tok/s pri prompte s dĺžkou 4K tokenov.
- Intel Arc A750: Využitie inštrukcií XMX zvýšilo rýchlosť čítania promptov zo 79,5 na 113,0 tok/s.
Dôležité je upozornenie: Tieto optimalizácie sú závislé od konkrétnej architektúry karty a operačného systému. Napríklad pre AMD karty na Windows sú niektoré vylepšenia zatiaľ voliteľné (opt-in), pretože neboli plne otestované.
Stiahnutie a bezpečnosť: Offline prevádzka je štandardom
Strata 0.2 zdôrazňuje bezpečnosť a súkromie. Po úvodnom stiahnutí modelu beží aplikácia bez pripojenia na internet. Žiadne dáta sa neodosielajú do cloudu, pokiaľ explicitne nepovolíte webový vyhľadávač alebo API kľúče pre externé služby.
Sťahovanie modelov bolo zrýchlené pomocou paralelných pripojení (až 16 vlákien vo verzii 0.2.1). Na testovacom PC vývojárov stúpla rýchlosť z 66 až 71 MB/s na približne 75 MB/s (+9 %). Každý súbor je overovaný kontrolným súčtom SHA-256 a ak sa verzia na Hugging Face zmení, sťahovanie sa zastaví, čo zabraňuje nainštalovaniu nekonzistentných dát.
Známe obmedzenia a licenčné upozornenie
Hoci je Strata open-source nástroj, používa modely (napr. Qwen), ktoré podliehajú licencii Qwen Community License 1.0. Pred firemným použitím si dôkladne preštudujte podmienky tejto licencie, najmä ak plánujete komerčné využitie výstupov alebo distribúciu modelu.
Medzi aktuálne obmedzenia patrí:
- Windows inštalátory nie sú zatiaľ kódovo podpísané (code-signed), takže Windows môže zobraziť varovanie „Windows protected your PC“. Je potrebné vybrať More info > Run anyway.
- Mac: čítanie obrázkov na grafickom čipe je zmerané len na M4. Bez neho (na procesore) trvá jeden obrázok asi 50 sekúnd. Podporované sú len Macy s Apple silicon a macOS 15 alebo novším.
- AMD na Windows: podľa vývojárov ešte nebežala na skutočnej AMD karte s Windows, preto sú tam nové zrýchlenia vypnuté.
Verdikt: Čo si vybrať a kedy?
Ak ste doteraz váhali s lokálnou AI kvôli technickej náročnosti, Strata 0.2 je pre vás relevantná. Prechod na inštalátor odstránil najväčšiu bariéru: nastavovanie prostredia.
Odporúčanie:
- Pre bežného používateľa s NVIDIA RTX kartou (od 12 GB VRAM): Stiahnite si
.exeinštalátor pre CUDA 13 (ak máte driver 580+) alebo CUDA 12. Aplikácia je pripravená na použitie hneď po inštalácii. - Pre vývojárov a pokročilých: Použite Terminál (
strata launch) pre väčšiu kontrolu nad parametrami modelu a integráciu s vaším IDE cezstrata connect. - Pre firmy: Pozor na licenčné podmienky modelov Qwen. Využite výhodu offline režimu pre citlivé dáta, ale overte si právny rámec pred nasadením do produkcie.
Strata ukazuje, že lokálna AI môže byť dostupná aj bez hlbokých znalostí o vektorových databázach či Docker kontajneroch. Je to nástroj, ktorý sa vyvíja rýchlo – sledujte GitHub repozitár pre najnovšie opravy a optimalizácie špecifické pre váš hardvér.
Zdroje
- Strata Release Notes 0.2.0-beta, github.com/Niko1221/Strata (citované 21. 10. 2026)
- Strata Release Notes 0.2.1, github.com/Niko1221/Strata (citované 21. 10. 2026)
