Vaše zariadenie potrebuje 3 minúty, kým po stlačení tlačidla napájania reálne otvoríte prehliadač a môžete začať pracovať, pričom v pozadí počujete charakteristické „škrípanie“ pevného disku.

Váš videohovor sa zasekne presne v momente, keď predkladáte dôležitý argument na online stretnutí, pretože niekto v druhej izbe zapol Netflix v 4K rozlíšení.

Váš počítač zamrzne presne v momente, keď spustíte lokálny model Llama 3 v kombinácii s otvoreným Docker kontajnerom a päťdesiatimi kartami v prehliadači, pričom v správcovi úloh vidíte, že systém začal agresívne zapisovať dáta na SSD disk (swapovanie), čo znížilo rýchlosť systému na úroveň starého písacieho stroja.

Váš notebook z roku 2023 začne pri spustení lokálneho modelu pre analýzu dokumentov sekundovať odpoveď tak pomaly, že vám stihnete uvariť kávu, zatiaľ čo ventilátory vydávajú hluk vzlietajúceho vrtuľníka.

Predstavte si, že si ráno zapnete asistenta, ktorý vám na základe fotky z dovolenky automaticky vytvorí album, no telefón sa vám v rukách zahreje na 45 °C a batéria klesne o 12 % za desať minút.

Jedna odpoveď modelu GPT-4 spotrebuje približne 2,9 Wh elektriny – to je ako keby ste na 20 minút rozsvietili LED žiarovku.

Trh s použitými grafickými kartami (GPU) pripomína v posledných mesiacoch divoký západ.

Vaša grafická karta sa práve prehrieva a ventilátory znejú ako vzlietajúci Boeing 747.

Predstavte si, že spúšťate lokálny jazykový model s 13 miliardami parametrov a čakáte na odpoveď.

Richard z aiporadca.sk: Cloud vs. vlastný hardvér na AI – čo sa reálne oplatí