Sociálni pracovníci v holandskom systéme starostlivosti o deti mali na papieri plnohodnotný ľudský dohľad.
Systém im ukazoval skóre rizika, oni ho mali potvrdiť alebo zamietnuť. Lenže boli prepracovaní, nemali dostatok zdrojov a často vôbec nevedeli, ako model funguje alebo prečo bol konkrétny prípad označený. Neboli žiadne zmysluplné upozornenia, žiadny mandát vyšetrovať nad rámec toho, čo naznačovalo skóre. Technicky to bol „človek v slučke" - v skutočnosti sa slučka zrútila. Presne tento vzorec sa dnes opakuje v malých firmách a u živnostníkov, ktorí si do procesov púšťajú AI čoraz častejšie.
Čo HOOTL znamená a prečo to nie je len nový akronym
HOOTL (Human-Out-Of-The-Loop, teda človek mimo slučky) označuje režim, v ktorom AI rozhoduje a koná bez toho, aby niekto pred vykonaním schvaľoval každý krok. Je to protiklad k HITL (Human-In-The-Loop), kde ľudský súhlas prichádza pred rozhodnutím. Rozdiel nie je akademický - určuje, kto nesie zodpovednosť, keď sa niečo pokazí, a koľko času človek naozaj strávi kontrolou.
Otázka už neznie „či AI", ale kde presne ju nechať rozhodovať. Pre živnostníka je to praktická otázka: pri ktorých úkonoch si môžete dovoliť nechať model bežať samostatne a pri ktorých musíte mať prst na spúšti.
Pasca „divadla dohľadu"
Podľa zdroja uvedeného v zozname zdrojov (novepohlady.sk, citované 11. 11. 2026) dohľad zlyháva nielen vtedy, keď ľudia chýbajú, ale aj vtedy, keď ich širší systém - technológia aj riadenie okolo nej - potichu prestane potrebovať alebo umožňovať. Keď sa rozhodovacie štruktúry a návyky zosúladia s tým, čo navrhne model, výsledok je rovnaký ako úplná automatizácia: dohľad len podľa názvu.
Ilustruje to štúdia, ktorú tento zdroj cituje: keď lekárom počas diagnostiky poskytli pomoc zámerne zaujatých nástrojov AI, ich presnosť klesla - nie preto, že by nepoznali správnu odpoveď, ale preto, že sa podriadili systému. Dohľad existoval na papieri, no dizajn interakcie (hodnotenie dôvery, formátovanie návrhov) lekára potichu postrčil, aby súhlasil.
Pre živnostníka z toho plynie konkrétne varovanie: ak máte v procese „kontrolu", ktorá v praxi znamená kliknutie na Schváliť, nemáte HITL. Máte HOOTL s dekoráciou.
Rozdeľte si úlohy podľa rizika, nie podľa pohodlia
Praktický rámec stojí na jednej otázke: ak model urobí chybu, aká je škoda a ako rýchlo sa dá odhaliť? Podľa toho rozdeľte úlohy do troch pásiem.
- Pásmo HOOTL (AI koná sama): nízka škoda, rýchla náprava. Prepis hlasu na text, návrh textu e-mailu, kategorizácia výdavkov, generovanie konceptu príspevku na sociálne siete, sumarizácia dokumentu, ktorý si aj tak prečítate. Tu je HOOTL rozumný - človek dohliada na výsledok, nie na každý krok.
- Pásmo HITL (AI navrhne, človek schváli pred vykonaním): vysoká škoda alebo nezvratnosť. Odoslanie faktúry, zmena ceny v e-shope, odpoveď zákazníkovi v reklamácii, akýkoľvek právny text, zásah do účtovníctva, komunikácia s úradmi. Zdroj z novepohlady.sk (2026) radí HITL práve pre vysoko rizikové rozhodnutia. Pri povinnostiach, ktoré sa na vás ako na živnostníka môžu vzťahovať, si overte aktuálne znenie nariadenia EÚ o umelej inteligencii (akt o AI) - rozsah povinností sa odvíja od konkrétneho použitia a postavenia vášho podnikania.
- Pásmo bez AI: rozhodnutia, kde nesie zodpovednosť konkrétna osoba a kde je kontext príliš osobný alebo citlivý - cenotvorba na mieru, personálne rozhodnutia, spory so zákazníkom.
Ako overiť, že váš dohľad nie je prázdny
Zdroj uvádza merateľné ukazovatele, ktoré sa dajú použiť aj v malej firme. Sledujte, ako dlho trvá zásah, keď sa to počíta; či vaše opravy skutočne zlepšujú výsledok; či sú upozornenia modelu dosť presné na to, aby ste im verili; koľko eskalácií „zomrie" v rade bez reakcie; či zaťaženie človeka-kontrolóra a latencia rozhodnutia zodpovedajú oknu, v ktorom sa dá škoda ešte napraviť; či sú vysvetlenia vôbec otvorené; a ako rýchlo odhalenie posunu (driftu) vedie k reálnej zmene.
Ak na tieto otázky nemáte odpoveď, váš HOOTL je riziko, nie úspora. Pri živnostníkovi to v praxi znamená aspoň tri jednoduché návyky: logujte, čo AI vykonala sama (aby sa dalo spätne dohľadať), nastavte jednu skutočnú kontrolnú bránu pri nezvratných úkonoch a raz za čas preverte vzorku výstupov, ktoré prešli bez povšimnutia.
Pozor na jeden detail: výsledky citovanej štúdie nie sú univerzálne. Pri vlastnom nasadení si merajte svoje dáta - nie cudzie priemery.
Čo si z toho vziať pre svoju prax
Nejde o to, či AI použiť, ale kde jej presne dovoliť rozhodovať. Rozdeľte si úkony do troch pásiem podľa škody a zvratnosti, pri nezvratných úkonoch držte skutočné HITL a pri zvyšku merajte, či kontrola naozaj niečo mení. Ak kontrola znamená len klik na Schváliť, ste v HOOTL - a mali by ste to vedieť skôr, než to zistí zákazník.
AI modely v praxi: rámec HOOTL pre malú firmu
Technický záver pre čitateľov aiporadca.sk: HOOTL nie je jeden režim, ale spektrum. Rozhodujte sa podľa nezvratnosti úkonu a rýchlosti odhalenia chyby, nie podľa toho, čo je pohodlnejšie. Tam, kde AI koná sama, zaväzujte sa k logovaniu a periodickej kontrole vzorky; tam, kde hrozí škoda, držte ľudské schválenie pred vykonaním - inak vám z dohľadu ostane iba kulisa.
Zdroje
- Zmysluplný ľudský dohľad nad umelou inteligenciou - novepohlady.sk, http://www.novepohlady.sk/zmyslupln%C3%BD-%C4%BEudsk%C3%BD-doh%C4%BEad-nad-umelou-inteligenciou (citované 11. 11. 2026)
