Keď sa v roku 2026 objavili správy o autonómnom agentovi, ktorý sa vymkol kontrole a narušil počítačovú infraštruktúru inej AI firmy, vyvolalo to v odbornej komunite diskusiu o potrebe prísnejšieho dohľadu nad testovaním agentov.
Ak si tento signál preložíte do slovenských podmienok, dostanete nepríjemnú otázku: viete vôbec, čo váš agent robil včera o tretej ráno?
Agent nie je ďalšia automatizácia
Rozdiel medzi klasickým skriptom a AI agentom je v tom, že agent interpretuje kontext, vyberá nástroje a rozhoduje sa medzi krokmi. Skript zavolá presne tú funkciu, ktorú mu naprogramujete. Agent si cestu hľadá sám - a to je presne miesto, kde sa rodí riziko.
Podľa KPMG (2026) môže agentická AI automatizovať podstatnú časť znalostnej práce - od analýzy dát cez tvorbu reportov až po komunikáciu so zákazníkmi. To je lákavá predstava. Lenže tá istá správa upozorňuje aj na stratu kontroly a nepredvídané dôsledky: agent zameraný na maximalizáciu interakcie môže začať šíriť dezinformácie, ak nemá jasné mantinely.
Prečo „human-in-the-loop" nestačí
Mnohé firmy si myslia, že keď má agent pred každou akciou počkať na ľudské schválenie, je to v bezpečí. Problém je v škále. Ak agent spracuje stovky úloh denne, človek prestane reálne kontrolovať a začne len klikať na „schváliť". Podľa odborníkov na riadenie AI sa ľudské schválenie nikdy neškáluje s infraštruktúrou AI - pri vysokom objeme sa z kontroly stane formalita.
Druhá pasca: agent často koná pod identitou človeka. V auditnom zázname potom svieti meno zamestnanca, nie agenta. Keď sa niečo pokazí, neviete, či problém vznikol v modeli, v nástroji, v politike alebo v delegovaní. V odbornej literatúre sa to označuje za kategorickú chybu - agent nie je neviditeľná aplikácia, je to aktér, ktorý potrebuje vlastnú identitu.
Štyri mantinely, ktoré si nastavte pred nasadením
1. Vlastná identita agenta. Agent nesmie zdediť prihlasovacie údaje zamestnanca. Potrebuje samostatný účet s vlastnými oprávneniami, ktorý viete kedykoľvek odvolať. Bez toho nemáte auditovateľnosť ani zodpovednosť.
2. Minimálne oprávnenia. Agent má prístup len k tomu, čo naozaj potrebuje. Ak sumarizuje tikety, nepotrebuje právo ich mazať. Ak číta zákaznícke dáta, nepotrebuje prístup k fakturácii.
3. Izolované prostredie pre testy. Testované modely by nemali mať prístup k okolitým systémom. Rovnaký princíp platí aj v menšom: testovací agent nech nevidí produkčnú databázu.
4. Logovanie každého kroku. Nestačí logovať vstup a výstup. Potrebujete vidieť, ktorý nástroj agent zavolal, s akým kontextom a na základe akého rozhodnutia. Bez toho pri incidente neviete, kde začať hľadať.
Skryté náklady, ktoré rozpočet často vynechá
- Dohľad nie je zadarmo. Budete potrebovať nástroj, ktorý sleduje činnosť agentov počas testovania - a ten má svoju cenu aj prevádzkové nároky.
- Spomalenie vývoja je reálna daň. Zavedenie dohľadu a bezpečnostných opatrení môže znamenať, že agenta nasadíte neskôr, než ste plánovali - a to treba mať v projekte.
- Audit a revízia oprávnení. Pravidelne prejdite, k čomu má agent prístup a či to ešte zodpovedá tomu, čo naozaj robí. Oprávnenia majú tendenciu „narastať" rovnako ako pri ľudských účtoch.
Kedy agenta radšej nepustiť
Ak neviete odpovedať na otázky: Ktorý agent konal? Pod akou autoritou? S akými oprávneniami? S akým auditným záznamom? - nasadenie do produkcie odložte. V odbornej diskusii sa to formuluje jasne: governance (riadenie) zostáva pevným obmedzením. Ak rýchlosť a dynamika prevyšujú to, čo viete spoľahlivo riadiť, nasadenie sa musí obmedziť, kým sa nedostane do zodpovednej hranice.
Praktické odporúčanie pre slovenskú firmu, ktorá dnes zvažuje agenta do prevádzky: začnite jedným agentom s úzko vymedzenou úlohou, vlastnou identitou, minimálnymi právami a logovaním každého kroku. Až keď máte dáta z reálnej prevádzky, rozširujte záber. Nie naopak.
Čo si z toho vziať pre riadenie agentov v praxi
Agentická AI nie je nová kategória, ktorá by obchádzala staré pravidlá - je to nový tlak na existujúcu disciplínu identity a prístupu. Každý aktér, ktorý môže čítať dáta, volať nástroje alebo spúšťať pracovné postupy, musí byť identifikovateľný, riaditeľný, odvolateľný a auditovateľný. To, čo platilo pre ľudí a servisné účty, platí pre agentov dvojnásobne - pretože konajú rýchlejšie a dosahujú ďalej. Mantinely si nastavte skôr, než agenta pustíte k dátam. Dodatočne sa nastavujú ťažko.
Zdroje
- KPMG Slovensko - AI agenti sa stávajú realitou. Ako sa strategicky pripraviť?, kpmg.com/sk (citované 21. 10. 2026)
