Predstavte si túto situáciu. Vaša marketingová manažérka pripravuje článok na firemný blog o trendoch v odvetví. Požiada AI asistenta, aby doplnil štatistiky a relevantné štúdie na podporu argumentov. AI odpoveď príde za sekundy — tri štúdie, konkrétne percentá, názvy renomovaných inštitúcií. Text znie presvedčivo, čísla dodávajú kredibilitu. Manažérka článok skontroluje, schváli a zverejní.
O týždeň napíše čitateľ, že jedna z citovaných štúdií neexistuje. Druhá síce existuje, ale uvádza úplne iné čísla. Tretia je reálna — no pochádza z odvetvia, ktoré s vaším podnikaním nesúvisí.
AI si štúdie nevymyslela zo zlomyseľnosti. Jednoducho generovala text, ktorý vyzeral správne — a to jej stačilo.
Toto nie je okrajový prípad ani akademická hrozba. Je to jeden z najrozšírenejších a zároveň najmenej diskutovaných problémov pri zavádzaní umelej inteligencie do firemných procesov. A postihuje rovnako päťčlennú marketingovú agentúru aj päťstočlennú poradenskú firmu — pretože oba subjekty robia tú istú chybu: dôverujú výstupu AI bez toho, aby ho overili.
V tomto článku sa pozrieme na hrozby, ktoré nevyžadujú hackera ani technický útok. Hrozby, ktoré vznikajú priamo v nástroji, ktorý ste si sami nainštalovali a platíte zaň predplatné. Halucinácie, bias, deepfakes, reputačné riziká — a čo s nimi môžete urobiť skôr, ako spôsobia skutočnú škodu.
Čo sú halucinácie AI — a prečo sú nebezpečné práve pre firmy
Pojem „halucinácia" v kontexte umelej inteligencie neznamená, že by AI trpela nejakou poruchou alebo bola pokazená. Je to technický termín, ktorý opisuje jav, keď jazykový model generuje informácie, ktoré znejú presvedčivo a sú gramaticky správne — ale sú fakticky nepravdivé, nepresné alebo úplne vymyslené.
Aby sme pochopili prečo, musíme si stručne vysvetliť, ako jazykové modely fungujú. LLM — teda veľké jazykové modely, akými sú ChatGPT, Claude, Gemini alebo Copilot — nie sú databázy faktov. Sú to štatistické modely, ktoré predpovedajú, aké slovo alebo veta s najväčšou pravdepodobnosťou nasleduje po predchádzajúcom texte. Ich cieľom je generovať koherentný, plynulý text — nie nevyhnutne pravdivý text. Rozdiel je zásadný.
Kde sa halucinácie v praxi objavujú najčastejšie
Z pohľadu bežnej firemnej praxe sú najrizikovejšie tieto situácie:
Právne a regulačné dokumenty. AI môže citovať ustanovenia zákonov, ktoré neexistujú, alebo správne uviesť číslo paragrafu, ale s nesprávnym obsahom. Pre firmu, ktorá takýto výstup použije bez overenia, to môže znamenať právne problémy alebo zodpovednosť voči klientovi.
Faktické tvrdenia v marketingu a komunikácii. Ako sme ukázali v úvode — štatistiky, štúdie, citáty odborníkov. AI ich generuje s rovnakou istotou bez ohľadu na to, či sú reálne alebo nie.
Finančné a obchodné analýzy. Čísla, percentá, trhové podiely — ak ich AI vygeneruje bez overiteľného zdroja, firma ich môže použiť v interných rozhodnutiach alebo prezentáciách pre investorov s potenciálne závažnými dôsledkami.
Odborné odporúčania. AI môže odporučiť postup, produkt alebo riešenie, ktoré je zastarané, neaplikovateľné v slovenskom právnom prostredí alebo priamo nesprávne — a urobiť to s plnou sebadôverou.
Prečo je to nebezpečné práve pre firmy
Spotrebiteľ, ktorý si nechá od AI navrhnúť recept, riskuje nanajvýš nezdarnú večeru. Firma, ktorá použije AI výstup bez overenia v právnom dokumente, obchodnej ponuke, finančnej analýze alebo komunikácii so zákazníkmi, riskuje oveľa viac.
Po prvé, zodpovednosť zostáva na firme. AI nie je právnická osoba, nemôže niesť zodpovednosť za škodu. Ak váš zákazník utrpí škodu v dôsledku nesprávnej informácie, ktorú ste mu poskytli — bez ohľadu na to, či ju vygenerovala AI — zodpovedáte vy.
Po druhé, halucinácie sú ťažko odhaliteľné. Na rozdiel od zjavnej chyby — preklep, nezmyselná veta — halucinovaný obsah vyzerá správne. Je gramaticky bezchybný, štylisticky presvedčivý a štruktúrovaný ako skutočná informácia. Práve preto ho ľudia tak často prehliadnu.
Po tretie, škoda môže byť nezvratná. Zverejnený článok s neexistujúcimi zdrojmi, odoslaná ponuka s nesprávnymi právnymi doložkami, prezentácia investorovi s vymyslenými číslami — to všetko sa dá ťažko vziať späť a reputačná škoda pretrváva dlho po oprave chyby.
Praktická poznámka: miera halucinácií sa líši podľa nástroja, verzie modelu aj typu úlohy. Všeobecne platí, že čím špecifickejšia a faktograficky náročnejšia je úloha, tým vyššie je riziko halucinácií. Právne texty, medicínske informácie, finančné dáta a vedecké citácie patria medzi oblasti s najvyšším rizikom. Naopak, pri kreatívnych úlohách — tvorba textu, brainstorming, štylistické úpravy — je riziko faktickej chyby nižšie, pretože overiteľnosť faktov nie je primárnym kritériom.
Halucinácie sú problém, ktorý si väčšina ľudí vie predstaviť — AI niečo vymyslí a vy to použijete. Bias je subtílnejší a z dlhodobého hľadiska potenciálne závažnejší problém. Nie preto, že by bol technicky komplikovanejší, ale preto, že ho oveľa ťažšie odhalíte.
Čo je bias v kontexte umelej inteligencie
Bias — po slovensky predpojatosť alebo skreslenie — vzniká vtedy, keď AI systém systematicky uprednostňuje alebo znevýhodňuje určité skupiny ľudí, odpovede alebo výsledky. Nie náhodne, ale opakovane a predvídateľne.
Príčina je väčšinou v tréningových dátach. Jazykové modely sa učia na obrovských množstvách textov z internetu, kníh, článkov a ďalších zdrojov. Tieto zdroje odrážajú skutočný svet — vrátane jeho predsudkov, stereotypov a historických nerovností. Model sa ich naučí a reprodukuje ich vo svojich výstupoch, niekedy veľmi subtílnym spôsobom.
Kde sa bias prejavuje v bežnej firemnej praxi
HR a nábor. Toto je oblasť s najvyšším rizikom a zároveň oblasť, kde firmy AI nasadzujú čoraz intenzívnejšie. Ak AI nástroj triedi životopisy alebo hodnotí uchádzačov, môže systematicky znevýhodňovať ženy, uchádzačov z určitých regiónov, ľudí s menej typickými kariérnymi trajektóriami alebo príslušníkov menšín — nie preto, že by bol na to naprogramovaný, ale preto, že tréningové dáta odrážali historicky skreslenú prax.
Zákaznícka podpora a scoring. AI chatboty alebo scoringové modely môžu pri rovnakých objektívnych parametroch odpovedať alebo rozhodovať inak v závislosti od toho, ako zákazník formuluje svoje otázky — čo môže nepriamo súvisieť s jeho vzdelaním, kultúrnym pozadím alebo jazykovými schopnosťami.
Tvorba obsahu a komunikácia. AI generujúca marketingový obsah môže nevedomky reprodukovať stereotypy — napríklad pri výbere príkladov, formulácii cieľovej skupiny alebo pri vizuálnych odporúčaniach.
Prečo je bias právny problém — nielen etický
Tu sa bias prestáva byť len otázkou firemných hodnôt a stáva sa otázkou právnej zodpovednosti.
GDPR v článku 22 zakotvuje právo dotknutej osoby nebyť predmetom rozhodnutia založeného výlučne na automatizovanom spracúvaní — vrátane profilovania — ak má toto rozhodnutie právne účinky alebo sa obdobne významne dotýka danej osoby. Ak vaša firma používa AI na rozhodovanie o prijatí zamestnanca, poskytnutí služby alebo nastavení ceny, musí byť schopná toto rozhodnutie vysvetliť a zabezpečiť ľudský dohľad.
AI Act ide ešte ďalej. Systémy používané v HR procesoch — nábor, hodnotenie, monitorovanie zamestnancov — sú explicitne zaradené medzi vysokorizikové AI systémy podľa Prílohy III. To znamená konkrétne povinnosti: posúdenie zhody, záznamy o používaní, transparentnosť voči dotknutým osobám a — čo je kľúčové — opatrenia na detekciu a minimalizáciu biasu.
Inými slovami: ak vaša firma používa AI na nábor a tento systém vykazuje bias, nestačí povedať „to rozhodla AI". Zodpovednosť je na vás ako nasadzovateľovi systému.
Praktická poznámka: bias v AI nie je vždy viditeľný na prvý pohľad a jeho odhalenie si vyžaduje aktívnu snahu. Ak vaša firma používa AI nástroje v procesoch, ktoré sa dotýkajú ľudí — nábor, hodnotenie, zákaznícky scoring — odporúčame pravidelne overovať výstupy z pohľadu konzistencie a spravodlivosti naprieč rôznymi skupinami. Nie je to technická úloha — je to manažérska zodpovednosť.
Kým halucinácie a bias sú hrozby, ktoré vznikajú vo vnútri AI nástroja, deepfakes predstavujú inú kategóriu problému. Niekto iný použije umelú inteligenciu proti vám — a urobí to tak presvedčivo, že ani skúsený zamestnanec nemusí rozpoznať rozdiel.
Čo je deepfake
Deepfake je syntetický mediálny obsah — najčastejšie video, audio alebo fotografia — vytvorený pomocou umelej inteligencie tak, aby zobrazoval reálnu osobu, ktorá hovorí alebo robí niečo, čo v skutočnosti nikdy nepovedala ani neurobila. Technológia, ktorá na to ešte pred niekoľkými rokmi vyžadovala sofistikované vybavenie a odborné znalosti, je dnes dostupná prakticky komukoľvek — vrátane nástroja zadarmo v prehliadači.
Reálny prípad: 25 miliónov dolárov v jednom videohovore
V februári 2024 prišla hongkonská pobočka nadnárodnej spoločnosti o 25 miliónov dolárov. Zamestnanec finančného oddelenia dostal pokyn od niekoho, kto sa predstavil ako finančný riaditeľ spoločnosti — a to počas videohovoru, na ktorom sa zúčastnilo niekoľko ďalších „kolegov". Všetci účastníci hovoru boli deepfake avatary skutočných zamestnancov firmy, vytvorené na základe verejne dostupných videí a fotografií.
Zamestnanec nemal dôvod pochybovať. Videl tváre, ktoré poznal. Počul hlasy, ktoré poznal. Prevod uskutočnil.
Tento prípad nie je ojedinelý — je reprezentatívny pre rastúci trend, ktorý bezpečnostná komunita označuje ako CEO fraud alebo BEC útok (Business Email Compromise) s deepfake prvkom.
Ako sa to týka malých a stredných firiem
Možno si myslíte, že deepfake útok v štýle hongkonského prípadu je záležitosťou veľkých nadnárodných korporácií. Opak je pravdou — a z dvoch dôvodov.
Po prvé, malé a stredné firmy sú atraktívnejším cieľom práve preto, že majú menej rozvinuté bezpečnostné procesy. Nie je nezvyklé, že v päťčlennej firme jeden zamestnanec spravuje financie a zároveň komunikuje priamo s konateľom — a overovací reťazec pred platbou neexistuje.
Po druhé, na deepfake útok voči MSP nie sú potrebné sofistikované nástroje. Stačí niekoľko verejne dostupných nahrávok hlasu konateľa — z podcastu, YouTube videa, firemnej prezentácie alebo LinkedInu — a bežne dostupný nástroj na klonovanie hlasu. Výsledkom je telefonát alebo hlasová správa, ktorú zamestnanec nedokáže odlíšiť od skutočného hovoru so šéfom.
Deepfakes a GDPR
Deepfake obsah zobrazujúci reálnu osobu bez jej súhlasu predstavuje závažný zásah do práv tejto osoby — vrátane práva na ochranu osobných údajov. Ak sa vaša firma stane obeťou deepfake útoku, pri ktorom unikli osobné údaje zamestnancov alebo zákazníkov, vzniká povinnosť nahlásiť bezpečnostný incident dozornému orgánu do 72 hodín podľa článku 33 GDPR.
AI Act navyše od 2. decembra 2026 zavádza povinnosť označovať AI-generovaný obsah — teda aj deepfake video alebo audio — ako syntetický. Táto povinnosť sa vzťahuje na poskytovateľov nástrojov, no pre firmy je dôležité vedieť, že šírenie neoznačeného syntetického obsahu môže mať právne dôsledky.
Praktická poznámka: najúčinnejšou obranou proti deepfake podvodom nie je technológia — je to proces. Zavedenie jednoduchého overovacieho pravidla pre platobné príkazy nad určitú sumu — napríklad potvrdenie cez iný kanál, ako bol pôvodný pokyn doručený — dokáže eliminovať väčšinu deepfake útokov zameraných na finančné transakcie. Toto pravidlo nevyžaduje žiadnu investíciu do softvéru. Vyžaduje len rozhodnutie.
Reputačné a regulačné riziká — keď AI škodí bez toho, aby to niekto chcel
Halucinácie, bias a deepfakes majú jednu spoločnú vlastnosť: ich dôsledky sa nekončia v momente, keď k nim dôjde. Pokračujú — v podobe reputačnej škody, regulačného konania alebo straty dôvery zákazníkov. A práve táto vrstva rizika je tá, ktorú firmy podceňujú najviac.
Reputačné riziko: jedna chyba, dlhá pamäť
Predstavte si, že vaša firma zverejní AI-generovaný obsah, ktorý obsahuje faktickú chybu — nesprávne číslo, neexistujúci zdroj alebo zavádzajúce tvrdenie. V čase zverejnenia si to nikto nevšimne. O týždeň to niekto zdieľa na sociálnych sieťach s komentárom „táto firma šíri nepravdy". Príspevok sa rozšíri.
Oprava je možná. Reputačná škoda zostáva.
Toto nie je hypotetický scenár. V posledných rokoch sa viaceré firmy ocitli v podobnej situácii — od marketingových agentúr, ktoré zverejnili AI-generované články s vymyslenými citátmi odborníkov, až po e-shopy, ktoré použili AI na generovanie popisov produktov obsahujúcich nepresné technické parametre. Zákazníci na to prišli. A zákazníci si to pamätajú.
Pre malú a strednú firmu, kde reputácia tvorí podstatnú časť konkurenčnej výhody, môže jeden takýto incident spôsobiť škodu, ktorej náprava trvá mesiace.
Regulačné riziko: zodpovednosť, ktorú AI neprevezme
Okrem reputačnej škody existuje aj priamo merateľná právna zodpovednosť. A tá sa v kontexte AI rozrastá.
Z pohľadu ochrany spotrebiteľa platí, že ak vaša firma poskytuje zákazníkovi informácie — či už v podobe poradenstva, produktového popisu, zmluvy alebo akéhokoľvek iného obsahu — zodpovedáte za ich správnosť. Argument „vygenerovala to AI" nie je právnou obranou. Zákon č. 108/2024 Z.z. o ochrane spotrebiteľa, účinný od 1. júla 2024, ani európska smernica o nekalých obchodných praktikách nezavádzajú výnimku pre AI-generovaný obsah.
Z pohľadu GDPR je situácia obdobná. Ak AI nástroj spracuje osobné údaje zákazníka nesprávne — napríklad ich zahrnie do verejného výstupu, použije ich na účel, na ktorý nebol udelený súhlas, alebo ich sprístupní neoprávneným osobám — zodpovednosť nesie prevádzkovateľ. Teda vaša firma.
AI Act v tejto súvislosti pridáva ďalšiu vrstvu. Nasadzovateľ AI systému — teda firma, ktorá AI nástroj používa vo svojich procesoch — má povinnosť zabezpečiť ľudský dohľad nad výstupmi systému. Ak firma tento dohľad nezabezpečí a dôjde k škode, môže to byť priťažujúca okolnosť pri posudzovaní zodpovednosti.
Kumulatívny efekt: keď sa riziká spočítajú
Samostatne môže byť každé z rizík zvládnuteľné. Problém nastáva, keď sa spočítajú — halucinovaný obsah v kombinácii s absenciou ľudského dohľadu a nedostatočnou zmluvnou dokumentáciou so sprostredkovateľom. V takom prípade firma čelí súčasne reputačnej škode, potenciálnemu konaniu zo strany dozorného orgánu a nárokom na náhradu škody od poškodených zákazníkov alebo zamestnancov.
Toto nie je katastrofický scenár určený na vyvolanie paniky. Je to realistický obraz toho, čo sa môže stať — a čomu sa dá predísť pomerne jednoduchými opatreniami.
Praktická poznámka: reputačné a regulačné riziká spojené s AI výstupmi sa dajú výrazne znížiť jediným opatrením — zavedením povinného ľudského overenia pred tým, ako akýkoľvek AI-generovaný obsah opustí firmu smerom k zákazníkovi, partnerovi alebo verejnosti. Nie je to byrokratická požiadavka. Je to základná procesná hygiena, ktorá sa v praxi dá zaviesť za jeden deň.
Dobrou správou je, že väčšina rizík, o ktorých sme hovorili v predchádzajúcich častiach, nevyžaduje na svoju elimináciu technické riešenia za desiatky tisíc eur. Vyžaduje proces — a rozhodnutie ho zaviesť.
Tu je šesť konkrétnych krokov, ktoré môže urobiť každá firma bez ohľadu na veľkosť alebo technické vybavenie.
1. Zaveďte povinné ľudské overenie AI výstupov
Toto je najdôležitejší krok. Akýkoľvek AI-generovaný obsah, ktorý opúšťa firmu smerom k zákazníkovi, partnerovi alebo verejnosti — či už ide o článok, ponuku, právny dokument alebo marketingový text — musí pred odoslaním prejsť ľudskou kontrolou. Nie formálnym prečítaním, ale aktívnym overením kľúčových faktov, čísel a tvrdení.
Toto pravidlo nevyžaduje nový softvér. Vyžaduje jednoduchú procesnú dohodu: AI navrhuje, človek schvaľuje.
2. Vzdelávajte zamestnancov — konkrétne, nie formálne
Zamestnanci, ktorí vedia, čo sú halucinácie, bias a deepfakes, robia lepšie rozhodnutia. Nestačí však poslať email s odkazom na politiku. Efektívne vzdelávanie v tejto oblasti je krátke, konkrétne a postavené na reálnych príkladoch — presne takých, aké ste čítali v tomto článku.
Krátky interný briefing v dĺžke tridsať minút, kde ukážete zamestnancom jeden reálny prípad halucinácií a jeden prípad deepfake podvodu, je investícia s okamžitou návratnosťou.
3. Nastavte pravidlá pre platobné príkazy a citlivé rozhodnutia
Deepfake podvody cielené na finančné transakcie majú jedno spoločné — útočník sa spolieha na to, že overovací proces neexistuje alebo je príliš pohodlný. Zavedenie jednoduchého pravidla — akýkoľvek platobný príkaz nad stanovenú sumu musí byť potvrdený iným kanálom, ako bol doručený pôvodný pokyn — eliminuje väčšinu týchto útokov.
Rovnaké pravidlo platí pre citlivé HR rozhodnutia. Ak AI navrhuje uchádzača alebo hodnotí zamestnanca, konečné rozhodnutie musí urobiť človek — a musí byť schopný ho zdôvodniť nezávisle od AI výstupu. Toto nie je len etická požiadavka — od 2. decembra 2027 je to pre vysokorizikové AI systémy aj právna povinnosť podľa AI Actu.
4. Overte zmluvné vzťahy s poskytovateľmi AI nástrojov
Ako sme podrobne rozobrali v predchádzajúcom článku o klasifikácii dát — ak AI nástroj spracúva osobné údaje, jeho poskytovateľ je váš sprostredkovateľ a vy potrebujete uzatvorenú zmluvu o spracúvaní osobných údajov podľa článku 28 GDPR. Bez nej ste vystavení riziku nielen v prípade bezpečnostného incidentu, ale aj pri bežnej kontrole zo strany dozorného orgánu.
5. Sledujte výstupy AI nástrojov priebežne — nie len pri zavádzaní
Chyby AI nástrojov sa nemusia prejaviť hneď. Bias sa môže prejavovať postupne, halucinácie sa objavujú nepravidelne a nové verzie modelov môžu správanie nástroja zmeniť bez upozornenia. Pravidelný — napríklad mesačný — prehľad výstupov kľúčových AI nástrojov, ktoré firma používa, pomáha zachytiť problémy skôr, ako spôsobia škodu.
6. Zaznamenávajte používanie AI nástrojov
Pre prípad kontroly alebo incidentu je dôležité vedieť, kedy, kto a na aký účel AI nástroj použil a aký výstup produkoval. Toto nie je len otázka compliance — je to aj ochrana firmy v prípade sporu. Záznamy nemusia byť komplikované — v mnohých prípadoch postačí jednoduchý log v excelovom súbore alebo internom systéme.
Praktická poznámka: ak si nie ste istí, kde začať — začnite krokom č. 1. Zavedenie povinného ľudského overenia AI výstupov je najrýchlejší spôsob, ako výrazne znížiť väčšinu rizík opísaných v tomto článku. Ostatné kroky môžete zavádzať postupne, podľa priorít a kapacít vašej firmy.
Halucinácie, bias, deepfakes, reputačné a regulačné riziká — to nie je zoznam dôvodov, prečo umelú inteligenciu nepoužívať. Je to zoznam dôvodov, prečo ju používať vedome, s pravidlami a s ľudským dohľadom.
Firmy, ktoré AI zavádzajú bez procesov, nerobia chybu v technológii. Robia chybu v riadení. A tá sa dá napraviť — bez veľkých investícií, bez IT špecialistov, bez mesiacov príprav.
Stačí začať. Overiť výstup pred odoslaním. Povedať zamestnancom, čo sú halucinácie. Skontrolovať, či má chatbot zmluvu. Nastaviť pravidlo pre platobné príkazy.
Každý z týchto krokov sa dá urobiť tento týždeň. A každý z nich znižuje riziko — reálne, merateľne a bez toho, aby spomalil produktivitu, ktorú od AI očakávate.
Umelá inteligencia pracuje pre vás. Rozhodnite sa, že vy budete riadiť ju — nie ona vás.
Chcete vedieť, ako na to vo vašej firme konkrétne?
V Codamore pomáhame firmám nastaviť AI governance — od internej politiky používania AI cez vzdelávanie zamestnancov až po zmluvnú dokumentáciu. Ak chcete vedieť, kde vaša firma stojí, radi si s vami sadneme.
→ Kontaktujte nás na office@codamore.sk alebo telefonicky.
| Werferova 6, Košice 040 11 | |
| +421 911 251 851 | |
| office@codamore.sk |