AI Act: Čo nový európsky zákon o umelej inteligencii znamená pre podnikateľov a e-shopy?

Umelá inteligencia sa v podnikaní používa čoraz bežnejšie. Firmy ju využívajú na písanie textov, tvorbu obrázkov, zákaznícku podporu, automatické odporúčanie produktov, vyhodnocovanie dát, scoring zákazníkov, personalizovaný marketing, nábor zamestnancov či interné rozhodovanie. Práve preto Európska únia prijala prvý komplexný právny rámec pre umelú inteligenciu – známy ako AI Act.

AI Act nie je slovenský zákon ani vyhláška. Ide o nariadenie Európskeho parlamentu a Rady (EÚ) 2024/1689, ktorým sa stanovujú harmonizované pravidlá v oblasti umelej inteligencie. Keďže ide o nariadenie EÚ, je priamo uplatniteľné vo všetkých členských štátoch vrátane Slovenska. Európska komisia ho označuje za prvý komplexný právny rámec pre AI na svete a jeho cieľom je podporiť dôveryhodnú umelú inteligenciu v Európe.

AI Act nezakazuje firmám používať umelú inteligenciu. Zavádza však pravidlá podľa toho, aké riziko môže konkrétne použitie AI predstavovať pre ľudí, ich práva, bezpečnosť alebo rozhodovanie.

Slovensko pripravuje národnú implementáciu, najmä kvôli určeniu orgánov dohľadu, kompetencií a praktickému presadzovaniu pravidiel. MIRRI SR uviedlo, že pripravovaný zákon o umelej inteligencii je v medzirezortnom pripomienkovom konaní, jeho účinnosť sa predpokladá od 1. augusta 2026 a má vytvoriť základ pre nový inštitucionálny rámec dohľadu nad AI.

Kým osobitná slovenská úprava nenadobudne účinnosť, podnikatelia musia pri používaní AI okrem AI Actu dodržiavať aj existujúce slovenské a európske pravidlá. V praxi ide najmä o zákon č. 18/2018 Z. z. o ochrane osobných údajov, GDPR, zákon č. 108/2024 Z. z. o ochrane spotrebiteľa, zákon č. 22/2004 Z. z. o elektronickom obchode, Autorský zákon č. 185/2015 Z. z., zákon č. 147/2001 Z. z. o reklame, Zákonník práce, antidiskriminačný zákon a pri niektorých firmách aj zákon č. 69/2018 Z. z. o kybernetickej bezpečnosti. Tieto predpisy nie sú „AI zákonmi“, ale pri používaní AI v e-shope, marketingu, HR, zákazníckej podpore alebo automatizovanom rozhodovaní môžu byť rovnako dôležité.

Od kedy AI Act platí?

AI Act nadobudol účinnosť 1. augusta 2024. Väčšina jeho pravidiel sa mala začať uplatňovať od 2. augusta 2026, ale niektoré povinnosti začali platiť skôr a pri niektorých oblastiach sa termíny postupne upravujú.

Najdôležitejšie dátumy pre podnikateľov sú:

Od 2. februára 2025 sa začali uplatňovať zákazy neprijateľných AI praktík a povinnosti súvisiace s AI gramotnosťou. To znamená, že firmy by mali zabezpečiť, aby ľudia, ktorí vo firme pracujú s AI nástrojmi, rozumeli aspoň základným rizikám a možnostiam ich používania.

Od 2. augusta 2025 sa začali uplatňovať pravidlá riadenia a povinnosti týkajúce sa modelov umelej inteligencie na všeobecné účely, teda tzv. GPAI modelov. Ide najmä o veľké modely, ktoré dokážu vykonávať široké spektrum úloh, napríklad generovať text, obrázky, kód alebo analyzovať dáta.

Od augusta 2026 sa začínajú uplatňovať najmä pravidlá transparentnosti. Tie sú dôležité napríklad pri chatbotoch, generovanom obsahu, deepfake obsahu alebo textoch vytvorených AI na informovanie verejnosti. MIRRI SR zároveň upozornilo, že občania EÚ majú byť od 2. augusta 2026 jasne informovaní o tom, že komunikujú so systémom umelej inteligencie.

Pri vysokorizikových systémoch je potrebné sledovať aktuálny vývoj. Európska komisia uvádza, že po politickej dohode o zjednodušení AI Actu sa pravidlá pre systémy používané v určitých vysokorizikových oblastiach, napríklad biometria, kritická infraštruktúra, vzdelávanie, zamestnanosť, migrácia, azyl a kontrola hraníc, majú uplatňovať od 2. decembra 2027. Pri systémoch integrovaných do výrobkov, napríklad výťahov alebo hračiek, sa pravidlá majú uplatňovať od 2. augusta 2028.

Pre slovenské firmy je dôležité sledovať aj slovenský legislatívny proces k pripravovanému zákonu o umelej inteligencii a európskej dátovej regulácii.

Na čo všetko sa AI Act vzťahuje?

AI Act sa vzťahuje na systémy umelej inteligencie, ktoré sa vyvíjajú, uvádzajú na trh, sprístupňujú alebo používajú v Európskej únii. Netýka sa len veľkých technologických firiem. Môže sa dotknúť aj bežných podnikateľov, ak AI používajú pri práci so zákazníkmi, zamestnancami, uchádzačmi o prácu alebo pri rozhodnutiach, ktoré môžu mať významný dopad na človeka.

Nariadenie rozlišuje najmä medzi viacerými rolami. Iné povinnosti môže mať ten, kto AI systém vyvíja a uvádza na trh, a iné ten, kto ho len používa vo svojej firme. V praxi teda môže byť podnikateľ:

• poskytovateľ, ak vyvíja vlastný AI systém a uvádza ho na trh alebo ho ponúka zákazníkom,
• nasadzujúci subjekt, ak AI systém používa vo vlastnej firme,
• distribútor alebo dovozca, ak AI riešenie predáva, sprostredkúva alebo sprístupňuje na trhu.

Pre väčšinu malých a stredných podnikateľov bude najčastejšia situácia taká, že nevyvíjajú vlastný veľký AI model, ale používajú hotové nástroje – napríklad chatbot, AI nástroj na tvorbu textov, AI odporúčací systém, AI vyhodnocovanie životopisov alebo AI automatizáciu v e-shope. Aj vtedy však môžu mať povinnosti, najmä ak AI komunikuje so zákazníkom, ovplyvňuje rozhodovanie alebo pracuje s citlivými údajmi.

Na Slovensku treba pri takomto používaní AI súčasne myslieť aj na ochranu osobných údajov. Zákon č. 18/2018 Z. z. o ochrane osobných údajov upravuje ochranu práv fyzických osôb pred neoprávneným spracúvaním osobných údajov, práva a povinnosti pri spracúvaní osobných údajov a postavenie Úradu na ochranu osobných údajov SR. Ak teda AI nástroj pracuje s menami zákazníkov, e-mailmi, telefónnymi číslami, objednávkami, reklamáciami, profilmi zákazníkov alebo údajmi zamestnancov, nejde už len o otázku AI Actu, ale aj o otázku zákonnosti spracúvania osobných údajov.

AI Act funguje podľa rizika

Základná logika AI Actu je jednoduchá: čím vyššie riziko môže AI systém predstavovať, tým prísnejšie pravidlá platia. Európska komisia uvádza štyri úrovne rizika: neprijateľné riziko, vysoké riziko, obmedzené riziko a minimálne alebo žiadne riziko.

Zakázané AI praktiky: čo firma nesmie používať

Najprísnejšou kategóriou sú AI systémy s neprijateľným rizikom. Tie sú zakázané. Ide o systémy, ktoré predstavujú jasnú hrozbu pre bezpečnosť, živobytie alebo práva ľudí. Európska komisia medzi zakázané praktiky uvádza napríklad škodlivú manipuláciu a klamanie založené na AI, zneužívanie zraniteľností, sociálne bodovanie, určité formy predikcie trestnej činnosti, necielené získavanie fotografií z internetu alebo CCTV na tvorbu databáz rozpoznávania tváre, rozpoznávanie emócií na pracoviskách a vo vzdelávacích inštitúciách či biometrickú kategorizáciu na odvodzovanie chránených charakteristík.

Pre podnikateľov to znamená najmä opatrnosť pri nástrojoch, ktoré sľubujú „čítanie emócií“, automatické hodnotenie správania ľudí, sledovanie zamestnancov, profilovanie zákazníkov podľa citlivých vlastností alebo manipuláciu zákazníka tak, aby urobil rozhodnutie, ktoré by inak neurobil.

Príklad z praxe: ak by e-shop používal AI systém, ktorý zámerne manipuluje zraniteľných zákazníkov, napríklad deti, seniorov alebo ľudí vo finančnej tiesni, aby nakúpili produkt, môže ísť o vážny problém. Rovnako problematické by bolo používať AI na odhadovanie emócií zamestnancov na pracovisku s cieľom hodnotiť ich výkon.

V slovenskom prostredí sa pri takýchto praktikách môžu uplatniť aj iné predpisy. Pri zákazníkoch pôjde najmä o zákon č. 108/2024 Z. z. o ochrane spotrebiteľa, ktorý je účinný od 1. júla 2024 a upravuje ochranu spotrebiteľa aj povinnosti obchodníkov pri predaji tovaru a poskytovaní služieb. Ak AI pomáha vytvárať klamlivé ponuky, falošné zľavy, zavádzajúce odporúčania alebo manipulatívne predajné scenáre, podnikateľ môže mať problém nielen podľa AI Actu, ale aj podľa spotrebiteľského práva.

Vysokorizikové AI systémy: pozor najmä pri HR, úveroch a hodnotení ľudí

Vysokorizikové AI systémy nie sú automaticky zakázané, ale podliehajú prísnym požiadavkám. Podľa Európskej komisie sem patria napríklad AI nástroje v kritickej infraštruktúre, vzdelávaní, zamestnávaní, prístupe k dôležitým službám, úverovom hodnotení, biometrickej identifikácii, presadzovaní práva, migrácii, súdnictve a demokratických procesoch.

Pre podnikateľov je najpraktickejšia najmä oblasť zamestnávania a riadenia pracovníkov. Ak firma používa AI na triedenie životopisov, predvýber uchádzačov, hodnotenie výkonu zamestnancov, prideľovanie zmien alebo automatizované rozhodovanie o pracovných príležitostiach, môže sa dostať do režimu vysokorizikového systému.

Podobne citlivé môže byť používanie AI pri rozhodovaní o prístupe k službám, napríklad pri úveroch, splátkach, poistení alebo inom hodnotení zákazníka, ktoré môže ovplyvniť jeho ekonomické možnosti. AI Act pri vysokorizikových systémoch vyžaduje okrem iného riadenie rizík, kvalitné dáta, logovanie, technickú dokumentáciu, informácie pre používateľa, ľudský dohľad, robustnosť, kybernetickú bezpečnosť a presnosť systému.

Bežný e-shop, ktorý používa AI na odporúčanie produktov alebo generovanie popisov, spravidla nebude automaticky patriť do vysokorizikovej kategórie. Ak však AI začne rozhodovať o tom, kto dostane splátkový predaj, akú cenu uvidí konkrétny zákazník na základe citlivého profilovania alebo ktorý uchádzač bude vyradený z náboru, riziko sa výrazne zvyšuje.

Na Slovensku treba pri HR nástrojoch brať do úvahy aj Zákonník práce č. 311/2001 Z. z. a antidiskriminačný zákon č. 365/2004 Z. z. Zákonník práce vychádza zo zásady, že fyzické osoby majú právo na prácu, slobodnú voľbu zamestnania a spravodlivé, transparentné a predvídateľné pracovné podmienky v súlade so zásadou rovnakého zaobchádzania. Antidiskriminačný zákon upravuje zásadu rovnakého zaobchádzania a zákaz diskriminácie vo viacerých oblastiach vrátane pracovnoprávnych vzťahov.

Ak teda podnikateľ používa AI pri nábore, hodnotení výkonu alebo prideľovaní práce, nestačí, aby nástroj „technicky fungoval“. Musí byť aj férový, vysvetliteľný, kontrolovateľný a nesmie diskriminovať uchádzačov alebo zamestnancov.

Obmedzené riziko: chatboty, generovaný obsah a transparentnosť

Pre väčšinu e-shopov a online podnikateľov bude najdôležitejšia kategória tzv. obmedzeného rizika. Sem patria situácie, kde AI nemusí byť vysoko riziková, ale zákazník by mal vedieť, že komunikuje so systémom alebo vidí obsah vytvorený umelou inteligenciou.

Typickým príkladom je AI chatbot v e-shope. Ak zákazník píše s chatbotom, mal by byť jasne informovaný, že nekomunikuje s človekom, ale so systémom umelej inteligencie. Európska komisia výslovne uvádza, že pri systémoch ako chatboty by ľudia mali byť informovaní, že komunikujú so strojom, aby sa mohli rozhodnúť, ako budú v komunikácii pokračovať.

Dôležité sú aj pravidlá pre generovaný obsah. Poskytovatelia generatívnej AI majú zabezpečiť, aby bol obsah vytvorený umelou inteligenciou identifikovateľný. Určitý obsah, napríklad deepfake a text uverejnený s cieľom informovať verejnosť o veciach verejného záujmu, má byť jasne a viditeľne označený. Európska komisia zároveň pripravuje podporné nástroje a usmernenia k transparentnosti vrátane označovania obsahu vytvoreného AI a zverejňovania umelej povahy obrázkov, zvuku a textu.

Pre podnikateľov to znamená, že ak používajú AI na tvorbu obrázkov, videí, hlasov, falošných avatarov alebo textov, musia riešiť transparentnosť. Nie každý AI text na produktovej stránke bude automaticky vyžadovať veľké upozornenie, ale pri obsahu, ktorý môže pôsobiť ako realita, názor človeka, spravodajstvo, odborné vyjadrenie alebo autentická zákaznícka skúsenosť, treba byť mimoriadne opatrný.

V slovenskom e-commerce prostredí sa k tomu pridáva aj zákon č. 22/2004 Z. z. o elektronickom obchode, ktorý upravuje služby informačnej spoločnosti a povinnosti pri poskytovaní služieb online. Ak teda e-shop používa AI chatbota, automatizovanú zákaznícku podporu alebo AI asistenta pri objednávke, mal by dbať nielen na AI Act, ale aj na všeobecnú transparentnosť, identifikovateľnosť poskytovateľa služby, korektné informácie pre zákazníka a pravidlá online predaja.

Minimálne riziko: bežné interné používanie AI

Veľká časť AI nástrojov bude patriť do kategórie minimálneho alebo žiadneho rizika. Európska komisia uvádza, že AI Act nezavádza osobitné pravidlá pre AI, ktorá sa považuje za minimálne alebo žiadne riziko, a do tejto kategórie patrí väčšina AI systémov používaných v EÚ, napríklad AI videohry alebo spamové filtre.

V podnikateľskej praxi môže ísť napríklad o používanie AI na interné návrhy e-mailov, sumarizáciu poznámok, preklady, prípravu konceptov článkov, pomoc pri programovaní alebo návrhy marketingových textov. To však neznamená, že firma nemusí riešiť nič. Stále platia iné právne predpisy, najmä ochrana osobných údajov, obchodné tajomstvo, autorské právo, spotrebiteľské pravidlá a povinnosť nekonať klamlivo voči zákazníkom.

Ak zamestnanec zadá do verejného AI nástroja databázu zákazníkov, interné cenotvorby, zmluvy, reklamácie alebo zdravotné či finančné údaje, nejde o „minimálne riziko“ z pohľadu firmy. Môže ísť o porušenie pravidiel ochrany osobných údajov, obchodného tajomstva alebo zmluvných povinností voči klientom.

Ako sa AI Act dotýka elektronického obchodu?

E-shopy používajú AI čoraz častejšie. AI Act sa ich môže dotknúť najmä v týchto oblastiach:

1. AI chatboty a zákaznícka podpora

Ak zákazník komunikuje s AI chatbotom, musí byť zrozumiteľne informovaný, že ide o AI. Chatbot sa nesmie tváriť ako pracovník podpory s ľudským menom ak zákazník netuší, že komunikuje so strojom. Transparentnosť pri interakcii s chatbotmi patrí medzi praktické povinnosti, ktoré budú pre e-shopy veľmi dôležité.

V praxi môže stačiť jednoduché oznámenie typu: „Tento chat obsluhuje AI asistent. V prípade potreby vás prepojíme na pracovníka zákazníckej podpory.“ Dôležité je, aby informácia bola viditeľná a zrozumiteľná ešte predtým, ako zákazník začne robiť rozhodnutia na základe odpovedí chatbota.

Z pohľadu slovenskej legislatívy treba zároveň myslieť na to, že ak chatbot poskytuje informácie o cene, dostupnosti, reklamácii, odstúpení od zmluvy alebo vlastnostiach produktu, tieto informácie musia byť pravdivé a nesmú zákazníka zavádzať. Tu vstupuje do hry najmä zákon č. 108/2024 Z. z. o ochrane spotrebiteľa a pri online predaji aj zákon č. 22/2004 Z. z. o elektronickom obchode.

2. Generovanie produktových popisov, článkov a obrázkov

Mnohé e-shopy používajú AI na tvorbu produktových popisov, blogových článkov, newsletterov, bannerov alebo obrázkov. Samotné používanie AI na tvorbu obsahu nie je zakázané. Problém môže vzniknúť vtedy, ak je obsah klamlivý, vydáva sa za ľudskú skúsenosť, vytvára falošné recenzie, napodobňuje reálnu osobu alebo môže zákazníka uviesť do omylu.

Osobitnú pozornosť si zaslúžia AI obrázky ľudí, produkty, ktoré neexistujú v zobrazenej podobe, falošné „pred a po“ fotografie, umelo vytvorené referencie alebo videá, ktoré pôsobia ako autentická realita. AI Act kladie dôraz na označovanie obsahu vytvoreného umelou inteligenciou najmä pri deepfake obsahu a pri texte určenom na informovanie verejnosti o veciach verejného záujmu.

Pri AI obsahu treba myslieť aj na slovenský Autorský zákon č. 185/2015 Z. z. Ministerstvo kultúry SR uvádza, že základnou právnou úpravou pre autorské právo a práva súvisiace je práve Autorský zákon. Ak firma používa AI na generovanie textov, obrázkov alebo videí, mala by riešiť najmä to, z akých podkladov vychádza, či nepoužíva cudzie chránené diela bez licencie, či nenapodobňuje cudziu značku alebo tvorbu a či má právo výsledný obsah komerčne používať podľa podmienok konkrétneho AI nástroja.

3. Personalizácia cien a ponúk

AI môže pomáhať s odporúčaním produktov, segmentáciou zákazníkov alebo personalizovanou ponukou. To je v zásade možné. Podnikateľ by si však mal dať pozor na to, či AI nepoužíva citlivé alebo nevhodné údaje, či zákazníka nemanipuluje a či rozhodovanie nie je diskriminačné.

Ak by AI systém napríklad automaticky znevýhodňoval určitú skupinu zákazníkov alebo používal profilovanie spôsobom, ktorý by bol neprimeraný alebo netransparentný, problém nemusí byť len podľa AI Actu, ale aj podľa pravidiel ochrany osobných údajov a spotrebiteľského práva.

Na Slovensku treba pri personalizácii cien, ponúk a marketingu sledovať najmä zákon č. 108/2024 Z. z. o ochrane spotrebiteľa, GDPR a zákon č. 18/2018 Z. z. o ochrane osobných údajov. Pri reklamných tvrdeniach je dôležitý aj zákon č. 147/2001 Z. z. o reklame, ktorý ustanovuje všeobecné požiadavky na reklamu a ochranu pred neprípustnou porovnávacou reklamou.

4. Recenzie a hodnotenia zákazníkov

AI môže pomáhať sumarizovať recenzie, triediť spätnú väzbu alebo vytvárať prehľady pozitív a negatív. To môže byť pre e-shop užitočné. Podnikateľ by si však mal dať pozor, aby AI nevytvárala falošné recenzie, nepripisovala názory reálnym zákazníkom, ktorí ich nepovedali, alebo nemanipulovala hodnotenie produktov.

Ak AI zhrnie recenzie, vhodné je jasne uviesť, že ide o automaticky vytvorené zhrnutie na základe zákazníckych recenzií. Zároveň by malo byť možné dohľadať pôvodné recenzie, z ktorých zhrnutie vychádza.

Z pohľadu slovenskej ochrany spotrebiteľa je dôležité, aby podnikateľ neprezentoval falošné alebo zavádzajúce hodnotenia ako skutočné skúsenosti zákazníkov. AI nesmie slúžiť na výrobu „pozitívnych recenzií“, ktoré sa tvária ako autentické. Pri recenziách platí jednoduché pravidlo: automatizácia áno, falšovanie nie.

5. Nábor zamestnancov

Toto je jedna z najcitlivejších oblastí. Ak podnikateľ používa AI na predvýber uchádzačov, triedenie životopisov, hodnotenie kandidátov alebo automatické odporúčanie, koho pozvať na pohovor, môže ísť o vysokorizikový AI systém. Európska komisia medzi vysokorizikové použitia výslovne zaraďuje AI nástroje pre zamestnávanie, riadenie pracovníkov a prístup k samostatnej zárobkovej činnosti, napríklad softvér na triedenie životopisov.

Podnikateľ by si preto mal veľmi dobre preveriť, aký nástroj používa, kto ho dodáva, aké má dokumenty, ako funguje ľudský dohľad a či systém nemôže diskriminovať uchádzačov.

Na Slovensku sa k tomu pridáva Zákonník práce a antidiskriminačný zákon. Ak AI nástroj znevýhodňuje uchádzačov podľa pohlavia, veku, zdravotného postihnutia, národnosti, rasy, náboženstva alebo iného chráneného dôvodu, môže ísť o diskriminačný postup. Firma by preto nemala nechať AI samostatne rozhodovať o prijatí alebo vyradení uchádzača bez ľudského posúdenia a bez možnosti spätne vysvetliť, prečo bolo rozhodnutie prijaté.

6. Splátky, úvery a finančné rozhodovanie

Ak e-shop ponúka zákazníkom nákup na splátky alebo využíva externé riešenia na hodnotenie bonity, AI môže vstupovať do rozhodovania o tom, či zákazník dostane alebo nedostane službu. AI Act medzi vysokorizikové oblasti zaraďuje aj určité použitia AI pri prístupe k základným súkromným a verejným službám, napríklad úverové hodnotenie.

E-shop nemusí byť vždy poskytovateľom takého systému, často pôjde o externého partnera. Aj tak je však dôležité vedieť, aké riešenie firma používa, kto zaň nesie zodpovednosť a čo sa deje s údajmi zákazníka.

Ak sa pri splátkach, úveroch alebo hodnotení bonity spracúvajú osobné údaje, podnikateľ musí riešiť aj GDPR a zákon č. 18/2018 Z. z. o ochrane osobných údajov. Pri automatizovanom rozhodovaní, profilovaní a práci s finančnými údajmi zákazníkov treba mať jasne určený právny základ, informačnú povinnosť, bezpečnostné opatrenia a zmluvy so sprostredkovateľmi.

AI Act a generatívna AI: ChatGPT, Claude, Gemini a podobné nástroje

Veľa podnikateľov dnes používa generatívnu AI cez nástroje tretích strán. AI Act rozlišuje aj tzv. modely umelej inteligencie na všeobecné účely, známe ako GPAI. Tie dokážu plniť široké spektrum úloh a stávajú sa základom mnohých AI systémov. Pravidlá pre poskytovateľov týchto modelov zahŕňajú transparentnosť, autorskoprávne pravidlá a pri modeloch so systémovým rizikom aj povinnosť tieto riziká posudzovať a zmierňovať.

Bežný podnikateľ, ktorý používa hotový nástroj na písanie textov alebo tvorbu obrázkov, zvyčajne nebude poskytovateľom GPAI modelu. Mal by si však nastaviť interné pravidlá používania. Najmä by nemal do verejných AI nástrojov vkladať citlivé obchodné informácie, osobné údaje zákazníkov, neverejné zmluvy, heslá, zdrojové kódy bez kontroly alebo údaje, ktoré nesmie sprístupniť tretej strane.

Pri generatívnej AI je dôležité aj to, že slovenské právo osobitne chráni osobné údaje, autorské diela, obchodné tajomstvo, spotrebiteľa a zamestnancov. Ak podnikateľ využíva AI výstupy v marketingu, na webe alebo v e-shope, mal by si overiť najmä licenčné podmienky nástroja, pôvod vstupov, pravdivosť tvrdení a to, či výstup nezasahuje do práv tretích osôb.

AI gramotnosť: nová povinnosť, ktorú firmy často podcenia

Jednou z menej nápadných, ale prakticky dôležitých povinností je AI gramotnosť. Od 2. februára 2025 sa začali uplatňovať povinnosti týkajúce sa gramotnosti v oblasti AI.

V ľudskej reči to znamená, že firma by nemala nechať zamestnancov používať AI úplne bez pravidiel a školenia. Ľudia by mali vedieť, čo AI dokáže, kde sa môže mýliť, aké údaje do nej nesmú vkladať, ako overovať výstupy a kedy musí rozhodnúť človek.

Pre podnikateľa môže byť dobrým základom krátka interná smernica. Tá by mala upraviť, ktoré AI nástroje sa môžu používať, na aké účely, kto ich schvaľuje, aké údaje je zakázané vkladať, ako sa kontrolujú výstupy a ako sa označuje AI obsah smerom k zákazníkom.

Slovenské firmy by v tejto smernici mali zohľadniť aj existujúce právne povinnosti. Pri osobných údajoch treba vychádzať z GDPR a zákona č. 18/2018 Z. z., pri marketingu zo zákona o ochrane spotrebiteľa a zákona o reklame, pri HR zo Zákonníka práce a antidiskriminačného zákona, pri e-shope zo zákona o elektronickom obchode a pri technickej bezpečnosti z pravidiel kybernetickej bezpečnosti, ak sa na firmu vzťahujú.

Aké pokuty hrozia?

AI Act obsahuje vysoké sankcie. Pri porušení zákazu zakázaných AI praktík môže ísť o administratívnu pokutu až do 35 miliónov eur alebo až do 7 % celkového celosvetového ročného obratu za predchádzajúci finančný rok, podľa toho, ktorá suma je vyššia. Pri iných porušeniach povinností podľa nariadenia môže ísť o pokutu až do 15 miliónov eur alebo 3 % celosvetového ročného obratu. Za poskytnutie nesprávnych, neúplných alebo zavádzajúcich informácií orgánom môže byť pokuta až do 7,5 milióna eur alebo 1 % obratu.

Pri malých a stredných podnikoch a startupoch sa má prihliadať na proporcionalitu. To však neznamená, že menšie firmy môžu pravidlá ignorovať. Skôr to znamená, že sankcie majú byť primerané veľkosti a okolnostiam konkrétneho prípadu.

Na Slovensku bude praktické ukladanie a presadzovanie sankcií závisieť aj od národného rámca dohľadu. MIRRI SR uvádza, že pripravovaný slovenský zákon má vytvoriť inštitucionálny rámec dohľadu nad AI. Zároveň však platí, že porušenia súvisiace s AI môžu riešiť aj existujúce orgány podľa existujúcich predpisov – napríklad Úrad na ochranu osobných údajov SR pri osobných údajoch, Slovenská obchodná inšpekcia pri ochrane spotrebiteľa alebo príslušné orgány pri reklame, pracovnoprávnych predpisoch či kybernetickej bezpečnosti.

Na čo si majú podnikatelia dať pozor v praxi?

Najväčšie riziko nie je v tom, že firma použije AI na pomoc pri písaní textu. Väčšie riziko vzniká tam, kde AI komunikuje priamo so zákazníkom, rozhoduje o ľuďoch, hodnotí uchádzačov, profiluje zákazníkov, generuje realistický obsah alebo pracuje s osobnými a citlivými údajmi.

Podnikateľ by si mal položiť najmä tieto otázky:

• Používame vo firme AI nástroje a vieme presne kde?
• Komunikuje AI priamo so zákazníkom?
• Vie zákazník, že komunikuje s AI?
• Generujeme AI obrázky, videá, hlasy alebo recenzie, ktoré môžu pôsobiť ako realita?
• Používame AI pri nábore, hodnotení zamestnancov alebo rozhodovaní o ľuďoch?
• Používame AI pri úveroch, splátkach, cenotvorbe alebo prístupe k službám?
• Vkladáme do AI nástrojov osobné údaje zákazníkov alebo obchodné tajomstvá?
• Máme interné pravidlá, kto a ako môže AI používať?
• Vieme od dodávateľa AI nástroja získať dokumentáciu, informácie o bezpečnosti a podmienky používania?
• Máme právne ošetrené, že AI výstupy môžeme používať v marketingu, na webe alebo v produkte?
• Vieme preukázať, že AI nevytvára klamlivé obchodné praktiky, falošné recenzie alebo diskriminačné rozhodnutia?

Praktický checklist pre e-shop

E-shop by mal ako minimum urobiť niekoľko krokov.

Najprv si zmapovať, kde všade AI používa. Môže ísť o chatbot, vyhľadávanie, odporúčanie produktov, marketingové texty, obrázky, dynamické ceny, zákaznícku podporu, vyhodnocovanie recenzií, e-mailing, interné reporty alebo HR.

Potom treba pri každom použití určiť, či ide len o pomocný interný nástroj, alebo AI ovplyvňuje zákazníka či rozhodovanie o človeku. Ak AI komunikuje so zákazníkom, treba pridať jasné upozornenie. Ak AI vytvára obsah, ktorý by mohol zákazníka pomýliť, treba riešiť označenie a kontrolu. Ak AI vstupuje do HR alebo finančného rozhodovania, treba preveriť, či nejde o vysokorizikový systém.

Ďalej je vhodné upraviť zmluvy a dokumentáciu s dodávateľmi AI riešení. E-shop by mal vedieť, kto je poskytovateľ systému, kde sa spracúvajú dáta, aké povinnosti má dodávateľ, ako rieši bezpečnosť, či poskytuje dokumentáciu a ako možno systém kontrolovať.

Dôležitá je aj kontrola výstupov. AI by nemala bez ľudskej kontroly publikovať právne, zdravotné, finančné alebo inak citlivé tvrdenia. Pri produktových popisoch treba kontrolovať technické parametre, ceny, dostupnosť, záruky a tvrdenia o účinkoch produktu.

Zo slovenského právneho pohľadu by si e-shop mal skontrolovať najmä to, či AI výstupy neporušujú zákon o ochrane spotrebiteľa, zákon o reklame, pravidlá elektronického obchodu, GDPR, zákon o ochrane osobných údajov a autorské právo. Ak AI pracuje s objednávkami, reklamáciami, zákazníckymi profilmi alebo marketingovými segmentmi, treba mať jasne nastavené aj spracúvanie osobných údajov.

Nakoniec by firma mala pripraviť jednoduché interné pravidlá používania AI a zaškoliť zamestnancov. Nemusí ísť o rozsiahlu smernicu. Dôležité je, aby ľudia vedeli, čo môžu a čo nemôžu robiť.

AI Act nenahrádza GDPR ani spotrebiteľské právo

Podnikatelia by nemali AI Act vnímať izolovane. Ak AI pracuje s osobnými údajmi, stále platí GDPR a slovenský zákon č. 18/2018 Z. z. o ochrane osobných údajov. Ak AI generuje marketingové tvrdenia, stále platia pravidlá ochrany spotrebiteľa a zákazu klamlivej reklamy. Ak AI vytvára texty, obrázky alebo hudbu, treba myslieť aj na Autorský zákon. Ak AI rozhoduje o zamestnancoch alebo uchádzačoch, vstupujú do hry aj pracovnoprávne pravidlá a zákaz diskriminácie.

AI Act teda nie je jediný predpis, ktorý treba riešiť. Je to nový rámec, ktorý sa pridáva k existujúcim povinnostiam.

Pri väčších alebo technologicky významnejších firmách treba myslieť aj na kybernetickú bezpečnosť. Zákon č. 69/2018 Z. z. o kybernetickej bezpečnosti bol od 1. januára 2025 novelizovaný v súvislosti s transpozíciou smernice NIS2 a rozšíril okruh regulovaných subjektov. Ak firma prevádzkuje významné digitálne služby, infraštruktúru, logistiku, zdravotníctvo, energetiku alebo iný regulovaný sektor, AI nástroje musia byť súčasťou širšieho riadenia bezpečnostných rizík.

Zhrnutie

AI Act je európske nariadenie o umelej inteligencii, ktoré platí od 1. augusta 2024 a jeho pravidlá sa uplatňujú postupne. Zakázané AI praktiky a povinnosti AI gramotnosti sa začali uplatňovať od 2. februára 2025, pravidlá pre modely umelej inteligencie na všeobecné účely od 2. augusta 2025 a pravidlá transparentnosti od augusta 2026. Pri vysokorizikových systémoch treba sledovať aktuálne termíny, keďže po politickej dohode o zjednodušení sa pri viacerých oblastiach počíta s uplatňovaním od 2. decembra 2027 a pri systémoch integrovaných do výrobkov od 2. augusta 2028.

Pre bežného podnikateľa AI Act neznamená, že musí prestať používať AI. Znamená však, že musí vedieť, kde AI používa, na čo ju používa a či tým nezasahuje do práv zákazníkov, zamestnancov alebo uchádzačov o prácu.

Pre e-shopy budú najdôležitejšie najmä transparentnosť chatbotov, označovanie niektorého AI obsahu, kontrola generovaných textov a obrázkov, opatrnosť pri personalizácii, recenziách, HR nástrojoch a finančnom rozhodovaní. Najlepšia príprava je jednoduchá: zmapovať AI nástroje vo firme, rozdeliť ich podľa rizika, nastaviť interné pravidlá, zaškoliť zamestnancov a preveriť dodávateľov.

Na Slovensku treba zároveň sledovať pripravovaný zákon o umelej inteligencii a európskej dátovej regulácii. Podľa MIRRI SR má vytvoriť domáci rámec dohľadu nad AI a jeho účinnosť sa predpokladá od 1. augusta 2026. Dovtedy aj potom však bude platiť, že AI sa v podnikaní neposudzuje iba podľa AI Actu, ale aj podľa pravidiel ochrany osobných údajov, spotrebiteľa, elektronického obchodu, reklamy, autorského práva, pracovného práva, zákazu diskriminácie a kybernetickej bezpečnosti.

AI môže podnikateľom výrazne pomôcť. Po novom však nestačí pýtať sa len na to, čo AI dokáže. Rovnako dôležité bude vedieť, či ju firma používa férovo, bezpečne, transparentne a v súlade s pravidlami.

K téme