Využívate pri svojom podnikaní systémy umelej inteligencie? Ak áno, viete, aké právne povinnosti sú s tým spojené?
Prijatím nariadenia (EÚ) 2024/1689, Aktu o umelej inteligencií („Akt o AI“) totiž došlo k vytvoreniu právneho rámca a k regulácií používania umelej inteligencie („AI“). Ako už asi tušíte, sú s tým spojené viaceré povinnosti, ktoré je nevyhnutné splniť. V opačnom prípade podstupujete riziko rôznych sankcií a vysokých pokút.
Na koho sa povinnosti podľa Aktu o AI vzťahujú?
Povinnosti sa vzťahujú na široký okruh subjektov, a to aj na podnikateľov, ktorí pri svojej činnosti používajú systémy AI alebo s nimi prichádzajú do styku. K používaniu AI pritom môže dochádzať v postavení:
- výrobcu AI výrobkov, vyvíjajúceho alebo vyrábajúceho produkty postavené na AI, ktoré pod svojím menom alebo značkou uvádza na trh.
- poskytovateľa AI, ktorý systém AI vyvíja buď sám alebo prostredníctvom tretej osoby a ponúka ho na trhu pod svojím menom alebo značkou (napr. podnikateľ či štátny orgán, ktorý systém AI sprístupňuje na používanie).
- nasadzujúceho subjektu, kde ide o samotného používateľa systému AI, ktorý ho používa v rámci svojej pracovnej činnosti, ibaže by išlo o použitie na osobné či neprofesionálne účely.
- dovozcu, tzn. subjektu, ktorý sa nachádza v EÚ a uvádza na trh systém AI vyrobený a označený menom alebo značkou spoločnosti z inej krajiny mimo EÚ.
- distribútora, kde ide o subjekt, ktorý v dodávateľskom reťazci sprístupňuje systém AI na trhu EÚ, avšak nejde o poskytovateľa ani dovozcu.
Aký je rozsah povinností?
Rozsah povinností je okrem toho, v akom postavení subjekt AI používa, daný na základe posúdenia rizikovosti používaného systému AI, kde sa rozlišujú 4 kategórie:
- neprijateľné riziko – Akt o AI niektoré spôsoby používania AI úplne zakazuje. Ide napríklad o rôzne podprahové a manipulatívne techniky, využitie zraniteľnosti, sociálne skóre, predpovedanie trestnej činnosti na základe profilovania, odvodzovanie emócií na pracovisku, biometrická kategorizácia.
- vysoké riziko – ide o systémy AI, s ktorých používaním je spojených najviac povinností, pričom tieto sú využívanie napr. pri analýze žiadostí o úver či postenie, v rámci elektronických výrobkov, turniketových systémov, zdravotníckych prístrojov, pri predikcií diagnóz, posudzovaní životopisov na HR oddeleniach a pod..
- obmedzené riziko – v tomto prípade ide najmä o systémy generatívnej AI, tzn. aplikácie ako Chat GPT a pod..
- a minimálne riziko – ide napr. o videohry s podporou umelej inteligencie alebo spamové filtre.
Povinnosti, ktoré je potrebné dodržiavať a plniť, sa tak závisia od toho, v akom postavení je systém AI používaný a miery jeho rizikovosti. Vo všeobecnosti sa však povinnosti vzťahujú napríklad na úpravu:
- zodpovednosti za používanie AI a bezpečnosti AI systémov,
- zabezpečenie ľudského dohľadu,
- zabezpečenie transparentnosti používaného systému AI a informačných povinností,
- ochrany autorský práv a práv duševného vlastníctva tretích osôb,
- ochrany súkromia a osobných údajov,
- kybernetickej bezpečnosti.
V konkrétnej rovine ide napríklad o povinnosť spracovať a aktualizovať technickú dokumentáciu, zabezpečiť splnenie informačných povinností, zabezpečiť, aby nedochádzalo k porušovaniu autorských práv a iného duševného vlastníctvo, porušovaniu ochrany súkromia, zabezpečiť súlad s nariadením GDPR a pod..
Od kedy sa povinnosti budú uplatňovať?
Akt o AI nadobudol účinnosť 1. augusta 2024, avšak vzhľadom na jeho obsiahlosť dôjde k jeho uplatňovaniu postupne. Od 2. februára 2025 nadobudli účinnosť ustanovenia upravujúce predmet úpravy, rozsah pôsobnosti a definícia pojmov. Rovnako aj ustanovenia upravujúce gramotnosť v oblasti umelej inteligencie, ale aj ustanovenia o zakázaných praktikách, ktoré sú za každých okolností neprípustné.
Z hľadiska nadobúdania účinnosti je potrebné pozornosť upriamiť na 02. august 2025. Vtedy nadobudnú účinnosť ustanovenia týkajúce sa modelov umelej inteligencie na všeobecné účely, medzi ktoré patria aplikácie ako ChatGPT, ktoré sú v podnikateľskej praxi hojne využívané. K účinnosti drvivej väčšiny práv a povinností pritom dôjde 02. augusta 2026, kedy už bude pre väčšinu podnikateľov využívajúcich systémy AI nevyhnutné mať svoju činnosť zosúladenú a Aktom o AI. Finálnym dátum z hľadiska účinnosti je 02. august 2027, kedy sa začnú uplatňovať pravidlá klasifikácie vysokorizikových systémov AI.
Čo hrozí, ak si povinnosti nesplním?
V prípade nesplnenia povinností podľa Aktu o AI hrozí uloženie pokút až do 7 % celosvetového ročného obratu alebo vo výške až do 35 miliónov eur. Samozrejme, ide o hraničné a extrémne prípady, avšak aj v prípade malých a stredných či začínajúcich podnikov, môže viesť nesplnenie povinností k naozaj vysokým a likvidačným pokutám.
Čo je potrebné urobiť?
Prvým krokom analýzy dopadov Aktu o AI na podnikanie je dôkladné zmapovanie používaných systémov umelej inteligencie a toho v akom postavení sa tak deje. V ďalšom kroku je potrebné vyhodnotiť, akú úroveň rizika podľa Aktu o AI tieto systémy predstavujú, splnenie akých povinností je s tým spojené a v akom časovom rámci majú byť tieto povinnosti splnené. Takéto zanalyzovanie situácie sa bude musieť následne pretaviť do prijatia konkrétnych opatrení, keďže inak sa vystavujete riziku likvidačných pokút.
V prípade, ak potrebuje s implementáciou Aktu o AI pomôcť, neváhajte sa na nás obrátiť. Radi vám poskytneme komplexné právne poradenstvo, pomoc so splnením administratívnych povinností a vypracujeme všetku potrebnú dokumentáciu.
