Videokanál poslanca

Ďakujem pekne za slovo, pán predsedajúci.
Dámy a páni, téma umelej inteligencie, jej využitia, ale rovnako aj zneužitia, je absolútne top téma dneška. Pokúsim sa ju uchopiť veľmi vecne a zrozumiteľne. Nebudem riešiť technologickú stránku umelej inteligencie, pretože v tom nie som odborník a to právo prináleží expertom a odborníkom z IT sektora. Budem sa venovať a budem venovať pozornosť súvislostiam legislatívnym a najmä tým, ktoré sa dotýkajú alebo ktoré sa môžu dotýkať ľudí, občanov, celých skupín alebo verejnosti. Myslím tým na zneužitie umelej inteligencie v rovine deepfakeu.
Povedzme si na úvod, čo to vlastne deepfake je, čo o ňom hovorí európska legislatíva, tzv. Akt o umelej inteligencii, ktorý schválil Európsky parlament v roku 2024. V čl. 3 ods. 60 je deepfake definovaný ako syntetický alebo manipulovaný obrazový, zvukový alebo audiovizuálny obsah, ktorý klamlivo pôsobí ako pravdivý a autentický a ktorý zobrazuje existujúce osoby, miesta, objekty alebo iné udalosti. Čl. 50 ods. 4 hovorí o povinnosti transparentného označenia AI obsahu, nasadzovateľov AI systémov, ktoré generujú alebo manipulujú obrazový a zvukový alebo videozáznam predstavujúci deepfake. Povinnosťou nasadzovateľov alebo tvorcov deepfakeu je označiť a zverejniť, že obsah bol umelo vytvorený, prípadne manipulovaný.
Na európskej pôde vznikol aj kódex postupov na označovanie AI obsahu. Finalizácia tohto kódexu sa očakáva v tomto roku a pravidlá by mali nadobudnúť platnosť v auguste roku 2026.
Európsky akt o umelej inteligencii má regulačno-preventívny charakter. Zameriava sa na povinnosti poskytovateľov, nasadzovateľov, teda tvorcov umelej inteligencie a systémov, teda tých, ktorí takýto obsah vyvíjajú a používajú. Rieši označovanie syntetického obsahu a zároveň stanovuje aj sankčný mechanizmus. Neupravuje priamo občianskoprávnu, priestupkovú alebo trestnoprávnu ochranu obetí. Pre túto oblasť ponecháva výsostne a výsostne na právach a v kompetencii členských štátov.
Slovenský návrh zákona je teda založený práve na ochrannom princípe zameranom na občianskoprávnu, prípadne priestupkovú alebo prípadne trestnoprávnu ochranu fyzickej osoby, ktorá bola deepfakom dotknutá. Dopĺňa Občiansky zákonník, § 12, dopĺňa zákon o priestupkoch, § 49, a dopĺňa aj Trestný zákon. Čo je dôležité, vytvára odstupňovaný systém právnej reakcie podľa toho, do akej miery je obsah toho deepfakeu závažný.
Európsky akt umelej inteligencie výslovne uvádza, že členské štáty si musia prijať svoju národnú úpravu sankčných rámcov. No a presne do tohto rámca, do tohto priestoru vstupuje aj predmetný návrh zákona, o ktorom teraz rokujeme.
Problém deepfakeov existuje a môžem povedať a môžeme si byť istí, že je veľmi vážny. Falošné záznamy dnes dokážu poškodiť povesť človeka, a to v priebehu doslova hodín, možno aj niekoľkých minút, bez toho, aby mal nejakú možnosť sa brániť. Dokážu ovplyvniť verejnú mienku, dokážu zasiahnuť do súkromia bez možnosti ochrany. Dokážu spôsobiť pracovné, osobné, zdravotné, ba i psychické následky.
Rozdiel oproti minulosti je zásadný. Dnes už totiž nejde len o manipuláciu reality, ale o vytvorenie úplne novej reality. A na túto novú realitu práve legislatíva a právo nie sú ešte dostatočne pripravené. Otázka teda prečo nestačí súčasná legislatíva. Dnešné zákony chránia podobizeň, prejav a osobnosť človeka, ale vychádzajú z predpokladu, že ten záznam vznikol v realite. Nepokrývajú dostatočne práve tú skutočnosť, že záznam môže byť úplne umelo vyvolaný a vytvorený, a to vytvára právnu neistotu. Poškodený totiž musí dokazovať, že záznam nie je pravý. Samotný zásah sa šíri rýchlejšie, než sa dá právne zastaviť a ochrana potom prichádza neskoro.
Čo tento návrh zákona rieši? Ide o jasnú ochranu v rámci Občianskeho zákonníka. Ochrana sa vzťahuje aj na technicky vytvorené alebo podstatne zmenené záznamy. To znamená, že poškodený má jasný nárok na právnu ochranu a nemusí dokazovať, že ide o tzv., v úvodzovkách povedané, klasický zásah. Môže sa domáhať zákazu, zastavenia šírenia alebo odstránenia obsahu a primeranej satisfakcie. Priestupková zodpovednosť rieši menej závažné prípady a zavádza teda pojem priestupok do tohto zákona. To rieši situácie, keď niekto vytvorí alebo šíri falošný záznam bez súhlasu osoby a poškodí jej česť a dobré meno alebo súkromie. Tým sa vytvára rýchla a pomerne dostupná forma ochrany bez akéhokoľvek zdĺhavého trestného konania. Samozrejme, potom je tu aj trestnoprávna ochrana pri závažných prípadoch, keď záznam výrazne poškodzuje povesť, spôsobuje vážnu ujmu na zdraví alebo vážne ohrozuje postavenie človeka v spoločnosti.
Návrh zavádza aj zodpovednosť právnických osôb, keďže šírenie obsahu neprebieha len cez jednotlivcov, ale aj cez organizované platformy alebo firmy. Bez tejto úpravy by časť zodpovednosti zostala mimo dosahu práva.
Aký teda môže mať deepfake vplyv na človeka? Tento zákon nechráni len verejne známe osoby. Chráni každého bez ohľadu na profesiu, vek, vzdelanie, bydlisko, náboženské, politické či iné presvedčenie. Stačí jedno falošné video vo falošnej realite, umelo vytvorenej realite, a človek môže prísť o prácu, o dôveru, o česť, o dôstojnosť, o dobré vzťahy, o spoločenské postavenie, nehovoriac o profesionálnej ujme. Bez rýchlej ochrany môže byť škoda často nevratná. Praktický efekt zákona spočíva v tom, že poškodený bude vedieť rýchlo konať. Príslušné orgány budú mať jasné právne nástroje. Zníži sa beztrestnosť takéhoto konania a zvýši sa zodpovednosť pri práci s umelou inteligenciou a ňou vytváraným obrazovým, zvukovým alebo audiovizuálnym obsahom. 18-2
V závere dovoľte povedať jednu dôležitú vec. Vyspelá technológia umelej inteligencie dnes umožňuje vytvoriť dôkaz bez reality. Ak právo na túto situáciu nezareaguje, pravda prestane mať ochranu a to by bol katastrofálny dôsledok. Nie je totiž možné a ani prípustné, vytvárať a šíriť falošnú realitu, ktorá poškodzuje človeka. Je bezpodmienečne nutné chrániť dôstojnosť, česť, povesť a súkromie človeka v digitálnom prostredí. Bez tejto úpravy by zostala ochrana človeka slabšia než technológia, ktorá ho môže poškodiť. Táto úprava je jasným signálom štátu, že právo platí aj v digitálnom priestore a chráni digitálnu aj skutočnú identitu ľudí. Tento zákon nie je, ako som v úvode hovoril, o technológii ani o jej spochybňovaní. Tento zákon je o ochrane človeka pred jej zneužitím. Ďakujem pekne.