49. schôdza

Keďže sa nik neprihlásil do rozpravy písomne, pýtam sa, či sa chce prihlásiť niekto ústne. Zatváram možnosť prihlásiť sa ústne ďalší. V rozprave vystúpi pán poslanec Dubovický. Ďakujem veľmi pekne.

Ďakujem veľmi pekne za slovo, pán predsedajúci. Zradu na to, že som asi 10 – 11 rokov pracoval v rôznych týchto spoločnostiach, celkom ma zaujíma táto téma. V rámci IT, umelá inteligencia, som sa rozhodol vystúpiť, poviem úprimne za seba, že povedzme, že tento návrh akože rieši vcelku niečo, čo. Samozrejme, prebieha diskusia na úrovni Európskej únie. Vychádzam z aktu o umelej inteligencii. Ale opäť mám takú pachuť v ústach pri tomto zákone, že riešime zase len jednu časť toho všetkého. Lebo aj, a budem aj konkrétne čítať niektoré veci, lebo my si tu mýlime v parlamente pojmy, dojmy a trafíme len tak, aby zákony, ktoré prichádzajú, len vyhovovali jednej časti. Lebo, dovoľte mi, ja stále mám pocit, že tento zákon vy, povedzme, robíte len kvôli tomu, aby neboli nejakým spôsobom zneužívané tie deepfakeové videá, ale povedzme tie satirické videá, tak to vnímam, ktoré sú povedzme na tých instagramových účtoch, pod hrozbou rôznych pokút a tak ďalej. Ale pán Naď, ten akt o európskej... pardon, ten akt o umelej inteligencii nehovorí len o tom, lebo teraz budem čítať: Umelá inteligencia je jednou z najinovatívnejších technológií súčasnosti, ktorá má potenciál výrazne zlepšiť mnohé oblasti ľudského života. Je schopná analyzovať obrovské množstvo dát, zjednodušiť, automatizovať rôzne úlohy v krátkom čase. Prináša obrovské výhody. Ako každá technológia, aj AI – umelá inteligencia – v nesprávnych rukách však môže predstavovať značné riziko. A tu je ten problém. Škodlivo implementované systémy môžu podporiť diskrimináciu, narušiť súkromie alebo byť nástrojom na šírenie dezinformácií či neoprávneného sledovania. Preto je dôležité, aby bol vývoj a používanie sprevádzané flexibilnou, no dôslednou reguláciou a etickými zásadami. Aby Európania mohli dôverovať tomu, čo umelá inteligencia ponúka, došlo na pôde inštitúcií EÚ k prijatiu takejto regulácie, známej ako akt o umelej inteligencii a ide o prvý zákon svojho druhu vo svete. A samozrejme, s vami súhlasím, že bolo to schválené v roku 2024. Tá transformácia prichádza postupne. Je to od roku 2026, aby sa štáty Európskej únie nejakým spôsobom prispôsobili legislatíve. Ale ja by som čakal, že s takýmto zákonom a preberaním tohto zákona príde Ministerstvo spravodlivosti a nie, že príde to ako poslanecký návrh, lebo my sa práve o tomto akte musíme rozprávať, myslím si, hlbšie a nie iba tak povrchovo, že tak akože „sorry, že nebudem mať meme video s mojou podobizňou niekde na stránkach Zomri alebo niekde inde“. My sa tu musíme baviť fakt o tých rizikách tej umelej inteligencie. A tej umelej inteligencie. A viete, to znenie dohody, ono je to dlhšie, ale napríklad to, čo nespomínate, poukazuje na tri kategórie umelej inteligencie, ktoré sú orientované na koncepciu rizika. To je neprijateľné riziko, vysoké riziko a minimálne riziko. No a tu sa musíme nejakým spôsobom baviť. Áno, bavíme sa tu, že to neprijateľné riziko je, keď sa používa nejakým spôsobom tá biometrická identifikácia a tak ďalej, sociálne bodovanie alebo systémy rozpoznávania emócií používané na pracoviskách. Samozrejme, že ja s vami súhlasím, že toto je nejakým spôsobom problém, ale vy toto v tomto zákone neriešite. Vy neriešite základ tohto aktu, čo prichádza. Ďalej definícia tých vysokých rizík. To znamená, že umelá inteligencia je určená na použitie ako výrobok, na ktorý sa vzťahujú osobitné právne predpisy Európskej únie, ako napríklad civilné letectvo, bezpečnosť vozidiel, námorné zariadenia, hračky, výťahy, tlakové zariadenia, osobné ochranné prostriedky. Opäť rozprávate tu o tom akte, že chcete riešiť, prepáčte, ale iba tie deepfakeové videá, ale nerozprávame sa o tom zákone, ako by sme sa mali rozprávať do tých detailov. Rozpráva tu, že systém umelej inteligencie patrí do ôsmich oblastí, ktoré musia byť zaregistrované v databáze EÚ. To je biometrická identifikácia, riadenie a prevádzkovanie kritickej infraštruktúry, vzdelanie, odborná príprava, zamestnanosť, prístup, vymáhanie práva a tak ďalej a tak ďalej. Ono je to rozpísané fakt veľmi obšírne a ja nevidím nejakým spôsobom význam tohto zákona, že vy prichádzate iba s jednou časťou, ktorá prakticky nerieši nič, a ešte je to tak napísané, že obšírne, že ono by... No tak nehnevajte sa na mňa, pán Naď, ale nepripadá mi to nijakým spôsobom ani férové z vašej strany. Alebo inak to poviem: Ja stále mám pocit, keď čítam váš návrh, že vy chcete v prvom rade iba preseknúť satirické alebo parodické účty a rôzne iniciatívy, ktoré nejakým spôsobom sa vysmievajú, poviem úprimne, vládnym poslancom, že vás napodobňujú. Ale viete, to nie je riešenie. Je to nepríjemné, ja vám rozumiem, ale ten zákon, čo vy predkladáte, to nie je riešenie. To nevyrieši zase absolútne nič. Lebo aj keby sa prijal tento zákon tak, ako ho navrhujete, on nevyrieši nič nejakým spôsobom. Povedzme, že bude v platnosti. Kto bude dávať tie pokuty? Na základe čoho? Pôjdeme na súd alebo a niekto sa odvolá na vyššiu normu, čo je akt o umelej inteligencii. Neviem, stále sa snažím nejakým spôsobom pochopiť, čo chcete týmto zákonom dosiahnuť a ja neviem si predstaviť, že by som to ja osobne, hovorím teraz za seba, že by som vôbec niečo také vedel podporiť z vašej strany, aj keď tomu úmyslu rozumiem. Ale ten akt, na ktorý sa aj vy odvolávate, je rozsiahly, rieši komplexné témy. Napríklad – a dávam teraz takú základnú otázku a budem veľmi rád, keď mi na ňu odpoviete – a ono to aj tu píše, že čo v prípade, ak... Lebo, tak si poviem, je tu napísané, že ide o bezpečnosť a základné práva fyzických a právnických osôb. Čo sedí s tým, čo ste povedali. Ale čo v prípade, ak máme nejakým spôsobom nejaké zneužívanie alebo v prípade, že nejakým spôsobom potrebujeme tú umelú inteligenciu hlbšie zapracovať do toho a práve taká legislatíva, čo ste vy napísali, nám to bude brániť. Takže práve preto si myslím, že nie je to dobre napísané z vašej strany. Nemali by sme ďalej diskutovať o tomto zákone. A aj preto z tejto pozície pánovi spravodajcovi chcem navrhnúť, aby sme ďalej nerokovali o tomto. O tomto ďakujem veľmi pekne.

Ďakujem pekne, pán poslanec. Ďalší v rozprave vystúpi pán poslanec Pročko. Ďakujem veľmi pekne. Milé kolegyne, milí kolegovia, tak ako pána Dubovického táto

Téma zaujíma z hľadiska IT odbornosti. Mňa to zaujíma z hľadiska mojej televíznej minulosti a ohľadom toho, že naozaj stále som majiteľom produkčnej spoločnosti. Kolega Farkašovský kedysi pôsobil v televíziách, tak ako ja. No a vie, že sa v televízii a vo filmoch používali dva druhy efektov. Boli to efekty vizuálne a efekty praktické. Tie vizuálne efekty si pri súčasných IT technológiách, ako hovoril kolega Dubovský, sú naozaj absolútne fantastické. Urobia takého poslanca Vanča, ktorý ide po schodoch, nakloní sa k poslancovi Pročkovi a povie mu špatné tri slová a už z toho bude chaos. Ale ide sa spýtať. Ako? Tento zákon pomáha Slovákom. Milí Slováci, počuli sme tu, že to pomôže aj ľuďom. Čím? Že si nejaká pani dá vytvoriť svojho manžela v erotickom salóne a potom mu to predloží na súde? Ale preboha, pán Farkašovský, SNS, už teraz sa môžeme brániť. Už teraz sa môže každý jeden človek, aj Andrej Danko na somárikovi, ktorý ide, sa môže brániť a môže dať trestné oznámenie za poškodzovanie dobrého mena, lebo ho niekto urobil na somárikovi. A ako zistíte, Karol? Počúvaj, ako, ako zistíš, že kto to urobil? Veď v súčasnej dobe 99,99 % týchto deepfake videí a obrázkov vytvárajú, no nevedz kto, kto. My nevieme, kto to vytvorí, ale zdieľa to celá dezinfo scéna, zdieľajú to ľudia rôzni. A áno, o mne je tých videí a obrázkov neúrekom, ale aj pred tromi rokmi boli tie obrázky, keď urobili Pročka a napísali tam, že Pročko povedal, že kto nechce robiť, nech si nájde druhú robotu. No mohol som sa brániť. Dal som aj trestné oznámenie, ale policajti im povedali, že je to nevypátrateľné, kto to dal a kto to, že tí, čo to šíria. Tak teraz mám tých 200 vašich voličov, ktorí to šírili, tak tých mám zažalovať, tých 200 voličov? Aj keď to nie je pravda? Aj keď Demagog.sk povedal, že veľa takýchto obrázkov nie je pravda? Ešte raz, priatelia, toto nevypátrate, kto to vytvoril, pretože nevytvorí to, koho dáme, poslanec Vančo a nedá si to na vlastnú stránku a nepovie: toto som vytvoril ja, toto deepfake video a to video je moja tvorba. No spraví to? A bol by, ospravedlňujem sa, ale bol by hlúpy, keby to spravil, pretože to sa vytvorí niekde, niekde na Súmračnej alebo niekde, niekde inde, vytvoria to trollovia, ktorí to začnú šíriť. Tak sa ťa spýtam, prosím ťa, odpovieš mi? Odpovedz mi, ako zistíš, Karol, že toto, ale neprihlásia, prosím ťa, na záverečnom slove, lebo chcem s tebou diskutovať, nebuď ako tí vaši súdruhovia, čo sa prihlásia na záverečnom slove, naložia nám, ako zistíš, že kto to vyrobil? Ako potrestáš tých niekoľko ako 1000 ľudí, ktorí budú šíriť to video. Veď to je to najstrašnejšie. Nie to, že to video sa vytvorilo a klam je klamlivé, ale to, že to tí ľudia šírili. Ja pri mojich skúsenostiach naozaj televíznych, ako je ľahké to vytvoriť, ale už teraz je napríklad dokázateľné, keď takéto video vytvoríte alebo obrázok vytvoríte, tak sú technológie, pán Dubovický vám to potvrdí, že sú technológie, ktoré vám dokážu, že to video je fejk, že to nie je pravda. A ešte raz, už teraz sú na to, o čom je, káme na to svoje, naozaj sú zákony a môžu poriešiť takého človeka. Zase prichádzate s niečím, prepáčte, chlapci z SNS, čo nikomu nepomáha, čo je úplne zbytočné, ale Andreja Danka zobrazili na somárikovi a Roberta Fica zobrazili na tomto, no tak poďme to rýchlo riešiť. Ale toto je široké spektrum. Tú Šimečku vytvárajú v kazajke, Pročka vytvárajú v kazajke. Spišiaka ešte nevytvorili v ničom, ale aj na to príde. Takže tu každého, naozaj každého jedného človeka. Akého obyčajného človeka, si hovoril o obyčajných ľuďoch? Akého obyčajného človeka vytvoria? Ukáž mi, povedz mi jeden príklad obyčajného človeka, čo sa šíri po internete a dehonestujú ho voliči opozície alebo voliči koalície. Prišiel aj Mišo Šubok, ktorý dlhé roky pôsobil tiež v médiách a môže ti povedať, že naozaj tento problém sa… Jeden príklad obyčajného človeka, čo sa šíri po internete a dehonestujú ho voliči opozície alebo voliči koalície. Prišiel aj Mišo Sabó, ktorý dlhé roky pôsobil tiež v médiách a môže ti povedať, že naozaj toto, tento problém sa nedá vyriešiť. Je to, je to neporiešiteľné. Buď zakážeme tie umelé, teda zakážeme aj umelú inteligenciu, aby to vytvárali, alebo potom to necháme tak. Takže naozaj ja sa ťa chcem spýtať a prosím ťa, odpovedz, akým spôsobom vy identifikujete ten koreň, toho tvorcu, ktorý to vytvoril, a potrestáte toho tvorcu, ktorý to vytvoril. Lebo to, že sa to šíri a že to šíri Janka Anička s trolovým smeráckym profilom, ktorý tam má dvoch priateľov a tá to šíri a od nej to šíria, tak nech sa páči. Ale ako to, ako toho človeka potrestáte? Ja mám jeden taký príklad. Môj kamarát tiež pracuje v IT odbore, tak on mi povedal, že Jožo, ja vytvorím čokoľvek, naozaj čokoľvek. Je to verná kópia. Môže, je to úžasné, ale človek, ktorý má trošičku chochmäsa, to vidí, že to je umelá inteligencia. Jednoducho, nevytvoríte teraz taký efekt, ako vytvárajú vo filmoch, keď naozaj dokonca vám vymenia hlavu, vám vymenia a máte to reálne, lebo to sú obrovské peniaze. Obrovské tie animácie a tie vizuálne efekty, ktoré sa vyrábajú v televíziách a stoja obrovské peniaze. Neviem, videli ste, určite mnohí z vás videli, pravda je. Mnohí z vás ste videli film s opicami, Kráľovstvo opíc a tieto štyri, štyri, to sú fantastické veci. Fantastické. Naozaj tam človek vedľa tej opice vyzerá úplne reálne. Nepoviete, že to nie je. Že to tak, že poviete, že to je reálna opička. Ale tieto videá, čo sa vytvárajú teraz, naozaj sú identifikovateľné a sú veľmi ľahko zistiteľné, že to tak je. Ja som sa prihlásil naozaj kvôli tomu, že zase prichádzate s niečím, čo tu bolo povedané, že to je zbytočné, pretože sa to nevyrieši, pretože to nikomu nepomáha, občanom Slovenska to nepomáha a v dobe konsolidácie, keď sa, keď by som povedal, že národná strana, Andrej Danko, ktorý by mal buchnúť do stola a zasmiať sa nad, že ide na somárikovi po púšti, ako ho tam v jednom videu ju zverejnili, tak Andrej Danko povie, že toto, čo Robert Fico robí, je zlé, katastrofálne a on to povie v televízii, ale zároveň povie, ale ja pri Róbertovi Ficovi zostanem. No tak. Róbert Fico robí zle, Andrej Danko pri ňom zostane. Takže ja ťa chcem poprosiť, keby si bol taký dobrý a odpovedal mi, neprihlásil si sa, ale dúfam, že sa prihlásiš do rozpravy. Odpovedal mi na otázky, ako budete identifikovať toho, kto to urobil? A ako ho potrestáte, keď už teraz, teraz sú možnosti, že sa môže ten, o kom sa to video vytvorilo, prípadne obrázok vytvoril, môže brániť a môže zažalovať, dať trestné oznámenie, prípadne môže dať na občiansky súd, občianskoprávne konanie, môže dať kohokoľvek, Aničku Janku, ktorá to dala na svoje, lebo aj zdieľanie je trestný čin. Ďakujem veľmi pekne. Pekne, pán poslanec, na vaše vystúpenie tri faktické. Pán

Poslanec Dubovický. Ďakujem za slovo. Ďakujem, pán

Poslanec Pročko. Ďakujem za vystúpenie, viac-menej. Aj ste potvrdili, že tento zákon absolútne nič nerieši. Ja si stále myslím, že sa odkazuje na ten akt, že absolútne nemá to nič s tým spoločné. Ale, čo mi chýba, to ste povedali, že, že nič to nerieši. Tak ja by som očakával, že vládni poslanci prídu s niečím, napríklad ono je to presne aj textom v tomto akte, že, že sa bavíme napríklad o zákaze biometrickej identifikácii v reálnom čase, ale napríklad to neplatí, neplatí to vtedy, keď ide napríklad, nevzťahuje sa to sú pre prípady, ak ide, povedzme, o špecifické účely, ako napríklad vyhľadávanie obetí obchodovania s ľuďmi či sexuálneho vykorisťovania alebo na prevenciu teroristických útokov. No, my tu máme veľmi závažný akt, ktorý prišiel z Európskej únie a my neriešime základné veci tohto aktu. My neriešime tie základné riziká toho, čo môže spôsobovať umelá inteligencia na jednej strane a na druhej strane, akým spôsobom nám tá umelá inteligencia vie pomôcť. No my to zase neriešime. Nám tu uteká vlak jedna radosť. My tu riešime dnes deepfakeové videá. Ja už, ja už aj sa celkom strácam v tých všetkých návrhoch, s čím prichádza SNS, lebo okrem toho, že niektoré zákony sú protiústavné. Nehovorím o morálnosti a iných veciach, ale súhlasím s vami, že ani tento zákon nerieši nijakým spôsobom pomoc ľuďom vonku. Je to aj uvedené v doložke vplyvov, že nemá to žiaden efekt, že, že na nič. No na čo sú nám také zákony? Načo? Na dve veci. Pani poslankyňa Plaváková.

Ďakujem veľmi pekne za

Slovo. No kolegovia v SNS sa chytili teda veľmi závažnej témy, aj veľmi komplexnej, len zase takým svojským spôsobom a ja teda aj neviem, že či ja som chcela vystúpiť aj v rozprave, len som, žiaľ, nestihla, ale rada by som počula odpovede na otázky, že, že vy tu idete až do trestnoprávnej roviny, ale nie som si istá, že či to máte vôbec celé dobre aj naformulované, lebo ja som si veľakrát tú novú trestnú skutkovú podstatu prečítala, ale neviem sa z toho vysomáriť, že či teda stačí napríklad, aby sa to udialo spôsobom spôsobilým vzbudiť dojem pravosti a už je to teda trestný čin a bude za to, myslím, že do troch rokov väzenia, alebo ako ste to mysleli? Alebo ste to mysleli v spojitosti s ohrozením vážnosti a privodením inej vážnej ujmy, lebo tak to potom nie je úplne formulované. Čiže neviem, možno sa treba na to pozrieť aj z toho legislatívno-technického hľadiska, že, že či vy vlastne tam píšete to, čo chcete dosiahnuť, lebo ja teraz ani nie som si istá, že či ste to naformulovali tak, ako ste chceli, lebo dávate tu tri roviny. Áno, občianskoprávna, civilná žaloba na ochranu osobnosti, potom priestupková a potom trestnoprávna. Ani mi nie je jasný ten rozdiel medzi tou priestupkovou a trestnoprávnou rovinou, že nejaké príklady, že kde by, kde je tá hranica, kedy to má byť už trestnoprávny postih a naozaj to znenie, skúste si to ešte raz poriadne pozrieť, že či to sedí, lebo ja som sa snažila a nevedela by som to aplikovať teda s istotou, že či dobre rozumiem tej skutkovej podstate. Ďakujem. Pán poslanec Sabo.

Ďakujem za slovo.

Aj tebe, Jozef, za to, že si ma tak priamo vlastne vtiahol do tejto diskusie. Nie, že by som sa nechcel vyjadriť, samozrejme, že chcem. A dobre si sa spýtal, že ako konkrétne bude porušenie tohto zákona teoreticky, ak teda prejde, ako bude porušenie postihovateľné, ako bude vymáhané, keď dnes iný obsah na internete za tejto vlády je takmer nevymáhateľný a nepostihovaný. Od šírenia dezinformácií cez nebezpečné vyrážanie sa, nenávistný a teraz môžeme ísť do rôznych kategórií od rasistického cez homofóbny, transfóbny, misogynný obsah, po doxing či porušovanie autorského práva a tak ďalej a tak podobne. Ten zoznam, ten list je naozaj dlhý. Ja rozhodne a to si myslím, že nikto z nás netvrdí, ani nebudeme tvrdiť, že AI a jej zneužívanie na internete nie je téma. Je a určite bude a musíme to adresovať a musíme to riešiť. Ale ja by som naozaj očakával, že o tom budeme diskutovať v tomto pléne. Vďaka komplexnej legislatívnej iniciatíve vlády, nie cez poslanecký návrh, ktorý neprešiel ani medzirezortným pripomienkovým konaním a ja teda pochybujem, že ste to, pán Kazda, konzultovali s ľuďmi, ktorí sa profesne venujú 24/7 AI. Pochybujem, ale tak akože opravte ma, ak sa mýlim.