Upozornění: Text přílohy byl získán strojově a nemusí přesně odpovídat originálu. Zejména u strojově nečitelných smluv, kde jsme použili OCR. originál dokumentu stáhnete odsud
Celý záznam KORNDLSJSEUC najdete zde
IV.
DŮVODOVÁ ZPRÁVA
k návrhu zákona o umělé inteligenci a o změně zákona č. 87/2023 Sb., o dozoru nad trhem s výrobky a o změně některých souvisejících zákonů, ve znění pozdějších předpisů
I. Obecná část
1. Zhodnocení platného právního stavu, včetně zhodnocení současného stavu ve vztahu k zákazu diskriminace a ve vztahu k rovnosti mužů a žen v rozsahu podle čl. 4 odst. 1 písm. f)
1.1. Návrh zákona
Návrh zákona o umělé inteligenci a o změně zákona č. 87/2023 Sb., o dozoru nad trhem s výrobky a o změně některých souvisejících zákonů, ve znění pozdějších předpisů, (dále jen „návrh zákona“) provádí adaptaci právního řádu ČR na nařízení Evropského parlamentu a Rady (EU) 2024/1689 ze dne 13. června 2024, kterým se stanoví harmonizovaná pravidla pro umělou inteligenci a mění nařízení (ES) č. 300/2008, (EU) č. 167/2013, (EU) č. 168/2013, (EU) 2018/858, (EU) 2018/1139 a (EU) 2019/2144 a směrnice 2014/90/EU, (EU) 2016/797 a (EU) 2020/1828 (Akt o umělé inteligenci), dále jen „AI akt“. Návrh zákona dopracovává v právu ČR některá ustanovení AI aktu tak, aby tento mohl být na území ČR plně uplatňován, prováděn a vymáhán a za tímto účelem je také navržena změna zákona č. 87/2023 Sb., o dozoru nad trhem s výrobky a některých souvisejících zákonů (dále jen „zákon č. 87/2023).
S ohledem na přímou použitelnost AI aktu je adaptační zákon koncipován minimalisticky a upravuje pouze oblasti vyžadující zapojení členských států. Princip minimalistické adaptace vychází z právní povahy nařízení EU, které je dle čl. 288 Smlouvy o fungování Evropské unie (dále jen „SFEU“) přímo použitelné a závazné ve všech členských státech bez nutnosti další implementace do vnitrostátního práva. S ohledem na tento princip je také předložený adaptační zákon zpracován tak, aby upravoval pouze nezbytné institucionální, procesní a sankční mechanismy, které AI akt svěřuje členským státům k samostatnému rozhodnutí. Podrobně upravené povinnosti a požadavky na subjekty využívající umělou inteligenci jsou obsaženy přímo v textu AI aktu. Adaptační zákon proto neupravuje detailní povinnosti jednotlivých subjektů působících v oblasti umělé inteligence. Tyto povinnosti jsou obsaženy přímo v textu samotného AI aktu, který tvoří hlavní obsah právní regulace. Z tohoto důvodu je v důvodové zprávě návrhu adaptačního zákona uveden i popis samotného AI aktu, jeho obsahu a jeho postavení vůči jiným normám.
1.2. Akt o umělé inteligenci (AI akt)
1.2.1. Účel a principy AI aktu
Evropský AI akt byl přijat za účelem zlepšit fungování vnitřního trhu stanovením jednotného právního rámce, zejména pro vývoj, uvádění na trh, uvádění do provozu a používání systémů umělé inteligence (dále jen „AI“) v Evropské unii (dále jen „Unie“) v souladu s hodnotami Unie, podporovat zavádění důvěryhodné AI zaměřené na člověka a zároveň zajistit vysokou úroveň ochrany zdraví, bezpečnosti a základních práv zakotvených v Listině základních práv Evropské unie, včetně demokracie, právního státu a ochrany životního prostředí, chránit před škodlivými účinky systémů AI v Unii, jakož i podporovat inovace. AI akt zajišťuje volný přeshraniční pohyb zboží a služeb založených na AI, čímž brání členským státům ukládat omezení vývoje, uvádění na trh a používání systémů AI, pokud to není AI aktem výslovně povoleno. AI akt je součástí Evropského balíčku na podporu AI (AI Innovation Package), což je propojený rámec podpory a regulace, který má umožnit rozvoj evropské konkurenceschopné a etické AI. Podporuje technologický pokrok, ale současně chrání lidská práva, demokracii a evropské hodnoty.
AI akt rozděluje systémy AI do čtyř kategorií podle úrovně rizika, které mohou představovat pro jednotlivce i společnost. Systémy s „nepřijatelným rizikem“ jsou v EU na základě čl. 5 AI aktu obecně zakázány, ledaže jsou splněny přísné podmínky pro uplatnění výjimky předvídané AI aktem. Patří sem například tzv. sociální skórování, manipulativní AI zaměřená na zranitelné skupiny (např. děti), nebo některé formy biometrické identifikace a sledování. Systémy AI s „vysokým rizikem“, jako jsou například AI bezpečnostní komponenty některých výrobků, AI nástroje používané při přijímání do zaměstnání, ve vzdělávání, zdravotnictví nebo justici, podléhají přísným pravidlům. Vyžaduje se mimo jiné splnění podrobných regulatorních požadavků, posouzení shody s těmito požadavky nebo registrace v celoevropské databázi. AI s „omezeným rizikem“, například chatboti nebo generativní systémy, musí být jasně označené, aby uživatel věděl, že komunikuje s umělou inteligencí. Naproti tomu AI s „minimálním rizikem“, jako jsou spam filtry nebo AI ve videohrách, nepodléhají žádné zvláštní regulaci.
Úprava v AI aktu je založena na několika základních principech: přístup založený na míře rizika, lidský dohled nad klíčovými rozhodnutími, transparentnost, ochrana základních práv a zajištění kvality a bezpečnosti AI systémů. Za porušení povinností založených AI aktem mohou být uloženy vysoké sankce, pokuty mohou dosáhnout až do 35 milionů eur nebo 7 % celosvětového obratu subjektu. AI akt se vztahuje nejen na subjekty evropské, ale i na jakékoli subjekty mimo EU, které chtějí své AI systémy uvést v EU na trh nebo do provozu.
1.2.2. Platnost a použitelnost AI aktu
· AI akt vstoupil v platnost 1. srpna 2024 a použitelnosti (účinnosti) nabývá obecně 2. srpna 2026, avšak s řadou výjimek, díky kterým je použitelnost AI aktu postupná, ve fázích.
· 6 měsíců od vstupu v platnost, tj. 2. února 2025 — začal platit zákaz systémů s nepřijatelným rizikem (např. sociální skórování, manipulativní AI, emoční inference atp.) a také povinnost zajištění AI gramotnosti u provozovatelů či uživatelů AI systémů,
· 9 měsíců od vstupu v platnost, tj. 2. května 2025 — uběhla lhůta pro přípravu kodexu pro poskytovatele obecných modelů AI (general-purpose AI, dále jen „GPAI“), tento Kodex správné praxe obecné modely AI (General-Purpose AI Code of Practice) byl za přispění Úřadu pro AI (European AI Office) zveřejněn dne 10. července 2025.
· 12 měsíců od vstupu v platnost, tj. 2. srpna 2025 – začala platit pravidla pro řízení a dozor, tj. ustanovení o správě na úrovni Unie a rovněž v členských státech povinnost určit příslušné orgány a jednotné kontaktní místo, dále začaly platit povinnosti pro obecné modely AI (GPAI), včetně transparentnosti, správy autorských práv či dokumentace a začala platit sankční ustanovení AI aktu.
· 24 měsíců od vstupu v platnost tj. 2. srpna 2026 — nastane obecná použitelnost AI aktu, včetně ustanovení vztahujících se na většinu vysoce rizikových AI systémů uvedené seznamu v příloze III (např. v oblastech zdravotnictví, zaměstnávání, vzdělávání, správy justice, kritické infrastruktury atd.) Do tohoto data má členská stát povinnost zřídit regulační sandbox pro AI.
· 36 měsíců od vstupu v platnost tj. 2. srpna 2027 — použitelnost se rozšíří i na další vysoce rizikové AI systémy uvedené v příloze I (např. AI integrována do fyzických produktů, jako lékařská zařízení, hračky atd.). GPAI systémy uvedené na trh před 2. srpnem 2025 bude nutno do tohoto data přizpůsobit podmínkám AI aktu.
· Do 31. prosince 2030 — musí být uvedeny do souladu AI systémy ve velkých informačních systémech EU (např. Schengenský informační systém), pokud byly uvedeny do provozu před 2. srpnem 2027.
1.2.3. Akty terciárního práva, soft law a jiné dokumenty k provedení AI aktu
Akt terciárního práva k AI aktu je soubor nástrojů, jehož cílem je provést zpřesnění pravidel stanovených AI aktu, konkretizovat definice, podmínky a použití AI, zajistit jednotnou interpretaci a aplikaci AI aktu v členských státech a usnadnit dohled, posouzení a vymáhání povinností.
Článek 97 AI aktu svěřuje Komisi pravomoc přijímat ve vztahu k řadě ustanovení AI aktu delegované akty (delegated acts), tj. akty v přenesené pravomoci dle čl. 290 SFEU, podléhající kontrole Evropského parlamentu a Rady, a to po dobu pěti let od 1. srpna. 2024. Komise nicméně dosud nepřijala žádný delegovaný akt, který by byl publikován v Úředním věstníku EU. Tyto delegované akty se mohou týkat např. definice obsahu pojmu „AI systém“ (čl. 96), kritérií pro vyjmutí systémů AI z pravidel vyšší rizikovosti (čl. 6), seznam vysoce rizikových použití AI (čl. 7), prahové hodnoty pro označení generických AI modelů jako systémově rizikové (čl. 51), požadavků na technickou dokumentaci pro systémy vysokého rizika a GPAI (čl. 11), postupů hodnocení shody (conformity assessments) (čl. 43) nebo EU prohlášení o shodě (EU declaration of conformity) (čl. 47).
Komise má taktéž pravomoc vydat prováděcí akty (implementing acts) dle čl. 291 SFEU, které upřesňují nebo technicky rozpracovávají pravidla stanovená v AI aktu a jsou určeny k zajištění jeho jednotného uplatňování a praktického provádění ve všech členských státech. Jedná se např. o kodex správné praxe pro generické AI (GPAI) a watermarking (čl. 56), zřízení vědecké komise nezávislých expertů (čl. 68), podmínky pro hodnocení shody GPAI (čl. 92), provozní pravidla pro regulační sandboxy (čl. 57), informace pro plány testování v reálném prostředí (čl. 60) nebo společné technické specifikace, pokud stávající normy nestačí (čl. 41).
Komise vydává také nelegislativní pokyny (guidelines) pro lepší implementaci AI aktu: doposavad šlo o Pokyny k definici systému AI a Pokyny týkající se zakázaných AI praktik. Další pokyny (např. hlášení vážných incidentů, identifikace vysoce rizikových systémů, transparentnost apod.) jsou plánovány podle různých časových milníků AI aktu: Do 12 měsíců od účinnosti: pokyny k hlášení závažných incidentů u systémů vysokého rizika (čl. 73), do 18 měsíců: praktický návod k tomu, jak určit, jestli je systém AI vysoce rizikový – včetně příkladů (čl. 6), bez pevného termínu: doplňující pokyny k definici AI systémů, požadavkům poskytovatelů, zákazům, významným úpravám, transparentnosti a vztahu mezi AI aktem a dalšími právními předpisy.
Dne 8. července 2025 Evropská komise zveřejnila Kodex správné praxe pro obecné modely (GPAI Code of Practice). Kodex byl připraven expertní skupinou a obsahuje konkrétní závazky týkající se: technické dokumentace, ochrany autorských práv, bezpečnosti a řízení rizik nebo vzor formuláře pro shrnutí tréninkových dat. Kodex vstoupil v účinnost 2. srpna 2025, s etapovým zaváděním. Tyto kodexy sice nejsou právně závazné, ale výrazně usnadňují prokazování souladu s AI aktem a jsou klíčové pro nové modely uvedené na trh po 2. srpnu 2025.
Pro řádné provádění AI aktu je dále vyžadována řada dalších materiálů jako technické harmonizační standardy, šablony a benchmarky pro používané postupy, kodexy chování (Codes of Conducts) nebo vzory pro dokumentaci.
1.2.4. Dopad AI aktu a povinnosti pro Českou republiku
AI akt je závazný v celém rozsahu a přímo použitelný ve všech členských státech. Aby mohl být AI akt vymáhán na národní úrovni, musí však být provedena adaptace právního řádu ČR, zejména dopracován národní mechanismus dozoru nad využíváním systémů AI, tedy musí být určeny příslušné orgány dozoru, oznamující orgán a jednotné kontaktní místo dle čl. 70 AI aktu, dále orgán pro oznamování závažných incidentů dle čl. 73 odst. 10 AI aktu. V neposlední řadě je nutné stanovit pravidla pro ukládání sankcí za porušování povinností stanovených AI aktem podle čl. 99. Aby Česká republika patřila do budoucna mezi lídry v oblasti AI, je rovněž potřeba v rámci opatření na podporu inovací zřídit regulační sandbox pro AI dle čl. 58 a 59 AI aktu (nikoli využít možnosti zřídit sandbox společně s jiným státem) a oznámený subjekt dle čl. 30 a násl. AI aktu. Provedení uvedené adaptace bude nejen splněním povinností členského státu dle AI aktu, ale také zásadním krokem pro rozvoj celého AI ekosystému v České republice, tedy komplexního prostředí, zahrnujícího technologie, instituce a infrastrukturu nezbytnou pro vývoj a využívání AI.
1.3. Souvztažnosti mezi AI aktem, navrhovaným zákonem a jinými právními předpisy
AI akt je komplexní rámec pro regulaci AI v EU, který funguje vedle dalších právních předpisů a doplňuje je, zasahuje horizontálně mnoho oblastí. Stejně tak navržený zákon o umělé inteligenci bude působit napříč sektory.
1.3.1. AI akt a Nový legislativní rámec EU
Nový legislativní rámec (New Legislative Framework, dále jen „NLF“) tvoří rámec pro předpisy a normy harmonizované oblasti (směrnice zpracovávané podle NLF), zaměřuje se na volný pohyb výrobků na vnitřním trhu EU a zajištění jejich bezpečnosti. Cílem NLF je zefektivnit a zjednodušit pravidla pro uvádění výrobků na trh, zlepšit dozor nad trhem, posílit kvalitu posuzování shody, zvýšit důvěru v evropské výrobky a CE označení a poskytnout legislativní „toolbox“ (soubor opatření) pro budoucí sektorovou harmonizaci. NLF je tvořen třemi horizontálními dokumenty:
· nařízení (ES) č. 765/2008, kterým se stanoví požadavky na akreditaci a dozor nad trhem s výrobky,
· rozhodnutí č. 768/2008 o společném rámci pro uvádění výrobků na trh, které obsahuje referenční ustanovení, jež mají být začleněna do revizí právních předpisů týkajících se výrobků. Ve skutečnosti se jedná o šablonu pro budoucí harmonizační právní předpisy týkající se výrobků,
· nařízení Evropského parlamentu a Rady (EU) 2019/1020 ze dne 20. června 2019 o dozoru nad trhem a souladu výrobků s předpisy a o změně směrnice 2004/42/ES a nařízení (ES) č. 765/2008 a (EU) č. 305/2011.
Nový legislativní rámec (New Legislative Framework, dále jen „NLF“) byl na úrovni Evropské unie přijat v roce 2008 s cílem aktualizovat a sjednotit pravidla pro uvádění výrobků na trh v rámci jednotného vnitřního trhu.
Podle odst. 46 úvodních ustanovení AI aktu: „Na základě nového legislativního rámce, jak je objasněno ve sdělení Komise „Modrá příručka“[footnoteRef:1] k provádění pravidel EU pro výrobky (2022), je obecným pravidlem, že na jeden produkt může být použitelný více než jeden právní akt náležející mezi harmonizační právní předpis Unie, jako jsou nařízení Evropského parlamentu a Rady (EU) 2017/745 a 2017/746 nebo směrnice Evropského parlamentu a Rady 2006/42/ES, neboť k dodání na trh nebo uvedení do provozu může dojít pouze v případě, že je produkt v souladu se všemi platnými harmonizačními právními předpisy Unie.“ [1: Pro zavádění směrnic založených na základě nového legislativního rámce byla vydána příručka, který nahrazuje The Blue Guide on the implementation of EU product rules, 2016, viz také verze česky "Modrá příručka"]
AI akt vychází z principů NLF, byť jeho konkrétní aplikace může být v některých bodech atypická, protože neupravuje jen „výrobky“ v pravém slova smyslu, ale celý okruh softwarových řešení a technologií spadajících do definice AI a jejich používání napříč sektory, funkcemi a situacemi. AI akt reguluje chování systémů AI, které mohou být součástí fyzického výrobku (např. motorové vozidlo s AI bezpečnostní komponentou), nebo čistě digitální službou (např. algoritmus v cloudu). AI akt se vztahuje na systémy, které nemusejí mít fyzickou podobu, působí relativně samostatně, dynamicky, „učí se“, adaptují se, jsou používány v reálném čase a upravují své chování podle prostředí (např. chatbot, který upravuje odpovědi podle chování uživatele, není výrobek v tradičním slova smyslu – ale je to AI systém regulovaný AI aktem). AI akt, tak jako další předpisy spadající do rámce NLF, upravuje dodání AI systému („výrobku“) na trh, posouzení shody a technické požadavky. AI akt ovšem dále reguluje i použití systémů AI a rozlišuje řadu subjektů, které se v běžném dodavatelsko-odběratelském řetězci výrobků nevyskytují. Kromě poskytovatele, uživatele, distributora, dovozce, zplnomocněného zástupce, také výrobce výrobku se zabudovaným AI systémem (product manufacturer), poskytovatele základního modelu (foundation model provider) a zavádějící subjekt (deployer), který AI systém v rámci své pravomoci využívá.
AI akt tak vychází z principů NLF a přizpůsobuje je specifikům AI technologií. AI akt například v návaznosti na NLF přebírá princip, že základní požadavky jsou formulované v samotném právním předpise, zatímco technická specifikace je ponechána na standardizačních orgánech v zájmu zvýšení koordinace, efektivity a odbornosti. Pro adaptaci na AI akt je stěžejní stanovení předpokládaných rolí vnitrostátním orgánům veřejné moci (orgány dozoru nad trhem, oznamující orgán). AI akt zavádí strukturovaný přístup k uvádění AI systémů na trh a přebírá další principy NLF, jako jsou klasifikace rizika (AI systémy jsou rozděleny do čtyř kategorií podle míry rizika nepřijatelné, vysoké, omezené a minimální), požadavky na shodu (pro vysoce rizikové AI systémy je povinné provést posouzení shody, které může zahrnovat i externí posouzení třetí stranou), označení CE (po úspěšném hodnocení shody je AI systém označen CE značkou, což znamená, že splňuje požadavky EU a může být uveden na trh) a dozor nad trhem (národní dozorové orgány zajišťují, že AI systémy uváděné na trh splňují požadavky AI aktu).
Tento horizontální právní rámec pro regulaci AI má za cíl zajistit bezpečné a důvěryhodné AI technologie na trhu EU, což je rovněž v souladu s cíli NLF.
1.3.2. Nový legislativní rámec v ČR
V České republice je NLF implementován zejména prostřednictvím zákona č. 90/2016 Sb., o posuzování shody stanovených výrobků při jejich dodávání na trh, ve znění pozdějších předpisů (dále jen „zákon č. 90/2016 Sb.). Tento zákon přejímá zásady stanovené v rozhodnutí 768/2008/ES a upravuje podmínky uvádění výrobků na trh, povinnosti výrobců, dovozců a distributorů, požadavky na označení CE, pravidla pro posuzování shody a oznámení (notifikaci) subjektů.
Dále je pro tuto oblast významný zákon č. 22/1997 Sb., o technických požadavcích na výrobky a o změně a doplnění některých zákonů, ve znění pozdějších předpisů (dále jen „zákon č. 22/1997). Tento zákon mimo jiné v českém prostředí upravuje institucionální a procedurální rámec pro akreditaci subjektů posuzování shody.
Implementace zásad NLF se rovněž promítá do dalších právních předpisů, například do sektorových zákonů upravujících specifické typy výrobků (například zdravotnické prostředky, stavební výrobky, měřidla).
1.3.3. Regulace systémů AI jako výrobků
AI akt definuje systém AI v čl. 3 odstr. 1 jako strojový systém navržený tak, aby po zavedení fungoval s různými úrovněmi autonomie a který po zavedení může vykazovat adaptabilitu a který za explicitními nebo implicitními účely z obdržených vstupů odvozuje, jak generovat výstupy, jako jsou predikce, obsah, doporučení nebo rozhodnutí, které mohou ovlivnit fyzická nebo virtuální prostředí.[footnoteRef:2] [2: Pojem dálen upřesňuje odst. 12 úvodních ustanovení: Pojem „systém AI“ v tomto nařízení by měl být jasně definován a úzce sladěn s činností mezinárodních organizací zabývajících se AI, aby byla zajištěna právní jistota, aby bylo usnadněno sbližování pravidel na mezinárodní úrovni a široké přijetí a současně aby byla poskytnuta flexibilita umožňující přizpůsobit se rychlému technologickému vývoji v této oblasti. Tato definice by kromě toho měla být založena na klíčových vlastnostech systémů AI, které je odlišují od jednodušších tradičních softwarových systémů nebo programovacích přístupů, a neměla by se vztahovat na systémy, které jsou založeny na pravidlech vymezených výhradně fyzickými osobami k automatickému provádění operací. Jednou z klíčových vlastností systémů AI je jejich schopnost odvozování. Schopností odvozování se rozumí proces získávání výstupů, jako jsou predikce, obsah, doporučení nebo rozhodnutí, které mohou ovlivnit fyzické a virtuální prostředí, a schopnost systémů AI derivovat modely nebo algoritmy, nebo oboje, ze vstupů nebo dat. Mezi techniky, které umožňují odvozování při současném budování systému AI, patří přístupy strojového učení, které se učí z dat, jak dosáhnout určitých cílů, a přístupy založené na logice a poznatcích, které ze zakódovaných poznatků nebo symbolického znázornění odvozují úkol, který má být vyřešen. Schopnost odvozování systému AI přesahuje rámec základního zpracování údajů tím, že umožňuje učení, uvažování nebo modelování. Pojem „strojové“ odkazuje na skutečnost, že systémy AI fungují prostřednictvím strojů. Odkaz na explicitní nebo implicitní cíle zdůrazňuje, že systémy AI mohou fungovat na základě explicitně definovaných cílů nebo cílů implicitních. Cíle systému AI se mohou v konkrétním kontextu lišit od zamýšleného účelu systému AI. Pro účely tohoto nařízení by se prostředím měl rozumět kontext, v němž systémy AI fungují, zatímco výstupy generované systémem AI odrážejí různé funkce vykonávané systémy AI a zahrnují predikci, obsah, doporučení nebo rozhodnutí. Systémy AI jsou navrženy tak, aby fungovaly s různou úrovní samostatnosti, což znamená, že jejich činnost je alespoň do určité míry nezávislá na zapojení člověka a jsou při ní schopny alespoň do určité míry fungovat bez lidského zásahu. Přizpůsobivostí, kterou by systém AI mohl vykazovat po zavedení, se rozumí schopnost samoučení, která umožňuje, aby se systém během používání měnil. Systémy AI lze používat samostatně nebo jako komponent určitého produktu bez ohledu na to, zda je systém do tohoto produktu fyzicky zabudován (vestavěný systém), nebo zda napomáhá funkčnosti tohoto produktu, aniž by do něho byl zabudován (nevestavěný systém).]
Systémy AI se mohou považovat za výrobky (produkty, products), nebo součásti výrobků (komponenty produktů, components of products), v závislosti na tom, k jakému užití jsou vyrobeny a určeny a jak jsou dodávány do distribuční sítě. AI akt označuje systém AI jako produkt nebo jeho součást. Např. v odst. (50) až (52) úvodních ustanovení AI aktu se hovoří o systémech AI, které jsou komponentami produktů (součástmi výrobků) nebo produkty (výrobky) samy o sobě.
Pokud jsou AI systémy součástmi výrobků, které podléhají jiné právní regulaci, vztahuje se tato regulace vždy na výrobky jako takové, přičemž na AI komponentu výrobku se vztahuje navíc ještě AI akt a v budoucnu i (nyní navržený) zákon o umělé inteligenci.
1.3.3.1. AI jako součást regulovaných výrobků
Pokud je systém AI součástí výrobku, na který dopadají harmonizační předpisy EU, tj. nařízení a směrnice, které definují technické požadavky na výrobky a zavádějí postup posuzování shody před uvedením výrobku na trh EU, platí tyto požadavky pro celý výrobek, včetně AI komponenty, na kterou dopadá AI akt. Mezi harmonizované výrobky patří například stroje, zdravotnické prostředky, elektrická zařízení, hračky nebo zařízení připojená k síti. Výrobce nebo dovozce harmonizovaného výrobku musí zajistit, že výrobek splňuje příslušné evropské regulatorní požadavky, vydá prohlášení o shodě a vybaví jej označením CE. Tento proces zajišťuje bezpečnost výrobků a volný pohyb zboží v rámci EU. Zákon č. 90/2016 Sb. zavádí pravidla a postupy, jakými se prokazuje, že výrobek splňuje požadavky příslušných harmonizovaných předpisů EU.
1.3.3.2. Vztah AI aktu a nařízení o obecné bezpečnosti výrobků
Úprava stanovená AI aktem je doplňována nařízením Evropského parlamentu a Rady (EU) 2023/988 ze dne 10. května 2023 o obecné bezpečnosti výrobků, o změně nařízení Evropského parlamentu a Rady (EU) č. 1025/2012 a směrnice Evropského parlamentu a Rady (EU) 2020/1828 a o zrušení směrnice Evropského parlamentu a Rady 2001/95/ES a směrnice Rady 87/357/EHS (dále jen „GPSR“). GPSR reaguje na skutečnost, že sebekomplexnější právní rámec regulující specifické typy a kategorie výrobků nemůže postihnout tržní realitu a její vývoj. GPSR proto zavádí široký horizontální legislativní rámec, který má vyplnit mezery a doplnit ustanovení existujících unijních předpisů, co se týče požadavků na bezpečnost výrobků (bod 6 odůvodnění GPSR). Podle čl. 2 odst. 1 GPSR se toto nařízení použije na výrobky uváděné nebo dodávané na trh, pokud v právních předpisech EU, které upravují bezpečnost těchto dotčených výrobků, neexistují zvláštní ustanovení se stejným cílem. Pokud unijní právo na daný výrobek naopak klade zvláštní požadavky v oblasti bezpečnosti, použije se GPSR subsidiárně na hlediska a rizika nebo kategorie rizik, kterých se požadavky této zvláštní unijní legislativy netýkají. Má-li se v určité situaci použít GPSR, musí jít (1) o výrobek ve smyslu tohoto nařízení a (2) zvláštní odvětvové požadavky v oblasti bezpečnosti tohoto výrobku musí absentovat, nebo být z hlediska obecného rámce stanoveného GPSR neúplné.
Co se týče kritéria výrobku, čl. 3 bod 1 GPSR vymezuje výrobek jako „předmět, propojený nebo nepropojený s jinými předměty, dodaný nebo zpřístupněný za úplatu či bezplatně, a to i v souvislosti s poskytnutím služby, který je určen spotřebitelům nebo u něhož lze za rozumně předvídatelných podmínek předpokládat, že bude spotřebiteli používán, přestože jim určen není“. V první řadě je tak třeba uvést, že by se GPSR nemělo použít na AI systémy, které jsou uváděny na trh nebo do provozu jako pouze licence k softwaru, který není propojený s žádným hmotným předmětem. Totéž vyplývá i z bodu 166 odůvodnění AI aktu, který odkazuje na GPSR s tím, že „[j]e důležité, aby systémy AI související s produkty […] byly při uvedení na trh nebo do provozu přesto bezpečné.“ Je pouze třeba upozornit, že definice věci podle GPSR nebude pokrývat všechny AI systémy související s produkty, ale pouze ty, u kterých lze alespoň rozumně předpokládat, že budou využívány spotřebiteli. GPSR se naopak nepoužije na výrobky propojené s AI systémy, které jsou určeny výlučně pro profesionální použití a jejich průnik na spotřebitelský trh nelze předpokládat.
Co se týče kritéria absence/neúplnosti zvláštních odvětvových požadavků, je třeba uvést, že kapitola III AI aktu stanovuje značně podrobné požadavky na vysoce rizikové systémy AI, které zahrnují mj. požadavky na řízení rizik včetně rizik v oblasti zdraví a bezpečnosti, přezkoumávání datových sad používaných při vývoji AI systémů i z hlediska možných zkreslení s dopady na zdraví a bezpečnost osob, uvádění informací o možných dopadech na zdraví a bezpečnost v návodech k použití aj. Celý regulatorní a institucionální rámec zavedený v souvislosti s vysoce rizikovými systémy umělé inteligence, včetně jeho návaznosti na nařízení (EU) 2019/1020, směřuje mj. právě k zajištění bezpečnosti vysoce rizikových systémů umělé inteligence. S ohledem na uvedené lze předpokládat, že z hlediska požadavků na bezpečnost vysoce rizikových systémů AI se uplatní AI akt namísto GPSR. Toto je patrné i z citovaného bodu 166 odůvodnění AI aktu, který počítá s použitím požadavků GPSR pouze na AI systémy související s produkty, které podle AI aktu „nejsou vysoce rizikové, a proto nemusí splňovat požadavky, které jsou stanoveny pro vysoce rizikové systémy AI.“
Co se tedy týče AI systémů, které nepředstavují vysoké riziko, lze počítat s tím, že bude z hlediska GPSR hodnotit orgán příslušný k vymáhání GPSR[footnoteRef:3] dodržení požadavků na bezpečnost produktů, se kterými jsou propojeny, i se zahrnutím dopadů na bezpečnost vyplývajících z těchto AI systémů, jak tomu bylo doposud. Na tyto AI systémy samotné se z hlediska AI aktu s ohledem na míru jejich rizikovosti neuplatní buď žádné zvláštní požadavky, nebo požadavky na transparentnost, nad jejichž dodržování bude vykonávat dozor příslušný orgán dozoru nad trhem podle AI aktu. [3: Srov. zákon č. 387/2024 Sb., o obecné bezpečnosti výrobků a o změně některých souvisejících zákonů, ve znění pozdějších předpisů.]
1.3.3.3. Dozor nad trhem
Nařízení (EU) 2019/1020 o dozoru nad trhem a souladu výrobků s předpisy[footnoteRef:4] (dále jen „nařízení o dozoru“), stanovuje obecný rámec pro dozor nad trhem a kontrolu produktů vstupujících na vnitřní trh EU a týká se široké škály výrobků (např. hraček, strojních zařízení, elektrických zařízení určených pro používání ve stanovených mezích napětí, …). Zavádí koordinovaný systém dozoru nad trhem, ukládá povinnosti orgánům dozoru nad trhem a hospodářským subjektům (např. výrobcům, dovozcům), zavádí pojem tzv. pověřeného zástupce v EU pro výrobky z třetích zemí. Nařízení o dozoru tak je obecným, horizontálním předpisem a platí obecně pro dozor nad všemi výrobkovými předpisy v něm uvedenými (resp. výrobkovými předpisy na něj odkazujícími) jako lex generalis, zatímco AI akt je zvláštní předpis upravující některá specifika výkonu dozoru nad AI systémy jako lex specialis. Nařízení o dozoru upravuje obecná pravidla pro dozor a AI akt na něj odkazuje, zejm. ve článcích 74 a 79. [4: Nařízení Evropského parlamentu a Rady (EU) 2019/1020 ze dne 20. června 2019 o dozoru nad trhem a souladu výrobků s předpisy a o změně směrnice 2004/42/ES a nařízení (ES) č. 765/2008 a (EU) č. 305/2011.]
Článek 74 odst. 1 AI aktu stanoví, že nařízení o dozoru se vztahuje i na AI systémy upravené AI aktem. Provozovatelé budou přitom pro účely nařízení o dozoru považováni za hospodářské subjekty, resp. AI systémy budou považovány za výrobky. Článek 74 odst. 2 ukládá orgánům dozoru povinnost vykazovat informace podle čl. 34 odst. 4 nařízení o dozoru. Odst. 3 až 5 čl. 74 se zabývá určením orgánu dozoru nad trhem u vysoce rizikových systémů AI souvisejících s produkty, na které se vztahují harmonizační předpisy a umožňuje využít pravomoci definované v nařízení o dozoru k dohledu nad AI systémy. Odst. 10 až 14 čl. 74 – uvádí další aspekty spolupráce mezi orgány dozoru, oznámení, přístupu k dokumentaci a zdrojovým kódům, vždy v návaznosti na pravomoci a postupy stanovené v nařízení do dozoru.
Článek 79 odst. 1 AI aktu stanoví, že „AI systémy představující riziko“ jsou vnímány jako „výrobek představující riziko“ podle čl. 3 bod 19 nařízení od dozoru, přičemž je dále v čl. 79 odst. 2 uvedeno, že na opatření zde upravená se použije čl. 18 nařízení o dozoru.
K nařízení o dozoru byl v ČR přijat adaptační zákon č. 87/2023 Sb. o dozoru nad trhem s výrobky a o změně některých souvisejících zákonů (zákon o dozoru nad trhem s výrobky)[footnoteRef:5]. V návrhu předloženého zákona o umělé inteligenci se na zákon o dozoru nad trhem s výrobky výslovně odkazuje v ust. § 17 „Použití zákona dozoru nad trhem s výrobky“, v němž je v odst. 1 uvedeno, že při výkonu dozoru nad dodržováním povinností podle AI aktu a zákona o umělé inteligenci postupují orgány dozoru podle zákona o dozoru nad trhem s výrobky a nařízení o dozoru a dále v odst. 2 je specifikováno, že pro účely postupu při výkonu dozoru nad dodržováním povinností podle AI aktu se systém AI považuje za výrobek. [5: Zákon č. 87/2023 Sb. o dozoru nad trhem s výrobky a o změně některých souvisejících zákonů (zákon o dozoru nad trhem s výrobky), ve znění pozdějších předpisů.
]
V souladu s čl. 70 odst. 1 AI aktu jsou v návrhu zákona o umělé inteligenci určeny orgány dozoru nad trhem: Český telekomunikační úřad (ČTÚ), který je zároveň jednotným kontaktním místem dle čl. 70 odst. 2 AI aktu, dále Česká národní banka (ČNB) a Úřad pro ochranu osobních údajů (ÚOOÚ), společně dále jen „dozorové orgány dle AI aktu“, které vykonávají pravomoci v souladu se zákony, kterými byly zřízeny. Novelou zákona č. 87/2023 Sb., o dozoru nad trhem s výrobky, která je součástí předloženého návrhu zákona o umělé inteligenci, mají být dozorové orgány dle AI aktu přičleněny k dosavadním 13 orgánům dozoru příslušným k postupu podle nařízení o dozoru nad trhem a podle zákona o dozoru nad trhem s výrobky, vyjmenovaným v jeho § 4 odst. 1. Tímto dozorové orgány dle AI aktu tímto získají pravomoci podle zákona o dozoru nad trhem s výrobky.
Podle § 4 odst. 3 zákona o dozoru nad trhem s výrobky „orgán dozoru a) spolupracuje s ostatními orgány dozoru, ústředním styčným úřadem a orgány Celní správy České republiky, b) zpracovává podklady pro vnitrostátní strategii dozoru nad trhem s výrobky podle čl. 13 nařízení o dozoru nad trhem, její aktualizaci a vyhodnocení a c) plní další povinnosti stanovené nařízením o dozoru nad trhem“. Zákon určuje jako ústřední styčný úřad podle čl. 10 odst. 3 nařízení o dozoru Ministerstvo průmyslu a obchodu.
Dozorové orgány mohou a mají spolupracovat při kontrolní činnosti, zejména u komplexních výrobků, které mohou podléhat dozoru upravenému nařízením o dozoru z hlediska požadavků stanovených AI aktem a jedním nebo více jinými unijními odvětvovými předpisy. Na základě § 25 odst. 1 zákona č. 255/2012 Sb., o kontrole (kontrolní řád), ve znění pozdějších předpisů, (dále jen „kontrolní řád“) „[k]ontrolní orgány v zájmu dobré správy vzájemně spolupracují a koordinují své kontroly.“ Podobně si budou tyto kontrolní orgány na žádost při splnění stanovených podmínek poskytovat informace a podklady potřebné k provedení kontroly, jakož i výsledky kontrol a zjištění o nedostatcích podle § 25 odst. 2 až 4 kontrolního řádu. V neposlední řadě budou dozorové orgány v zájmu ochrany práv kontrolovaných osob povinny na základě § 27 kontrolního řádu koordinovat obsah svých plánů kontrol. Ve vhodných případech by dozorové orgány měly rovněž na základě výše uvedené úpravy zvážit realizaci společných kontrol.
1.3.4. AI akt a GDPR
Podle odst. (10) úvodních ustanovení k AI aktu: Základní právo na ochranu osobních údajů je chráněno zejména nařízením 2016/679 ze dne 27. dubna 2016 o ochraně fyzických osob v souvislosti se zpracováním osobních údajů a o volném pohybu těchto údajů a o zrušení směrnice 95/46/ES (obecné nařízení o ochraně osobních údajů), nařízením 2018/1725 ze dne 23. října 2018 o ochraně fyzických osob v souvislosti se zpracováním osobních údajů orgány, institucemi a jinými subjekty Unie a o volném pohybu těchto údajů a o zrušení nařízení (ES) č. 45/2001 a rozhodnutí č. 1247/2002/ES a směrnicí 2016/680 ze dne 27. dubna 2016 o ochraně fyzických osob v souvislosti se zpracováním osobních údajů příslušnými orgány za účelem prevence, vyšetřování, odhalování či stíhání trestných činů nebo výkonu trestů, o volném pohybu těchto údajů a o zrušení rámcového rozhodnutí Rady 2008/977/SVV. Směrnice 2002/58/ES ze dne 12. července 2002 o zpracování osobních údajů a ochraně soukromí v odvětví elektronických komunikací (směrnice o soukromí a elektronických komunikacích) navíc chrání soukromý život a důvěrný charakter sdělení, mimo jiné stanovením podmínek pro uchovávání jakýchkoli osobních a neosobních údajů v koncových zařízeních a přístup k těmto údajům z takových zařízení. Uvedené právní akty Unie poskytují základ pro udržitelné a odpovědné zpracování údajů, včetně případů, kdy datové soubory zahrnují kombinaci osobních a neosobních údajů.
Nařízení 2016/679 ze dne 27. dubna 2016 o ochraně fyzických osob v souvislosti se zpracováním osobních údajů a o volném pohybu těchto údajů a o zrušení směrnice 95/46/ES (obecné nařízení o ochraně osobních údajů, dále jen „GDPR“) a AI akt se vzájemně doplňují. Zatímco GDPR se zaměřuje na ochranu osobních údajů fyzických osob a upravuje pravidla pro jejich zpracování, AI akt reguluje fungování a používání systémů AI, a to bez ohledu na to, zda zpracovávají osobní údaje. V praxi, pokud budou systémy AI zpracovávat osobní údaje, bude nutné plnit povinnosti z obou předpisů zároveň. Například pokud je systém umělé inteligence používán k automatizovanému rozhodování, které ovlivňuje jednotlivce – typicky ve veřejné správě, v HR systémech, při poskytování úvěrů nebo sledování chování uživatelů. V takovém případě musí být systém v souladu s požadavky AI aktu (např. na transparentnost, lidský dohled či řízení rizik) a zároveň musí splňovat požadavky GDPR, tedy mít právní základ pro zpracování osobních údajů, informovat subjekty údajů a respektovat jejich práva. Proto, pokud AI systém zpracovává osobní údaje, dopadá na něj vedle AI aktu také GDPR. AI akt v některých oblastech rozšiřuje principy ochrany osobních údajů – například tím, že stanovuje zvláštní požadavky na systémy s vysokým rizikem nebo transparentnost generativních AI.
Oba předpisy tedy tvoří vzájemně propojený právní rámec, který má zajistit, že rozvoj a používání umělé inteligence bude v Evropské unii probíhat bezpečně, transparentně a s plným respektem k základním právům jednotlivců, včetně práva na ochranu soukromí.
1.3.5. Zhodnocení současného stavu ve vztahu k zákazu diskriminace a ve vztahu k rovnosti mužů a žen
Zákaz diskriminace je základní zásada práva EU zakotvená v čl. 21 Listiny základních práv EU, čl. 18 a 19 SFEU a ve specifických antidiskriminačních směrnicích[footnoteRef:6]. [6: Směrnice EU o rovném zacházení bez ohledu na rasu nebo etnický původ (2000/43/ES)
Směrnice o rovném zacházení v zaměstnání a povolání (2006/54/ES
Směrnice o rovnosti v přístupu k zboží a službám (2004/113/ES)
Směrnice o rovnosti v zaměstnání bez ohledu na věk (2000/78/ES)
]
Vztah zákazu diskriminace v právu EU a AI aktu spočívá v tom, že AI akt částečně rozvíjí a technicky podporuje uplatňování práva na rovné zacházení v kontextu systémů AI, a tak podporuje praktické prosazování zákazu diskriminace v digitálním a automatizovaném prostředí. AI akt reaguje na nové riziko diskriminace, které může vznikat při automatizovaném rozhodování a využívání AI systémů – zejména pokud se tyto systémy používají v citlivých oblastech, jako je zaměstnání, vzdělávání, poskytování úvěrů, veřejná správa či bezpečnost.
AI akt doplňuje existující antidiskriminační předpisy na úrovni EU a členských států. Zajišťuje, aby AI systémy neporušovaly práva na rovné zacházení zakotvená v těchto předpisech. AI akt ve svých úvodních ustanoveních (např. článek 1 a odůvodnění) výslovně uvádí, že cílem nařízení je zajistit, aby využívání umělé inteligence bylo v souladu se základními právy, včetně zákazu diskriminace podle Listiny základních práv EU. Zakazuje a omezuje užívání AI systémů, které mohou vést k porušování rovného zacházení nebo diskriminaci (např. nepovolené biometrické sledování nebo rizikové hodnocení osob).
V souvislosti s nakládáním se systémy AI, označených v AI aktu za vysoce rizikové, právě protože mohou diskriminovat na základě pohlaví, věku, etnického původu apod., jsou AI aktem uloženy specifické povinnosti jako identifikace a řízení rizik dopadu na základní práva (včetně diskriminace), zajištění lidského dohledu, který může chybná nebo diskriminační rozhodnutí napravit, transparentnost algoritmu a přístup k vysvětlitelnému výstupu, záznamy o fungování systému, které umožňují zpětné vyhodnocení diskriminačních dopadů. AI akt výslovně zakazuje určité druhy systémů, které by mohly manipulovat lidským chováním nebo vést k sociálnímu skórování občanů, právě z důvodu ohrožení základních práv a rovnosti. Pokud by AI systém vedl k diskriminaci, odpovědnost za porušení právních předpisů může vzniknout současně podle AI Actu i podle antidiskriminační legislativy (např. GDPR, směrnice 2000/78/ES apod.).
V právu ČR je zákaz diskriminace upraven v Listině základních práv a svobod ČR. Článek 3 zakazuje diskriminaci na základě pohlaví, rasy, původu, jazyka, víry a dalších. Hlavní anti-diskriminační zákonná úprava je pak v zákoně č. 198/2009 Sb., o rovném zacházení a právních prostředcích ochrany před diskriminací. Také zákoník práce (zákon č. 262/2006 Sb.) obsahuje ustanovení o zákazu diskriminace v pracovněprávních vztazích.
Navrhovaný zákon o umělé inteligenci nicméně neupravuje žádným způsobem vztahy, které by se dotýkaly zákazu diskriminace ve smyslu antidiskriminačního zákona a je genderově neutrální – nečiní rozdíly mezi fyzickými osobami na základě jejich pohlaví.
2. Odůvodnění hlavních principů navrhované právní úpravy a shrnutí nejdůležitějších změn, které oproti stávající právní úpravě zavádí, včetně dopadů navrhovaného řešení ve vztahu k zákazu diskriminace a ve vztahu k rovnosti mužů a žen v rozsahu
2.1. Adaptace právního řádu ČR na AI akt – hlavní princip navrhovaného zákona
Hlavním principem navrhovaného zákona je adaptace právního řádu ČR nad AI akt. AI akt má přímý a okamžitý účinek – tzn. platí a je závazný ve všech členských státech EU bez nutnosti implementace do vnitrostátní legislativy (čl. 288 SFEU). Adaptační zákon je proto navržen minimalisticky a řeší jen ty části, kde se počítá se zapojením členských států. Úprava se tak omezuje jen na nezbytné institucionální, procesní a sankční prvky, které AI akt nechává na národní úrovni.
Vzhledem k tomu že AI akt je novou komplexní regulací, je potřeba také jeho provedení v právu ČR koncipovat taktéž samostatně. Jedinečná povaha AI technologií, jejich rychlý vývoj a složité právní, etické a technické otázky, které se budou dále vyvíjet s ohledem na praxi a právní úprava následně měnit, odůvodňují rovněž samostatnou regulaci.
Klíčové role v implementaci AI aktu v České republice budou zastávat Ministerstvo průmyslu a obchodu (dále jen „MPO“), Český telekomunikační úřad (dále jen „ČTÚ“), Úřad pro technickou normalizaci, metrologii a státní zkušebnictví (dále jen „ÚNMZ“) a Česká agentura pro standardizaci (dále jen „ČAS“).
MPO je gestorem AI aktu a koordinuje jeho implementaci v ČR. ČTÚ bude určen jako orgán dozoru nad trhem a bude zajišťovat dodržování pravidel AI Aktu v oblasti tržní regulace. ÚNMZ bude působit jako oznamující orgán, který jmenuje a oznamuje subjekty posuzování shody a monitoruje jejich činnost v souladu s požadavky AI Aktu. ÚNMZ bude také zřizovatel regulatorního sandboxu. ČAS bude zodpovědná za vytvoření a správu regulatorního sandboxu, který podpoří inovace a testování AI technologií.
Tento institucionální systém pro implementaci AI Aktu byl navržen nelegislativním materiálem „Návrh implementace Aktu o umělé inteligenci v České republice“, který byl schválen vládou ČR dne 28. května 2025 usnesením č. 394.
Při posuzování variant určení centrálního dozorového orgánu a oznamujícího orgánu pro implementaci AI aktu byla použita kritéria vycházející z analýzy KPMG „Analýza k implementaci AI Aktu“, materiálu Úřadu vlády „Implementace Aktu o umělé inteligenci“ (čj. 15113/2024-UVCR) ze září 2024 a resortních podkladů diskutovaných MPO se zástupci stakeholderů v rámci Výboru pro umělou inteligenci ČR.
Posuzovaná kritéria zahrnovala: nestrannost a nezávislost, existující lidské zdroje a expertizu (v oblasti AI, datových technologií, kybernetické bezpečnosti, ochrany osobních údajů, základních práv a bezpečnostních rizik), schopnost rychlého rozvoje AI expertizy, zkušenosti s výkonem dozoru a dohledem nad trhem, provázanost s existujícími povinnostmi v oblasti dohledu nad výrobky a službami, schopnost kontrolní a sankční činnosti, zkušenosti s implementací evropské digitální legislativy (např. nařízení 2022/2065 o jednotném trhu digitálních služeb, nařízení 2022/868 o evropské správě dat nebo nařízení 2023/2854), schopnost vytvořit jednotné kontaktní místo a zajistit koherentní aplikaci evropské digitální regulace na národní úrovni.
Centrální dozorový orgán je v této variantě chápán jako orgán soustřeďující AI expertizu ve státní správě a působící jako jednotné kontaktní místo pro AI akt vůči Evropské komisi. Měl by vykonávat dohled nad všemi oblastmi uvedenými v příloze III AI aktu, s výjimkou dohledu nad finančním sektorem, který bude vykonávat Česká národní banka, a oblastí biometriky a vymáhání práva, který bude mít na starost Úřad pro ochranu osobních údajů.
V rámci analýzy bylo zvažováno pět variant pro určení centrálního dozorového orgánu (přidělení gesce na ČTÚ, Národní úřad pro kybernetickou a informační bezpečnost, Digitální a informační agenturu a Českou obchodní inspekci nebo vznik nového úřadu). Na základě výše uvedených kritérií byla jako nejvhodnější varianta vyhodnocena ČTÚ, zejména s ohledem na snahu koncepčně zakotvit implementaci digitální legislativy EU na národní úrovni a podpořit synergie s dalšími digitálními regulacemi.
Klíčovým kritériem pro výběr oznamujícího orgánu je schopnost odborně posoudit, zda subjekty posuzování shody udělující certifikace vysoce rizikovým AI systémům mohou tuto činnost vykonávat, a zda jsou certifikace udělovány na základě dostatečně prokázané shody s požadavky na AI systémy. Oznamující orgán předává Komisi informace o subjektech posuzování shody a hraje důležitou roli v mezinárodní spolupráci v rámci EU.
Povinnost určit nebo zřídit oznamující orgány vyplývá z čl. 28 odst. 1 a čl. 70 odst. 1 AI aktu. ÚNMZ již dnes plní tuto funkci v rámci produktové legislativy EU (např. posuzování shody dle harmonizačních předpisů). Disponuje zavedenými procesy pro oznamování subjektů posuzování shody Evropské komisi, správu databáze oznámených subjektů (NANDO) a odborností v oblasti technické normalizace a metrologie, která je úzce propojena s procesy zajišťování kvality a posuzování shody. Znalost technických standardů je pro certifikaci vysoce rizikových AI systémů klíčová. ÚNMZ je taktéž součástí evropských a mezinárodních sítí v oblasti standardizace a posuzování shody a dokáže zajistit efektivní komunikaci s EK a členskými státy.
V oblasti regulatorního sandboxu byl identifikován potenciál pro rozvoj a provoz národního sandboxu pro AI, který zapojí relevantní subjekty z inovačního ekosystému. Tato instituce bude klíčová pro podporu inovací v AI při současném zajištění dodržování regulačních požadavků a ochrany spotřebitelů. Jako vhodná instituce byla zvolena Česká agentura pro standardizaci, která kromě tvorby a distribuce technických norem vykonává i další činnosti, např. atestace elektronických systémů spisových služeb dle zákona č. 499/2004 Sb. V rámci těchto atestací ověřuje shodu softwaru s požadavky zákona, vyhlášky a Národního standardu. ČAS má k tomu vybudované technické i personální zázemí, což je činnost příbuzná fungování regulatorního sandboxu dle AI aktu. ČAS je zřízena ÚNMZ, který je vybrán jako zřizovatel regulatorního sandboxu, jelikož splňuje podmínku AI aktu a je příslušný orgán podle AI aktu.
K problematice určení centrálního dozorového a oznamujícího orgánu proběhla v roce 2024 a počátkem roku 2025 řada konzultačních jednání, včetně meziresortních jednání (Oddělení evropské digitální agendy ÚVL a MPO), bilaterálních konzultací s klíčovými resorty a institucemi, jednání se stakeholdery (např. prg.AI, Česká asociace pro umělou inteligenci) a konzultací se členskými státy. Dne 24. února 2025 proběhla koordinační Rada k AI aktu, kde zástupci MPO, MPSV, ÚVL, NÚKIB, DIA a stakeholderů (např. SPČR, prg.AI, ČAUI, HK) diskutovali institucionální strukturu AI aktu. Závěry těchto diskuzí byly poté promítnuty do nelegislativního materiálu „Návrh implementace Aktu o umělé inteligenci v České republice“ a dne 17. března 2025 projednány na Výboru pro AI. Tento přístup a určení institucionální struktury byl následně stvrzen výše zmíněným usnesením vlády č. 394.
Tato struktura zajišťuje transparentní, koordinovaný a odborně podložený přístup k implementaci AI Aktu, který zároveň podporuje inovace prostřednictvím sandboxu a zaručuje ochranu základních práv a bezpečnosti v digitálním prostředí Česka.
Samostatně byla provedena částečná adaptace na AI akt prostřednictvím zákona č. 230/2025 Sb., který mění zákon č. 273/2008 Sb., o Policii České republiky, a který byl schválen 11. června 2025, účinnosti nabyl 1. srpna 2025. Tímto zákonem je výrazně je novelizován i zákon č. 110/2019 Sb., o zpracování osobních údajů, ve znění pozdějších předpisů (dále jen „zákon č. 110/2019), kde se do klíčové části vkládají nová ustanovení (§ 39a až 39c), která zavádějí instituci izolovaného systému pro biometrickou identifikaci v reálném čase na letištích – se stanovenými podmínkami, správními postupy, soudní kontrolou a lhůtami pro vymazání údajů.
2.2. Popis návrhu zákona
Návrh zákona má tři části a 26 paragrafů. Část první „Umělá inteligence“ (§1- §24) obsahuje vlastní adaptaci na AI akt, část druhá (§25-§26) „Změna zákona o dozoru nad trhem s výrobky“ obsahuje novelu zákona č. 87/2023 Sb. a účinnost.
Část první:
Předmět úpravy je vymezen v § 1 jako:
a) Některé postupy související s AI aktem: jedná se o některé zvláštní postupy správních orgánů v některých specifických případech, tato úprava je speciální obecně aplikovanému správnímu řádu.
b) Zřízení regulačního sandboxu pro umělou inteligenci a některé podmínky jeho provozu.
c) Některé povinnosti provozovatelů: je dopracováním ustanovení AI aktu o povinnostech, tak aby měla plné účinky v podmínkách právního řádu ČR.
d) Výkon státní správy v oblasti umělé inteligence: vymezeny jsou kompetence českých orgánů k uplatňování AI aktu zejm. jejich kontrolní pravomoc a stíhání přestupků.
V § 2 až § 4 je upravena působnost orgánů dozoru nad trhem, oznamujícího orgánu a veřejného ochránce práv.
Ustanovení § 5 až 10 stanovuje zvláštní úpravu postupů správních orgánů v případech, kdy by obecná úprava správního práva procesního nebyla postačující pro realizaci postupů předvídaných AI aktem.
V § 11 je upraven obecný odkaz na zákon č. 90/2016 Sb., který se použije subsidiárně k úpravě oznamování a posuzování shody podle AI aktu.
Ustanovení § 12 stanovuje jazykové požadavky na certifikáty vyhotovené oznámenými subjekty, prohlášení o shodě a dokumentace osvědčující shodu AI systému s požadavky AI aktu, přičemž je zde kromě češtiny a slovenštiny jako přípustný jazyk zvolena i angličtina v zájmu usnadnění vstupu na český trh.
Ustanovení § 13 až 15 zřizují regulační sandbox a upravují základní aspekty jeho provozu.
Ustanovení § 16 zavádí oznamovací povinnost pro poskytovatele (příp. jejich zplnomocněné zástupce) a vybrané zavádějící subjekty oznámit údaje systémech AI podle čl. 49 odst. 5 AI aktu.
Ustanovení § 17 odkazuje na použití zákona o dozoru nad trhem s výrobky při výkonu dozoru nad dodržováním AI aktu a stanovuje, že za výrobek se pro účely tohoto zákona považuje i AI systém.
V § 18 a § 19 je stanovena zvláštní úprava spolupráce dozorových orgánů.
Odpovědnost za porušení návrhu zákona a AI aktu, sankce a některé související postupy jsou upraveny v § 20 až 23.
Část druhá:
Součástí předkládaného návrhu zákona je také v § 24 novela zákona č. 87/2023 Sb., o dozoru nad trhem s výrobky, v jehož § 4, odst. 1 je navrženo rozšíření taxativního výčtu dosavadních orgánů dozoru nad trhem s výrobky o orgány, které přebírají povinnosti dozorových orgánů podle AI aktu: Českou národní banku, Český telekomunikační úřad a Úřad pro ochranu osobních údajů, které jsou doplněny ve výčtu pod písm. n), o), p).
Část třetí:
§ 25 upravuje účinnost navrženého zákona, a to patnáctým dnem po jeho vyhlášení.
2.3. Dopady navrhovaného řešení ve vztahu k zákazu diskriminace a ve vztahu k rovnosti mužů a žen
Tato otázka byla již rozebrána v odst. 1.3.5. Zhodnocení současného stavu ve vztahu k zákazu diskriminace a ve vztahu k rovnosti mužů a žen.
Navrhovaný zákon neupravuje žádným způsobem vztahy, které by se dotýkaly zákazu diskriminace ve smyslu antidiskriminačního zákona (tj. nerovného zacházení či znevýhodnění některé osoby z důvodu rasy, etnického původu, národnosti, pohlaví, sexuální orientace, věku, zdravotního postižení, náboženského vyznání, víry či světového názoru). Lze proto konstatovat, že právní úprava obsažená v návrhu zákona a AI aktu nemá dopady ve vztahu k zákazu diskriminace. Z hlediska rovnosti mužů a žen je návrh neutrální.
3. Vysvětlení nezbytnosti navrhované právní úpravy v jejím celku
3.1. Nezbytnost přijetí zákona adaptujícího právní řád ČR na AI akt
Návrh zákona provádí nutnou adaptaci právního řád ČR na přímo účinný AI akt. Případné neprovedení této adaptace by mělo za důsledek veškerá rizika spojená s neplněním závazků plynoucích pro Českou republiku z jejího členství v Evropské unii, zejména zahájení řízení podle čl. 258 SFEU.
Návrhem zákona jsou vytvářeny podmínky pro dosažení cílů vytyčených AI aktem, a to jednak v rámci zajištění adaptačních podmínek pro realizaci práv a povinností stanovených tímto nařízením, jednak pro vymezení dozorových a dalších orgánů. Nezbytnost navrhované právní úpravy spočívá v záměru dosáhnout výše uvedených cílů.
3.2. Důsledky případné neadaptace na AI akt pro české firmy a trh
AI akt je nařízením EU, je tedy jako všechna nařízení bez dalšího přímo závazný a účinný ve všech členských státech EU, aniž by musel být jakkoli implementován do vnitrostátního práva. Avšak aby AI akt mohl nabýt všech (pozitivních) účinků, které jsou jeho cílem, je zapotřebí, aby se vnitrostátní právní řád na jeho působení adaptoval a stát splnil povinnosti, které mu AI akt ukládá. Nepřizpůsobení právního řádu by mělo dalekosáhlé a závažné důsledky v právní, ekonomické i institucionální rovině. V případě neadaptace by nebyly stanoveny jasné podmínky pro zajištění souladu s AI aktem a nebyla by tak zajištěna právní jistota. Rovněž by nebylo možné provádět posouzení shody AI systémů a českým firmám by tak hrozilo omezení přístupu na jednotný digitální trh. V případě, že by české subjekty AI vyvíjely nebo používaly v rozporu s AI aktem, nesly by plnou odpovědnost a mohly by být pokutovány, a to i přesto, že by ČR právně neupravila potřebné mechanismy a nástroje pro compliance. AI akt stanovuje vysoké pokuty – až 35 mil. EUR nebo 7 % celosvětového ročního obratu (podle toho, která částka je vyšší) a v podmínkách právní nejistoty by pak hrozilo riziko zpoždění nebo zastavení AI projektů, omezení inovací a přesun AI firem a jejich aktivit do zemí, kde je právní rámec vymezen jasněji a tudíž bezpečněji.
3.3. Důsledky případné neadaptace na AI akt pro ČR jako členský stát EU
Vzhledem, k tomu, že AI akt členským zemím ukládá stanovit povinné orgány pro aplikaci a vymáhání (dozorové úřady, notifikované osoby pro posuzování shody, jednotné kontaktní místo) a mechanismus sankcí, neprovedení adaptačních kroků by mohlo vést Evropskou komisi k zahájení řízení pro porušení povinnosti dle čl. 258 SFEU (infringement procedure). Jedná se o několikafázové řízení, jehož prostřednictvím vykonává Komise svoji povinnost dbát nad dodržováním unijního práva (čl. 17 odst. 1 Smlouvy o EU) a může vyústit až v předložení žaloby k Soudnímu dvoru EU.
4. Zhodnocení souladu navrhované právní úpravy s ústavním pořádkem České republiky a s ostatními součástmi právního řádu
Navrhovaný zákon je plně v souladu s ústavním pořádkem ČR. Základní meze pro uplatňování právních předpisů stanoví ústavní zákon č. 1/1993 Sb., Ústava České republiky, (dále jen „Ústava“) a Listina základních práv a svobod (dále jen „Listina“), vyhlášená usnesením předsednictva České národní rady č. 2/1993 Sb., o vyhlášení Listiny základních práv a svobod jako součásti ústavního pořádku České republiky, ve znění pozdějších předpisů. Veškeré přijaté zákony musí být v souladu s Ústavou a ústavními zákony. Tento požadavek je zakotven zejména v článcích 1, 2, 9 a 10 Ústavy ČR.
Podle čl. 2 odst. 3 Ústavy a čl. 2 odst. 2 Listiny, jimiž je shodně stanoveno, že státní moc lze uplatňovat jen v případech a v mezích stanovených zákonem, a to způsobem, který zákon stanoví. Návrh zákona vychází z čl. 4 odst. 1 Listiny, jímž je stanoveno, že „povinnosti mohou být ukládány toliko na základě zákona a v jeho mezích a jen při zachování základních práv a svobod". Rovněž respektuje čl. 2 odst. 3 Listiny, podle kterého každý může činit, co není zákonem zakázáno, a nikdo nemůže být nucen činit, co zákon neukládá.
Navrhovaná právní úprava reflektuje čl. 41 odst. 2 Ústavy, podle kterého má vláda právo zákonodárné iniciativy, a je také v souladu s § 24 zákona č. 2/1969 Sb., o zřízení ministerstev a jiných ústředních orgánů státní správy České republiky, ve znění pozdějších předpisů, který uvádí, že ministerstva připravují návrhy zákonů a jiných právních předpisů týkajících se věcí, které patří do jejich působnosti, jakož i návrhy, jejichž přípravu jim uložila vláda.
Návrh zákona je v souladu s čl. 36 odst. 1 Listiny, který zakotvuje právo na spravedlivý proces („každý může domáhat stanoveným postupem svého práva u nezávislého a nestranného soudu a ve stanovených případech u jiného orgánu“). Tato úprava zaručuje každému zákonné a ústavnímu pořádku odpovídající posouzení jeho zákonem garantovaného subjektivního práva.
Návrh zákona je rovněž předkládán v souladu se zásadami správního práva, vycházejícími z principů ústavního pořádku a Listiny, a to včetně stanovení postupů ve správním řízení. Návrh plně respektuje zásadu správního trestání nullum crimen sine lege, nulla poena sine lege v čl. uvedenou 39 Listiny i zásadu ne bis in idem uvedenou v čl. 40 odst. 5 Listiny.
Navrhovaná právní úprava sleduje mj. legitimní cíl, kterým je ochrana slabší strany (spotřebitele, uživatele AI sytému), která se objektivně nalézá ve slabším postavení. Žádným způsobem taktéž není omezeno právo podnikat uvedené v čl. 26 nebo porušeno právo na ochranu soukromí v čl. 7 Listiny.
Navržený zákon právní reflektuje ústavní princip rovnosti podle čl. 1 Listiny a zákazu diskriminace podle č. 3 Listiny. V podstavení adresátů regulace není rozdíl, navíc návrh obsahuje výraznou antidiskriminační úpravu.
Návrh zákona byl připraven rovněž na základě čl. 10 Ústavy a povinnosti vyplývající z členství ČR v EU. Těmto povinnostem lze dostát jen tehdy, dojde-li k přijetí adaptačního zákona.
5. Zhodnocení slučitelnosti navrhované právní úpravy s předpisy Evropské unie, judikaturou soudních orgánů Evropské unie nebo obecnými právními zásadami práva Evropské unie (čl. 2 odst. 1 písm. a), f) a g) metodických pokynů), popřípadě i s legislativními záměry a s návrhy předpisů Evropské unie
AI akt je nařízení Evropského parlamentu a Rady, tedy právním aktem sekundárního práva EU, přijatým na základě zmocnění uvedeného v primárním právu, v čl. 288 SFEU. Předložený návrh zákona má postavení doprovodného zákona, který provádí AI akt do práva ČR a je s ním v souladu.
5.1. Soulad AI aktu a návrhu zákona s primárním právem
Samotný AI akt je v souladu s primárním právem EU a také s Listinou základních práv EU.
Zákaz diskriminace a ochrana soukromí: AI akt zakazuje používání AI systémů, které by mohly vést k diskriminaci nebo porušování soukromí. Například je zakázáno biometrické kategorizování na základě citlivých charakteristik (např. politických, náboženských nebo sexuálních preferencí), scrapování (neoprávněné shromažďování) obrazů obličejů z veřejně dostupných zdrojů pro tvorbu databází rozpoznávání obličeje, nebo emocionální rozpoznávání v pracovním prostředí nebo ve školách, kromě specifických výjimek. Tyto kroky jsou v souladu s článkem 21 Listiny základních práv EU, který zakazuje diskriminaci a článkem 8, který chrání osobní údaje.
Právo na lidský zásah a transparentnost: Pro vysoce rizikové AI systémy stanoví AI akt povinnosti provádět hodnocení dopadu na základní práva, zajišťovat lidský dohled nad rozhodnutími, poskytovat transparentní vysvětlení rozhodnutí ovlivňujících jednotlivce. To odpovídá článku 47 Listiny základních práv EU, který zaručuje právo na účinný právní prostředek a spravedlivý proces.
Ochrana před manipulací a zneužitím: AI akt zakazuje: sociální scoring (hodnocení lidí na základě jejich chování nebo osobních charakteristik), manipulativní techniky (např. subliminální techniky ovlivňující rozhodování), zranitelné exploatace (využívání zranitelností jednotlivců, např. věku, zdravotního stavu nebo sociální situace). Tato opatření chrání svobodu a autonomii jednotlivců, což je v souladu s článkem 7 Listiny základních práv EU, který zaručuje respektování soukromého a rodinného života.
Právo na účinnou nápravu a dohled: AI akt posiluje pravomoci národních orgánů chránících základní práva, když tyto orgány mají právo požadovat informace od poskytovatelů AI systémů, také mohou provádět testování AI systémů v případě podezření na porušení práv a mají povinnost informovat o závažných incidentech týkajících se AI. To odpovídá článku 41 Listiny základních práv EU, který zaručuje právo na dobré správní řízení.
AI je rovněž v souladu s obecnými právními zásadami.
Zásada právní jistoty: Pravidla AI Aktu musí být jasná, předvídatelná a konzistentní, aby uživatelé i vývojáři AI systémů mohli předvídat svá práva a povinnosti.
Zásada proporcionality: Regulace musí být přiměřená cíli, kterého má být dosaženo. AI akt zavádí přísné povinnosti v souvislosti se systémy AI, ale tyto povinnosti nesmí být přísnější, než je nezbytné k ochraně práv a veřejného zájmu (např. ochrana základních práv a bezpečnosti). Proto jsou povinnosti pro různé kategorie AI systémů odstupňovány podle jejich rizikovosti, zavedení příliš plošných povinností by bylo porušením proporcionality a mělo negativní důsledky na rozvoj AI.
Zásada rovnosti a zákaz diskriminace: AI akt zakazuje používání AI systémů, které by mohly vést k přímé i nepřímé diskriminaci na základě pohlaví, etnického původu, náboženství, zdravotního stavu či jiných chráněných znaků.
Zásada transparentnosti: Podle AI aktu musí být uživatelé informováni o tom, kdy a jak jsou AI systémy používány, aby měli možnost správně reagovat a případně využít lidského dohledu.
Zásada ochrany základních práv: AI akt musí respektovat a podporovat základní práva garantovaná Listinou základních práv EU, zejména právo na soukromí, ochranu osobních údajů a důstojnost osoby.
Zásada spravedlivého procesu a efektivní právní ochrany: AI akt zajišťuje právo na lidský zásah při použití systémů AI, možnost přezkumu rozhodnutí založených na AI a právo na nápravu. Jednotlivci, kteří jsou dotčeni rozhodnutím učiněným AI systémem, musí mít možnost obrátit se na soud nebo jiný nezávislý orgán. AI akt proto ukládá povinnost transparentnosti a lidského dohledu – aby bylo vůbec možné systém zpochybnit.
Zásada subsidiarity: Přijetí AI aktu jako celoevropské úpravy je odůvodněno tím, že EU potřebuje jednotný rámec, protože AI je přeshraniční a ovlivňuje celý vnitřní trh. AI akt musí být přiměřený a efektivní, ale nesmí zbytečně zasahovat do pravomocí členských států. Proto AI akt umožňuje a ukládá členským státům přijmout národní regulaci pro úpravu v AI aktu neupravených otázek spjatých s národním prostředím, pokud tím není ohrožena jednotnost trhu a základních práv.
Zásada ochrany legitimního očekávání: Subjekty zapojené do vývoje a nasazení AI očekávají, že regulace bude jasná, konzistentní a nezmění se bez upozornění. Náhlé změny nebo nepředvídatelné výklady AI aktu by mohly porušit tuto zásadu.
5.2. Soulad AI aktu a návrhu zákona se sekundárním právem
AI akt představuje speciální právní předpis (lex specialis) v oblasti regulace vývoje, uvádění na trh a používání systémů umělé inteligence na území Evropské unie. Z hlediska systematiky a právní povahy je AI akt sektorově neutrálním, avšak věcně specializovaným předpisem, který zavádí nový a jednotný regulatorní rámec pro technologie umělé inteligence, a to napříč různými odvětvími, sektory a typy použití. Přestože se AI systémy dotýkají mnoha oblastí práva (např. ochrana osobních údajů, odpovědnost, smluvní právo, kyberbezpečnost, zdravotnictví, doprava aj.), AI akt stanovuje specifická pravidla, která mají přednost v otázkách jím výslovně upravených, a tak v oblastech, které výslovně upravuje, má AI akt přednost před obecnými, digitálními i dozorovými předpisy. Zároveň však musí být aplikován v koordinaci s dalšími právními rámci, zejména GDPR, DSA, Data Act a dalšími souvisejícími normami (viz dále), aby bylo dosaženo právní jistoty a funkčního souladu v praxi.
5.2.1. Soulad AI aktu s ostatními klíčovými předpisy EU
AI akt doplňuje a je sladěn s ostatními klíčovými předpisy EU, ke kterým se vztahuje:
Nařízení 2016/679, obecné nařízení o ochraně osobních údajů (GDPR) viz také čl. 1.3.4.
Pokud AI systémy zpracovávají osobní údaje, AI akt odkazuje na úpravu GDPR, aniž by zaváděl paralelní úpravu. V ČR se uplatní také adaptační zákon č. 101/2000 Sb. o ochraně osobních údajů. Úřad pro ochranu osobních údajů je jedním z dozorových orgánů podle návrhu zákona a předpokládá se jeho spolupráce s dalšími dvěma dozorovými orgány, Českým telekomunikačním úřadem a Českou národní bankou.
Nový legislativní rámec viz bod 1.3.1 této důvodové zprávy.
Směrnice o odpovědnosti za vadné výrobky (85/374/EHS) v případě škody způsobené AI. Směrnice byla v ČR implementována především do zákona č. 89/2012 Sb., občanského zákoníku, konkrétně do části, která upravuje odpovědnost za škodu způsobenou vadným výrobkem (§ 2919 a násl.).
Nařízení o kybernetické bezpečnosti (EU) 2019/881 (Cybersecurity Act) se uplatní, pokud AI spadá do rámce certifikace bezpečnosti. Je zohledněna povinnost zajištění kybernetické bezpečnosti AI systémů, pokud jsou nasazeny v kritické infrastruktuře nebo jako součást zařízení podléhajících CE certifikaci. Doprovodným zákonem nařízení je zákon č. 181/2014 Sb., o kybernetické bezpečnosti, ve znění pozdějších předpisů, se kterým je také předložený návrh v souladu.
AI akt v ekosystému digitální regulace EU
Návrh zákona je rovněž slučitelný se souvisejícími legislativními akty a návrhy Evropské unie, které tvoří komplexní rámec digitální regulace. Jedná se zejména o:
· Nařízení (EU) 2022/2065 o digitálních službách (Digital Services Act, DSA)– reguluje obsah a bezpečnost online prostředí. AI může být používána ke skenování, filtrování a moderování obsahu – DSA zajišťuje, aby bylo postupováno podle pravidel a nedocházelo k zásahům do svobody projevu.
· Nařízení (EU) 2022/1925 o digitálních trzích (Digital Markets Act, DMA) – upravuje soutěžní prostředí v digitálních ekosystémech. Subjekty, které nasazují systémy AI jsou povinni respektovat pravidla soutěže a požadavky na interoperabilitu, ale také dle AI aktu na etické využití AI.
· Nařízení 2023/2854 o datech (Data Act, DA) a nařízení 2022/868 o evropské správě dat (Data Governance Act, DGA) upravují zajištění interoperabilních datových toků a práva přístupu k datům. Systémy AI potřebují využívat data pro trénink a provoz, uvedená nařízení regulují, které subjekty a jak mohou s daty nakládat. AI akt pak stanoví specifické technické a procedurální požadavky na kvalitu dat, správu dat a detekci předsudků pro systémy AI.
5.3. Zhodnocení slučitelnosti návrhu zákona s judikaturou EU
AI akt je unikátní právní úpravou a není ještě plně použitelný (účinný). Předpokládá se, že interpretace a aplikace AI aktu bude silně záviset na výkladu SDEU, zejména v otázkách souladu s primárním právem (např. ochrana základních práv, právo na soukromí), vymezení pojmů jako vysoce rizikové systémy AI, diskriminace, principu proporcionality a právní jistoty ve vztahu k AI, nebo odpovědnosti a dozoru nad AI systémy. I když SDEU dosud nerozhodoval přímo o AI aktu, existuje řada klíčových rozsudků, které mohou mít vliv na interpretaci pravidel o AI, například v oblasti ochrany osobních údajů, diskriminace, transparentnosti a proporcionality a významně ovlivní výklad a aplikaci AI aktu. S rostoucím významem AI v ekonomice a společnosti lze očekávat, že SDEU bude častěji rozhodovat o sporech souvisejících s AI aktem, a to zejména v oblastech: ochrany základních práv v kontextu AI, správního a soudního přezkumu rozhodnutí založených na AI aktu, odpovědnosti za škodu způsobenou AI systémy nebo rovného přístupu a nediskriminace. SDEU tak bude hrát klíčovou roli v tom, jakým způsobem bude regulace AI v EU fungovat v praxi.
5.4. Soulad návrhu zákona s AI aktem
Navržený zákon provádí a doplňuje AI akt v oblastech, které jsou ponechány k národní úpravě členskými státy, jako je určení vnitrostátních dozorových orgánů nad systémy AI, sankční režim za porušení povinností stanovených AI aktem, přesná pravidla kontroly rizikových AI systémů. Návrh adaptačního doprovodného zákona nijak nerozšiřuje povinnosti nad rámec povinností již stanovených v AI aktu, čímž se vyhýbá „gold-platingu“ (v tomto případě nepravému – jedná se o nařízení).
Předkládaný návrh zákona je záměrně koncipován s ohledem na budoucí vývoj evropské legislativy a umožňuje jeho flexibilní aktualizaci v návaznosti na přijetí dalších předpisů EU. Předložený návrh zákona sám nemůže být v rozporu s v předpisy EU s ohledem na princip přednosti (supremacie) práva EU (v případě rozporu mezi právem EU a členského státu se použije právo EU).
Navrhovaná právní úprava je plně slučitelná s právem Evropské unie, reflektuje současné i připravované předpisy EU v oblasti digitální politiky a umělé inteligence a odpovídá jak aktuálním právním závazkům České republiky, tak i jejím strategickým a legislativním záměrům. Současně zajišťuje soulad s ostatními navazujícími unijními předpisy v oblasti digitální regulace, čímž přispívá k posílení právní jistoty, inovací a důvěry v používání technologií umělé inteligence. Doporučuje se průběžné sledování vývoje delegovaných aktů a výkladových pokynů Evropské komise k AI aktu, aby byl zákon udržen v souladu s dynamicky se vyvíjející evropskou legislativou.
6. Zhodnocení souladu navrhované právní úpravy s mezinárodními smlouvami, jimiž je Česká republika vázána
Navrhovaná právní úprava je v souladu s mezinárodními smlouvami, jimiž je Česká republika vázána i s obecně uznávanými zásadami mezinárodního práva. Návrh zákona i AI akt jsou zejména v souladu se SEU, SFEU a s Listinou základních práv EU (dále jen „Charta základních práv“), což je rozebráno při zhodnocení slučitelnosti s právem EU, v části 5. Důvodové zprávy.
Návrh zákona i AI akt jsou v souladu také s Rámcovou úmluvou Rady Evropy o umělé inteligenci a lidských právech, demokracii a právním státu, která se stala prvním právně závazným mezinárodní dokumentem, který vytváří standardy pro vývoj a využití systémů umělé inteligence v souladu s lidskými právy, demokracií a právním státem. Klíčovými principy jsou minimalizace rizika diskriminace, ochrana soukromí, zajištění transparentnosti, přístup k nezávislému přezkumu a odpovědnost. Rovněž je upravena možnost kontroly zásahu AI do procesu voleb, do justičních systémů a dalších demokratických procesů. Výbor ministrů Rady Evropy přijal text Rámové úmluvy 17. 5. 2024, její otevření k podpisu následovalo 5. 9. 2024, během neformální konference ministrů spravedlnosti Rady Evropy ve Vilniusu. Dokument podepsali zástupci EU, USA, Velké Británie, Izraele a další.
AI akt také reflektuje Úmluvu o ochraně lidských práv a základních svobod, přijatou 4. 11. 1950 v Římě, v platnosti od 3. 9. 1953 (dále jen EÚLP), jejímž garantem je Evropský soud pro lidská práva. EÚLP chrání základní lidská práva, např. právo na život, svobodu projevu, právo na spravedlivý proces, zákaz diskriminace atd. Navrhovaný zákon i AI akt jsou plně v souladu s EÚLP, jejími protokoly, i s judikaturou Evropského soudu pro lidská práva.
AI akt přináší zásady ochrany lidských práv zakotvené v EÚLP a Chartě základních práv do oblasti AI. Uvedené lidskoprávní dokumenty tvoří hodnotový rámec a slouží jako základ pro AI aktem uložené povinnosti a právní omezení. AI akt např. vyžaduje provádět hodnocení dopadů na lidská práva u vysoce rizikových AI systémů. Ukládá dále povinnost poskytovat o AI systémech dostatečné informace (transparentnost). Jsou zakázány AI systémy, které porušují lidská práva (právo na soukromí, zákaz diskriminace atd.). Je zakotven pravidelný dohled a možnost zásahu ze strany dozorových orgánů. Důsledkem porušení uložených povinností budou dostatečně předvídatelné sankce, které budou ukládány a vymáhány prostřednictvím spravedlivého řízení, který zajišťuje všechna práva vyplývající z EÚLP a Charty základních práv.
7. Předpokládaný hospodářský a finanční dopad navrhované právní úpravy na státní rozpočet, ostatní veřejné rozpočty a na podnikatelské prostředí České republiky
Přijetí navrhované právní úpravy přinese finanční dopady na státní rozpočet, a to zejména v souvislosti se zajištěním řádného a efektivního vymáhání pravidel AI aktu a nutností posílení personálních, finančních a technických kapacit příslušných orgánů. Nicméně tato úprava představuje nezbytnou investici do zajištění souladu České republiky s evropskou legislativou v oblasti umělé inteligence. Ačkoliv přinese zvýšené náklady jak na straně veřejných rozpočtů, tak podnikatelského sektoru, její přínosy v podobě právní jistoty, zvýšení konkurenceschopnosti a ochrany základních práv převažují nad náklady. Navíc jsou některé náklady zmírněny mechanismy hrazení služeb a certifikace subjekty působícími v odvětví AI. Uplatnění jednotného a moderního rámce pro AI může podpořit rozvoj českých inovací a zvýšit konkurenceschopnost podniků na jednotném evropském trhu. V dlouhodobém horizontu pak přinést úspory díky efektivnějším a transparentnějším službám.
7. 1 Hospodářský a finanční dopad navrhované úpravy na státní rozpočet a ostatní rozpočty
Největší finanční dopady v souvislosti s navrhovanou právním úpravou vznikaní v důsledku nutnosti zajistit plnění nových kompetencí a úkolů pro zajištění řádné a efektivní implementace a vymáhání povinností stanovených v AI aktu.
Samotný AI akt stanovuje v čl. 70 odst. 3 povinnost zajistit příslušným vnitrostátním orgánům odpovídající technické a finanční zdroje a infrastrukturu pro účinné plnění jejich úkolů. Mají mít zejména trvale k dispozici dostatečný počet pracovníků, jejichž způsobilost a odborné znalosti zahrnují důkladné porozumění technologiím AI, údajům a výpočtu údajů, ochraně osobních údajů, kybernetické bezpečnosti, základním právům a zdravotním a bezpečnostním rizikům, jakož i znalost platných norem a právních předpisů. Členské státy jsou povinny každoročně tyto požadavky na odbornost a zdroje posoudit a podle potřeby je aktualizovat (čl. 70 odst. 3). Každé dva roky předkládají Evropské komisi zprávu o stavu finančních a lidských zdrojů příslušných vnitrostátních orgánů. Evropská komise následně tyto informace postoupí Evropské radě pro umělou inteligenci k projednání a případnému vydání doporučení (čl. 70 odst. 6).
Příslušné vnitrostátní orgány a zejména orgány dozoru budou muset vypořádat s řadou nových úkolů a povinností, se kterými se pojí jak jednorázové investice, tak potřeba obstarat financování průběžných provozních nákladů. Při stanovení konkrétních požadavků na rozpočet bylo rovněž potřeba vyčíslit tyto položky: finanční prostředky na zajištění a provoz úřadu, náklady na zajištění lidských zdrojů, náklady na vybavení (HW, SW) a robustní technologická infrastruktura pro regulační sandbox.
Co se týká personálních kapacit, je naprosto zásadní, aby byl zajištěn dostatečný počet zaměstnanců s právním vzděláním a jazykově vybavených zaměstnanců. Samozřejmostí musí být další průběžné vzdělávání zaměstnanců, a to nejen z důvodu „udržení tempa“ expertízy s technologickým vývojem, ale též jako motivačního prvku pro osoby zvažující zaměstnání ve státní službě. Dále je potřeba také přilákat na tuto agendu IT experty, které bude potřeba náležitě finančně ohodnotit. Stěžejní prvky právní úpravy podle AI aktu pak představují požadavky na kybernetickou bezpečnost systémů AI a systémy řízení rizik (čl. 9 a 15 AI aktu). Je tedy nezbytné vybavit především orgány dozoru odborníky i v této oblasti. Rovněž je třeba mít na paměti potřebu datových analytiků, kteří budou např. schopni vyhodnotit, zda trénovací, validační a testovací data, na jejichž základě byl systém AI vyvíjen, splňují kritéria kvality stanovená v AI aktu co do jejich vhodnosti, reprezentativnosti, chybovosti, úplnosti (čl. 10 AI aktu) apod. Poskytovatelé vysoce rizikových systémů AI též musí podle AI aktu zavést systém řízení kvality řádně zdokumentovaný formou písemných politik, postupů a pokynů (čl. 17 AI aktu), pročež i pro tyto případy bude třeba orgány dozoru nad touto povinností vhodným způsobem personálně doplnit.
Evropská komise odhadla, že celkové náklady na dodržování předpisů při uvádění AI systémů na trh se celosvětově pohybují od 1,6 miliardy EUR do 3,3 miliardy EUR ročně za předpokladu, že pouze 10 % AI technologií bude podléhat regulačním požadavkům (tj. těm, které jsou označeny jako „vysoce rizikové“). Ačkoli jsou tyto odhady stanoveny pro podniky, předmětem kontroly ze strany dozorových orgánů budou stejné povinnosti, a proto lze vycházet z těchto odhadů, tj. náklady na ověření shody v rozmezí 3 000 až 7 500 EUR za aplikaci v přímých nákladech a 1 000 až 2000 EUR v nepřímých nákladech.[footnoteRef:7] [7: COMMISSION STAFF WORKING DOCUMENT IMPACT ASSESSMENT: Accompanying the Proposal for a Regulation of the European Parliament and of the Council LAYING DOWN HARMONISED RULES ON ARTIFICIAL INTELLIGENCE (ARTIFICIAL INTELLIGENCE ACT) AND AMENDING CERTAIN UNION LEGISLATIVE ACTS, https://eur-lex.europa.eu/legal-content/EN/TXT/HTML/?uri=CELEX:52021SC0084, SWD(2021) 84 final, Brussels 21. 4. 2021 ]
Na základě výše zmíněného, provedlo Ministerstvo průmyslu a obchodu analýzu finančních požadavků na adaptaci AI aktu a jeho a vymáhání, ze které vyplývá, že celkově vznikne potřeba pro období let 2026-2028 poskytnout ze státního rozpočtu finanční prostředky ve výši 207 056 767 Kč (pro rok 2026 částku 61 097 649 Kč, pro rok 2027 částku 55 916 559 Kč a pro rok 2028 částku 90 042 559 Kč) a další odpovídající navýšení v následujících letech. Kapitola 322 zajistí pro rok 2026 mzdové a další náklady ve výši 22 659 758 Kč, pro rok 2027 ve výši 7 765 543 Kč a pro rok 2028 ve výši 6 265 543 Kč. Požadavky pro státní rozpočet k zajištění Ministerstvem financí tedy činí pro rok 2026 38 437 891 Kč, pro rok 2027 48 151 016 Kč a pro rok 2028 83 777 016 Kč. Tento propočet dle analýzy MPO byl již obsažen v nelegislativním materiálu „Návrh k implementaci Aktu o umělé inteligenci v České republice“, schváleném usnesením vlády č. 394 ze dne 28.5.2025.
Ministerstvo průmyslu a obchodu bude hradit personální náklady pro 7 osob od roku 2026 ve výši 10 469 743 Kč (ČMI, UNMZ a ČAS) v roce 2026. Dále bude hradit investiční a neinvestiční náklady v roce 2026 ve výši 12 190 015 Kč pro ÚNMZ, ČMI a ČAS. Nad rámec střednědobého výhledu budou jednotlivé kapitoly v procesu přípravy rozpočtu uplatňovat nadpožadavky a MF tyto nadpožadavky zohlední na mzdy 10 osobám ve výši 14 739 753 Kč pro rok 2026 a dále uplatní nadpožadavky na investiční a neinvestiční náklady v roce 2026. Ministerstvo financí tyto nadpožadavky zohlední, a to pro Český telekomunikační úřad, veřejného ochránce práv a Úřad pro ochranu osobních údajů na implementaci AI Aktu v celkové výši 23 698 138 Kč.
· Celkově bude hradit MPO na implementaci AI Aktu v roce 2026: 22 659 758 (personální náklady a investice/neinvestiční)
· Celkově budou zohledněny MF na implementaci AI Aktu v roce 2026: 38 437 891 (personální náklady a investice/neinvestiční)
Státní rozpočet 2026 (Kč)
Rozpočtový výhled 2027 (Kč)
Rozpočtový výhled 2028 (Kč)
Celkem
Celkem mzdové výdaje MPO
ÚNMZ+ČAS+ČMI
10 469 743
7 765 543
6 265 543
24 500 829
Celkem mzdové výdaje MF
ČTÚ+ÚOOÚ+Ochránce
14 739 753
34 358 992
49 664 992
98 763 737
Celkem mzdové výdaje MF + MPO
25 209 496
42 124 535
55 930 535
123 264 566
celkem výdaje investiční MF + MPO
13 816 129
1 070 000
21 440 000
36 326 129
celkem výdaje neinvestiční MF + MPO
22 072 024
12 722 024
12 672 024
47 466 072
Celkem výdaje investiční a neinvestiční MF + MPO
35 888 153
13 792 024
34 112 024
83 792 201
Celkem výdaje investiční a neinvestiční MPO
ÚNMZ+ČAS+ČMI
12 190 015
0
0
12 190 015
Celkem výdaje investiční a neinvestiční MF
ČTÚ+ÚOOÚ+Ochránce+ÚNMZ+ČMI+ČAS
23 698 138
13 792 024
34 112 024
71 602 186
Celkem platí MPO
22 659 758
7 765 543
6 265 543
36 690 844
Celkem platí MF
38 437 891
48 151 016
83 777 016
170 365 923
Celkem celkové výdaje (Kč)
61 097 649
55 916 559
90 042 559
207 056 767
Nová kapitola rozpočtu pro AI Akt*
0
55 916 559
90 042 559
145 959 118
Celkem nové úvazky
17
14
10
41
Celkem úvazky ze stávajících kapacit
12
0
0
12
Zajištění úvazků**
MPO: 9 již vytvořeno v roce 2025, ÚV: 3, dále MPO: 7, MFCR: 10
MFCR: 14
MFCR: 10
* nová kapitola státní rozpočtu pro AI Akt pokryje náklady pro implementaci a vymáhání AI Aktu od roku 2027
** Rozdělení úvazků hrazených MPO v roce 2026: MPO - ÚNMZ 3, ČMI 2, ČAS 2, Rozdělení úvazků hrazených MF v roce 2026 – ČTÚ – 7, ÚOOÚ - 2, KVOP – 1 = celkem 17 nových úvazků (7 zajistí MPO, 10 zajistí MFCR).
7.1.1. Shrnující přehled jednotlivých orgánů pro implementaci AI Aktu s počty nových míst
a) Český telekomunikační úřad
· Orgán dozoru nad trhem;
· Vykonává dozor nad dodržováním AI aktu, zejména má pravomoc provádět kontroly poskytovatelů AI systémů, ověřovat soulad těchto systémů s AI Aktem a ukládat poskytovatelům opatření;
· Funguje jako místo pro přijetí stížností na konkrétní systémy AI;
· Vymáhá povinnosti dle AI aktu a může udílet sankce za jejich neplnění;
· Zajišťuje komunikaci napříč EU a s Evropskou komisí v zájmu harmonizovaného dozoru nad stejnými systémy AI;
· Povinnost zřídit či určit plynoucí z čl. 70 AI aktu, termín plnění: 2. srpna 2025.
Počet SM a popis pracovní náplně
Tři nová oddělení se zaměří na: analýzu rizik a koordinaci, kontrolu AI systémů a dozor nad trhem. Tyto kompetence budou v omezené míře zajišťovány již od roku 2026 a získané zkušenosti dále předávány juniorním kolegům. Úpravy dále uvedeného organizačního členění v návaznosti na průběh implementace a koordinaci dozoru (EU), jakož i s ohledem na specifika předmětného dozoru zjištěná v praxi, nejsou vyloučeny.
Rozpis pracovní náplně jednotlivých systemizovaných míst:
Vedoucí pracovníci - 5 SM (1 SM ředitele odboru, 3 SM vedoucí oddělení; 1 SM asistentka ŘO):
· 1 SM ředitel odboru bude odpovědný za řádný chod celého specializovaného útvaru. Bude koordinovat činnost jednotlivých oddělení, komunikovat za útvar jak dovnitř úřadu, tak zejména vůči ostatním subjektům, ať již vnitrostátním, tak mezinárodním;
· další 1 SM je nutné vyčlenit pro jeho administrativní podporu ve formě asistentky;
· 3 SM vedoucí oddělení budou zajišťovat chod a koordinovat činnost jednotlivých oddělení, zajišťovat spolupráci a rozhodovat záležitosti související s výkonem činnosti oddělení.
Oddělení rizik a koordinace - 7 SM bez vedoucího oddělení:
· poskytování pokynů a poradenství ohledně provádění AI Actu – nejméně 1 SM;
· vedení dokumentace a hodnocení rizikovosti AI systémů – nejméně 2 SM;
· expertízu v oblasti řízení rizik a kvality AI systémů – nejméně 2 SM;
· mezinárodní spolupráci (součinnost při řešení stížností), jednotné kontaktní místo, účast na činnosti podskupiny Evropské rady pro umělou inteligenci, spolupráce s Evropskou komisí na provádění hodnocení souladu obecných systémů AI (nejméně 2 SM).
Oddělení kontroly AI systémů - 6 SM bez vedoucího oddělení:
· kontrolní činnost a hodnocení plnění povinností AI systémů – nejméně 2 SM;
· správnost a přesnost AI systémů – nejméně 1 SM (softwaroví inženýři);
· expertízu v oblasti bezpečnosti AI systémů – nejméně 1 SM;
· povolování uvedení vysoce rizikového systému AI na trh bez posouzení shody – nejméně 2 SM.
Oddělení dozoru nad trhem AI systémů - 6 SM bez vedoucího oddělení:
· dohled nad povinnostmi AI Actu (transparentnost, dohled, spolehlivost) – nejméně 3 SM (zejména právní experti);
· dohled nad úplností a správností trénovacích, validačních a testovacích dat – nejméně 2 SM (zejména datoví inženýři);
· dohled nad testováním AI systémů v reálných podmínkách – nejméně 1 SM.
Rozpočet
1. Na rok 2026
Osobní náklady
· Počet přepočtených úvazků (FTE): 7 (oddělení 1+6)
· Mzdy (úplné náklady na zaměstnance) v Kč: 8.400.000 Kč (bez 33,8 % povinných odvodů zaměstnavatele).
· Specifikace: platové třídy (15. tř. představení, 14. třídy odborné pozice, nižší třídy pro podpůrný personál).
· Zdůvodnění: požadavek vysoké odbornosti a nedostatku personálních kapacit na trhu práce v odvětví AI Act.
Náklady na odborné vybavení
· Specifikace (typově): Běžné IT vybavení (hardware a software) zaměstnance + místní server s licencemi (jednorázově).
· Náklady v Kč: Cca 90.000 Kč jednorázově při pořízení a 10.000 Kč roční předplatné za SW na zaměstnance, tj. 630.000 Kč (jednorázově) a 70.000 Kč (ročně) + server (HW i SW) 300.000 Kč.
Náklady na provoz pro výkon funkce
· Specifikace (typově): nájmy, kancelářské věci atd. – uvažovaná lokalita Brno, tržní nájem pro 24 zaměstnanců (plocha cca 450-500 m2) – cca 2.000.000 Kč ročně + služby spojené s nájmem ve výši cca 700.000 Kč, jednorázová úprava nájemních prostor – cca 3.000.000 Kč + základní nábytek na 1 zaměstnance cca 50.000 Kč + nábytek a vybavení pro společné prostory (jednací místnosti a technika) – cca 600.000 Kč.
· Náklady v Kč: Jednorázově na vybavení cca 3.950.000 Kč + 2.700.000 Kč ročně na nájem a služby spojené s nájmem.
Nákup externích služeb (např. školení)
· Popis služeb (typově): Specificky zaměřená odborná školení.
· Náklady v Kč: 1.000.000 Kč ročně.
2. Na rok 2027
Osobní náklady
· Počet přepočtených úvazků (FTE): 14
· Mzdy (úplné náklady na zaměstnance) v Kč: 16.800.000 Kč (bez 33,8 % povinných odvodů zaměstnavatele).
· Specifikace: platové třídy (15. tř. představení, 14. třídy odborné pozice, nižší třídy pro podpůrný personál).
· Zdůvodnění: požadavek vysoké odbornosti a nedostatku personálních kapacit na trhu práce v odvětví AI Act.
Náklady na odborné vybavení pro výkon funkce
· Specifikace (typově): Běžné IT (hardware a software) vybavení zaměstnance
· Náklady v Kč: cca 90.000 Kč jednorázově při pořízení a 10.000 Kč roční předplatné za SW na zaměstnance, tj. 630.000 Kč (jednorázově) a 140.000 Kč (ročně).
· Náklady na provoz pro výkon funkce dle AI Act
· Specifikace (typově): nájmy, kancelářské vybavení atd. – uvažovaná lokalita Brno, tržní nájem a služby pro 24 zaměstnanců (plocha cca 450-500 m2) – cca 2.700.000 Kč ročně + základní nábytek pro zaměstnance.
· Náklady v Kč: Jednorázově cca 450.000 Kč (nábytek pro další zaměstnance) + 2.700.000 Kč ročně na nájem a služby spojené s nájmem.
Nákup externích služeb (např. školení)
· Popis služeb (typově): Specificky zaměřená odborná školení.
· Náklady v Kč: 1.000.000 Kč ročně.
3. Na rok 2028
Osobní náklady
· Počet přepočtených úvazků (FTE): 24
· Mzdy (úplné náklady na zaměstnance) v Kč: 28.800.000 Kč (bez 33,8 % povinných odvodů zaměstnavatele) s trvalým vlivem na rozpočtovou kapitolu ČTÚ - 328.
· Specifikace: (15. tř. představení, 14. třídy odborné pozice, nižší třídy pro podpůrný personál).
· Zdůvodnění: požadavek vysoké odbornosti a nedostatku personálních kapacit na trhu práce v odvětví AI Act.
Náklady na odborné vybavení pro výkon funkce
· Specifikace (typově): běžné IT vybavení (hardware a software) zaměstnance + vývoj a servisní podpora dozorového IT systému, úprava a rozvoj současných IT systémů a jejich napojení na dozorový IT systém.
· Náklady v Kč: cca 90.000 Kč jednorázově při pořízení a 10.000 Kč roční předplatné za SW na zaměstnance, tj. 900.000 Kč (jednorázově) a 240.000 Kč (ročně) + 20.000.000 Kč na IT systémy.
Náklady na provoz pro výkon funkce
· Specifikace (typově): nájmy, kancelářské věci atd. – uvažovaná lokalita Brno, tržní nájem a služby pro 24 zaměstnanců (plocha cca 450-500 m2) – cca 2.700.000 Kč ročně + základní nábytek na 1 zaměstnance.
· Náklady v Kč: Jednorázově cca 700.000 Kč (nábytek pro další zaměstnance) + 2.700.000 Kč ročně na nájem a služby spojené s nájmem.
Nákup externích služeb (např. školení)
· Popis služeb (typově): Specificky zaměřená odborná školení.
· Náklady v Kč: 2.000.000 Kč ročně.
b) Úřad pro ochranu osobních údajů
· Koncentrace AI expertizy v oblasti ochrany osobních údajů (v kontextu nařízení (EU) 2016/679 nebo směrnice (EU) 2016/680);
· Výkon dozoru nad zpracováním osobních údajů v rámci modelů AI (vyřizování stížností, výkon kontrol a vedení správních řízení, vč. udílení sankcí);
· Účast v pracovních skupinách AI Boardu a relevantních skupinách EDPB;
· Předpoklad podílení se na expertním zajištění fungování sandboxů, a to v případě modelů využívajících osobní údaje;
· Edukativní a osvětová činnost;
Tyto kompetence je třeba zajišťovat již nyní s ohledem na to, že působnost ÚOOÚ v oblasti zpracování osobních údajů v rámci AI systémů není vázána na plnou účinnost AI Aktu.
Počet SM a popis pracovní náplně
ÚOOÚ nedisponuje místy, které by bylo možno přesunout. Počítá se vznikem 1 oddělení, které se zaměří na: řešení stížností v oblasti zpracování osobních údajů v rámci AI systémů, provádění kontrol AI systémů v této oblasti, vedení správních řízení (ať o přestupcích či o opatření k odstranění nedostatků), ověřování souladů AI systémů s GDPR (případně s AI aktem v rozsahu působnosti ÚOOÚ) a na mezinárodní spolupráci. Bude též vypracovávat metodické materiály typu „best practice“.
Rozpis pracovní náplně jednotlivých systemizovaných míst:
· Vedoucí oddělení, právní expert – 1 SM
· Právní expert – 1 SM
· Techničtí experti – 2SM
Rozpočet
1. Na rok 2026
Osobní náklady
· Počet přepočtených úvazků (FTE): 2 (oddělení 1+1)
· Mzdy (úplné náklady na zaměstnance) v Kč: 2 650 211 Kč s trvalým vlivem (včetně povinných odvodů zaměstnavatele a 1% povinného přídělu do FKSP). S ohledem na nutnou vysokou expertní znalost je třeba, aby každé výše uvedené systemizované služební místo bylo označeno jako klíčové ve smyslu § 1 odst. 3 nařízení vlády č. 304/2014 Sb., o platových poměrech státních zaměstnanců a bylo tedy zajištěno finanční krytí ve výši 150 % průměrného platu na systemizovaném služebním místě v kapitole 343 – Úřad pro ochranu osobních údajů.
· Specifikace: platové třídy (15. tř. představený, 15. třída odborné pozice).
· Zdůvodnění: Důvodem je požadavek vysoké odbornosti nezbytné pro výše popsaná služební místa, zejména s ohledem na značný rozsah a náročnost expertních činností v dané oblasti – v podrobnostech vizte nejnáročnější správní činnosti na daných služebních místech. Současně je třeba poukázat i na nedostatek personálních kapacit na trhu práce v odvětví AI Act.
Náklady na odborné vybavení pro výkon funkce d
· Neuplatňováno
Náklady na provoz pro výkon funkce dle
· Neuplatňováno
Nákup externích služeb (např. školení)
· Neuplatňováno
2. Na rok 2027
Osobní náklady
· Počet přepočtených úvazků (FTE): 4 (oddělení 3+1)
· Mzdy (úplné náklady na zaměstnance) v Kč: 5 300 422 Kč s trvalým vlivem (včetně povinných odvodů zaměstnavatele a 1% povinného přídělu do FKSP). S ohledem na nutnou vysokou expertní znalost je třeba, aby každé výše uvedené systemizované služební místo bylo označeno jako klíčové ve smyslu § 1 odst. 3 nařízení vlády č. 304/2014 Sb., o platových poměrech státních zaměstnanců a bylo tedy zajištěno finanční krytí ve výši 150 %průměrného platu na systemizovaném služebním místě v kapitole 343 – Úřad pro ochranu osobních údajů.
· Specifikace: platové třídy (15. tř. představený, 15. třída odborné pozice).
· Zdůvodnění: Důvodem je požadavek vysoké odbornosti nezbytné pro výše popsaná služební místa, zejména s ohledem na značný rozsah a náročnost expertních činností v dané oblasti – v podrobnostech vizte nejnáročnější správní činnosti na daných služebních místech. Současně je třeba poukázat i na nedostatek personálních kapacit na trhu práce v odvětví AI aktu.
Náklady na odborné vybavení pro výkon funkce
· Neuplatňováno
Náklady na provoz pro výkon funkce
· Neuplatňováno
Nákup externích služeb (např. školení)
· Neuplatňováno
Osobní náklady
· Počet přepočtených úvazků (FTE): 4 (oddělení 3+1)
· Mzdy (úplné náklady na zaměstnance) v Kč: 5 300 422 Kč s trvalým vlivem (včetně povinných odvodů zaměstnavatele a 1% povinného přídělu do FKSP). S ohledem na nutnou vysokou expertní znalost je třeba, aby každé výše uvedené systemizované služební místo bylo označeno jako klíčové ve smyslu § 1 odst. 3 nařízení vlády č. 304/2014 Sb., o platových poměrech státních zaměstnanců a bylo tedy zajištěno finanční krytí ve výši 150 %průměrného platu na systemizovaném služebním místě v kapitole 343 – Úřad pro ochranu osobních údajů.
· Specifikace: platové třídy (15. tř. představený, 15. třída odborné pozice).
· Zdůvodnění: Důvodem je požadavek vysoké odbornosti nezbytné pro výše popsaná služební místa, zejména s ohledem na značný rozsah a náročnost expertních činností v dané oblasti – v podrobnostech vizte nejnáročnější správní činnosti na daných služebních místech. Současně je třeba poukázat i na nedostatek personálních kapacit na trhu práce v odvětví AI aktu.
Náklady na odborné vybavení pro výkon funkce
· Neuplatňováno
Náklady na provoz pro výkon funkce
· Neuplatňováno
Nákup externích služeb (např. školení)
· Neuplatňováno
c) Úřad pro technickou normalizaci, metrologii a státní zkušebnictví
· Posuzuje naplnění požadavků na oznámené subjekty na základě jejich žádosti;
· Jmenuje a oznamuje subjekty posuzování shody;
· Odpovídá za monitorování činnosti subjektů posuzování shody;
· Spolupracuje s orgány jiných členských států;
· Projednává přestupky, resp. ukládá sankce (oznámeným subjektům);
· Nových míst: 5;
· Povinnost zřídit či určit plynoucí z čl. 70 AI Aktu, termín plnění: 2. srpna 2025.
Počet SM a popis pracovní náplně
Zřízení nového oddělení v odboru Státního zkušebnictví a výhledově jej obsadit 5 systemizovanými místy (3 zaměstnanci v roce 2026 a 2 zaměstnanci v roce 2027).
Rozpis pracovní náplně jednotlivých systemizovaných míst:
· Vedoucí pracovníci – 1 SM vedoucí oddělení
· Jmenování a oznamování subjektů posuzování shody – 1 SM
· Specialista AI – 1 SM
· Monitoring, kontrola, koordinace – 1 SM
· Sankce, kybernetická bezpečnost, bezpečnostní rizika, ochrana osobních údajů – 1 SM
Rozpočet
1. Na rok 2026
Osobní náklady
· Počet přepočtených úvazků (FTE): 2 + 1
· Mzdy (úplné náklady na zaměstnance) v Kč: 3 857 143,-
· Specifikace: 14. platové třídy, excelentní pracovníci
· Zdůvodnění: požadavek vysoké odbornosti
Náklady na odborné vybavení pro výkon funkce dle
· Specifikace (typově): stroje, technika, zařízení, software, hardware apod.
· Náklady v Kč: 500 000,-
Náklady na provoz pro výkon funkce
· Specifikace (typově): nájmy, nábytek, kancelářské věci atd.
· Náklady v Kč: celkem 760 000,-
· Nájem 50 m2(včetně energie, ostrahy, úklidu): 460 000,-Kč
· Nábytek, kancelářské potřeby: 300 000,-Kč
Nákup externích služeb (např. školení):
· Popis služeb (typově): školení, služební cesty
· Náklady v Kč: 500 000,-
2. Na rok 2027
Osobní náklady
· Počet přepočtených úvazků (FTE): 4 + 1
· Mzdy (úplné náklady na zaměstnance) v Kč: 6 428 571,-
· Specifikace: 14. platové třídy, excelentní pracovníci
· Zdůvodnění: požadavek vysoké odbornosti
Náklady na odborné vybavení pro výkon funkce
· Specifikace (typově): stroje, technika, zařízení, software, hardware apod.
· Náklady v Kč: 150 000,-
Náklady na provoz pro výkon funkce
· Specifikace (typově): nájmy, kancelářské věci atd.
· Náklady v Kč: celkem 500 000,-
· Nájem (včetně energie, ostrahy, úklidu): 460 000,-Kč
· Kancelářské potřeby: 40 000,-Kč
Nákup externích služeb (např. školení, služební cesty)
· Popis služeb (typově): školení, služební cesty
· Náklady v Kč: 500 000,-
3. Na rok 2028
Osobní náklady
· Počet přepočtených úvazků (FTE): 4 + 1
· Mzdy (úplné náklady na zaměstnance) v Kč: 6 428 571,-
· Specifikace: 14. platové třídy, excelentní pracovníci
· Zdůvodnění: požadavek vysoké odbornosti
Náklady na odborné vybavení pro výkon funkce
· Specifikace (typově): stroje, technika, zařízení, software, hardware apod.
· Náklady v Kč: 150 000,-
Náklady na provoz pro výkon funkce dle
· Specifikace (typově): nájmy, kancelářské věci atd.
· Náklady v Kč: celkem 500 000,-
· Nájem (včetně energie, ostrahy, úklidu): 460 000,-Kč
· Kancelářské potřeby: 40 000,-Kč
Nákup externích služeb (např. školení, služební cesty)
· Popis služeb (typově): školení, služební cesty
· Náklady v Kč: 500 000,-
d) Česká agentura pro standardizaci
· Poskytuje bezpečné prostředí pro testování AI systémů, podporuje transparentnost a odpovědnost, a umožňuje regulátorům lépe porozumět novým technologiím;
· Evropská komise přijme prováděcí akty, které stanoví podrobné podmínky pro zřízení, provoz a dohled nad sandboxy;
· Povinnost zřídit plynoucí z čl. 57 AI aktu (možno mezistátní), termín plnění: 2. srpna 2026.
Počet SM a popis pracovní náplně
Čtyři nová systematizovaná pracovní místa společně pokrývají právní, technickou, organizační a etickou dimenzi požadavků AI aktu a jsou nezbytné k tomu, aby Agentura mohla efektivně a důvěryhodně provozovat regulatorní sandbox. Česká agentura pro standardizaci nedisponuje místy, které by bylo možno přesunout.
Rozpis pracovní náplně jednotlivých systemizovaných míst:
· Regulatorní analytik pro AI a compliance – 1SM
· Koordinátor sandboxu a styčný důstojník pro účastníky – 1SM
· Technický expert pro audity a testování systémů AI – 1 SM
· Právní specialista na AI a ochranu údajů a specialista na etiku a dopady AI – 1 SM
Rozpočet
1. Na rok 2026
Osobní náklady
· Počet přepočtených úvazků (FTE): 2
· Mzdy (úplné náklady na zaměstnance) v Kč: 3.612.600,- Kč
· Specifikace: platové třídy, osobní ohodnocení, excelentní pracovníci
· Zdůvodnění: požadavek vysoké odbornosti
Náklady na odborné vybavení pro výkon funkce
· Specifikace (typově): stroje, technika, zařízení, software, hardware apod.
· Náklady v Kč: 650.000,- Kč
Náklady na provoz pro výkon funkce
· Specifikace (typově): nájmy, kancelářské věci, atd.
· Náklady v Kč: 2.970.000,- Kč
Nákup externích služeb (např. školení)
· Popis služeb (typově): Právní služby, odborné poradenství, školení, příprava org. rámce, EU Komise atd.
· Náklady v Kč: 7.800.000,- Kč
2. Na rok 2027
Osobní náklady
· Počet přepočtených úvazků (FTE): 4
· Mzdy (úplné náklady na zaměstnance) v Kč: 4.816.800,- Kč
· Specifikace: platové třídy, osobní ohodnocení, excelentní pracovníci
· Zdůvodnění: požadavek vysoké odbornosti
Náklady na odborné vybavení pro výkon funkce
· Specifikace (typově): stroje, technika, zařízení, software, hardware apod.
· Náklady v Kč: 150.000,- Kč
Náklady na provoz pro výkon funkce
· Specifikace (typově): nájmy, kancelářské věci, atd.
· Náklady v Kč: 1.980.000,- Kč
Nákup externích služeb (např. školení)
· Popis služeb (typově): Právní služby, odborné poradenství, školení, příprava org. rámce, EU Komise atd.
· Náklady v Kč: 4.200.000,- Kč
3. Na rok 2028
Osobní náklady
· Počet přepočtených úvazků (FTE): 4
· Mzdy (úplné náklady na zaměstnance) v Kč: 4.816.800,- Kč
· Specifikace: platové třídy, osobní ohodnocení, excelentní pracovníci
· Zdůvodnění: požadavek vysoké odbornosti dle AI aktu
Náklady na odborné vybavení pro výkon funkce
· Specifikace (typově): stroje, technika, zařízení, software, hardware apod.
· Náklady v Kč: 150.000,- Kč
Náklady na provoz pro výkon funkce
· Specifikace (typově): nájmy, kancelářské věci, atd.
· Náklady v Kč: 1.980.000,- Kč
Nákup externích služeb (např. školení)
· Popis služeb (typově): Právní služby, odborné poradenství, školení, příprava org. rámce, EU Komise atd.
· Náklady v Kč: 4.200.000,- Kč
e) Kancelář veřejného ochránce práv
· Dohlíží na dodržování povinností stanovených v právu Unie chránícím základní práva, včetně práva na nediskriminaci, v souvislosti s používáním vysoce rizikových systémů AI;
· Evropská komise vydá pokyny k vysoce rizikovým AI systémům;
· Povinnost určit v čl. 77 AI aktu, termín plnění 2. srpna 2026.
Počet SM a popis pracovní náplně
Kancelář nedisponuje místy, které by bylo možno přesunout. Materiál počítá se vznikem 1 služebního místa. Na služebním místě bude zajištováno: řešení případů týkajících se vysoce rizikových AI systémů v agendách VOP; osvětová a vzdělávací činnost; účast na pracovních skupinách AI Boardu; účast na pracovních skupinách k AI v rámci mezinárodních institucí (Equinet, ENNHRI); spolupráce s orgány dozoru nad trhem (výměna informací, žádosti o dokumentaci, společné testování, …).
Rozpočet
1. Na rok 2026
Osobní náklady
· Počet přepočtených úvazků (FTE): 1
· Mzdy (úplné náklady na zaměstnance) v Kč: 850.342,- Kč
· Specifikace: platové třídy (14. platové třídy), včetně povinného pojistného, FKSP a stravování
· Zdůvodnění: požadavek vysoké odbornosti v oblasti ochrany základních práv
Náklady na odborné vybavení pro výkon funkce
· Specifikace (typově): nábytek, kancelářské vybavení, výpočetní technika, software
· Náklady v Kč: 166.129,- Kč
Náklady na provoz pro výkon funkce
· Specifikace (typově): běžné provozní náklady
· Náklady v Kč: 92.024,- Kč
2. Na rok 2027
Osobní náklady
· Počet přepočtených úvazků (FTE): 1
· Mzdy (úplné náklady na zaměstnance) v Kč: 850.342,- Kč
· Specifikace: platové třídy (14. platové třídy), včetně povinného pojistného, FKSP a stravování
· Zdůvodnění: požadavek vysoké odbornosti v oblasti ochrany základních práv
Náklady na provoz pro výkon funkce
· Specifikace (typově): běžné provozní náklady
· Náklady v Kč: 92.024,- Kč
3. Na rok 2028
Osobní náklady
· Počet přepočtených úvazků (FTE): 1
· Mzdy (úplné náklady na zaměstnance) v Kč: 850.342,- Kč
· Specifikace: platové třídy (14. platové třídy), včetně povinného pojistného, FKSP a stravování
· Zdůvodnění: požadavek vysoké odbornosti v oblasti ochrany základních práv
Náklady na provoz pro výkon funkce
· Specifikace (typově): běžné provozní náklady
· Náklady v Kč: 92.024,- Kč
f) Oznámený subjekt
· Posuzuje shodu daného vysoce rizikového systému AI;
· Informuje oznamující orgán o vydání, odmítnutí, omezení, pozastavení nebo zrušení certifikátů technické dokumentace EU a schválení systému managementu kvality podle požadavků Přílohy VII AI aktu. Dále oznamuje okolnosti ovlivňující rozsah nebo podmínky označení a žádosti o informace od orgánů dohledu nad trhem týkající se činností posuzování shody;
· Nepovinné z AI aktu, ale nutné pro český AI sektor, termín plnění: 2. srpna 2026.
Počet SM a popis pracovní náplně
Pro zajištění vzniku, akreditace a následného oznámení oznámeného subjektu je potřeba zajistit celkem 3 nová expertní místa po přechodnou dobu roku 2026 a části roku 2027, než oznámený subjekt začne poskytovat certifikace a bude financován z tržeb za certifikace pro posouzení shody. V roce 2028 je již předpokládá plné samofinancování z plateb za vykonané posouzení shody.
Rozpis pracovní náplně jednotlivých míst:
· Vedoucí certifikačního orgánu – 1 místo
· Zástupce vedoucího certifikačního orgánu a manažer jakosti CO – 1 místo
· Techničtí experti pro hodnocení a certifikaci jednotlivých technologií AI – 1 místo (FTE) tvořené dvěma pracovníky na částečný úvazek
Rozpočet
1. Na rok 2026
Osobní náklady
· Počet přepočtených úvazků (FTE): 2,0
· Mzdy (úplné náklady na zaměstnance) v Kč: 3,0 mil. Kč
· Specifikace: VŠ vzdělaní zaměstnanci v ICT oboru, min. 5 let dokumentované odborné praxe v oboru, plnící podmínky nestrannosti a nezávislosti, znalost jednotlivých technologií AI a posuzování
· Zdůvodnění: požadavek vysoké odbornosti na jednotlivé technologie AI, vysoké nároky na VŠ vzdělání v oboru a prokázanou praxi a pracovní zkušenost s jednotlivými technologiemi, znalost problematiky posuzování shody
Náklady na odborné vybavení pro výkon funkce
· Vhodné HW testovací zařízení, např. NVIDIA DGX B200 (více informací viz. nelegislativní dokument)
· Náklady v Kč: Aktuální cena cca 11,2 milionů Kč
Náklady na provoz pro výkon funkce
· Specializovaná datová laboratoř (předpokládá se umístění na ČMI OI Olomouc, přestavba a vybavení dosavadní místnosti v rámci budovy), konektivita, zabezpečení, klimatizace, spotřeba energie
· Náklady v Kč: 1,2 mil. Kč
Nákup externích služeb (např. školení)
· Odborná certifikace zaměstnanců na jednotlivé technologie, validace jednotlivých postupů posuzování, účast ve srovnávacích slepých kruhových testech na jednotlivé technologie
· Náklady v Kč: 1,4 mil. Kč
2. Na rok 2026
V roce 2027 je předpokládané již částečné samofinancování z plateb za vykonané posouzení shody v druhé polovině roku 2027, nezbytné náklady do doby získání oznámení pro posuzování shody jsou odhadovány na 3,55 mil. Kč (Počet přepočtených úvazků (FTE): 3,0). Skutečné náklady budou záviset zejména na datu obdržení oznámení.
3. Na rok 2028
V roce 2028 je již předpokládá plné samofinancování z plateb za vykonané posouzení shody.
Podrobná tabulka – Úvazky a finance
Státní rozpočet 2026 (Kč)
Rozpočtový výhled 2027 (Kč)
Rozpočtový výhled 2028 (Kč)
Celkem
Český telekomunikační úřad
(kapitola státního rozpočtu č. 328)
nové úvazky
7
7
10
24
mzdy celkem
11 239 200
22 478 400
38 534 400
72 252 000
investiční
1 000 000
770 000
21 140 000
22 910 000
neinvestiční
7 650 000
4 150 000
5 400 000
17 200 000
celkové výdaje
19 889 200
27 398 400
65 074 400
112 362 000
Úřad pro technickou normalizaci, metrologii a státní zkušebnictví
(kapitola státního rozpočtu č. 322)
nové úvazky
3
2
0
5
mzdy
3 857 143
6 428 571
6 428 571
16 714 285
z toho mzdy hradí MPO
3 857 143
3 857 143
3 857 143
11 571 429
investiční
800 000
150 000
150 000
1 100 000
neinvestiční
960 000
1 000 000
1 000 0000
2 960 000
celkové výdaje
5 617 143
7 578 571
7 578 571
20 774 285
Oznámený subjekt
(kapitola státního rozpočtu č. 322)
nové úvazky***
2
1
0
3
příspěvky na činnost
3 000 000
2 250 000
0
5 250 000
příspěvky na činnost MPO
3 000 000
1 500 000
0
4 500 000
investiční
11 200 000
0
0
11 200 000
neinvestiční
2 600 000
1 300 000
0
3 900 000
celkové výdaje
16 800 000
3 550 000
0
20 350 000
Česká agentura pro standardizaci
(kapitola státního rozpočtu č. 322)
nové úvazky***
2
2
0
4
příspěvky na činnost
3 612 600
4 816 800
4 816 800
13 246 200
příspěvky na činnost MPO/ÚNMZ
3 612 600
2 408 400
2 408 400
8 429 400
investiční
650 000
150 000
150 000
950 000
neinvestiční
10 770 000
6 180 000
6 180 000
23 130 000
celkové výdaje
15 032 600
11 146 800
11 146 800
37 326 200
Úřad pro ochranu osobních údajů
(kapitola státního rozpočtu č. 343)
nové úvazky
2
2
0
4
mzdy
2 650 211
5 300 422
5 300 422
13 251 055
investiční
-
-
-
0
neinvestiční
-
-
-
0
celkové výdaje
2 650 211
5 300 422
5 300 422
13 251 055
Kancelář veřejného ochránce práv
(kapitola státního rozpočtu č. 309)
nové úvazky
1
0
0
1
mzdy
850 342
850 342
850 342
2 551 026
investiční
166 129
0
0
166 129
neinvestiční
92 024
92 024
92 024
276 072
celkové výdaje
1 108 495
942 366
942 366
2 993 227
7.2. Dopad na ostatní veřejné rozpočty
Vzhledem k přirozené návaznosti úpravy na veřejnou správu a další veřejné subjekty lze očekávat: zvýšené nároky na školení a vzdělávání zaměstnanců v oblasti AI a právní regulace a náklady na modernizaci a zajištění souladu AI systémů využívaných veřejnou správou. V dlouhodobém horizontu by však mělo dojít k úsporám díky efektivnějším a transparentnějším službám.
7.3. Dopad na podnikatelské prostředí
Navrhovaná úprava přinese podnikatelskému prostředí v ČR významné přínosy. Hlavním přínosem je zvýšení právní jistoty, kdy jasná pravidla a certifikační mechanismy umožní podnikům lépe plánovat vývoj, uvádění na trh a využívání AI systémů v souladu s evropskými standardy. Uplatnění jednotného a moderního rámce pro AI může podpořit rozvoj českých inovací a zvýšit konkurenceschopnost podniků na jednotném evropském trhu.
Na druhé straně nová úprava přinese i některé náklady na compliance, když podniky, zejména malé a střední (dále jen „MSP“), budou muset investovat do přizpůsobení svých produktů a procesů novým požadavkům, což může znamenat zvýšené administrativní a technologické náklady. Avšak AI akt zohledňuje specifické potřeby MSP i start-upů, a poskytuje jim určité výjimky, úlevy nebo podpůrné mechanismy, aniž by snižoval požadavky na bezpečnost a důvěryhodnost AI systémů. AI akt nezprošťuje MSP povinností, pokud by vyvíjely např. vysoce rizikové AI systémy, ale zjednodušuje postupy a nabízí podporu. MSP budou moci používat zjednodušené šablony pro technickou dokumentaci, správu rizik nebo registraci systémů. Cílem je snížit administrativní zátěž spojenou s posouzením shody a lidským dohledem. MSP budou mít dále zvýhodněné podmínky při využívání regulačního sandboxu, kde mohou vyvíjet a testovat AI systémy pod dohledem a získat zpětnou vazbu a usměrnění, aniž by čelily sankcím. MSP také získají výjimky z některých formálních požadavků po dobu testování, zejména finančních. Podle AI aktu mají dále Evropská komise i členské státy poskytovat poradenské služby pro MSP, finanční podporu (např. z evropských fondů nebo programů typu Digitální Evropa), přístup k open-source nástrojům a referenčním databázím. MSP budou také moci využívat certifikované modely vyvinuté většími poskytovateli, což usnadní splnění požadavků na shodu.
8. Zhodnocení, zda návrhem zákona není zakládána veřejná podpora
Návrh zákona nezakládá veřejnou podporu.
9. Zhodnocení dopadů na práva a povinnosti fyzických a právnických osob
AI akt výrazně ovlivňuje práva a povinnosti osob v digitálním prostoru. Posiluje postavení jednotlivce, klade důraz na etické a nediskriminační využití AI a zavádí přísné povinnosti pro subjekty, které AI vyvíjejí a provozují. AI akt má dopad na práva a povinnosti jednotlivců (fyzických osob) i organizací (právnických osob), a to v několika klíčových rovinách:
9.1. Dopad na práva fyzických osob („dotčené osoby“)
AI akt posiluje ochranu jednotlivců před škodlivým nebo nespravedlivým využitím AI. Dotčené osoby získávají následující práva:
· Právo na informace: Pokud osoba jedná se systémem AI, musí být na tuto skutečnost výslovně upozorněna (čl. 52). U generativních systémů (např. deepfake, syntetický obsah) je požadováno zřetelné označení výstupů jako uměle vytvořených.
· Právo na lidský dohled a přezkum: V případě, že AI systém činí rozhodnutí se závažným právním nebo faktickým dopadem (např. zamítnutí dávky, úvěru, odmítnutí zaměstnání), má osoba právo žádat lidský zásah nebo přezkum rozhodnutí.
· Právo na rovné zacházení: Osoba má právo, aby AI systém nerozhodoval diskriminačně, např. na základě pohlaví, věku, rasy, zdravotního postižení nebo jiného chráněného znaku. AI systémy musí být navrženy a používány nediskriminačně a spravedlivě.
· Právo podat stížnost: Dotčená osoba má právo podat stížnost k příslušnému dozorovému orgánu, pokud se domnívá, že systém AI: jedná v rozporu s pravidly nařízení nebo způsobil újmu nebo diskriminaci.
9.2. Dopad na povinnosti právnických osob
Právnické osoby, které AI systémy vyvíjejí, poskytují nebo nasazují, mají podle AI aktu řadu právních povinností:
· Kategorizace systému podle rizika: musí určit, zda jejich AI systém spadá do: zakázaných systémů (čl. 5), vysoce rizikových systémů (čl. 6–29), systémů s omezeným rizikem (např. chatboti), nebo obecných modelů AI (GPAI systémů).
· Povinnost řízení rizik: povinnosti u vysoce rizikových systémů zahrnují: posouzení rizik včetně dopadu na základní práva, vedení technické dokumentace, zajištění kvality dat a zamezení biasu, umožnění lidského dohledu, transparentnost vůči uživatelům.
· Registrace a dohled: poskytovatel vysoce rizikového systému jej musí zaregistrovat v centrálním unijním registru a je podroben pravomocem dozorového orgánu.
· Oznamování incidentů: povinnost oznámit závažné incidenty způsobené AI systémem (např. újma, diskriminace, selhání bezpečnostních funkcí).
· Spolupráce s dozorovým orgánem: poskytovatelé a provozovatelé AI musí: poskytnout informace a dokumentaci, umožnit audit systému, spolupracovat při vyšetřování stížností nebo porušení.
10. Zhodnocení sociálních dopadů, včetně dopadů na specifické skupiny obyvatel, zejména osoby sociálně slabé, osoby se zdravotním postižením a národnostní menšiny, dopadů na ochranu práv dětí a dopadů na životní prostředí
V rámci hodnocení dopadů se předkladatel zaměřuje především na dopady, které vyplývají z AI aktu. Návrh zákona bude mít dopady rovněž prostřednictvím adaptace a vymáhání AI aktu.
10.1. Zhodnocení sociálních dopadů
AI akt výrazně posiluje ochranu před diskriminací ve všech oblastech, kde se AI používá. Zavádí důležité preventivní, kontrolní a nápravné mechanismy, které pomáhají identifikovat a eliminovat diskriminační praktiky způsobené umělou inteligencí. AI akt v článku 5 „Zakázané postupy v oblasti AI“ stanoví konkrétní zakázané praktiky, které mohou vést k diskriminaci nebo zneužívání zranitelných skupin. Jedná se zejména o úpravu v čl. 5 odst. 1 písm. b), c), d), g) AI aktu, cílem těchto ustanovení je ochrana základních práv jednotlivců a prevence systémového zneužívání AI technologií v oblastech, kde může docházet k zásahům do lidské důstojnosti, rovnosti či osobní integrity.
· Ad písm. b) Ustanovení zakazuje systémy AI, které jsou navrženy tak, aby záměrně zneužívaly zranitelnosti jednotlivců nebo skupin (např. dětí, seniorů, osob se zdravotním postižením nebo osob ve ztížené sociální situaci) s cílem nebo důsledkem výrazného ovlivnění jejich chování, které může vést k významné újmě. Taková manipulace je v rozporu s principem ochrany lidské důstojnosti a nepřípustně narušuje autonomii rozhodování jednotlivce.
· Ad písm. c) Toto ustanovení cílí na zákaz tzv. sociálního skórování (social scoring). Zakázány jsou systémy, které hodnotí jednotlivce na základě jejich sociálního chování či předpokládaných osobních charakteristik (např. etika, loajalita, společenská aktivita), a toto hodnocení vede k neodůvodněnému nebo nepřiměřenému znevýhodnění dotčené osoby v jiném kontextu, než pro který byly původní údaje shromážděny. Tato praktika by mohla vést k diskriminaci a stigmatizaci, která je neslučitelná s evropským pojetím ochrany lidských práv.
· Ad písm. d) Zakazuje se používání systémů AI, které by předvídaly riziko spáchání trestného činu pouze na základě profilování jednotlivce, tedy bez konkrétních, objektivně ověřitelných skutečností.
Takové přístupy jsou považovány za nepřípustné prediktivní kriminalizování, které porušuje zásady presumpce neviny a individuálního posuzování chování. Zákaz se nevztahuje na případy, kdy systém slouží pouze jako podpora lidského rozhodování, založená na relevantních informacích vztahujících se ke konkrétní trestné činnosti.
· Ad písm. g) Ustanovení zakazuje systémy biometrické kategorizace, které by na základě biometrických údajů (např. obličejové rysy, otisky) určovaly nebo odvozovaly citlivé osobní údaje, jako je rasa, náboženské přesvědčení, politická orientace, sexuální orientace apod.
Záměrem je zamezit systémům, které by vedly k nepřípustnému zásahu do soukromí nebo k profilování na základě chráněných charakteristik. Výjimku tvoří pouze technické případy, kdy je cílem označování nebo filtrování již legálně získaných dat, např. v kontextu trestního řízení.
Tato ustanovení přináší silnou ochranu znevýhodněným osobám a jsou součástí širšího rámce, jehož cílem je zajistit, aby systémy AI byly navrhovány a používány způsobem, který chrání základní práva jednotlivců a zabraňuje diskriminaci.
10.2. Dopad na životní prostředí
AI akt se regulací životního prostředí přímo nezabývá, ale nepřímo ho ovlivňuje několika způsoby. Zavedením požadavků na transparentnost a bezpečnost podporuje vývoj udržitelnějších a efektivnějších AI systémů s menší spotřebou energie. Hodnocení rizik u vysoce rizikových systémů může zahrnovat i dopady na životní prostředí (např. v oblasti dopravy, energetiky). Podporou důvěryhodné AI vytváří prostor pro rozvoj tzv. green AI – technologií využívaných pro ochranu klimatu, optimalizaci spotřeby nebo sledování emisí. A tak AI akt, i když nezavádí přímé ekologické standardy (např. omezení energetické náročnosti AI systémů), otevírá prostor pro ekologicky odpovědné využití AI.
11. Zhodnocení dopadů navrhovaného řešení ve vztahu k ochraně soukromí a osobních údajů, které musí obsahovat vysvětlení účelu navrhovaného zpracování osobních údajů a popis návaznosti na stávající nebo již připravovaná zpracování osobních údajů, posouzení navrhovaného řešení zpracování z hlediska nezbytnosti a přiměřenosti ve vztahu k jím sledovanému účelu a posouzení rizik pro práva a svobody fyzických osob a možných opatření k jejich snížení
Tyto otázky jsou rozebrány také již v čl. 1.3.4. a 5.1.2.2.
AI akt a GDPR představují dvě zásadní roviny ochrany základních práv v digitálním prostředí EU. Zatímco GDPR upravuje ochranu osobních údajů a soukromí fyzických osob při zpracování dat, AI akt se zaměřuje na regulaci systémů umělé inteligence z hlediska rizik, která mohou tato technologická řešení představovat pro základní práva jednotlivců a pro fungování vnitřního trhu. Ačkoli se jedná o dva právní akty s rozdílným předmětem úpravy, v mnoha oblastech dochází k jejich funkčnímu překryvu. Tento překryv vyžaduje koordinovaný výklad a aplikaci obou předpisů.
K nejvýznamnějším průnikům dochází v situacích, kdy jsou systémy umělé inteligence navrhovány, trénovány nebo provozovány za účelem zpracování osobních údajů. Typickými příklady jsou AI systémy pro biometrickou identifikaci, prediktivní modely využívané v oblasti zaměstnávání, školství, zdravotnictví či financí, nebo algoritmické profilování osob za účelem personalizace služeb. V těchto případech je třeba aplikovat nejen režim stanovený AI aktem, ale současně i režim GDPR, včetně všech s tím spojených právních zásad, jako jsou zákonnost zpracování, transparentnost, minimalizace údajů či omezení účelu.
Zatímco GDPR upravuje vztah mezi správcem a subjektem údajů z hlediska zpracování informací, AI akt klade důraz na systémový a technický rámec fungování AI řešení. Mezi oběma nařízeními existuje formální i materiální soulad: článek 2 odst. 7 AI aktu výslovně stanoví, že tímto nařízením není dotčena působnost právních předpisů na ochranu osobních údajů, především GDPR. Uvedené ustanovení zakotvuje zásadu koherence právních rámců, která je důležitá zejména pro právní jistotu vývojářů, poskytovatelů i uživatelů AI systémů. Právní subjekty musí totiž splnit nejen požadavky na zajištění kvality a bezpečnosti AI systému (včetně posouzení rizik, transparentnosti či lidského dohledu), ale současně i požadavky na zákonné a korektní zpracování osobních údajů. V případě překrývání požadavků obou nařízení bude potřeba oba režimy sladit a v tomto bude hrát význam sekundární legislativa k AI aktu a také případně i judikatura ESD.
12. Zhodnocení korupčních rizik
Návrh zákona představuje minimalistickou adaptační právní úpravu. Vzhledem k této povaze nezakládá žádná korupční rizika. Kompetence správních orgánů jsou upraveny jen v rozsahu nezbytném k výkonu dozoru a vymáhání stanovených pravidel, přičemž míra diskrece je minimální. Navrhovaná úprava odpovídá standardním institutům českého právního řádu a nezavádí zásadní odchylky od stávajících postupů. Pokud se jedná o opravné prostředky a kontrolní mechanismy, na dotčenou problematiku se uplatní procesní režim správního řádu. Odpovědnost je vždy jednoznačně spojena s konkrétní úřední osobou, která je určena na základě organizační struktury příslušného správního orgánu, a rozhodovací činnost podléhá jak vnitřní, tak hierarchické kontrole. Transparentnost není dotčena, neboť přístup k informacím je zajištěn v souladu se zákonem č. 106/1999 Sb., o svobodném přístupu k informacím, ve znění pozdějších předpisů.
V návaznosti na výše zmíněné, jsou korupční rizika považována za minimální. Dozorovým orgánům není svěřena širší diskrece, než je nezbytně nutná. Ochrana před korupčními projevy je zajištěna existujícími mechanismy trestního práva a organizačními opatřeními uvnitř státní správy.
13. Zhodnocení dopadů na bezpečnost nebo obranu státu
Systémy AI používané (určené) výlučně pro vojenské nebo obranné účely nebo pro účely národní bezpečnosti jsou vyloučeny z působnosti AI aktu, a tudíž i z návrhu adaptačního zákona o umělé inteligenci.
13.1. Výluka AI systémů výlučně vojenských, obranných a bezpečnostních
Článek 2 odst. 3 nařízení AI aktu stanoví, že nařízení se nevztahuje na systémy umělé inteligence, které jsou vyvíjeny, uváděny na trh, uváděny do provozu nebo používány výhradně pro vojenské, obranné nebo národní bezpečnostní účely. To platí bez ohledu na povahu subjektu, který tyto systémy využívá, tedy bez rozdílu mezi veřejnými a soukromými subjekty pověřenými plněním příslušných úkolů. Výjimka je odůvodněna tím, že národní bezpečnost je podle čl. 4 odst. 2 SEU výlučnou odpovědností členských států, a EU proto nemá pravomoc tuto oblast regulovat. Specifika obranné politiky a společné bezpečnostní a obranné politiky EU jsou upravena zvláštními ustanoveními SEU a podléhají mezinárodnímu právu. Regulace využívání AI v oblasti národní bezpečnosti a obrany je proto ponechána na členských státech.
13.2. Dopad AI aktu na systémy s dvojí technologií
Avšak, přestože AI akt výslovně vylučuje oblast obrany a bezpečnosti ze své působnosti, tato výluka se neuplatní v případě tzv. dvojích technologií (dual-use technologies), tj. technologií s využitím jak v civilním, tak vojenském prostředí. Pokud jsou AI systémy uváděny na trh nebo do provozu v Unii nebo jsou používány (jejich výstup využíván) nikoli výhradně jen pro vojenské či obranné účely nebo pro účely národní bezpečnosti, AI akt na ně bude plně dopadat. Jedná se např. o AI pro automatizaci v průmyslu i pro autonomní zbraně, satelitní technologie pro navigaci a komunikaci i pro vojenské sledování, kryptografii pro zabezpečení dat i vojenskou komunikaci, nebo drony pro zemědělství, logistiku i pro vojenské průzkumy. Dvojí technologie umožňují efektivní využití investic a rozšiřují tržní příležitosti pro start-upy. Je logické, že podléhají regulaci tak jako jiné systémy AI.
14. Zhodnocení dopadů na rodiny, zejména s ohledem na plnění funkcí rodiny, s ohledem na počet vyživovaných členů, na případnou přítomnost hendikepovaných členů a rodiny samoživitelů, rodiny se třemi a více dětmi a další specifické životní situace, dále s ohledem na posílení integrity a stability rodiny a posílení rodinné harmonie, lepší rovnováhy mezi prací a rodinou a na posílení mezigeneračních a širších příbuzenských vztahů
Navrhovaný právní předpis má na rodiny a rodinný život pouze nepřímé a spíše marginální dopady, vyplývající z obecného rámce regulace umělé inteligence. Tyto dopady spočívají především v nastavení pravidel pro bezpečné a důvěryhodné využívání umělé inteligence, jejichž cílem je zajistit vysokou úroveň ochrany zdraví, bezpečnosti a základních práv fyzických osob před škodlivými účinky systémů umělé inteligence.
· Zakázané postupy v oblasti AI (čl. 5): Jedná se např. o zákaz manipulativních AI systémů, zákaz tzv. sociálního skóre (hodnocení osob na základě chování), které by mohlo postihovat členy rodiny, omezení biometrické identifikace ve veřejném prostoru (s výjimkami pro orgány činné v trestním řízení).
· Regulace vysoce rizikových AI systémů (čl. 6–29): AI používaná ve vzdělávání, zdravotnictví, pracovních vztazích, sociálních službách nebo přidělování dávek je klasifikována jako vysoce riziková. Tyto systémy podléhají povinnostem týkajícím se: transparentnosti, lidského dohledu, řízení rizik, registrace v databázi EU (pro dohledatelnost a kontrolu).
· Práva uživatelů a dotčených osob: Uživateli musí být srozumitelně sděleno, že jednají se systémem AI. V případě rozhodnutí s právním nebo obdobně závažným dopadem (např. při posuzování dávky či školního hodnocení) má dotčená osoba právo na lidský přezkum a vysvětlení.
Ochrana osobních údajů a soukromí: AI akt doplňuje pravidla GDPR, zejména v oblastech: sběru a používání dat dětí, ochrany citlivých údajů (např. zdravotní stav, biometrie), zákazu využívání AI pro masový dohled.
15. Zhodnocení územních dopadů, včetně dopadů na územní samosprávné celky
Navrhovaný právní předpis nepředstavuje přímé dopady na územní samosprávné celky. Vzhledem k tomu, že AI akt je přímo použitelným nařízením Evropské unie, vztahuje se i na členské státy a jejich samosprávné celky. V případech, kdy budou obce nebo kraje využívat systémy umělé inteligence, se na ně uplatní obecná pravidla stanovená pro poskytovatele a uživatele těchto systémů, zejména povinnost zajistit transparentnost (informovat občany o využití umělé inteligence), zavést mechanismy lidského dohledu nad rozhodovacími procesy, provádět analýzy rizik a zajišťovat ochranu před diskriminací. Míra praktických dopadů na jednotlivé samosprávné celky se bude odvíjet od rozsahu využívání systémů umělé inteligence, úrovně digitalizace veřejné správy a dostupnosti finančních a personálních kapacit.
16. Zhodnocení souladu navrhovaného řešení se zásadami tvorby digitálně přívětivé legislativy, včetně zhodnocení rizika vyloučení nebo omezení možnosti přístupu specifických skupin osob k některým službám v důsledku digitalizace jejich poskytování (digitální vyloučení)
Předložený návrh zákona se přímo netýká digitalizace; nevylučuje proto, ani neomezuje možnosti přístupu specifických skupin osob k některým službám v důsledku digitalizace jejich poskytování. Nicméně respektuje požadavky digitálně přívětivé legislativy.
17. Údaje o lobbování
V souvislosti s přípravou navrhovaného zákona nedošlo k žádnému lobbování ve smyslu zákona č. 168/2025 Sb., o regulaci lobování.
Připravovaný návrh byl projednán a konzultován Výborem pro umělou inteligenci , a to na jeho zasedání dne 1. září 2025 v budově Ministerstvu průmyslu a obchodu. Výbor pro umělou inteligenci (dále jen „Výbor pro AI“) je hlavní institucí v procesu řízení a naplňování Národní strategie umělé inteligence ČR 2030. Byl zřízen jako pracovní skupina Výboru pro digitální ekonomiku a společnost, který implementuje koncepci Digitální ekonomika a společnost (dle usnesení vlády č. 629 ze dne 3. října 2018). Jedná se o stálý poradní a koordinační orgán. Členy Výboru pro AI jsou zástupci státní správy, podnikatelského sektoru, akademické sféry i odborné veřejnosti; seznam členů je uveden v Národní strategii umělé inteligence České republiky 2030, a je dostupný na https://www.mpo.gov.cz/assets/cz/rozcestnik/pro-media/tiskove-zpravy/2024/8/AI_strategie_1.pdf.
Uvedené konzultace a projednání návrhu zákona o umělé inteligenci nenaplňují znaky lobbování podle § 2 odst. 1 zákona č. 168/2025 Sb., o regulaci lobování. Na žádném z uvedených setkání nevystoupila žádná osoba, která by se identifikovala jako lobbista dle § 3 zákona o regulaci lobbování ani nikdo nejednal způsobem, který by odůvodňoval závěr, že se jedná o lobbistu podle čl. 2.2. Metodiky k aplikaci zákona o regulaci lobování[footnoteRef:8]. [8: Metodika k aplikaci zákona č. 168/2025 Sb., o regulaci lobování, vydaná Ministerstvem spravedlnosti ČR 22.06.2025.]
II. Zvláštní část
K § 1
Navrhovaná úprava představuje minimalistickou implementaci přímo účinného AI aktu. České republice v souvislosti s přijetím tohoto nařízení vzniká povinnost zajistit řádné uplatňování tohoto nařízení, s jejímž plněním souvisí i potřeba zajistit provázanost nařízení s českým právním řádem v jeho stávající podobě. To vede k návrhu implementačního zákona v následujících oblastech.
Některé postupy související s AI aktem [písm. a)]: při některých postupech správních orgánů předvídaných v AI aktu se úprava podle správního řádu a jiných obecných předpisů správního práva procesního jeví jako nevhodná či nedostatečná. V těchto případech se navrhuje zvláštní úprava postupů správních orgánů.
Zřízení regulačního sandboxu pro umělou inteligenci a některé podmínky jeho provozu [písm. b)]: podle čl. 57 odst. 1 nařízení u umělé inteligenci je Česká republika povinna zřídit alespoň jeden regulační sandbox pro umělou inteligenci. Implementační zákon proto tento sandbox zřizuje a stanovuje pro něj základní institucionální rámec.
Některé povinnosti provozovatelů [písm. c)]: Většina povinností provozovatelů v oblasti umělé inteligence (tedy poskytovatele, výrobce produktu, zavádějícího subjektu, zplnomocněného zástupce, dovozce nebo distributora, srov. čl. 3 bod 8 AI aktu) stanovuje samotný AI akt. Pro účely řádné implementace je však žádoucí stanovit provozovatelům spadajícím do působnosti českých orgánů veřejné moci některé dodatečné povinnosti na vnitrostátní úrovni.
Výkon státní správy v oblasti umělé inteligence [písm. d)]: řádná implementace AI aktu vyžaduje, aby český zákon vymezil kompetence českých orgánů k uplatňování tohoto nařízení a stanovil pravidla pro výkon státní správy na tomto úseku, tedy aby upravil pravidla pro kontrolu dodržování povinností (resp. dozor nad trhem) a vymezil porušení tohoto nařízení jako přestupky.
K § 2
K odstavci 1
Navrhuje se určit Úřad pro technickou normalizaci, metrologii a státní zkušebnictví (dále jen „ÚNMZ“) jako oznamující orgán podle nařízení o umělé inteligenci. Toto je vhodné s ohledem na jeho stávající roli oznamujícího orgánu na základě § 17 odst. 2 zákona č. 90/2016 Sb., resp. orgánu příslušného k udělení autorizace na základě § 11 odst. 1 zákona č. 22/1997 Sb., o technických požadavcích na výrobky a o změně a doplnění některých zákonů, ve znění pozdějších předpisů.
K odstavci 2
Jakožto oznamující orgán musí ÚNMZ vykonávat kontrolu dodržování povinností ze strany oznámených subjektů. To plyne jak z jeho pravomocí vůči těmto subjektům vyplývajících z AI aktu (srov. např. čl. 34 odst. 3 nebo čl. 36 tohoto nařízení), tak z jeho kontrolní činnosti vůči subjektům oznámeným na základě jiného právního předpisu (srov. zejména § 21 odst. 1 zákona č. 90/2016 Sb.).
K § 3
Dle čl. 3 bodu 48 AI aktu části před středníkem se „příslušným vnitrostátním orgánem“ rozumí oznamující orgán nebo orgán dozoru nad trhem. Při aplikaci konkrétních ustanovení AI aktu se tímto zejm. rozumí konkrétní vnitrostátní orgán dle příslušných kompetencí dle tohoto zákona. Je vhodné zmínit, že významnou roli v tomto ohledu zastává právě orgán dozoru nad trhem, neboť tento zákon nezakládá příslušnost oznamujícímu orgánu kontrolovat poskytovatele systémů AI. Toto se týká zejm. čl. 6 odst. 4, čl. 16, 17, 18, 22, 47, 53, 54, 55 odst. 1 písm. c).
K odstavci 1
Navrhuje se jako orgány dozoru nad trhem podle čl. 70 odst. 1 AI aktu určit Český telekomunikační úřad (dále jen „ČTÚ“), Českou národní banku (dále jen „ČNB“) a Úřad pro ochranu osobních údajů (dále jen „ÚOOÚ“). ÚOOÚ je nezbytné určit jako orgán dozoru přinejmenším v rozsahu čl. 74 odst. 8 AI aktu, neboť jako orgán vykonávající dozor nad dodržováním pravidel ochrany osobních údajů je z existujících správních úřadů jedinou realistickou variantou pro dodržení požadavků tohoto ustanovení. Podobně ČNB je na základě čl. 74 odst. 6 AI aktu vhodným subjektem veřejné správy pro dozor v této oblasti. V neposlední řadě se navrhuje určit ČTÚ jako orgán dozoru nad trhem se zbytkovou působností.
K odstavci 2
Navrhuje se stanovit příslušnost ČTÚ k výkonu dozoru a dalším postupům stanoveným v AI aktu. Příslušnost ČTÚ k výkonu dozoru nad dodržováním AI aktu [písm. a)] se navrhuje zakotvit zbytkově k dozoru vykonávanému ČNB a ÚOOÚ. Takovéto vymezení zamezí prolukám v příslušnosti k dozoru. Dále se s ohledem na roli ČTÚ jako obecného (zbytkového) orgánu dozoru navrhuje stanovit, že tento správní úřad bude vykonávat též roli jednotného kontaktního místa podle čl. 70 odst. 2 AI aktu [písm. b)]. Jelikož bude ČTÚ na základě své zbytkové příslušnosti vykonávat též dozor nad systémy AI, které jsou bezpečnostními součástkami výrobků spadajících do působnosti nařízení (EU) 2017/745[footnoteRef:9] (dále jen „MDR“) a nařízení (EU) 2017/746[footnoteRef:10] (dále jen „IVDR“), navrhuje se též výslovně stanovit, že plní roli příslušného orgánu pro přijímání oznámení o závažných incidentech souvisejících s takovýmito systémy AI podle čl. 73 odst. 10 AI aktu [písm. c)]. V neposlední řadě by ČTÚ jakožto obecný orgán dozoru a jednotné kontaktní místo měl rovněž vypracovávat zprávu o pokutách podle čl. 99 odst. 11 AI aktu [písm. d)]. [9: Nařízení Evropského parlamentu a Rady (EU) 2017/745 ze dne 5. dubna 2017 o zdravotnických prostředcích, změně směrnice 2001/83/ES, nařízení (ES) č. 178/2002 a nařízení (ES) č. 1223/2009 a o zrušení směrnic Rady 90/385/EHS a 93/42/EHS.] [10: Nařízení Evropského parlamentu a Rady (EU) 2017/746 ze dne 5. dubna 2017 o diagnostických zdravotnických prostředcích in vitro a o zrušení směrnice 98/79/ES a rozhodnutí Komise 2010/227/EU.]
K odstavci 3
Navrhuje se stanovit, že ČNB vykonává dozor nad finančními institucemi, které jsou adresáty povinností podle AI aktu, při výkonu regulovaných činností. Kritérium pro příslušnost ČNB je podle návrhu dvojí. Zaprvé, musí jít o osobu podléhající dohledu ČNB podle zákona č. 6/1993 Sb., o České národní bance, ve znění pozdějších předpisů. Zadruhé, dozor ČNB se vztahuje pouze na výkon činností, které tyto osoby vykonávají na základě povolení, licence, registrace nebo oprávnění k činnosti uděleného ČNB. Zatímco stanovení příslušnosti k výkonu dozoru nad regulovanými činnostmi ČNB je opodstatněno zájmem na zachování jednoty dohledu/dozoru nad finančním trhem a související expertizou ČNB, již tomu tak není v případě jiných činností, které finanční instituce mohou vykonávat.
K odstavci 4
Navrhuje se stanovit, že k výkonu dozoru nad dodržováním povinností souvisejících se systémy AI uvedenými v čl. 74 odst. 8 AI aktu vykonává ÚOOÚ s ohledem na skutečnost, že tento splňuje přísná kritéria pro orgány dozoru uvedená v tomto ustanovení AI aktu.
K odstavci 5
Navrhuje se stanovit, že potvrzení o rizicích (absenci rizik) systémů AI při zrušení oznámení subjektu posuzování shody podle čl. 36 odst. 9 AI aktu vydává orgán dozoru nad trhem, který je příslušný k výkonu dozoru v dané oblasti. Příslušnost orgánů dozoru nad trhem byla zvolena ze dvou důvodů. Zaprvé, zatímco obdobný postup při pozastavení nebo omezení jmenování subjektu posuzování shody (ke kterému jsou příslušné oznamující orgány) spočívá v hodnocení certifikátů vydaných dotčeným oznámeným subjektem, postup podle čl. 36 odst. 9 AI aktu spočívá v hodnocení rizik vyplývajících ze systémů AI jako takových. To je činnost, kterou se budou zpravidla zabývat orgány dozoru nad trhem, nikoli oznamující orgány. Zadruhé, takto zvolená úprava příslušnosti navazuje na praxi zvolenou českým zákonodárcem na základě § 5 odst. 1 zákona č. 375/2022 Sb., o zdravotnických prostředcích a diagnostických zdravotnických prostředcích in vitro, ve znění pozdějších předpisů ve spojení s § 27c odst. 1 a 27d odst. 1 zákona č. 90/2016 Sb. při implementaci obdobné úpravy podle čl. 46 odst. 9 MDR, resp. čl. 42 odst. 9 IVDR.
K § 4
Navrhuje se zakotvit povinnost veřejného ochránce práv plnit povinnosti České republiky vyplývající z čl. 77 odst. 2 AI aktu, tedy sestavit a udržovat, zveřejňovat a oznamovat Evropské komisi seznam orgánů chránících základní práva, které splňují kritéria podle čl. 77 odst. 1 tohoto nařízení. Česká republika povinnost sestavit tento seznam splnila, přičemž jej zároveň ve své stávající podobě zveřejnila a oznámila Evropské komisi. S ohledem na expertizu veřejného ochránce práv a na jeho roli v českém systému ochrany základních práv se ovšem jeví jako vhodné, aby do budoucna převzal plnění uvedeného okruhu povinností.
Z výše uvedeného ovšem nevyplývá, že by veřejný ochránce práv byl příslušným orgánem podle AI aktu. Podle navrhované úpravy bude toliko do budoucna plnit povinnost, jejíž splnění mohou členské státy Evropské unie zajistit jakýmkoli vhodným způsobem, tj. nikoli nutně skrze jeden z jimi určených příslušných orgánů.
K § 5
K odstavci 1
Navrhuje se stanovit zvláštní úpravu účastenství v řízení podle čl. 46 odst. 1 AI aktu. S ohledem na skutečnost, že počet tímto řízením dotčených osob může být vysoký, navrhuje se oproti obecné úpravě podle správního řádu výslovně stanovit, že účastníkem je pouze žadatel.
K odstavci 2
Na základě čl. 46 odst. 3 AI aktu bude příslušný orgán dozoru nad trhem povinen posoudit veškeré požadavky podle oddílu 2 kapitoly III AI aktu, což je zdlouhavý a náročný proces, pro který v řadě případů nebudou postačovat obecné lhůty pro vydání rozhodnutí podle správního řádu. Proto se navrhuje stanovit, že příslušný orgán dozoru nad trhem vydá rozhodnutí bez zbytečného odkladu, nejpozději však do 120 dnů ode dne zahájení řízení. Tato lhůta reflektuje náročnost posouzení provedeného orgánem dozoru nad trhem, aniž by vyprazdňovala smysl tohoto řízení.
K § 6
S ohledem na dočasnou a předběžnou povahu rozhodnutí podle čl. 46 odst. 1 AI aktu je žádoucí zakotvit též pravomoc příslušného orgánu dozoru nad trhem toto rozhodnutí zrušit nebo změnit v návaznosti na změnu okolností, o které se posléze dozví. V takovémto případě panuje zájem na rychlém zjednání nápravy, pročež se navrhuje zakotvit možnost příslušného orgánu dozoru nad trhem vydat rozhodnutí jako první úkon v řízení, přičemž rozklad podaný proti němu nemá odkladný účinek.
K § 7
K odstavci 1
Navrhuje se v zájmu zjednodušení a zrychlení postupů stanovit zvláštní úpravu účastenství v řízení o schválení testování systému AI v reálných podmínkách, podle níž je účastníkem řízení pouze žadatel, protože počet dotčených osob může v těchto věcech být vysoký.
Zároveň se navrhuje upravit zvláštní lhůtu pro vydání rozhodnutí ve zvláště složitých případech, a to v délce 90 dnů od zahájení řízení. Předkladateli je zřejmý zájem na rychlém vyřízení schválení testování systému AI v reálných podmínkách. Zároveň je však třeba se vypořádat s tím, že s ohledem na předmět daného řízení a na skutečnost, že příslušný orgán bude muset do jisté míry provádět jakési předběžné posouzení shody daného systému s požadavky AI aktu, zejména oddílu II kapitoly III. S ohledem na tuto skutečnost lze očekávat, že se bude v některých případech jednat o zvláště složité případy ve smyslu § 71 odst. 3 písm. a) správního řádu. Ani zde stanovená (prodloužená) lhůta v délce 60 dnů by však vzhledem k uvedenému v některých případech nemusela být dostatečná. Pro tento případ se tedy navrhuje zvláštní lhůta v délce 90 dnů. Příliš krátká lhůta, která by k řádnému posouzení žádosti nebyla dostatečná, by totiž mohla (z opatrnosti, resp. z obavy z možných negativních dopadů testování daného vysoce rizikového systému) vést k zamítání i takových žádostí, jimž by za jiných okolností bylo bývalo vyhověno, což by mohlo v konečném důsledku brzdit vývoj nových technologií umělé inteligence.
K odstavci 2
Řízení podle odstavce 1 obnáší i vyhodnocení plánu testování příslušného systému AI v reálných podmínkách. Tento dokument může být velmi komplexní, pročež na základě průběhu řízení může vyjít najevo, že příslušný orgán dozoru nad trhem může testování schválit, ale pouze při úpravě původního plánu testování. Taková úprava by však představovala změnu obsahu podání, kterou podle § 41 odst. 8 správního řádu správní orgán povolí na žádost účastníka jen v případě, že podateli hrozí vážná újma. Proto se navrhuje explicitně stanovit, že příslušný orgán dozoru nad trhem může účastníka vyzvat ke změně nebo doplnění plánu testování, je-li to účelné.
K odstavci 3
V návaznosti na zvláštní úpravu lhůt se navrhuje vyloučit fikci schválení podle čl. 60 odst. 4 písm. b) AI aktu, která se uplatní, neposkytne-li tento orgán „odpověď do 30 dnů“. Z téhož ustanovení se však zároveň podává, že „nestanoví-li vnitrostátní právo implicitní schválení, testování v reálných podmínkách nadále podléhá povolení“. Jinými slovy, aby se fikce schválení mohla uplatnit, musí to vyplývat z vnitrostátního práva.
Pro vyloučení pochybnosti se navrhuje výslovně stanovit, že zmíněná fikce se při schvalování testování na území České republiky neuplatní. Testováním v reálných podmínkách totiž může být dotčen velký počet osob, přičemž vzhledem k tomu, že jde o testování systémů vysoce rizikových, může být takové dotčení dané osoby velmi závažné a mnohdy „nenapravitelné“. Ačkoliv tyto osoby, resp. subjekty testování, musejí podle čl. 61 AI aktu před jejich účastí na testování poskytnout dobrovolný informovaný souhlas, má být právě schválení testování daného systému příslušným orgánem pro tyto osoby určitou zárukou, že rizika z něho vyplývající byla v maximální možné míře minimalizována. Takovou funkci fiktivní rozhodnutí plnit nemůže. Případné pozastavení nebo ukončování fiktivně schváleného testování podle čl. 76 odst. 3 písm. a) AI aktu, bylo-li by následně zjištěno, že podmínky pro jeho schválení zde nebyly, by pak navíc mohlo mj. vést ke zmaření investic, resp. účelnosti již vynaložených nákladů na dané testování, ze strany poskytovatele systému.
Rovněž je nutno zmínit, že v čl. 60 odst. 4 písm. b) AI aktu se hovoří o poskytnutí odpovědi do 30 dnů, nikoliv o vydání rozhodnutí v této lhůtě [srov. např. čl. 8 odst. 1 nařízení (EU) 2024/1309[footnoteRef:11]]. V této souvislosti se navrhuje, aby v případě, že půjde o zvlášť složitý případ, měl orgán, který vede řízení o schválení testování povinnost do 30 dnů ode dne zahájení řízení vyrozumět žadatele o tom, že jde o zvlášť složitý případ a rozhodnutí tak bude vydáno ve lhůtě do 90 dnů ode dne zahájení řízení, byť se tím ovšem nezbaví své povinnosti vydat rozhodnutí bez zbytečného odkladu. [11: Nařízení Evropského parlamentu a Rady (EU) 2024/1309 ze dne 29. dubna 2024 o opatřeních ke snížení nákladů na budování gigabitových sítí elektronických komunikací, o změně nařízení (EU) 2015/2120 a o zrušení směrnice 2014/61/EU.]
Výše zmíněná konstrukce odpovědi do 30 dnů navíc z ekonomického hlediska motivuje orgány dozoru nad trhem k rychlému vyřizování žádostí, neboť v jednodušších věcech by se pozdější vydání rozhodnutí podle návrhu pojilo s nadbytečnými úkony spočívajícími s vyrozuměním o zvláštní složitosti případu. V neposlední řadě, při prodlevě orgánu dozoru nad trhem nebo dokonce při nevydání navrhovaného vyrozumění o zvláštní složitosti případu sice podle navrhované úpravy nedojde k fikci schválení, žadateli nicméně zůstávají k dispozici prostředky obrany proti nečinnosti správního orgánu zakotvené v § 80 správního řádu, resp. v § 79 a násl. soudního řádu správního.
K § 8
Navrhuje se stanovit oznamovací povinnost dotčeného provozovatele nebo potenciálního poskytovatele systému AI, bylo-li na jejich žádost uděleno povolení uvedení vysoce rizikového systému AI na trh nebo schváleno testování vysoce rizikového systému AI v reálných podmínkách, pokud došlo ke změně podmínek pro vydání rozhodnutí v těchto věcech. Tato oznamovací povinnost je opodstatněna výjimečnou povahou těchto rozhodnutí, která spočívají v dovolení činnosti jinak zakázané. Orgánům dozoru nad trhem je tak třeba zajistit přístup k informacím i o následném vývoji podmínek ve věci, ve které rozhodli. Z uvedených důvodů se tak navrhuje stanovit lhůtu pro poskytnutí informace do 15 dnů ode dne, kdy změna skutečností nastala a povinná osoba se o nich alespoň měla a mohla dozvědět.
K § 9
Řízení podle čl. 73 odst. 8, čl. 76 odst. 3, čl. 79 odst. 5, čl. 80 odst. 6 a čl. 83 odst. 2 AI aktu spočívají ve zjednání nápravy v případě trvajícího protiprávního stavu. Panuje tak veřejný zájem na rychlém vyřízení těchto věcí.
K odstavci 1
S ohledem na výše uvedené se v zájmu zjednodušení a urychlení řízení navrhuje stanovit, že účastníkem řízení v těchto věcech je výlučně osoba, které se za účelem zjednání nápravy ukládá povinnost.
K odstavci 2
V zájmu dosažení rychlého zjednání nápravy se dále navrhuje stanovit, že rozhodnutí ve výše vyjmenovaných věcech lze vydat též jako první úkon v řízení. Opravný prostředek proti těmto rozhodnutím by zároveň neměl mít odkladný účinek.
K § 10
Navrhuje se v návaznosti na čl. 18 odst. 2 AI aktu stanovit úpravu zajišťující uchování dokumentace podle čl. 18 odst. 1 tohoto nařízení v případech, kdy dojde k zániku (popř. úmrtí) poskytovatele nebo jeho zplnomocněného zástupce.
K odstavci 1
Zanikne-li poskytovatel nebo jeho zplnomocněný nástupce bez právního nástupce, nepřechází na nikoho bez dalšího ani práva a povinnosti související s provozem jeho obchodního závodu. Proto se po vzoru úpravy účetnictví navrhuje stanovit, že likvidátor, insolvenční správce nebo jiná osoba příslušná podle zvláštního právního předpisu je povinna zajistit úschovu dokumentace podle čl. 18 odst. 1 AI aktu, přičemž příslušný orgán dozoru nad trhem o tomto musí být spraven.
K odstavci 2
V případě, kdy zemře poskytovatel nebo jeho zplnomocněný zástupce, který je fyzickou osobou, navrhuje se stanovit, že úschovu dokumentace podle čl. 18 odst. 1 AI aktu zajistí samotný příslušný orgán dozoru nad trhem, pokud alespoň příslušná část dědictví připadne státu.
K odstavci 3
Jelikož regulace finančních trhů stanovuje pro tyto situace zvláštní pravidla, navrhuje se v souladu s čl. 18 odst. 3 AI aktu z úpravy podle tohoto paragrafu vyjmout finanční instituce, na které se takováto zvláštní pravidla vztáhnou.
K § 11
AI akt stanovuje komplexní rámec pro posuzování shody systémů AI. Jelikož je právní rámec pro posuzování shody předpisů NLF (mezi něž spadá i AI akt) již komplexně upraven zákonem č. 90/2016 Sb., stanovuje se jeho subsidiární použití na správní řízení o oznamování subjektů posuzování shody podle AI aktu.
Oznamování subjektů posuzování shody upravují § 17 až 20 zákona č. 90/2016 Sb., přednostně před nimi se ovšem použije úprava stanovená v kapitole III oddíle 4 AI aktu. Pro absenci specifické úpravy v samotném AI aktu se tak použijí:
· lhůty pro vydání rozhodnutí v řízení o oznámení upravené v podle § 19 odst. 2 zákona č. 90/2016 Sb.,
· povinnost oznámit subjekt posuzování shody splňující AI aktem stanovené požadavky (a v opačném případě žádost zamítnout) podle § 19 odst. 3 zákona č. 90/2016 Sb., obdobná úprava stanovená v čl. 30 AI aktu formálně tuto povinnost nestanoví, byť by ji patrně bylo možné bez prováděcího vnitrostátního předpisu dovodit i výkladem,
· povinnost vyrozumět žadatele o provedení oznámení s doprovodným poučením podle § 19 odst. 5 zákona č. 90/2016 Sb.,
· konkretizace procesních důsledků nevznesení námitek proti oznámení ze strany členských států EU nebo Evropské komise podle § 20 odst. 2 věty první zákona č. 90/2016 Sb.,
· úprava zveřejnění sdělení o oprávnění k činnostem oznámeného subjektu ve Věstníku ÚNMZ podle § 20 odst. 2 věty druhé zákona č. 90/2016 Sb.,
· úprava vydání potvrzení o vzniku nebo trvání oprávnění k činnostem při posuzování shody podle § 20 odst. 2 věty třetí a čtvrté zákona č. 90/2016 Sb.,
· fikce vyhovění žádosti o oznámení podle § 20 odst. 2 věty páté zákona č. 90/2016 Sb.,
· obdobné použití úpravy zamítnutí žádosti o oznámení v případě neodstranění nedostatků podle § 20 odst. 3 věty čtvrté zákona č. 90/2016 Sb., v poměrech AI aktu rozhodne v otázce oznámení, vůči kterému byly vzneseny námitky, na základě čl. 30 odst. 5 AI aktu Evropská komise. Na základě citovaného ustanovení zákona č. 90/2016 Sb. ovšem ÚNMZ rovněž vyřídí řízení o žádosti o oznámení subjektu posuzování shody, který na základě rozhodnutí Evropské komise nesplňuje požadavky stanovené AI aktem.
Naopak se nepoužijí:
· kritéria způsobilosti oznámených subjektů podle § 17 odst. 1 ve spojení s § 23 zákona č. 90/2016 Sb., otázka způsobilosti a požadavků na oznámený subjekt je komplexně upravena v čl. 31 AI aktu;
· postup oznamování subjektů posuzování shody a změn v oznámeních podle § 17 odst. 2 zákona č. 90/2016 Sb., tato otázka je upravena v čl. 30 a 36 odst. 1 AI aktu,
· informační povinnost oznamujícího orgánu vůči Evropské komisi v otázce postupů posuzování a oznamování subjetků posuzování shody podle § 17 odst. 3 zákona č. 90/2016 Sb., AI akt v čl. 28 odst. 1 stanoví silnější povinnost spočívající ve spolupráci oznamujících orgánů všech členských států EU na přípravě těchto postupů,
· ustanovení o zahájení řízení o oznámení podle § 18 odst. 1 zákona č. 90/2016 Sb., stejně stanoví čl. 29 odst. 1 AI aktu, přičemž zároveň omezuje příslušnost ÚNMZ pouze na subjekty posuzování shody usazené na území ČR,
· zvláštní náležitosti žádosti o oznámení podle § 18 odst. 2 zákona č. 90/2016 Sb., totožné plyne z čl. 29 odst. 2 AI aktu,
· využití osvědčení o akreditaci a případná povinnost žadatele předložit další nezbytné doklady podle § 19 odst. 1 zákona č. 90/2016 Sb., totožné vyplývá z čl. 29 odst. 2 a 3 AI aktu,
· náležitosti oznámení podle § 19 odst. 4 zákona č. 90/2016 Sb., obdobně stanoví již čl. 30 odst. 3 AI aktu,
· úprava vzniku oprávnění provádět činnost oznámeného subjektu podle § 20 odst .1 zákona č. 90/2016 Sb., totožně stanoví čl. 30 odst. 4 AI aktu,
· úprava výzvy žadatele o oznámení k přijetí opatření za účelem odstranění nedostatků v návaznosti na obdržené námitky podle § 20 odst. 3 zákona č. 90/2016 Sb. s výjimkou věty čtvrté citovaného ustanovení, čl. 30 odst. 5 AI aktu stanoví zvláštní úpravu konzultačního procesu, který vyústí v rozhodnutí Evropské komise adresované ÚNMZ a žadateli o oznámení.
K § 12
V zájmu vyšší přívětivosti českého trhu a regulatorního prostředí v oblasti umělé inteligence pro adresáty se navrhuje stanovit, že vybrané povinnosti lze plnit kromě češtiny a slovenštiny také v anglickém jazyce.
K § 13
Na základě čl. 57 odst. 1 AI aktu je každý členský stát EU povinen zřídit alespoň jeden regulační sandbox odpovídající podmínkám podle nařízení. Tento a následující paragrafy návrhu jej zřízují a upravují jeho fugování.
K odstavci 1
Navrhuje se zřídit regulační sandbox ex lege a stanovit na úrovni zákona základní náležitosti jeho fungování s tím, že podrobnosti budou blíže upraveny jeho zřizovatelem a provozovatelem. Díky tomuto řešení není nutné podrobně stanovovat formu a náležitosti jednání, které by spočívalo ve zřízení sandboxu.
K odstavci 2
Navrhuje se svěřit roli zřizovatele regulačního sandboxu ÚNMZ.
K odstavci 3
Navrhuje se svěřit roli provozovatele regulačního sandboxu České agentuře pro standardizaci (dále jen „ČAS“). Provoz regulačního sandboxu bude spočívat v nastavení podmínek jeho provozování a zajištění konkrétních úkonů a jednání souvisejících s tímto provozováním.
K odstavci 4
Na základě čl. 58 odst. 2 písm. d) AI aktu by měla navazující unijní terciární legislativa zajistit, že přístup k regulačnímu sandboxu bude bezplatný pro malé a střední podniky, včetně podniků začínajících. Za tímto účelem bude nezbytné rovněž vyčlenit ve veřejných rozpočtech prostředky pro zajištění tohoto bezplatného přístupu v potřebném rozsahu. Tyto prostředky bude uplatňovat Ministerstvo průmyslu a obchodu při přípravě rozpočtu na daný rok. V rámci možností a omezení schváleného rozpočtu kapitoly pak Ministerstvo průmyslu a obchodu zajistí finanční prostředky na vývoj, provoz a údržbu regulačního sandboxu.
K § 14
Navrhuje se stanovit, že provoz regulačního sandboxu a účast v něm bude probíhat na soukromoprávním základě. Tím bude zajištěna vyšší míra flexibility, která umožní snáze reagovat na, v době přípravy tohoto návrhu zákona neexistující, terciární unijní legislativu upravující fungování sandboxu i na zkušenosti provozovatele s dosavadním provozem sandboxu.
K odstavci 1
Výslovně se stanovuje, že účast v regulačním sandboxu vzniká na základě soukromoprávní smlouvy.
K odstavci 2
Navrhuje se výslovně stanovit, že podáním nabídky na účast v regulačním sandboxu nevzniká právní nárok na tuto účast, resp. na uzavření smlouvy takovouto účast zakládající. Přesná, transparentní a (až na výjimky plynoucí z unijního práva) nediskriminační kritéria výběru účastníků regulačního sandboxu by měla být vymezena v podmínkách sandboxu vydaných provozovatelem.
K odstavci 3
Navrhuje se stanovit, že podmínky provozování regulačního sandboxu stanoví ČAS jakožto jeho provozovatel. Tyto podmínky v zájmu transparence rovněž zveřejní na svých internetových stránkách. Toto ustanovení zakotvuje nezbytnou minimální náplň činnosti provozovatele regulačního sandboxu, přičemž další rozdělení s ním souvisejících povinností a činností mezi jeho zřizovatele a provozovatele bude záviset na nastavení vztahů mezi nimi.
K § 15
Navrhuje se vyloučit použití § 63 zákona č. 328/2025 Sb., o výzkumu, vývoji, inovacích a transferu znalostí, neboť tento stanovuje zvláštní požadavky na regulatorní sandbox ve smyslu tohoto zákona, které se mohou dostat do rozporu s požadavky, které na regulační sandbox klade AI akt a na něj navazující terciární legislativa.
K § 16
Navrhuje se v návaznosti na čl. 49 odst. 5 AI aktu zakotvit oznamovací povinnost poskytovatelů (popř. jejich zplnomocněných zástupců) a veřejných zavádějících subjektů ve vztahu k vysoce rizikovým systémům AI, resp. k systémům AI, u nichž v souladu s čl. 6 odst. 3 AI aktu zdokumentuje poskytovatel svůj závěr, že nepředstavují vysoké riziko. Adresátem takovéhoto oznámení bude příslušný orgán dozoru, přičemž tento okruh oznamovaných informací se stanovuje po vzoru informací vedených v unijní databázi systémů AI na základě přílohy VIII AI aktu.
K § 17
Jelikož čl. 74 odst. 1 AI aktu výslovně stanoví, že se na systémy AI spadající do jeho působnosti použije nařízení (EU) 2019/1020[footnoteRef:12], je žádoucí i postupy vnitrostátních orgánů dozoru nad trhem podřadit pod zákon č. 87/2023 Sb., o dozoru nad trhem s výrobky a o změně některých souvisejících zákonů (zákon o dozoru nad trhem s výrobky), ve znění pozdějších předpisů. [12: Nařízení Evropského parlamentu a Rady (EU) 2019/1020 ze dne 20. června 2019 o dozoru nad trhem a souladu výrobků s předpisy a o změně směrnice 2004/42/ES a nařízení (ES) č. 765/2008 a (EU) č. 305/2011.]
V této souvislosti je však třeba s ohledem na specifika AI aktu a na jeho základě určených orgánů dozoru nad trhem zohlednit dvě specifika.
Zaprvé, zařazením ČNB mezi orgány dozoru podle zákona č. 87/2023 Sb., respektive tohoto návrhu zákona, nejsou jakkoli dotčeny kompetence, úkoly, pravomoci a nezávislost ČNB ani povinnost ČNB zachovávat mlčenlivost o všech informacích získaných v souvislosti s výkonem její činnosti, které vyplývají zejména ze zákona č. 6/1993 Sb., o České národní bance, ve znění pozdějších předpisů, a z mnoha dalších národních i evropských právních předpisů, kterými je ČNB vázána. To ostatně také plyne z čl. 78 AI aktu a bodu 46 odůvodnění ve spojení s čl. 17 citovaného nařízení (EU) 2019/1020, podle nichž se orgány dozoru řídí zásadou důvěrnosti a zásadou služebního a obchodního tajemství a chrání důvěrnost informací a údajů, které získají při provádění svých úkolů a činností. Ochrana důvěrných informací a služebního tajemství hraje na finančním trhu důležitou roli a jejich ochrana je nutná ve vztahu k zachování finanční stability.
Při plnění povinností dle navrhované úpravy, zákona č. 87/2023 Sb., AI aktu a nařízení (EU) 2019/1020 proto ČNB nesmí i nadále přijímat pokyny od jakéhokoliv veřejného nebo soukromého subjektu. V rámci spolupráce a případného informování jiných subjektů podle těchto předpisů pak bude ČNB za účelem zachovávání mlčenlivosti ve služebních věcech poskytovat informace pouze v zobecněné nebo souhrnné podobě, ze které není možno identifikovat jednotlivou osobu, které se informace týká a nad níž ČNB vykonává dohled.
Zadruhé, systém AI nelze bez dalšího považovat za výrobek spadající do působnosti nařízení (EU) 2019/1020. Z tohoto důvodu čl. 74 odst. 1 písm. b) AI aktu finguje, že se za takovýto výrobek považuje. Z tohoto důvodu se obdobná fikce zavádí i v navrhované úpravě.
K § 18
Navrhuje se stanovit povinnost ČTÚ a ÚOOÚ poskytovat ostatním orgánům dozoru nad trhem podle navrhované úpravy informace o zahájení a o předmětu kontroly nebo řízení ve věcech souvisejících s dozorem nad dodržováním nařízení o umělé inteligenci. Tímto lze snížit riziko, že bude docházet k nekoordinovaným nebo zdvojeným řízením a kontrolám. Naopak je žádoucí, aby orgány dozoru nad trhem postupovaly v maximální míře koordinovaně, a to jak mezi sebou navzájem, tak ve spolupráci s jinými orgány dozoru postupujícími podle zákona č. 87/2023 Sb.
Z navrhované povinnosti se naopak vynímá ČNB, a to s ohledem na její povinnost mlčenlivosti.
K § 19
Navrhuje se stanovit zvláštní úpravu poskytování stanovisek ve věcech kybernetické bezpečnosti a ochrany osobních údajů. AI akt v některých bodech ukládá svým adresátům dodržovat požadavky v oblasti kybernetické bezpečnosti a ochrany osobních údajů. Využitelnost obecných pravidel spolupráce správních orgánů podle správního řádu na tyto situace je ovšem sporná, protože by zde příslušný správní orgán žádal o spolupráci ve věci, která spadá do jeho vlastní působnosti. (Půjde stále o spolupráci na vymáhání AI aktu, který v daném bodě „pouze“ ukládá požadavek spadající mimo expertizu příslušného správního orgánů.)
S ohledem na výše uvedené se proto navrhuje, aby Národní úřad pro kybernetickou a informační bezpečnost poskytoval orgánům dozoru nad trhem na jejich žádost bez zbytečného odkladu stanoviska v otázkách kybernetické bezpečnosti, resp. aby obdobná stanoviska poskytoval v otázkách ochrany osobních údajů ÚOOÚ. S ohledem na skutkovou složitost ochrany kybernetické bezpečnosti se v případě žádosti adresované Národnímu úřadu pro kybernetickou a informační bezpečnost navrhuje dále stanovit též povinnost poskytnout též relevantní podklady.
Po dobu, než dojde k vyřízení žádosti o stanovisko podle tohoto paragrafu, by neměla běžet lhůta pro vydání rozhodnutí v řízení, ve kterém byla tato žádost položena, neboť žádající orgán dozoru nad trhem nemůže ovlivnit dobu vyřízení tohoto požadavku.
K § 20
V návaznosti na možnost svěřit orgánům dozoru nad trhem možnost vydávat donucovací opatření v podobě varování (čl. 99 odst. 1 AI aktu) se navrhuje zavedení institutu upozornění na porušení povinnosti. Poruší-li adresát AI aktu toto nařízení méně závažným způsobem, orgán dozoru nad trhem bude mít možnost jej vyzvat k nápravě porušení v přiměřené lhůtě, která nesmí být kratší než 15 dnů. Pokud adresát upozornění zjedná ve lhůtě nápravu a tuto skutečnost orgánu dozoru nad trhem oznámí, tento orgán dozoru nad trhem nezahájí řízení o přestupku a usnesením věc odloží. Toto usnesení se poznamená do spisu.
V případě ČNB tímto navrhovaným paragrafem není dotčen princip oportunity zakotvený v § 46e odst. 1 zákona č. 6/1993 Sb., o České národní bance, ve znění pozdějších předpisů, neboť tento se vztáhne i na přestupky projednávané ČNB i na základě jiných zákonů.
K § 21
Navrhuje se vymezit skutkové podstaty přestupků, jejichž horní hranice pokuty je stanovena přímo v čl. 99 AI aktu. Předkladatel zvolil legislativní techniku obdobnou té, která byla českým zákonodárcem zvolena při implementaci nařízení (EU) 2016/689[footnoteRef:13] v § 62 zákona č. 110/2019 Sb., o zpracování osobních údajů, ve znění pozdějších předpisů. Výhoda této technicky spočívá v její úspornosti a přehlednosti. Konstrukce skutkových podstat přestupků spočívajících v odkazu na ustanovení nařízení též minimalizuje riziko, že jako přestupek nebude vymezeno porušení AI aktu, za které čl. 99 tohoto nařízení vyžaduje uložení pokuty. [13: Nařízení Evropského parlamentu a Rady (EU) 2016/679 ze dne 27. dubna 2016 o ochraně fyzických osob v souvislosti se zpracováním osobních údajů a o volném pohybu těchto údajů a o zrušení směrnice 95/46/ES.]
Jelikož v případě skutkových podstat přestupků vymezených v tomto paragrafu stanovuje horní hranici pokuty samotný AI akt v čl. 99 odst. 3 a 4 a 5, (tj. 35 mil. EUR nebo 7 % celosvětového ročního obratu, podle toho, která hodnota je vyšší, za porušení povinností dle odst. 1; 15 mil. EUR nebo 3 % celosvětového ročního obratu, podle toho, která hodnota je vyšší, za porušení povinností dle odst. 2 až 8; 7,5 mil. EUR nebo 1 % celosvětového ročního obratu, podle toho, která hodnota je vyšší za porušení povinností dle odst. 9) není nutné jejich výši opětovně stanovovat i v implementačním zákoně. Zároveň se taktéž uplatí limitace v čl. 99 odst. 6 AI aktu pro malé a střední podniky.
K § 22
Navrhuje se vymezit i skutkové podstaty přestupků, pro něž AI akt nestavuje horní hranici pokuty, a přestupků spočívajících v porušení navrhované úpravy.
K odstavci 1
Navrhuje se jako přestupek vymezit porušení povinnosti určit zplnomocněného zástupce, jelikož tento hraje významnou roli v kontextu dodržování AI aktu ze strany poskytovatelů usazených ve třetích zemích.
K odstavci 2
Navrhuje se jako skutkovou podstatu přestupku vymezit též porušení povinnosti poskytovatele úzce spolupracovat s novými poskytovateli, na které přešla odpovědnost za příslušný systém AI, zakotvené v čl. 25 odst. 2 AI aktu. Nedodržení této povinnosti může v takovýchto případech ohrozit řádné dodržování AI aktu.
K odstavci 3
Navrhuje se jako skutkovou podstatu přestupku zakotvit též porušení povinnosti subjektu zavádějícího systém AI plnícího úkoly ve veřejném zájmu nevyužívat tento systém bez posouzení dopadů jeho použití na základní práva nebo bez informování orgánu dozoru nad trhem o výsledcích tohoto posouzení (čl. 27 AI aktu).
Dále se navrhuje vymezit jako přestupek též porušení povinnosti zavádějícího subjektu poskytnout dotčené osobě jasné a smysluplné vysvětlení rozhodnutí přijatého na základě výstupu z vysoce rizikového systému AI uvedeného v příloze III AI aktu (srov. čl. 86 tohoto nařízení). Lze ovšem očekávat, že v případě méně závažných porušení tohoto ustanovení budou orgány dozoru nad trhem moci sahat k využití navrhovaného institutu upozornění na porušení povinnosti.
K odstavcům 4 a 5
Navrhuje se nesplnění informační povinnosti podle navrhovaného § 8 vymezit jako přestupek, neboť poskytnutí příslušných informací nemusí být vždy v zájmu osoby, která příslušnou informační povinnost nese.
K odstavci 6
S ohledem na relativní výši sankcí za porušení AI aktu se navrhuje v případě přestupků, pro něž sankci nestanoví samotný AI akt, z úpravy stanovené AI aktem vyjít, ovšem stanovit horní hranici pokuty na nejnižší horní hranice předvídanou AI aktem, tedy pokutu až do výše 7 500 000 EUR nebo, dopustí-li se porušení podnik, až do výše 1 % jeho celkového celosvětového ročního obratu za předchozí finanční rok podle toho, která hodnota je vyšší (čl. 99 odst. 5 AI aktu).
Zároveň se po vzoru čl. 99 odst. 6 AI aktu navrhuje zachovat pravidlo, podle nějž malé a střední podniky čelí nižší horní hranici sankce v tom smyslu, že jim lze uložit pouze pokutu do výše nižší ze dvou hodnot uvedených v čl. 99 odst. 5 tohoto nařízení.
K § 23
K odstavcům 1 až 3
Navrhuje se vymezit příslušnost k projednávání přestupků podle příslušnosti k výkonu dozoru ze strany orgánů dozoru nad trhem, resp. k výkonu kontroly v případě ÚNMZ. Nadto se v případě přestupků spočívajících v porušení povinnosti související s žádostí o poskytnutí informací ze strany oznámeného subjektu navrhuje jako orgán příslušný k projednání přestupku ÚNMZ. Toto je opodstatněno skutečností, že k páchání těchto přestupků bude docházet v kontextu činnosti oznámených subjektů, nad níž standardně vykonává kontrolu právě ÚNMZ.
K odstavci 4
Pro pokuty uložené ČTÚ se v otázce výběru a vymáhání se navrhuje stanovit výjimku z obecného pravidla, podle nějž má být vybírání a vymáhání peněžitých plnění integrováno u orgánů Celní správy ČR. Po vzoru účinné úpravy a zavedené praxe ČTÚ je žádoucí zachovat pravidlo, podle nějž tento úřad vymáhá pokuty, které uložil.
K odstavci 5
Navrhuje se vymezit zvláštní promlčecí dobu v délce 5 let, přičemž odpovědnost za přestupek při přerušení promlčecí doby zanikne nejpozději 8 let od jeho spáchání. Stanovení zvláštní úpravy délky promlčecí doby je žádoucí s ohledem na judikaturu Nejvyššího správního soudu, podle níž je jinak v případě pokut vymezených ve výši procenta z určité účetní veličiny třeba vycházet z kratších promlčecích dob podle obecné úpravy odpovědnosti za přestupky.[footnoteRef:14] [14: K tomu srov. rozsudek Nejvyššího správního soudu ze dne 25. září 2020, č.j. 10 Afs 72/2020–76, body 23 až 35.]
Konkrétní délka promlčecí doby je odůvodněna složitostí problematiky umělé inteligence a skutečností, že některá porušení AI aktu nemusí být ihned navenek patrná. Navrhovaná promlčecí doba je v neposlední řadě obdobná promlčecím dobám, které se použijí při stávajících činnostech ČTÚ (§ 120 odst. 4 zákona č. 127/2005 Sb., o elektronických komunikacích a o změně některých souvisejících zákonů, ve znění pozdějších předpisů) a ČNB (§ 46e odst. 3 zákona č. 6/1993 Sb.).
K odstavci 6
Navrhuje se zakotvit povinnost ČNB a ÚOOÚ poskytnout ČTÚ včasnou součinnost při přípravě zprávy o pokutách, a sice poskytnout relevantní podklady potřebné pro vypracování této zprávy do konce února kalendářního roku následujícího po kalendářním roce, za který se zpráva vypracovává.
K odstavci 7
Jelikož čl. 99 odst. 3 až 5 AI aktu stanoví složku horní hranice pokuty vymezenou pevnou částkou v eurech, ale orgány ČR budou ukládat pokuty v korunách, je žádoucí přesně stanovit kurz, podle kterého se výměra pokuty určená na základě kritérií obsažených v čl. 99 odst. 3 až 7 AI aktu přepočte z eur na koruny. Navrhovaná úprava byla převzata z § 48 odst. 5 vládního návrhu zákona o digitální ekonomice a o změně některých souvisejících zákonů (sněmovní tisk 9. volebního období č. 776).
K § 24
V návaznosti na podřazení dozorové činnosti orgánů dozoru nad trhem zákonu č. 87/2023 Sb. je nutné tento zákon novelizovat v tom smyslu, že dojde k odpovídajícímu rozšíření seznamu orgánů dozoru v § 4 odst. 1 tohoto zákona a přehledu orgánů dozoru a jimi vymáhaných předpisů v příloze tohoto zákona.
K § 25
Stanovuje se datum nabytí účinnosti předkládaného návrhu zákona patnáctým dnem po jeho vyhlášení. Tato účinnost je navržena z důvodu použitelnosti AI aktu, která dle jeho čl. 113 pododstavce třetího již z podstatné části nastala již ke dni 2. února, resp. 2. srpna 2025.
Delší doba legisvakance u tohoto předpisu by mohla mít za následek významné zpoždění vstupu zákona v účinnost oproti uvedenému datu vstupu v použitelnost. To by mohlo vést k zahájení o řízení o porušení povinnost proti České republice podle čl. 258 SFEU ze strany Komise a v konečném důsledku k sankci pro Českou republiku.
2