Upozornění: Text přílohy byl získán strojově a nemusí přesně odpovídat originálu. Zejména u strojově nečitelných smluv, kde jsme použili OCR. originál dokumentu stáhnete odsud
Celý záznam KORNDLSJSEUC najdete zde
IV.
DŮVODOVÁ ZPRÁVA
k návrhu zákona o implementaci předpisu Evropské unie v oblasti umělé inteligence a o změně některých souvisejících zákonů
I. Obecná část
1. Zhodnocení platného právního stavu, včetně zhodnocení současného stavu ve vztahu k zákazu diskriminace a ve vztahu k rovnosti mužů a žen v rozsahu podle čl. 4 odst. 1 písm. f)
1.1. Návrh zákona
Návrh zákona o implementaci předpisu Evropské unie v oblasti umělé inteligence a o změně některých souvisejících zákonů (dále jen „návrh zákona“) provádí adaptaci právního řádu ČR na nařízení Evropského parlamentu a Rady (EU) 2024/1689 ze dne 13. června 2024, kterým se stanoví harmonizovaná pravidla pro umělou inteligenci a mění nařízení (ES) č. 300/2008, (EU) č. 167/2013, (EU) č. 168/2013, (EU) 2018/858, (EU) 2018/1139 a (EU) 2019/2144 a směrnice 2014/90/EU, (EU) 2016/797 a (EU) 2020/1828 (Akt o umělé inteligenci), dále jen „AI akt“, ve znění nařízení Evropského parlamentu a Rady (EU) 2026/1744 ze dne 8. července 2026, kterým se mění nařízení (EU) 2024/1689, (EU) 2018/1139 a (EU) 2023/1230, pokud jde o zjednodušení provádění harmonizovaných pravidel pro umělou inteligenci (dále jen „AI Omnibus“). Návrh zákona dopracovává v právu ČR některá ustanovení AI aktu tak, aby tento mohl být na území ČR plně uplatňován, prováděn a vymáhán a za tímto účelem je také navržena změna zákona č. 87/2023 Sb., o dozoru nad trhem s výrobky a některých souvisejících zákonů (dále jen „zákon č. 87/2023“).
S ohledem na přímou použitelnost AI aktu je adaptační zákon koncipován minimalisticky a upravuje pouze oblasti vyžadující zapojení členských států. Princip minimalistické adaptace vychází z právní povahy nařízení EU, které je dle čl. 288 Smlouvy o fungování Evropské unie (dále jen „SFEU“) přímo použitelné a závazné ve všech členských státech bez nutnosti další implementace do vnitrostátního práva. S ohledem na tento princip je také předložený adaptační zákon zpracován tak, aby upravoval pouze nezbytné institucionální, procesní a sankční mechanismy, které AI akt svěřuje členským státům EU k samostatnému rozhodnutí. Podrobně upravené povinnosti a požadavky na subjekty využívající umělou inteligenci (dále též „AI“) jsou obsaženy přímo v textu AI aktu. Adaptační zákon proto neupravuje detailní povinnosti jednotlivých subjektů působících v oblasti AI. Tyto povinnosti jsou obsaženy přímo v textu samotného AI aktu, který tvoří hlavní obsah právní regulace. Z tohoto důvodu je v důvodové zprávě návrhu adaptačního zákona uveden i popis samotného AI aktu, jeho obsahu a jeho postavení vůči jiným právním předpisům.
1.2. Akt o umělé inteligenci (AI akt)
1.2.1. Účel a principy AI aktu
Evropský AI akt byl přijat za účelem zlepšit fungování vnitřního trhu stanovením jednotného právního rámce, zejména pro vývoj, uvádění na trh, uvádění do provozu a používání systémů umělé inteligence (dále jen „systém AI“) v Evropské unii (dále jen „Unie“) v souladu s hodnotami Unie, podporovat zavádění důvěryhodné AI zaměřené na člověka a zároveň zajistit vysokou úroveň ochrany zdraví, bezpečnosti a základních práv zakotvených v Listině základních práv Evropské unie, včetně hodnot demokracie, právního státu a ochrany životního prostředí, chránit před škodlivými účinky systémů AI v Unii, jakož i podporovat inovace. AI akt podporuje volný přeshraniční pohyb zboží a služeb založených na AI, čímž brání členským státům ukládat omezení vývoje, uvádění na trh a používání systémů AI, pokud to není AI aktem výslovně povoleno (srov. bod 1 odůvodnění AI aktu). AI akt je součástí Evropského balíčku na podporu AI (AI Innovation Package), což je propojený rámec podpory a regulace, který má umožnit rozvoj evropské konkurenceschopné a etické AI. Podporuje technologický pokrok, ale současně chrání výše uvedené hodnoty.
AI akt fakticky rozděluje systémy AI do čtyř kategorií podle úrovně rizika, které mohou představovat pro jednotlivce i společnost. Systémy s „nepřijatelným rizikem“ jsou v EU na základě čl. 5 AI aktu obecně zakázány, ledaže jsou splněny přísné podmínky pro uplatnění výjimky předvídané AI aktem. Patří sem například tzv. sociální skórování, AI využívající podprahových technik směřujících k podstatnému narušení chování osob, manipulativní AI zaměřená na zranitelné skupiny (např. děti), nebo některé formy biometrické identifikace a sledování (k vymezení okruhu těchto systémů AI blíže srov. zejména čl. 6 AI aktu). Další kategorií jsou systémy AI s „vysokým rizikem“, jako jsou například AI bezpečnostní komponenty některých výrobků, AI nástroje používané při přijímání do zaměstnání, ve vzdělávání, zdravotnictví nebo justici. Tyto systémy AI nejsou AI aktem zakázány, ale podléhají relativně přísným pravidlům. Vyžaduje se mimo jiné splnění podrobných regulatorních požadavků, posouzení shody s těmito požadavky nebo registrace v celoevropské databázi. Třetí kategorií AI s „omezeným rizikem“, například chatboti nebo generativní systémy nesplňující kritéria pro vysoce rizikový systém AI, musí splňovat zejména požadavky v oblasti transparentnosti (srov. čl. 50 AI aktu). Musí být jasně označené, aby uživatel věděl, že komunikuje s umělou inteligencí. Posledně čtvrtá kategorie AI s „minimálním rizikem“, jako jsou spam filtry nebo AI ve videohrách, nepodléhají žádné zvláštní regulaci. Z hlediska textu AI aktu jde o systémy AI, které nejsou pokryty hypotézou žádné normy obsažené v jeho čl. 50.
Úprava v AI aktu je založena na několika základních principech: přístup založený na míře rizika, lidský dohled nad klíčovými rozhodnutími, transparentnost, ochrana základních práv a zajištění kvality a bezpečnosti AI systémů. Za porušení povinností založených AI aktem mohou být uloženy vysoké sankce, pokuty mohou dosáhnout až 35 milionů eur nebo 7 % celosvětového obratu subjektu. AI akt se vztahuje nejen na subjekty evropské, ale i na jakékoli subjekty mimo EU, které chtějí své AI systémy uvést v EU na trh nebo do provozu.
1.2.2. Hlavní adresáti povinností vyplývajících z AI aktu
AI akt vymezuje základní okruh osob, jimž zakládá práva a povinnosti v souvislosti s využíváním systémů AI. Těmito jsou zejména poskytovatel, provozovatel, dovozce, distributor, zplnomocněný zástupce a zavádějící subjekt.
Poskytovatelem (provider) ve smyslu čl. 3 bod 3 AI aktu se ve zkratce rozumí osoba nebo orgán, který vyvíjí (popř. nechává vyvíjet) systém AI nebo obecný model AI a uvádí tento systém/obecný model AI na trh, či takovýto systém/obecný model uvádí do provozu pod svým vlastním jménem, názvem či ochrannou známkou. Není přitom rozhodné, zda se jendá o úplatnou činnost či nikoli.
Jde tak o osobu (orgán), co (1) systém/obecný model AI sama vyvine nebo jeho vyvinutí zjedná, a tento systém/obecný model AI (2) svým jménem „poskytne“ v EU. Takovéto poskytnutí může nabýt podoby
- uvedení na trh, tj. prvního dodání systému/obecného modelu AI k distribuci nebo použití na trhu EU v rámci obchodní činnosti, přičemž toto dodání nemusí být učiněno za úplatu (srov. čl. 3 body 9 a 10 AI aktu), nebo
- uvedení do provozu, tj. dodání systému AI k prvnímu použití přímo zavádějícímu subjektu nebo pro vlastní použití v EU se zamýšleným účelem, kterým se rozumí „použití systému AI zamýšlené poskytovatelem, včetně konkrétního kontextu a podmínek použití, které jsou uvedeny v informacích dodaných poskytovatelem v návodu k použití, v propagačních nebo prodejních materiálech a prohlášeních, jakož i v technické dokumentaci“ (srov. čl. 3 body 11 a 12 AI aktu).
Postavení poskytovatele podle AI aktu lze volně přirovnat k postavení výrobce podle jiných harmonizačních předpisů EU, přičemž je však třeba dbát na rozdíly vyplývající z povahy systémů/obecných modelů AI.
Dovozcem (importer) podle čl. 3 bodu 6 AI aktu se rozumí osoba nacházející se nebo usazená v EU, která uvádí na trh systém AI označený jménem, názvem nebo ochrannou známkou osoby usazené ve třetí zemi. Těmto osobám vyvstávají povinnosti spočívající v ověření, zda poskytovatel daného systému AI dostál svým základním povinnostem podle AI aktu (srov. zejména čl. 23 AI aktu).
Distributorem (distributor) podle čl. 3 bodu 7 AI aktu je další osoba v dodavatelském řetězci, která dodává systém AI na trh EU, ale není ani poskytovatelem, ani dovozcem.
Zplnomocněným zástupcem (authorised representative) podle čl. 3 bodu 5 AI aktu je osoba nacházející se nebo usazená v EU, která od poskytovatele systému/obecného modelu AI obdržela a přijala písemné pověření k tomu, aby jeho jménem plnila povinnosti a prováděla postupy stanovené AI aktem. Poskytovatelé systémů AI usazení ve třetích zemích jsou před dodáním vysoce rizikového systému AI na unijní trh jsou povinni zplnomocněného zástupce řádně jmenovat (čl. 22 odst. 1 AI aktu).
Zavádějícím subjektem (deployer) podle čl. 3 bodu 4 AI aktu se ve zkratce rozumí osoba nebo orgán, který systém AI v rámci své pravomoci využívá, ledaže jde o osobní neprofesionální činnost. Jde tak o osobu, která již model AI obdržela od jeho poskytovatele, aniž by jej sama vyvinula, ale tento potom využije v rámci své činnosti, např. na podporu při činění rozhodnutí, komunikaci s veřejností apod.
Provozovatelem (operator) podle čl. 3 bodu 8 AI aktu se souhrnně rozumí poskytovatel, výrobce produktu[footnoteRef:1], zavádějící subjekt, zplnomocněný zástupce, dovozce nebo distributor. [1: Toto je relevantní např. pro situace podle čl. 25 odst. 3 AI aktu, kdy za stanovených podmínek povinnosti poskytovatele přejdou na výrobce harmonizovaného produktu podle přílohy I oddílu A AI aktu, jehož bezpečnostní komponentou je vysoce rizikový systém AI.]
1.2.3. Platnost a použitelnost AI aktu
· AI akt vstoupil v platnost 1. srpna 2024 a použitelnosti (účinnosti) nabývá obecně 2. srpna 2026, avšak s řadou výjimek, díky kterým je použitelnost AI aktu postupná, ve fázích.
· 6 měsíců od vstupu v platnost, tj. 2. února 2025 — začal platit zákaz systémů s nepřijatelným rizikem (např. sociální skórování, manipulativní AI, emoční inference atp.) a také povinnost zajištění AI gramotnosti u provozovatelů či uživatelů AI systémů,
· 9 měsíců od vstupu v platnost, tj. 2. května 2025 — uběhla lhůta pro přípravu kodexu pro poskytovatele obecných modelů AI (general-purpose AI, dále jen „GPAI“), tento Kodex správné praxe obecné modely AI (General-Purpose AI Code of Practice) byl za přispění Úřadu pro AI (European AI Office) zveřejněn dne 10. července 2025.
· 12 měsíců od vstupu v platnost, tj. 2. srpna 2025 – začala platit pravidla pro řízení a dozor, tj. ustanovení o správě na úrovni Unie a rovněž v členských státech povinnost určit příslušné orgány a jednotné kontaktní místo, dále začaly platit povinnosti pro obecné modely AI (GPAI), včetně transparentnosti, správy autorských práv či dokumentace a začala platit sankční ustanovení AI aktu.
· 24 měsíců od vstupu v platnost tj. 2. srpna 2026 — nastane obecná použitelnost AI aktu, včetně ustanovení vztahujících se na většinu vysoce rizikových AI systémů uvedené seznamu v příloze III (např. v oblastech zdravotnictví, zaměstnávání, vzdělávání, správy justice, kritické infrastruktury atd.) Do tohoto data má členská stát povinnost zřídit regulační sandbox pro AI.
· 36 měsíců od vstupu v platnost tj. 2. srpna 2027 — použitelnost se rozšíří i na další vysoce rizikové AI systémy uvedené v příloze I (např. AI integrována do fyzických produktů, jako lékařská zařízení, hračky atd.). GPAI systémy uvedené na trh před 2. srpnem 2025 bude nutno do tohoto data přizpůsobit podmínkám AI aktu.
· Do 31. prosince 2030 — musí být uvedeny do souladu AI systémy ve velkých informačních systémech EU (např. Schengenský informační systém), pokud byly uvedeny do provozu před 2. srpnem 2027.
1.2.3. Akty terciárního práva, soft law a jiné dokumenty k provedení AI aktu
Akty terciárního práva k AI aktu jsou souborem nástrojů, jehož cílem je provést zpřesnění pravidel stanovených AI aktu, konkretizovat definice, podmínky a použití AI, zajistit jednotnou interpretaci a aplikaci AI aktu v členských státech a usnadnit dohled, posuzování a vymáhání povinností.
Článek 97 AI aktu svěřuje Komisi pravomoc přijímat ve vztahu k řadě ustanovení AI aktu „delegované akty“ (delegated acts), tj. akty v přenesené pravomoci dle čl. 290 SFEU, podléhající kontrole Evropského parlamentu a Rady, a to po dobu pěti let od 1. srpna. 2024. Komise nicméně dosud nepřijala žádný delegovaný akt, který by byl publikován v Úředním věstníku EU. Tyto delegované akty se mohou týkat např. definice obsahu pojmu „AI systém“ (čl. 96), kritérií pro vyjmutí systémů AI z pravidel vyšší rizikovosti (čl. 6), seznam vysoce rizikových použití AI (čl. 7), prahové hodnoty pro označení generických AI modelů jako systémově rizikové (čl. 51), požadavků na technickou dokumentaci pro systémy vysokého rizika a GPAI (čl. 11), postupů hodnocení shody (conformity assessments) (čl. 43) nebo EU prohlášení o shodě (EU declaration of conformity) (čl. 47).
Komise má taktéž pravomoc vydat prováděcí akty (implementing acts) dle čl. 291 SFEU, které upřesňují nebo technicky rozpracovávají pravidla stanovená v AI aktu a jsou určeny k zajištění jeho jednotného uplatňování a praktického provádění ve všech členských státech. Jedná se např. o kodex správné praxe pro generativní AI (GPAI) a watermarking (čl. 56), zřízení vědecké komise nezávislých expertů (čl. 68), podmínky pro hodnocení shody GPAI (čl. 92), provozní pravidla pro regulační sandboxy (čl. 57), informace pro plány testování v reálném prostředí (čl. 60) nebo společné technické specifikace, pokud stávající normy nestačí (čl. 41).
Komise vydává také nelegislativní pokyny (guidelines) pro lepší implementaci AI aktu. Doposavad šlo o Pokyny k definici systému AI a Pokyny týkající se zakázaných AI praktik. Další pokyny (např. hlášení vážných incidentů, identifikace vysoce rizikových systémů, transparentnost apod.) jsou plánovány podle různých časových milníků AI aktu: Do 12 měsíců od účinnosti: pokyny k hlášení závažných incidentů u systémů vysokého rizika (čl. 73), do 18 měsíců: praktický návod k tomu, jak určit, jestli je systém AI vysoce rizikový – včetně příkladů (čl. 6), bez pevného termínu: doplňující pokyny k definici AI systémů, požadavkům poskytovatelů, zákazům, významným úpravám, transparentnosti a vztahu mezi AI aktem a dalšími právními předpisy.
Dne 8. července 2025 Evropská komise zveřejnila Kodex správné praxe pro obecné modely AI (GPAI Code of Practice). Kodex byl připraven expertní skupinou a obsahuje konkrétní závazky týkající se: technické dokumentace, ochrany autorských práv, bezpečnosti a řízení rizik nebo vzor formuláře pro shrnutí tréninkových dat. Kodex vstoupil v účinnost 2. srpna 2025, s etapovým zaváděním. Tyto kodexy sice nejsou právně závazné, ale výrazně usnadňují prokazování souladu s AI aktem a jsou klíčové pro nové modely uvedené na trh po 2. srpnu 2025.
Pro řádné provádění AI aktu je dále vyžadována řada dalších materiálů jako technické harmonizační standardy, šablony a benchmarky pro používané postupy, kodexy chování (Codes of Conduct) nebo vzory pro dokumentaci.
1.2.4. Dopad AI aktu a povinnosti pro Českou republiku
AI akt je závazný v celém rozsahu a přímo použitelný ve všech členských státech. Aby mohl být AI akt vymáhán na národní úrovni, musí však být provedena adaptace právního řádu ČR. Zejména je třeba legislativně zakotvit národní mechanismus dozoru nad dodržováním AI aktu, tedy musí být určeny příslušné orgány dozoru nad trhem. Zároveň musí být určen oznamující orgán, který zajistí oznamování subjektů posuzování shody podle AI aktu a další úkoly státní správy v této oblasti. Podobně je v některých případech žádoucí stanovit zvláštní procedurální úpravu navazující na postupy podle AI aktu. V neposlední řadě je nutné stanovit pravidla pro ukládání sankcí za porušování povinností stanovených AI aktem v jeho čl. 99. Aby Česká republika patřila do budoucna mezi lídry v oblasti AI, je rovněž potřeba v rámci opatření na podporu inovací nejen zřídit regulační sandbox pro AI dle čl. 58 a 59 AI aktu (nikoli využít možnosti zřídit sandbox společně s jiným státem), ale též zabezpečit jeho řádné fungování. Provedení uvedené adaptace bude nejen splněním povinností členského státu dle AI aktu, ale také zásadním krokem pro rozvoj celého AI ekosystému v České republice, tedy komplexního prostředí zahrnujícího technologie, instituce a infrastrukturu nezbytnou pro vývoj a využívání AI.
1.3. Souvztažnosti mezi AI aktem, navrhovaným zákonem a jinými právními předpisy
AI akt je komplexní rámec pro regulaci AI v EU, který funguje vedle dalších právních předpisů a doplňuje je, přičemž věcně zasahuje do řady oblastí. Stejně tak navržený zákon o umělé inteligenci bude působit napříč sektory.
1.3.1. AI akt a Nový legislativní rámec EU
Nový legislativní rámec (New Legislative Framework, dále jen „NLF“) tvoří rámec pro předpisy a normy harmonizované oblasti (směrnice zpracovávané podle NLF), zaměřuje se na volný pohyb výrobků na vnitřním trhu EU a zajištění jejich bezpečnosti. Cílem NLF je zefektivnit a zjednodušit pravidla pro uvádění výrobků na trh, zlepšit dozor nad trhem, posílit kvalitu posuzování shody, zvýšit důvěru v evropské výrobky a CE označení a poskytnout legislativní „toolbox“ (soubor opatření) pro budoucí sektorovou harmonizaci. NLF je tvořen třemi horizontálními dokumenty:
· nařízení (ES) č. 765/2008, kterým se stanoví požadavky na akreditaci a dozor nad trhem s výrobky,
· rozhodnutí č. 768/2008 o společném rámci pro uvádění výrobků na trh, které obsahuje referenční ustanovení, jež mají být začleněna do revizí právních předpisů týkajících se výrobků. Ve skutečnosti se jedná o šablonu pro budoucí harmonizační právní předpisy týkající se výrobků.
· Dodatečně byl NLF doplněn a upraven nařízením Evropského parlamentu a Rady (EU) 2019/1020 ze dne 20. června 2019 o dozoru nad trhem a souladu výrobků s předpisy a o změně směrnice 2004/42/ES a nařízení (ES) č. 765/2008 a (EU) č. 305/2011.
Nový legislativní rámec (New Legislative Framework, dále jen „NLF“) byl na úrovni Evropské unie přijat v roce 2008 s cílem aktualizovat a sjednotit pravidla pro uvádění výrobků na trh v rámci jednotného vnitřního trhu.
Podle odst. 46 úvodních ustanovení AI aktu: „Na základě nového legislativního rámce, jak je objasněno ve sdělení Komise „Modrá příručka“[footnoteRef:2] k provádění pravidel EU pro výrobky (2022), je obecným pravidlem, že na jeden produkt může být použitelný více než jeden právní akt náležející mezi harmonizační právní předpis Unie, jako jsou nařízení Evropského parlamentu a Rady (EU) 2017/745 a 2017/746 nebo směrnice Evropského parlamentu a Rady 2006/42/ES, neboť k dodání na trh nebo uvedení do provozu může dojít pouze v případě, že je produkt v souladu se všemi platnými harmonizačními právními předpisy Unie.“ [2: Pro zavádění směrnic založených na základě nového legislativního rámce byla vydána příručka, který nahrazuje The Blue Guide on the implementation of EU product rules, 2016, viz také verze česky "Modrá příručka"]
AI akt vychází z principů NLF, byť jeho konkrétní aplikace může být v některých bodech atypická, protože neupravuje jen „výrobky“ jakožto věci hmotné, ale celý okruh softwarových řešení a technologií spadajících do definice AI a jejich používání napříč sektory, funkcemi a situacemi. AI akt reguluje poskytování systémů AI, které mohou být součástí fyzického výrobku (např. motorové vozidlo s AI bezpečnostní komponentou), nebo čistě digitální službou (např. algoritmus v cloudu). AI akt se vztahuje na systémy, které nemusejí mít fyzickou podobu, působí relativně samostatně, dynamicky, „učí se“, adaptují se, jsou používány v reálném čase a upravují své chování podle prostředí (např. chatbot, který upravuje odpovědi podle chování uživatele, není výrobek v tradičním slova smyslu – ale je to AI systém regulovaný AI aktem). AI akt, tak jako další předpisy spadající do rámce NLF, upravuje dodání AI systému („výrobku“) na trh, posouzení shody a technické požadavky. AI akt ovšem dále reguluje i použití systémů AI a rozlišuje řadu subjektů, které se v běžném dodavatelsko-odběratelském řetězci výrobků nevyskytují. Kromě poskytovatele, uživatele, distributora, dovozce, zplnomocněného zástupce, také výrobce výrobku se zabudovaným AI systémem (product manufacturer), poskytovatele základního modelu (foundation model provider) a zavádějící subjekt (deployer), který AI systém v rámci své pravomoci využívá.
AI akt tak vychází z principů NLF a přizpůsobuje je specifikům AI technologií. AI akt například v návaznosti na NLF přebírá princip, že základní požadavky jsou formulované v samotném právním předpise, zatímco technická specifikace je ponechána na standardizačních orgánech v zájmu zvýšení koordinace, efektivity a odbornosti. Pro adaptaci na AI akt je stěžejní stanovení předpokládaných rolí vnitrostátním orgánům veřejné moci (orgány dozoru nad trhem, oznamující orgán). AI akt zavádí strukturovaný přístup k uvádění AI systémů na trh a přebírá další principy NLF, jako jsou klasifikace rizika (AI systémy jsou rozděleny do čtyř kategorií podle míry rizika nepřijatelné, vysoké, omezené a minimální), požadavky na shodu (pro vysoce rizikové AI systémy je povinné provést posouzení shody, které může zahrnovat i externí posouzení třetí stranou), označení CE (po úspěšném hodnocení shody je AI systém označen CE značkou, což znamená, že splňuje požadavky EU a může být uveden na trh) a dozor nad trhem (národní dozorové orgány zajišťují, že AI systémy uváděné na trh splňují požadavky AI aktu).
Tento horizontální právní rámec pro regulaci AI má za cíl zajistit bezpečné a důvěryhodné AI technologie na trhu EU, což je rovněž v souladu s cíli NLF.
1.3.2. Nový legislativní rámec v ČR
V České republice je NLF implementován zejména prostřednictvím zákona č. 90/2016 Sb., o posuzování shody stanovených výrobků při jejich dodávání na trh, ve znění pozdějších předpisů (dále jen „zákon č. 90/2016 Sb.). Tento zákon přejímá zásady stanovené v rozhodnutí 768/2008/ES a upravuje podmínky uvádění výrobků na trh, povinnosti výrobců, dovozců a distributorů, požadavky na označení CE, pravidla pro posuzování shody a oznámení (notifikaci) subjektů.
Dále je pro tuto oblast významný zákon č. 22/1997 Sb., o technických požadavcích na výrobky a o změně a doplnění některých zákonů, ve znění pozdějších předpisů (dále jen „zákon č. 22/1997 Sb.“). Tento zákon mimo jiné v českém prostředí upravuje institucionální a procedurální rámec pro akreditaci subjektů posuzování shody.
Základním východiskem posuzování shody v České republice je, že je ve většině případů realizována (ze strany ÚNMZ autorizovanými či oznámenými) soukromými osobami, a to na základě inominátní soukromoprávní smlouvy, ač se jedná o činnosti vykonávané ve veřejném zájmu (srov. např. rozsudek Městského soudu v Praze ze dne 30. ledna 2025, čj. 11 A 131/2023-71). V tomto duchu je třeba číst úpravu podle AI aktu. Hovoří-li např. čl. 44 odst. 3 pododstavec druhý AI aktu o možnosti se „odvolat“ proti rozhodnutí oznámeného subjektu, nejedná se v českém prostředí o odvolání ve smyslu správního řádu, nýbrž o smluvně upravený mechanismus revize původního stanoviska oznámeného subjektu. Podobné platí i pro „dozor“ nad schváleným systémem řízení kvality podle bodu 5 přílohy VII AI aktu. Předkládaný návrh zákona tyto principy posuzování shody v České republice respektuje. Jejich případná změna či úprava by představovala záměr, který dalece přesahuje cíle předkládaného návrhu zákona.
Implementace zásad NLF se rovněž promítá do dalších právních předpisů, například do sektorových zákonů upravujících specifické typy výrobků (například zdravotnické prostředky, stavební výrobky, měřidla).
1.3.3. Regulace systémů AI jako výrobků
AI akt definuje systém AI v čl. 3 bodě 1 jako strojový systém navržený tak, aby po zavedení fungoval s různými úrovněmi autonomie a který po zavedení může vykazovat adaptabilitu a který za explicitními nebo implicitními účely z obdržených vstupů odvozuje, jak generovat výstupy, jako jsou predikce, obsah, doporučení nebo rozhodnutí, které mohou ovlivnit fyzická nebo virtuální prostředí.[footnoteRef:3] [3: Pojem dálen upřesňuje bod 12 odůvodnění AI aktu.]
Systémy AI se mohou považovat za výrobky (produkty, products), nebo součásti výrobků (komponenty produktů, components of products), v závislosti na tom, k jakému užití jsou vyrobeny a určeny a jak jsou dodávány do distribuční sítě. AI akt označuje systém AI jako produkt nebo jeho součást. Např. v bodech 50 až 52 odůvodnění AI aktu se hovoří o systémech AI, které jsou komponentami produktů (součástmi výrobků) nebo produkty (výrobky) samy o sobě.
Pokud jsou AI systémy součástmi výrobků, které podléhají jiné právní regulaci, vztahuje se tato regulace vždy na výrobky jako takové, přičemž na AI komponentu výrobku se vztahuje navíc ještě AI akt a v budoucnu i (nyní navržený) zákon o umělé inteligenci.
1.3.3.1. AI jako součást regulovaných výrobků
Pokud je systém AI součástí výrobku, na který dopadají harmonizační předpisy EU, tj. nařízení a směrnice, které definují technické požadavky na výrobky a zavádějí postup posuzování shody před uvedením výrobku na trh EU, platí tyto požadavky pro celý výrobek, včetně AI komponenty, na kterou dopadá AI akt. Mezi harmonizované výrobky patří například stroje, zdravotnické prostředky, elektrická zařízení, hračky nebo zařízení připojená k síti. Výrobce nebo dovozce harmonizovaného výrobku musí zajistit, že výrobek splňuje příslušné evropské regulatorní požadavky, vydá prohlášení o shodě a vybaví jej označením CE. Tento proces zajišťuje bezpečnost výrobků a volný pohyb zboží v rámci EU. Zákon č. 90/2016 Sb. zavádí pravidla a postupy, jakými se prokazuje, že výrobek splňuje požadavky příslušných harmonizovaných předpisů EU.
1.3.3.2. Vztah AI aktu a nařízení o obecné bezpečnosti výrobků
Úprava stanovená AI aktem je doplňována nařízením Evropského parlamentu a Rady (EU) 2023/988 ze dne 10. května 2023 o obecné bezpečnosti výrobků, o změně nařízení Evropského parlamentu a Rady (EU) č. 1025/2012 a směrnice Evropského parlamentu a Rady (EU) 2020/1828 a o zrušení směrnice Evropského parlamentu a Rady 2001/95/ES a směrnice Rady 87/357/EHS (dále jen „GPSR“). GPSR reaguje na skutečnost, že sebekomplexnější právní rámec regulující specifické typy a kategorie výrobků nemůže postihnout tržní realitu a její vývoj. GPSR proto zavádí široký horizontální legislativní rámec, který má vyplnit mezery a doplnit ustanovení existujících unijních předpisů, co se týče požadavků na bezpečnost výrobků (bod 6 odůvodnění GPSR). Podle čl. 2 odst. 1 GPSR se toto nařízení použije na výrobky uváděné nebo dodávané na trh, pokud v právních předpisech EU, které upravují bezpečnost těchto dotčených výrobků, neexistují zvláštní ustanovení se stejným cílem. Pokud unijní právo na daný výrobek naopak klade zvláštní požadavky v oblasti bezpečnosti, použije se GPSR subsidiárně na hlediska a rizika nebo kategorie rizik, kterých se požadavky této zvláštní unijní legislativy netýkají. Má-li se v určité situaci použít GPSR, musí jít (1) o výrobek ve smyslu tohoto nařízení a (2) zvláštní odvětvové požadavky v oblasti bezpečnosti tohoto výrobku musí absentovat, nebo být z hlediska obecného rámce stanoveného GPSR neúplné.
Co se týče kritéria výrobku, čl. 3 bod 1 GPSR vymezuje výrobek jako „předmět, propojený nebo nepropojený s jinými předměty, dodaný nebo zpřístupněný za úplatu či bezplatně, a to i v souvislosti s poskytnutím služby, který je určen spotřebitelům nebo u něhož lze za rozumně předvídatelných podmínek předpokládat, že bude spotřebiteli používán, přestože jim určen není“. V první řadě je tak třeba uvést, že by se GPSR nemělo použít na AI systémy, které jsou uváděny na trh nebo do provozu pouze jako licence k softwaru, který není propojený s žádným hmotným předmětem. Totéž vyplývá i z bodu 166 odůvodnění AI aktu, který odkazuje na GPSR s tím, že „[j]e důležité, aby systémy AI související s produkty […] byly při uvedení na trh nebo do provozu přesto bezpečné.“ Je pouze třeba upozornit, že definice věci podle GPSR nebude pokrývat všechny AI systémy související s produkty, ale pouze ty, u kterých lze alespoň rozumně předpokládat, že budou využívány spotřebiteli. GPSR se naopak nepoužije na výrobky propojené s AI systémy, které jsou určeny výlučně pro profesionální použití a jejich průnik na spotřebitelský trh nelze předpokládat.
Co se týče kritéria absence/neúplnosti zvláštních odvětvových požadavků, je třeba uvést, že kapitola III AI aktu stanovuje značně podrobné požadavky na vysoce rizikové systémy AI, které zahrnují mj. požadavky na řízení rizik včetně rizik v oblasti zdraví a bezpečnosti, přezkoumávání datových sad používaných při vývoji AI systémů i z hlediska možných zkreslení s dopady na zdraví a bezpečnost osob, uvádění informací o možných dopadech na zdraví a bezpečnost v návodech k použití aj. Celý regulatorní a institucionální rámec zavedený v souvislosti s vysoce rizikovými systémy umělé inteligence, včetně jeho návaznosti na nařízení (EU) 2019/1020, směřuje mj. právě k zajištění bezpečnosti vysoce rizikových systémů umělé inteligence. S ohledem na uvedené lze předpokládat, že z hlediska požadavků na bezpečnost vysoce rizikových systémů AI se uplatní AI akt namísto GPSR. Toto je patrné i z citovaného bodu 166 odůvodnění AI aktu, který počítá s použitím požadavků GPSR pouze na AI systémy související s produkty, které podle AI aktu „nejsou vysoce rizikové, a proto nemusí splňovat požadavky, které jsou stanoveny pro vysoce rizikové systémy AI.“
Co se tedy týče AI systémů, které nepředstavují vysoké riziko, lze počítat s tím, že bude z hlediska GPSR hodnotit orgán příslušný k vymáhání GPSR[footnoteRef:4] dodržení požadavků na bezpečnost produktů, se kterými jsou propojeny, i se zahrnutím dopadů na bezpečnost vyplývajících z těchto AI systémů, jak tomu bylo doposud. Na tyto AI systémy samotné se z hlediska AI aktu s ohledem na míru jejich rizikovosti neuplatní buď žádné zvláštní požadavky, nebo požadavky na transparentnost, nad jejichž dodržování bude vykonávat dozor příslušný orgán dozoru nad trhem podle AI aktu. [4: Srov. zákon č. 387/2024 Sb., o obecné bezpečnosti výrobků a o změně některých souvisejících zákonů, ve znění pozdějších předpisů.]
1.3.3.3. Dozor nad trhem
Nařízení (EU) 2019/1020 o dozoru nad trhem a souladu výrobků s předpisy[footnoteRef:5] (dále též „nařízení o dozoru“), stanovuje obecný rámec pro dozor nad trhem a kontrolu produktů vstupujících na vnitřní trh EU a týká se široké škály výrobků (např. hraček, strojních zařízení, elektrických zařízení určených pro používání ve stanovených mezích napětí, …). Zavádí koordinovaný systém dozoru nad trhem, ukládá povinnosti orgánům dozoru nad trhem a hospodářským subjektům (např. výrobcům, dovozcům), zavádí pojem tzv. pověřeného zástupce v EU pro výrobky z třetích zemí. Nařízení o dozoru tak je obecným, horizontálním předpisem a platí obecně pro dozor nad všemi výrobkovými předpisy v něm uvedenými (resp. výrobkovými předpisy na něj odkazujícími) jako lex generalis, zatímco AI akt je zvláštní předpis upravující některá specifika výkonu dozoru nad AI systémy jako lex specialis. Nařízení o dozoru upravuje obecná pravidla pro dozor a AI akt na něj odkazuje, zejm. ve článcích 74 a 79. [5: Nařízení Evropského parlamentu a Rady (EU) 2019/1020 ze dne 20. června 2019 o dozoru nad trhem a souladu výrobků s předpisy a o změně směrnice 2004/42/ES a nařízení (ES) č. 765/2008 a (EU) č. 305/2011.]
Článek 74 odst. 1 AI aktu stanoví, že nařízení o dozoru se vztahuje i na AI systémy upravené AI aktem. Provozovatelé budou přitom pro účely nařízení o dozoru považováni za hospodářské subjekty, resp. AI systémy budou považovány za výrobky. Článek 74 odst. 2 ukládá orgánům dozoru povinnost vykazovat informace podle čl. 34 odst. 4 nařízení o dozoru. Odst. 3 až 5 čl. 74 se zabývá určením orgánu dozoru nad trhem u vysoce rizikových systémů AI souvisejících s produkty, na které se vztahují harmonizační předpisy a umožňuje využít pravomoci definované v nařízení o dozoru k dohledu nad AI systémy. Odst. 10 až 14 čl. 74 – uvádí další aspekty spolupráce mezi orgány dozoru, oznámení, přístupu k dokumentaci a zdrojovým kódům, vždy v návaznosti na pravomoci a postupy stanovené v nařízení do dozoru.
Článek 79 odst. 1 AI aktu stanoví, že „AI systémy představující riziko“ jsou vnímány jako „výrobek představující riziko“ podle čl. 3 bod 19 nařízení od dozoru, přičemž je dále v čl. 79 odst. 2 uvedeno, že na opatření zde upravená se použije čl. 18 nařízení o dozoru.
K nařízení o dozoru byl v ČR přijat adaptační zákon č. 87/2023 Sb. o dozoru nad trhem s výrobky a o změně některých souvisejících zákonů (zákon o dozoru nad trhem s výrobky)[footnoteRef:6]. V návrhu předloženého zákona o umělé inteligenci se na zákon o dozoru nad trhem s výrobky výslovně odkazuje v ust. § 17 „Použití zákona dozoru nad trhem s výrobky“, v němž je v odst. 1 uvedeno, že při výkonu dozoru nad dodržováním povinností podle AI aktu a zákona o umělé inteligenci postupují orgány dozoru podle zákona o dozoru nad trhem s výrobky a nařízení o dozoru a dále v odst. 2 je specifikováno, že pro účely postupu při výkonu dozoru nad dodržováním povinností podle AI aktu se systém AI považuje za výrobek. [6: Zákon č. 87/2023 Sb. o dozoru nad trhem s výrobky a o změně některých souvisejících zákonů (zákon o dozoru nad trhem s výrobky), ve znění pozdějších předpisů.
]
V souladu s čl. 70 odst. 1 AI aktu jsou v návrhu zákona o umělé inteligenci určeny orgány dozoru nad trhem: Český telekomunikační úřad (ČTÚ), který je zároveň jednotným kontaktním místem dle čl. 70 odst. 2 AI aktu, dále Česká národní banka (ČNB) a Úřad pro ochranu osobních údajů (ÚOOÚ), společně dále jen „dozorové orgány dle AI aktu“, které vykonávají pravomoci v souladu se zákony, kterými byly zřízeny. Novelou zákona č. 87/2023 Sb., o dozoru nad trhem s výrobky, která je součástí předloženého návrhu zákona o umělé inteligenci, mají být dozorové orgány dle AI aktu přičleněny k dosavadním 13 orgánům dozoru příslušným k postupu podle nařízení o dozoru nad trhem a podle zákona o dozoru nad trhem s výrobky, vyjmenovaným v jeho § 4 odst. 1. Tímto dozorové orgány dle AI aktu tímto získají pravomoci podle zákona o dozoru nad trhem s výrobky. Výhledově by bylo možné zvážit i zavedení komplexní úpravy dozoru nad trhem v jednom zákoně namísto současné situace, kde zákon č. 87/2023 Sb. svodně upravuje okruh a kompetence orgánů dozoru, zatímco odkazuje na řadu dalších sektorových předpisů. Takovýto záměr však dalece přesahuje cíl předkládaného návrhu zákona.
Podle § 4 odst. 3 zákona o dozoru nad trhem s výrobky „orgán dozoru a) spolupracuje s ostatními orgány dozoru, ústředním styčným úřadem a orgány Celní správy České republiky, b) zpracovává podklady pro vnitrostátní strategii dozoru nad trhem s výrobky podle čl. 13 nařízení o dozoru nad trhem, její aktualizaci a vyhodnocení a c) plní další povinnosti stanovené nařízením o dozoru nad trhem“. Zákon určuje jako ústřední styčný úřad podle čl. 10 odst. 3 nařízení o dozoru Ministerstvo průmyslu a obchodu.
Dozorové orgány mohou a mají spolupracovat při kontrolní činnosti, zejména u komplexních výrobků, které mohou podléhat dozoru upravenému nařízením o dozoru z hlediska požadavků stanovených AI aktem a jedním nebo více jinými unijními odvětvovými předpisy. Na základě § 25 odst. 1 zákona č. 255/2012 Sb., o kontrole (kontrolní řád), ve znění pozdějších předpisů, (dále jen „kontrolní řád“) „[k]ontrolní orgány v zájmu dobré správy vzájemně spolupracují a koordinují své kontroly.“ Podobně si budou tyto kontrolní orgány na žádost při splnění stanovených podmínek poskytovat informace a podklady potřebné k provedení kontroly, jakož i výsledky kontrol a zjištění o nedostatcích podle § 25 odst. 2 až 4 kontrolního řádu. V neposlední řadě budou dozorové orgány v zájmu ochrany práv kontrolovaných osob povinny na základě § 27 kontrolního řádu koordinovat obsah svých plánů kontrol. Ve vhodných případech by dozorové orgány měly rovněž na základě výše uvedené úpravy zvážit realizaci společných kontrol.
1.3.4. AI akt a GDPR
Podle odst. (10) úvodních ustanovení k AI aktu: Základní právo na ochranu osobních údajů je chráněno zejména nařízením 2016/679 ze dne 27. dubna 2016 o ochraně fyzických osob v souvislosti se zpracováním osobních údajů a o volném pohybu těchto údajů a o zrušení směrnice 95/46/ES (obecné nařízení o ochraně osobních údajů), nařízením 2018/1725 ze dne 23. října 2018 o ochraně fyzických osob v souvislosti se zpracováním osobních údajů orgány, institucemi a jinými subjekty Unie a o volném pohybu těchto údajů a o zrušení nařízení (ES) č. 45/2001 a rozhodnutí č. 1247/2002/ES a směrnicí 2016/680 ze dne 27. dubna 2016 o ochraně fyzických osob v souvislosti se zpracováním osobních údajů příslušnými orgány za účelem prevence, vyšetřování, odhalování či stíhání trestných činů nebo výkonu trestů, o volném pohybu těchto údajů a o zrušení rámcového rozhodnutí Rady 2008/977/SVV. Směrnice 2002/58/ES ze dne 12. července 2002 o zpracování osobních údajů a ochraně soukromí v odvětví elektronických komunikací (směrnice o soukromí a elektronických komunikacích) navíc chrání soukromý život a důvěrný charakter sdělení, mimo jiné stanovením podmínek pro uchovávání jakýchkoli osobních a neosobních údajů v koncových zařízeních a přístup k těmto údajům z takových zařízení. Uvedené právní akty Unie poskytují základ pro udržitelné a odpovědné zpracování údajů, včetně případů, kdy datové soubory zahrnují kombinaci osobních a neosobních údajů.
Nařízení 2016/679 ze dne 27. dubna 2016 o ochraně fyzických osob v souvislosti se zpracováním osobních údajů a o volném pohybu těchto údajů a o zrušení směrnice 95/46/ES (obecné nařízení o ochraně osobních údajů, dále jen „GDPR“) a AI akt se vzájemně doplňují. Zatímco GDPR se zaměřuje na ochranu osobních údajů fyzických osob a upravuje pravidla pro jejich zpracování, AI akt reguluje fungování a používání systémů AI, a to bez ohledu na to, zda zpracovávají osobní údaje. V praxi, pokud budou systémy AI zpracovávat osobní údaje, bude nutné plnit povinnosti z obou předpisů zároveň. Například pokud je systém umělé inteligence používán k automatizovanému rozhodování, které ovlivňuje jednotlivce – typicky ve veřejné správě, v HR systémech, při poskytování úvěrů nebo sledování chování uživatelů. V takovém případě musí být systém v souladu s požadavky AI aktu (např. na transparentnost, lidský dohled či řízení rizik) a zároveň musí splňovat požadavky GDPR, tedy mít kromě jiného právní základ pro zpracování osobních údajů, informovat subjekty údajů a respektovat jejich práva. Proto, pokud AI systém zpracovává osobní údaje, dopadá na něj vedle AI aktu také GDPR. AI akt v některých oblastech rozšiřuje principy ochrany osobních údajů – například tím, že stanovuje zvláštní požadavky na systémy s vysokým rizikem nebo transparentnost generativních AI.
Oba předpisy tedy tvoří vzájemně propojený právní rámec, který má zajistit, že rozvoj a používání umělé inteligence bude v Evropské unii probíhat bezpečně, transparentně a s plným respektem k základním právům jednotlivců, včetně práva na ochranu soukromí.
1.3.5. Zhodnocení současného stavu ve vztahu k zákazu diskriminace a ve vztahu k rovnosti mužů a žen
Zákaz diskriminace je základní zásada práva EU zakotvená v čl. 21 Listiny základních práv EU, čl. 18 a 19 SFEU a ve specifických antidiskriminačních směrnicích[footnoteRef:7]. [7: Směrnice EU o rovném zacházení bez ohledu na rasu nebo etnický původ (2000/43/ES)
Směrnice o rovném zacházení v zaměstnání a povolání (2006/54/ES
Směrnice o rovnosti v přístupu k zboží a službám (2004/113/ES)
Směrnice o rovnosti v zaměstnání bez ohledu na věk (2000/78/ES)
]
Vztah zákazu diskriminace v právu EU a AI aktu spočívá v tom, že AI akt částečně rozvíjí a technicky podporuje uplatňování práva na rovné zacházení v kontextu systémů AI, a tak podporuje praktické prosazování zákazu diskriminace v digitálním a automatizovaném prostředí. AI akt reaguje na nové riziko diskriminace, které může vznikat při automatizovaném rozhodování a využívání AI systémů – zejména pokud se tyto systémy používají v citlivých oblastech, jako je zaměstnání, vzdělávání, poskytování úvěrů, veřejná správa či bezpečnost.
AI akt doplňuje existující antidiskriminační předpisy na úrovni EU a členských států. Zajišťuje, aby AI systémy neporušovaly práva na rovné zacházení zakotvená v těchto předpisech. AI akt ve svých úvodních ustanoveních (např. článek 1 a odůvodnění) výslovně uvádí, že cílem nařízení je zajistit, aby využívání umělé inteligence bylo v souladu se základními právy, včetně zákazu diskriminace podle Listiny základních práv EU. Zakazuje a omezuje užívání AI systémů, které mohou vést k porušování rovného zacházení nebo diskriminaci (např. nepovolené biometrické sledování nebo rizikové hodnocení osob).
V souvislosti s nakládáním se systémy AI, označených v AI aktu za vysoce rizikové, právě protože mohou diskriminovat na základě pohlaví, věku, etnického původu apod., jsou AI aktem uloženy specifické povinnosti jako identifikace a řízení rizik dopadu na základní práva (včetně diskriminace), zajištění lidského dohledu, který může chybná nebo diskriminační rozhodnutí napravit, transparentnost algoritmu a přístup k vysvětlitelnému výstupu, záznamy o fungování systému, které umožňují zpětné vyhodnocení diskriminačních dopadů. AI akt výslovně zakazuje určité druhy systémů, které by mohly manipulovat lidským chováním nebo vést k sociálnímu skórování občanů, právě z důvodu ohrožení základních práv a rovnosti. Pokud by AI systém vedl k diskriminaci, odpovědnost za porušení právních předpisů může vzniknout současně podle AI Actu i podle antidiskriminační legislativy (např. GDPR, směrnice 2000/78/ES apod.).
V právu ČR je zákaz diskriminace upraven v Listině základních práv a svobod ČR. Článek 3 zakazuje diskriminaci na základě pohlaví, rasy, původu, jazyka, víry a dalších. Hlavní anti-diskriminační zákonná úprava je pak v zákoně č. 198/2009 Sb., o rovném zacházení a právních prostředcích ochrany před diskriminací. Také zákoník práce (zákon č. 262/2006 Sb.) obsahuje ustanovení o zákazu diskriminace v pracovněprávních vztazích.
Navrhovaný zákon o umělé inteligenci nicméně neupravuje žádným způsobem vztahy, které by se dotýkaly zákazu diskriminace ve smyslu antidiskriminačního zákona a je genderově neutrální – nečiní rozdíly mezi fyzickými osobami na základě jejich pohlaví.
2. Odůvodnění hlavních principů navrhované právní úpravy a shrnutí nejdůležitějších změn, které oproti stávající právní úpravě zavádí, včetně dopadů navrhovaného řešení ve vztahu k zákazu diskriminace a ve vztahu k rovnosti mužů a žen v rozsahu
2.1. Adaptace právního řádu ČR na AI akt – hlavní princip navrhovaného zákona
Hlavním principem navrhovaného zákona je adaptace právního řádu ČR nad AI akt. AI akt má přímý a okamžitý účinek – tzn. platí a je závazný ve všech členských státech EU bez nutnosti implementace do vnitrostátní legislativy (čl. 288 SFEU). Adaptační zákon je proto navržen minimalisticky a řeší jen ty části, kde se počítá se zapojením členských států. Úprava se tak omezuje jen na nezbytné institucionální, procesní a sankční prvky, které AI akt nechává na národní úrovni. Důsledkem uplatnění principu minimalistické implementace je mimo jiné i to, že Česká republika v zásadě nevyužívá diskreci spočívající v možnosti stanovit navazující vnitrostátní úpravu tam, kde jí to AI akt dovoluje. To se týká například úpravy podle čl. 19 odst. 1 nebo 26 odst. 6 AI aktu, které zohledňují skutečnost, že vnitrostátní právo může stanovit požadavek na delší dobu uchování automaticky generovaných protokolů protokolů. Přijetí takovéto zvláštní úpravy se však nejeví ani jako nutné, ani jako žádoucí.
Vzhledem k tomu že AI akt je novou komplexní regulací, je potřeba také jeho provedení v právu ČR koncipovat taktéž samostatně. Jedinečná povaha AI technologií, jejich rychlý vývoj a složité právní, etické a technické otázky, které se budou dále vyvíjet s ohledem na praxi a právní úprava následně měnit, odůvodňují rovněž samostatnou regulaci.
Klíčové role v implementaci AI aktu v České republice budou zastávat Ministerstvo průmyslu a obchodu (dále jen „MPO“), Český telekomunikační úřad (dále jen „ČTÚ“), Úřad pro technickou normalizaci, metrologii a státní zkušebnictví (dále jen „ÚNMZ“) a Česká agentura pro standardizaci (dále jen „ČAS“).
MPO je gestorem AI aktu a koordinuje jeho implementaci v ČR. ČTÚ bude určen jako orgán dozoru nad trhem a bude zajišťovat dodržování pravidel AI Aktu v oblasti tržní regulace. ÚNMZ bude působit jako oznamující orgán, který jmenuje a oznamuje subjekty posuzování shody a monitoruje jejich činnost v souladu s požadavky AI aktu. ÚNMZ bude také zřizovatel regulatorního sandboxu. ČAS bude zodpovědná za vytvoření a správu regulatorního sandboxu, který podpoří inovace a testování AI technologií.
Tento institucionální systém pro implementaci AI Aktu byl navržen nelegislativním materiálem „Návrh implementace Aktu o umělé inteligenci v České republice“, který byl schválen vládou ČR dne 28. května 2025 usnesením č. 394.
Při posuzování variant určení centrálního dozorového orgánu a oznamujícího orgánu pro implementaci AI aktu byla použita kritéria vycházející z analýzy KPMG „Analýza k implementaci AI Aktu“, materiálu Úřadu vlády „Implementace Aktu o umělé inteligenci“ (čj. 15113/2024-UVCR) ze září 2024 a resortních podkladů diskutovaných MPO se zástupci stakeholderů v rámci Výboru pro umělou inteligenci ČR.
Posuzovaná kritéria zahrnovala: nestrannost a nezávislost, existující lidské zdroje a expertizu (v oblasti AI, datových technologií, kybernetické bezpečnosti, ochrany osobních údajů, základních práv a bezpečnostních rizik), schopnost rychlého rozvoje AI expertizy, zkušenosti s výkonem dozoru a dohledem nad trhem, provázanost s existujícími povinnostmi v oblasti dohledu nad výrobky a službami, schopnost kontrolní a sankční činnosti, zkušenosti s implementací evropské digitální legislativy (např. nařízení 2022/2065 o jednotném trhu digitálních služeb, nařízení 2022/868 o evropské správě dat nebo nařízení 2023/2854), schopnost vytvořit jednotné kontaktní místo a zajistit koherentní aplikaci evropské digitální regulace na národní úrovni.
Centrální dozorový orgán je v této variantě chápán jako orgán soustřeďující AI expertizu ve státní správě a působící jako jednotné kontaktní místo pro AI akt vůči Evropské komisi. Měl by vykonávat dohled nad všemi oblastmi uvedenými v příloze III AI aktu, s výjimkou dohledu nad finančním sektorem, který bude vykonávat Česká národní banka, a oblastí biometriky a vymáhání práva, který bude mít na starost Úřad pro ochranu osobních údajů.
V rámci analýzy bylo zvažováno pět variant pro určení centrálního dozorového orgánu (přidělení gesce na ČTÚ, Národní úřad pro kybernetickou a informační bezpečnost, Digitální a informační agenturu a Českou obchodní inspekci nebo vznik nového úřadu). Na základě výše uvedených kritérií byla jako nejvhodnější varianta vyhodnocena ČTÚ, zejména s ohledem na snahu koncepčně zakotvit implementaci digitální legislativy EU na národní úrovni a podpořit synergie s dalšími digitálními regulacemi.
Klíčovým kritériem pro výběr oznamujícího orgánu je schopnost odborně posoudit, zda subjekty posuzování shody udělující certifikace vysoce rizikovým AI systémům mohou tuto činnost vykonávat, a zda jsou certifikace udělovány na základě dostatečně prokázané shody s požadavky na AI systémy. Oznamující orgán předává Komisi informace o subjektech posuzování shody a hraje důležitou roli v mezinárodní spolupráci v rámci EU.
Povinnost určit nebo zřídit oznamující orgány vyplývá z čl. 28 odst. 1 a čl. 70 odst. 1 AI aktu. ÚNMZ již dnes plní tuto funkci v rámci produktové legislativy EU (např. posuzování shody dle harmonizačních předpisů). Disponuje zavedenými procesy pro oznamování subjektů posuzování shody Evropské komisi, správu databáze oznámených subjektů (NANDO) a odborností v oblasti technické normalizace a metrologie, která je úzce propojena s procesy zajišťování kvality a posuzování shody. Znalost technických standardů je pro certifikaci vysoce rizikových AI systémů klíčová. ÚNMZ je taktéž součástí evropských a mezinárodních sítí v oblasti standardizace a posuzování shody a dokáže zajistit efektivní komunikaci s EK a členskými státy.
V oblasti regulatorního sandboxu byl identifikován potenciál pro rozvoj a provoz národního sandboxu pro AI, který zapojí relevantní subjekty z inovačního ekosystému. Tato instituce bude klíčová pro podporu inovací v AI při současném zajištění dodržování regulačních požadavků a ochrany spotřebitelů. Jako vhodná instituce byla zvolena Česká agentura pro standardizaci, která kromě tvorby a distribuce technických norem vykonává i další činnosti, např. atestace elektronických systémů spisových služeb dle zákona č. 499/2004 Sb. V rámci těchto atestací ověřuje shodu softwaru s požadavky zákona, vyhlášky a Národního standardu. ČAS má k tomu vybudované technické i personální zázemí, což je činnost příbuzná fungování regulatorního sandboxu dle AI aktu. ČAS je zřízena ÚNMZ, který je vybrán jako zřizovatel regulatorního sandboxu, jelikož splňuje podmínku AI aktu a je příslušný orgán podle AI aktu.
K problematice určení centrálního dozorového a oznamujícího orgánu proběhla v roce 2024 a počátkem roku 2025 řada konzultačních jednání, včetně meziresortních jednání (Oddělení evropské digitální agendy ÚVL a MPO), bilaterálních konzultací s klíčovými resorty a institucemi, jednání se stakeholdery (např. prg.AI, Česká asociace pro umělou inteligenci) a konzultací se členskými státy. Dne 24. února 2025 proběhla koordinační Rada k AI aktu, kde zástupci MPO, MPSV, ÚVL, NÚKIB, DIA a stakeholderů (např. SPČR, prg.AI, ČAUI, HK) diskutovali institucionální strukturu AI aktu. Závěry těchto diskuzí byly poté promítnuty do nelegislativního materiálu „Návrh implementace Aktu o umělé inteligenci v České republice“ a dne 17. března 2025 projednány na Výboru pro AI. Tento přístup a určení institucionální struktury byl následně stvrzen výše zmíněným usnesením vlády č. 394.
Tato struktura zajišťuje transparentní, koordinovaný a odborně podložený přístup k implementaci AI Aktu, který zároveň podporuje inovace prostřednictvím sandboxu a zaručuje ochranu základních práv a bezpečnosti v digitálním prostředí Česka.
Samostatně byla provedena částečná adaptace na AI akt prostřednictvím zákona č. 230/2025 Sb., který mění zákon č. 273/2008 Sb., o Policii České republiky, a který byl schválen 11. června 2025, účinnosti nabyl 1. srpna 2025. Tímto zákonem je výrazně je novelizován i zákon č. 110/2019 Sb., o zpracování osobních údajů, ve znění pozdějších předpisů (dále jen „zákon č. 110/2019), kde se do klíčové části vkládají nová ustanovení (§ 39a až 39c), která zavádějí instituci izolovaného systému pro biometrickou identifikaci v reálném čase na letištích – se stanovenými podmínkami, správními postupy, soudní kontrolou a lhůtami pro vymazání údajů.
2.2. Popis návrhu zákona
Návrh zákona má čtyři části a 36 paragrafů. Část první „Umělá inteligence“ (§ 1 až § 34) obsahuje vlastní adaptaci na AI akt, část druhá (§ 34) „Změna zákona o dozoru nad trhem s výrobky“ obsahuje novelu zákona č. 87/2023 Sb. Část třetí (§ 35) „Změna zákona o kritické infrastruktuře“ obsahuje novelu zákona č. 266/2025 Sb. Část čtvrtá (§ 36) upravuje účinnost.
Část první:
Předmět úpravy je vymezen v § 1 jako:
a) Některé postupy související s AI aktem: jedná se o některé zvláštní postupy správních orgánů v některých specifických případech, tato úprava je speciální obecně aplikovanému správnímu řádu.
b) Zřízení regulačního sandboxu pro umělou inteligenci a některé podmínky jeho provozu.
c) Některé povinnosti provozovatelů: je dopracováním ustanovení AI aktu o povinnostech, tak aby měla plné účinky v podmínkách právního řádu ČR.
d) Výkon státní správy v oblasti umělé inteligence: vymezeny jsou kompetence českých orgánů k uplatňování AI aktu zejm. jejich kontrolní pravomoc a stíhání přestupků.
V § 2 až § 4 je upravena působnost orgánů dozoru nad trhem, oznamujícího orgánu a veřejného ochránce práv.
Ustanovení § 5 až 11 stanovuje zvláštní úpravu postupů správních orgánů v případech, kdy by obecná úprava správního práva procesního nebyla postačující pro realizaci postupů předvídaných AI aktem. Obecná úprava správního práva procesního, zejména zákon č. 500/2004 Sb., správní řád, ve znění pozdějších předpisů (dáje jen „správní řád“), se na postupy podle tohoto zákona použije subsidiárně.
V § 12 je upraven obecný odkaz na zákon č. 90/2016 Sb., který se použije subsidiárně k úpravě oznamování a posuzování shody podle AI aktu.
V § 13 se specifikuje zvláštní role ÚOOÚ jakožto oznámeného subjektu pro účely systémů AI uvedených v čl. 43 pododstavci třetím větě druhé nařízení o umělé inteligenci. Navrhuje se výslovně stanovit, že ÚOOÚ bude tuto funkci vykonávat vůči systémům AI nasazeným orgány ČR. Dále se navrhuje postavit najisto, že ÚOOÚ bude po vzoru praxe v této oblasti vykonávat činnosti spočívající v posuzování shody na základě smlouvy. Dále se upravuje možnost tyto činnosti ze strany ÚOOÚ zadat jinému subjektu nebo orgánu a vztah této činnosti ÚOOÚ k výkonu dozoru z jeho strany.
Ustanovení § 14 stanovuje jazykové požadavky na certifikáty vyhotovené oznámenými subjekty, prohlášení o shodě a dokumentace osvědčující shodu AI systému s požadavky AI aktu, přičemž je zde kromě češtiny a slovenštiny jako přípustný jazyk zvolena i angličtina v zájmu usnadnění vstupu na český trh.
Ustanovení § 15 až 17 zřizují regulační sandbox a upravují základní aspekty jeho provozu.
Ustanovení § 18 a 19 upravuje využití Portálu umělé inteligence v kritické infrastruktuře, který je součástí Portálu kritické infrastruktury podle zákona č. 266/2025 Sb., o odolnosti subjektů kritické infrastruktury a o změně souvisejících zákonů (zákon o kritické infrastruktuře), ve znění pozdějších předpisů (dále jen „zákon o kritické infrastruktuře“), pro účely registrace systémů umělé inteligence podle čl. 49 odst. 5 AI aktu.
Ustanovení § 20 odkazuje na použití zákona o dozoru nad trhem s výrobky při výkonu dozoru nad dodržováním AI aktu a stanovuje, že za výrobek se pro účely tohoto zákona považuje i AI systém.
V § 21 až § 23 je stanovena zvláštní úprava spolupráce dozorových orgánů.
Ustanovení § 24 upravuje výkon kontrolní činnosti ze strany ČTÚ.
Odpovědnost za porušení návrhu zákona a AI aktu, sankce a některé související postupy jsou upraveny v § 25 až 31. Návrh zákona přitom vymezuje odpovědnost za přestupek pouze v těch případech, ve kterých dozor dle AI aktu spadá do působnosti orgánů členských států a nikoli Komise, která má výlučnou pravomoc k výkonu dozoru nad kapitolou V AI aktu (srov. čl. 88 odst. 1 AI aktu).
Část druhá:
Součástí předkládaného návrhu zákona je také v § 34 novela zákona č. 87/2023 Sb., o dozoru nad trhem s výrobky, v jehož § 4, odst. 1 je navrženo rozšíření taxativního výčtu dosavadních orgánů dozoru nad trhem s výrobky o orgány, které přebírají povinnosti dozorových orgánů podle AI aktu: Českou národní banku, Český telekomunikační úřad a Úřad pro ochranu osobních údajů, které jsou doplněny ve výčtu pod písm. n), o), p).
Část třetí:
Ustanovení § 35 upravuje vymezení Portálu kritické infrastruktury v § 20 zákona o kritické infrastrukře.
Část čtvrtá:
Ustanovení § 36 upravuje účinnost navrženého zákona, a to patnáctým dnem po jeho vyhlášení.
2.3. Dopady navrhovaného řešení ve vztahu k zákazu diskriminace a ve vztahu k rovnosti mužů a žen
Tato otázka byla již rozebrána v bodě 1.3.5. Zhodnocení současného stavu ve vztahu k zákazu diskriminace a ve vztahu k rovnosti mužů a žen.
Navrhovaný zákon neupravuje žádným způsobem vztahy, které by se dotýkaly zákazu diskriminace ve smyslu antidiskriminačního zákona (tj. nerovného zacházení či znevýhodnění některé osoby z důvodu rasy, etnického původu, národnosti, pohlaví, sexuální orientace, věku, zdravotního postižení, náboženského vyznání, víry či světového názoru). Lze proto konstatovat, že právní úprava obsažená v návrhu zákona a AI aktu nemá dopady ve vztahu k zákazu diskriminace. Z hlediska rovnosti mužů a žen je návrh neutrální.
3. Vysvětlení nezbytnosti navrhované právní úpravy v jejím celku
3.1. Nezbytnost přijetí zákona adaptujícího právní řád ČR na AI akt
Návrh zákona provádí nutnou adaptaci právního řád ČR na přímo účinný AI akt. Případné neprovedení této adaptace by mělo za důsledek veškerá rizika spojená s neplněním závazků plynoucích pro Českou republiku z jejího členství v Evropské unii, zejména zahájení řízení podle čl. 258 SFEU.
Návrhem zákona jsou vytvářeny podmínky pro dosažení cílů vytyčených AI aktem, a to jednak v rámci zajištění adaptačních podmínek pro realizaci práv a povinností stanovených tímto nařízením, jednak pro vymezení dozorových a dalších orgánů. Nezbytnost navrhované právní úpravy spočívá v záměru dosáhnout výše uvedených cílů.
3.2. Důsledky případné neadaptace na AI akt pro české firmy a trh
AI akt je nařízením EU, je tedy jako všechna nařízení bez dalšího přímo závazný a účinný ve všech členských státech EU, aniž by musel být jakkoli implementován do vnitrostátního práva. Avšak aby AI akt mohl nabýt všech (pozitivních) účinků, které jsou jeho cílem, je zapotřebí, aby se vnitrostátní právní řád na jeho působení adaptoval a stát splnil povinnosti, které mu AI akt ukládá. Nepřizpůsobení právního řádu by mělo dalekosáhlé a závažné důsledky v právní, ekonomické i institucionální rovině. V případě neadaptace by nebyly stanoveny jasné podmínky pro zajištění souladu s AI aktem a nebyla by tak zajištěna právní jistota. Rovněž by nebylo možné provádět posouzení shody AI systémů a českým firmám by tak hrozilo omezení přístupu na jednotný digitální trh. V případě, že by české subjekty AI vyvíjely nebo používaly v rozporu s AI aktem, nesly by plnou odpovědnost a mohly by být pokutovány, a to i přesto, že by ČR právně neupravila potřebné mechanismy a nástroje pro compliance. AI akt stanovuje vysoké pokuty – až 35 mil. EUR nebo 7 % celosvětového ročního obratu (podle toho, která částka je vyšší) a v podmínkách právní nejistoty by pak hrozilo riziko zpoždění nebo zastavení AI projektů, omezení inovací a přesun AI firem a jejich aktivit do zemí, kde je právní rámec vymezen jasněji a tudíž bezpečněji.
3.3. Důsledky případné neadaptace na AI akt pro ČR jako členský stát EU
Vzhledem, k tomu, že AI akt členským zemím ukládá stanovit povinné orgány pro aplikaci a vymáhání (dozorové úřady, notifikované osoby pro posuzování shody, jednotné kontaktní místo) a mechanismus sankcí, neprovedení adaptačních kroků by mohlo vést Evropskou komisi k zahájení řízení pro porušení povinnosti dle čl. 258 SFEU (infringement procedure). Jedná se o několikafázové řízení, jehož prostřednictvím vykonává Komise svoji povinnost dbát nad dodržováním unijního práva (čl. 17 odst. 1 Smlouvy o EU) a může vyústit až v předložení žaloby k Soudnímu dvoru EU.
4. Zhodnocení souladu navrhované právní úpravy s ústavním pořádkem České republiky a s ostatními součástmi právního řádu
Navrhovaný zákon je plně v souladu s ústavním pořádkem ČR. Základní meze pro uplatňování právních předpisů stanoví ústavní zákon č. 1/1993 Sb., Ústava České republiky, (dále jen „Ústava“) a Listina základních práv a svobod (dále jen „Listina“), vyhlášená usnesením předsednictva České národní rady č. 2/1993 Sb., o vyhlášení Listiny základních práv a svobod jako součásti ústavního pořádku České republiky, ve znění pozdějších předpisů. Veškeré přijaté zákony musí být v souladu s Ústavou a ústavními zákony. Tento požadavek je zakotven zejména v článcích 1, 2, 9 a 10 Ústavy ČR.
Podle čl. 2 odst. 3 Ústavy a čl. 2 odst. 2 Listiny, jimiž je shodně stanoveno, že státní moc lze uplatňovat jen v případech a v mezích stanovených zákonem, a to způsobem, který zákon stanoví. Návrh zákona vychází z čl. 4 odst. 1 Listiny, jímž je stanoveno, že „povinnosti mohou být ukládány toliko na základě zákona a v jeho mezích a jen při zachování základních práv a svobod". Rovněž respektuje čl. 2 odst. 3 Listiny, podle kterého každý může činit, co není zákonem zakázáno, a nikdo nemůže být nucen činit, co zákon neukládá.
Navrhovaná právní úprava reflektuje čl. 41 odst. 2 Ústavy, podle kterého má vláda právo zákonodárné iniciativy, a je také v souladu s § 24 zákona č. 2/1969 Sb., o zřízení ministerstev a jiných ústředních orgánů státní správy České republiky, ve znění pozdějších předpisů, který uvádí, že ministerstva připravují návrhy zákonů a jiných právních předpisů týkajících se věcí, které patří do jejich působnosti, jakož i návrhy, jejichž přípravu jim uložila vláda.
Návrh zákona je v souladu s čl. 36 odst. 1 Listiny, který zakotvuje právo na spravedlivý proces („každý může domáhat stanoveným postupem svého práva u nezávislého a nestranného soudu a ve stanovených případech u jiného orgánu“). Tato úprava zaručuje každému zákonné a ústavnímu pořádku odpovídající posouzení jeho zákonem garantovaného subjektivního práva.
Návrh zákona je rovněž předkládán v souladu se zásadami správního práva, vycházejícími z principů ústavního pořádku a Listiny, a to včetně stanovení postupů ve správním řízení. Návrh plně respektuje zásadu správního trestání nullum crimen sine lege, nulla poena sine lege v čl. uvedenou 39 Listiny i zásadu ne bis in idem uvedenou v čl. 40 odst. 5 Listiny.
Navrhovaná právní úprava sleduje mj. legitimní cíl, kterým je ochrana slabší strany (spotřebitele, uživatele AI sytému), která se objektivně nalézá ve slabším postavení. Žádným způsobem taktéž není omezeno právo podnikat uvedené v čl. 26 nebo porušeno právo na ochranu soukromí v čl. 7 Listiny.
Navržený zákon právní reflektuje ústavní princip rovnosti podle čl. 1 Listiny a zákazu diskriminace podle č. 3 Listiny. V podstavení adresátů regulace není rozdíl, navíc návrh obsahuje výraznou antidiskriminační úpravu.
Návrh zákona byl připraven rovněž na základě čl. 10 Ústavy a povinnosti vyplývající z členství ČR v EU. Těmto povinnostem lze dostát jen tehdy, dojde-li k přijetí adaptačního zákona.
5. Zhodnocení slučitelnosti navrhované právní úpravy s předpisy Evropské unie, judikaturou soudních orgánů Evropské unie nebo obecnými právními zásadami práva Evropské unie (čl. 2 odst. 1 písm. a), f) a g) metodických pokynů), popřípadě i s legislativními záměry a s návrhy předpisů Evropské unie
AI akt je nařízení Evropského parlamentu a Rady, tedy právním aktem sekundárního práva EU, přijatým na základě zmocnění uvedeného v primárním právu, v čl. 288 SFEU. Předložený návrh zákona má postavení doprovodného zákona, který provádí AI akt do práva ČR a je s ním v souladu. Soulad předkládaného návrhu s právem EU je tak třeba hodnotit též ve spojitosti se samotným AI aktem.
5.1. Soulad AI aktu a návrhu zákona s primárním právem
Samotný AI akt je v souladu s primárním právem EU a také s Listinou základních práv EU.
Zákaz diskriminace a ochrana soukromí: AI akt zakazuje používání AI systémů, které by mohly vést k diskriminaci nebo porušování soukromí. Například je zakázáno biometrické kategorizování na základě citlivých charakteristik (např. politických, náboženských nebo sexuálních preferencí), scrapování (neoprávněné shromažďování) obrazů obličejů z veřejně dostupných zdrojů pro tvorbu databází rozpoznávání obličeje, nebo emocionální rozpoznávání v pracovním prostředí nebo ve školách, kromě specifických výjimek. Tyto kroky jsou v souladu s článkem 21 Listiny základních práv EU, který zakazuje diskriminaci a článkem 8, který chrání osobní údaje. Právo na lidský zásah a transparentnost: Pro vysoce rizikové AI systémy stanoví AI akt povinnosti provádět hodnocení dopadu na základní práva, zajišťovat lidský dohled nad rozhodnutími, poskytovat transparentní vysvětlení rozhodnutí ovlivňujících jednotlivce. To odpovídá článku 47 Listiny základních práv EU, který zaručuje právo na účinný právní prostředek a spravedlivý proces.
Ochrana před manipulací a zneužitím: AI akt zakazuje: sociální scoring (hodnocení lidí na základě jejich chování nebo osobních charakteristik), manipulativní techniky (např. subliminální techniky ovlivňující rozhodování), zranitelné exploatace (využívání zranitelností jednotlivců, např. věku, zdravotního stavu nebo sociální situace). Tato opatření chrání svobodu a autonomii jednotlivců, což je v souladu s článkem 7 Listiny základních práv EU, který zaručuje respektování soukromého a rodinného života.
Právo na účinnou nápravu a dohled: AI akt posiluje pravomoci národních orgánů chránících základní práva, když tyto orgány mají právo požadovat informace od poskytovatelů AI systémů, také mohou provádět testování AI systémů v případě podezření na porušení práv a mají povinnost informovat o závažných incidentech týkajících se systémů AI. To odpovídá článku 41 Listiny základních práv EU, který zaručuje právo na dobré správní řízení.
Předkládaný návrh zákona z hlediska výše uvedených zásad a práv představuje rámec pro účinnou realizaci výše uvedených práv a zásad, a to zejména díky určení příslušných orgánů dozoru nad dodržováním AI aktu a vymezení sankcí za jeho porušení.
AI a předkládaný návrh zákona jsou rovněž v souladu s obecnými právními zásadami práva EU.
Zásada právní jistoty: Pravidla musí být jasná, předvídatelná a konzistentní, aby uživatelé i vývojáři AI systémů mohli předvídat svá práva a povinnosti. Předkládaný návrh zákona přispívá ke zvýšení právní jistoty tím, že zejména s ohledem na některé procesní postupy dále upřesňuje, jakým způsobem budou v ČR uplatňována.
Zásada proporcionality: Regulace musí být přiměřená cíli, kterého má být dosaženo. AI akt zavádí přísné povinnosti v souvislosti se systémy AI, ale tyto povinnosti nesmí být přísnější, než je nezbytné k ochraně práv a veřejného zájmu (např. ochrana základních práv a bezpečnosti). Proto jsou povinnosti pro různé kategorie AI systémů odstupňovány podle jejich rizikovosti, zavedení příliš plošných povinností by bylo porušením proporcionality a mělo negativní důsledky na rozvoj AI. Předkládaný návrh zákona tento systém respektuje a jakožto minimalnistická transpozice zavádí pouze omezený okruh dodatečných povinností (např. oznamovací povinnost beneficienta rozhodnutí podle § 5 a 7, která se jeví jako nutná z hlediska řádného plnění povinností orgánu, který toto rozhodnutí vydal).
Zásada rovnosti a zákaz diskriminace: AI akt zakazuje používání AI systémů, které by mohly vést k přímé i nepřímé diskriminaci na základě pohlaví, etnického původu, náboženství, zdravotního stavu či jiných chráněných znaků. Předkládaný návrh zákona toto respektuje a nezavádí další pravidla, která zavdávala riziku diskriminace.
Zásada transparentnosti: Podle AI aktu musí být uživatelé informováni o tom, kdy a jak jsou AI systémy používány, aby měli možnost správně reagovat a případně využít lidského dohledu. Předkládaný návrh zákona toto podporuje zavedením systému dozoru a sankcí za nedodržení těchto povinností.
Zásada ochrany základních práv: AI akt musí respektovat a podporovat základní práva garantovaná Listinou základních práv EU, zejména právo na soukromí, ochranu osobních údajů a důstojnost osoby. Předkládaný návrh zákona toto respektuje a s případnými zásahy do základních práv (např. do práva na soukromí či do práva vlastnit majetek) zasahuje v případech, kdy je to nutné pro uplatňování AI aktu. Jde např. o vedení evidence systémů AI, co se týče shraňování osobních údajů, nebo o stanovení pravidel správního trestání, co se týče práva vlastnit majetek a svobody podnikání.
Zásada spravedlivého procesu a efektivní právní ochrany: AI akt zajišťuje právo na lidský zásah při použití systémů AI, možnost přezkumu rozhodnutí založených na AI a právo na nápravu. Jednotlivci, kteří jsou dotčeni rozhodnutím učiněným AI systémem, musí mít možnost obrátit se na soud nebo jiný nezávislý orgán. AI akt proto ukládá povinnost transparentnosti a lidského dohledu – aby bylo vůbec možné systém zpochybnit. Předkládaný návrh zákona stanovuje jasná procedurální pravidla pro realizaci práv a povinností podle AI aktu.
Zásada subsidiarity: Přijetí AI aktu jako celoevropské úpravy je odůvodněno tím, že EU potřebuje jednotný rámec, protože AI je přeshraniční a ovlivňuje celý vnitřní trh. AI akt musí být přiměřený a efektivní, ale nesmí zbytečně zasahovat do pravomocí členských států. Proto AI akt umožňuje a ukládá členským státům přijmout národní regulaci pro úpravu v AI aktu neupravených otázek spjatých s národním prostředím, pokud tím není ohrožena jednotnost trhu a základních práv.
Zásada ochrany legitimního očekávání: Subjekty zapojené do vývoje a nasazení AI očekávají, že regulace bude jasná, konzistentní a nezmění se bez upozornění. Náhlé změny nebo nepředvídatelné výklady AI aktu by mohly porušit tuto zásadu. Předkládaný návrh zákona toto respektuje tím, že se pro účely implementace vyvarovává zbytného goldplatingu.
5.2. Soulad AI aktu a návrhu zákona se sekundárním právem
AI akt reguluje vývoj, uvádění na trh a používání systémů umělé inteligence na území Evropské unie. Z hlediska systematiky a právní povahy je AI akt sektorově neutrálním, avšak věcně specializovaným předpisem, který zavádí nový a jednotný regulatorní rámec pro technologie umělé inteligence, a to napříč různými odvětvími, sektory a typy použití. AI akt stanovuje specifická pravidla, která mají před některými dalšími předpisy s obecnou působností přednost v otázkách jím výslovně upravených. Zároveň však musí být aplikován v souběžně s nimi. Jde například o GDPR, DSA, nařízení o datech a další souvisejícími předpisy (viz dále)
AI akt je třeba vykládat a aplikovat v kotextu dalších klíčových předpisů EU, ke kterým se vztahuje:
Nařízení 2016/679, obecné nařízení o ochraně osobních údajů (GDPR) viz také bod 1.3.4.
Pokud jsou AI systémy zpracovávají osobní údaje, AI akt odkazuje na úpravu podle GDPR a dalších relevantních předpisů na úseku ochrany osobních údajů s tím, že tyto jím nejsou dotčeny (čl. 2 odst. 7 AI aktu). Povinné subjekty podle AI aktu, které se podílí na zpracování osobních údajů, tak budou povinny dodržovat též povinnosti vyplývající z GDPR a dalších relevantních předpisů. V ČR se uplatní také adaptační zákon č. 110/2019 Sb. o zpracování osobních údajů, ve znění pozdějších předpisů. Dílčí zvláštní úpravu v oblasti ochrany osobních údajů stanoví AI akt v čl. 10 odst. 5, který upravuje výjimečné zpracování zvláštních kategorií osobních údajů, a v čl. 59, který upravuje zpracování osobních údajů pro účely vývoje některých systémů AI ve veřejném zájmu v rámci regulačního sandboxu pro AI.
Úřad pro ochranu osobních údajů je jedním z dozorových orgánů podle návrhu zákona a předpokládá se jeho spolupráce s dalšími dvěma dozorovými orgány, Českým telekomunikačním úřadem a Českou národní bankou.
Nový legislativní rámec (viz bod 1.3.1 této důvodové zprávy).
Směrnice o odpovědnosti za vadné výrobky (85/374/EHS) v případě škody způsobené použitím systému AI. Směrnice byla v ČR implementována především do zákona č. 89/2012 Sb., občanského zákoníku, konkrétně do části, která upravuje odpovědnost za škodu způsobenou vadným výrobkem (§ 2919 a násl.). Tato úprava zůstává i na úseku AI aktu nedotčena (srov. bod 9 odůvodnění AI aktu).
Nařízení o kybernetické bezpečnosti (EU) 2019/881 (Cybersecurity Act) a další předpisy na úseku kybernetické bezpečnosti se uplatní, pokud daný systém AI nebo povinná osoba podle AI aktu spadá rovněž do působnosti těchto předpisů. Je zohledněna povinnost zajištění kybernetické bezpečnosti AI systémů, pokud jsou nasazeny v kritické infrastruktuře nebo jako součást zařízení podléhajících CE certifikaci. Např. bod 78 odůvodnění AI aktu dále počítá s tím, že by měla Komise v otázkách souvisejících s kybernetickou bezpečností spolupracovat s agenturou ENISA. Stěžejním vnitrostátním předpisem na tomto úseku je zákon č. 264/2025 Sb., o kybernetické bezpečnosti, se kterým je také předložený návrh v souladu. Předkládaný návrh zákona nad rámec obecné úpravy zajišťování kybernetické bezpečnosti počítá i se spoluprací mezi orgány dozoru nad trhem podle AI aktu a NÚKIB v zájmu zajištění souladu mezi vymáháním regulace v obou oblastech.
AI akt v ekosystému digitální regulace EU
Návrh zákona je rovněž slučitelný se souvisejícími legislativními akty a návrhy Evropské unie, které tvoří komplexní rámec digitální regulace. Jedná se zejména o:
· Nařízení (EU) 2022/2065 o digitálních službách (Digital Services Act, DSA)– reguluje poskytování zprostředkovatelských služeb v zájmu zajištění vymahatelnosti práva v online prostoru, jakož i bezpečného online prostředí. AI aktem není dotčena výjimka z odpovědnosti (tzv. safe harbour), kterou pro zprostředkovatelské služby DSA stanoví. AI ovšem může být používána ke skenování, filtrování a moderování obsahu – DSA toto v principu nevylučuje, byť v některých bodech vyžaduje lidský dozor (srov. např. čl. 20 odst. 6 DSA). Podobně musí např. systémy AI využívané velmi velkými online platformami nebo velmi velkými internetovými vyhledávači podle DSA podléhat příslušnému rámci pro řízení rizik (bod 118 odůvodnění AI aktu).
· Nařízení (EU) 2022/1925 o digitálních trzích (Digital Markets Act, DMA) – upravuje soutěžní prostředí v digitálních ekosystémech. Subjekty, které nasazují systémy AI jsou povinni respektovat pravidla soutěže a požadavky na interoperabilitu, ale také dle AI aktu na etické využití AI.
· Nařízení (EU) 2023/2854 o datech (Data Act, DA) a nařízení (EU) 2022/868 o evropské správě dat (Data Governance Act, DGA) upravují mj. zajištění interoperabilních datových toků a práva přístupu k datům. Systémy AI potřebují využívat data pro trénink a provoz, uvedená nařízení regulují, které subjekty a jak mohou s daty nakládat. AI akt pak stanoví specifické technické a procedurální požadavky na kvalitu dat, správu dat a detekci předsudků pro systémy AI.
5.3. Zhodnocení slučitelnosti návrhu zákona s judikaturou Soudního dvora EU
Ačkoli již Soudní dvůr byl v několika řízeních o předběžné otázce požádán o poskytnutí výkladu AI aktu,[footnoteRef:8] v tento okamžik unijní soudy doposud nevydaly žádný rozsudek zabývající se výkladem tohoto nařízení. Předkládaný návrh zákona ovšem respektuje starší judikaturu Soudního dvora, jako je např. požadavek nezastírat přímý účinek nařízení zaváděním vnitrostátní úpravy kopírující jeho znění (srov. rozsudek Soudního dvora ze dne 10. října 1973 ve věci 34/73, Variola, ECLI:EU:C:1973:101). Návrh obdobně respektuje obecné zásady unijního práva, jak vyplývají též z judikatury Soudního dvora (srov. výše). [8: Srov. řízení ve věcech C-806/24, C-159/25 a C-245/25.]
5.4. Soulad návrhu zákona s AI aktem
Navržený zákon provádí a doplňuje AI akt v oblastech, které jsou ponechány k národní úpravě členskými státy, jako je určení vnitrostátních dozorových orgánů nad systémy AI, sankční režim za porušení povinností stanovených AI aktem, přesná pravidla kontroly rizikových AI systémů. Návrh adaptačního doprovodného zákona nijak nerozšiřuje povinnosti nad rámec povinností již stanovených v AI aktu, čímž se vyhýbá „gold-platingu“ (v tomto případě nepravému – jedná se o nařízení). Zároveň se vyhýbá snahám o upřesňování úpravy podle AI aktu tam, kde to může být kontraproduktivní nebo dokonce rozporné s právem EU, v tomto ohledu lze uvést např. následující situace.
Otázka potřeby zpřesnit obecný pojem „opatření“ používaný AI aktem
AI akt na některých místech operuje s relativně obecným pojmem „opatření“ a lze si klást otázku, zda by nemělo být upřesněno, o co se v konkrétním případě jedná.Článek. 15 odst. 4 AI aktu: toto ustanovení hovoří o „zmírňujících opatřeních“ přijímaných poskytovateli [srov. čl. 16 písm. a) AI aktu] za účelem omezení negativních dopadů feedback loops vznikajících v případě systémů AI učících se i po uvedení na trh nebo do provozu. Jde tedy o opatření přijaté zpravidla soukromou osobou (poskytovatelem) spočívající ve způsobu vývoje a dalších vývojářských úpravách (aktualizacích softwaru) příslušných systémů AI. I s ohledem na pokračující rozvoj technologie AI není vhodné ze strany zákonodárce do takovýchto vývojářských rozhodnutí zasahovat.
Článek 20 odst. 1 AI aktu: I v tomto případě představují zmiňovaná „nápravná opatření“ širokou škálu možných zásahů poskytovatele do podoby/fungování systému AI. Ani zde se nejeví jako vhodné podobu těchto nápravných opatření předjímat, neboť tato se bude odvíjet od povahy konkrétního nedostatku, který může spočívat v nedodržení jakéhokoli myslitelného požadavku shody.
Článek 24 odst. 4 AI aktu: Pro toto ustanovení platí totéž, co je uvedeno k čl. 20 odst. 1 AI aktu.
Článek 26 odst. 1 AI aktu: Specifikace technických a organizačních opatření přijímaných zavádějícími subjekty za účelem dodržení návodu k použití se nejeví jako žádoucí. Zaprvé, podobu těchto opatření již do určité míry blíže upřesňují odst. 2 až 6 totožného článku, jak je lépe patrné z anglického znění čl. 26 odst. 1 AI aktu. Za druhé, i v tomto případě platí, že pro různé zavádějící subjekty budou vhodná odlišná opatření. Zatřetí, konkretizací takovýchto opatření by se český zákonodárce dopouštěl závazného výkladu přímo účinné normy práva EU, čímž by se mohl dopustit porušení práva EU při jeho nevhodném nastavení.
Článek 60 odst. 7 AI aktu: Podobně jako v případě čl. 20 odst. 1 a 24 odst. 4 AI aktu se nejeví jako žádoucí konkretizovat opatření reagující na závažné incidenty zjištěné v průběhu testování v reálných podmínkách. Škála takovýchto opatření bude odpovídat škále myslitelných závažných incidentů, přičemž poznatky o reakci na ně se budou vyvíjet se stavem poznání v tomto relativně novém odvětví. Předjímat jejich podobu z pozice normotvůrce se tak jeví jako problematické.
Otázka potřeby doplnit nebo blíže specifikovat výjimky pro vnitrostátní právo podle čl. 50 AI aktu
V českém právu neexistuje informační povinnost (nebo jiná povinnost týkající se transparence ve smyslu čl. 50 odst. 6 AI aktu), kterou by české vnitrostátní právo samotné spojovalo výslovně se zavádějícími subjekty. I ve spojení s bodem 137 odůvodnění AI aktu je ovšem patrné, že smyslem odkazu na unijní a vnitrostátní právo obsaženého v čl. 50 odst. 6 tohoto nařízení je především postavit najisto, že harmonizační úprava podle jeho čl. 50 nevylučuje souběžné uplatnění dalších informačních povinností. V praxi se bude jednat o celou řadu informačních povinností vyplývajících z rozličných požadavků sektorové regulace vztahujících se na využívání systému AI v té které oblasti. Lze uvést například situaci, kdy zavádějící subjekt využije pro účely svého audiovizuálního uměleckého díla deep fake, z čehož mu plyne informační povinnost podle čl. 50 odst. 4 AI aktu, ovšem zároveň je povinen v souvislosti s totožným dílem v jeho závěrečných titulcích na základě § 52f odst. 1 písm. d) zákona č. 496/2012 Sb. uvést, že výroba tohoto díla byla podpořena filmovou pobídkou. S ohledem na povahu úpravy podle čl. 50 AI aktu však není v tomto kontextu provádět další implementaci skrze navrhovaný normativní text.
Navrhovaná právní úprava je plně slučitelná s právem Evropské unie, reflektuje současné i připravované předpisy EU v oblasti digitální politiky a umělé inteligence a odpovídá jak aktuálním právním závazkům České republiky, tak i jejím strategickým a legislativním záměrům. Současně zajišťuje soulad s ostatními navazujícími unijními předpisy v oblasti digitální regulace, čímž přispívá k posílení právní jistoty, inovací a důvěry v používání technologií umělé inteligence.
6. Zhodnocení souladu navrhované právní úpravy s mezinárodními smlouvami, jimiž je Česká republika vázána
Navrhovaná právní úprava je v souladu s mezinárodními smlouvami, jimiž je Česká republika vázána i s obecně uznávanými zásadami mezinárodního práva. Návrh zákona i AI akt jsou zejména v souladu se SEU, SFEU a s Listinou základních práv EU (dále jen „Charta základních práv“), což je rozebráno při zhodnocení slučitelnosti s právem EU, v části 5. Důvodové zprávy.
Návrh zákona i AI akt jsou v souladu také s Rámcovou úmluvou Rady Evropy o umělé inteligenci a lidských právech, demokracii a právním státu, která se stala prvním právně závazným mezinárodní dokumentem, který vytváří standardy pro vývoj a využití systémů umělé inteligence v souladu s lidskými právy, demokracií a právním státem. Klíčovými principy jsou minimalizace rizika diskriminace, ochrana soukromí, zajištění transparentnosti, přístup k nezávislému přezkumu a odpovědnost. Rovněž je upravena možnost kontroly zásahu AI do procesu voleb, do justičních systémů a dalších demokratických procesů. Výbor ministrů Rady Evropy přijal text Rámové úmluvy 17. 5. 2024, její otevření k podpisu následovalo 5. 9. 2024, během neformální konference ministrů spravedlnosti Rady Evropy ve Vilniusu. Dokument podepsali zástupci EU, USA, Velké Británie, Izraele a další.
AI akt také reflektuje Úmluvu o ochraně lidských práv a základních svobod, přijatou 4. 11. 1950 v Římě, v platnosti od 3. 9. 1953 (dále jen EÚLP), jejímž garantem je Evropský soud pro lidská práva. EÚLP chrání základní lidská práva, např. právo na život, svobodu projevu, právo na spravedlivý proces, zákaz diskriminace atd. Navrhovaný zákon i AI akt jsou plně v souladu s EÚLP, jejími protokoly, i s judikaturou Evropského soudu pro lidská práva.
AI akt přináší zásady ochrany lidských práv zakotvené v EÚLP a Chartě základních práv do oblasti AI. Uvedené lidskoprávní dokumenty tvoří hodnotový rámec a slouží jako základ pro AI aktem uložené povinnosti a právní omezení. AI akt např. vyžaduje provádět hodnocení dopadů na lidská práva u vysoce rizikových AI systémů. Ukládá dále povinnost poskytovat o AI systémech dostatečné informace (transparentnost). Jsou zakázány AI systémy, které porušují lidská práva (právo na soukromí, zákaz diskriminace atd.). Je zakotven pravidelný dohled a možnost zásahu ze strany dozorových orgánů. Důsledkem porušení uložených povinností budou dostatečně předvídatelné sankce, které budou ukládány a vymáhány prostřednictvím spravedlivého řízení, který zajišťuje všechna práva vyplývající z EÚLP a Charty základních práv.
7. Předpokládaný hospodářský a finanční dopad navrhované právní úpravy na státní rozpočet, ostatní veřejné rozpočty a na podnikatelské prostředí České republiky
Přijetí navrhované právní úpravy přinese finanční dopady na státní rozpočet, a to zejména v souvislosti se zajištěním řádného a efektivního vymáhání pravidel AI aktu a nutností posílení personálních, finančních a technických kapacit příslušných orgánů. Nicméně tato úprava představuje nezbytnou investici do zajištění souladu České republiky s evropskou legislativou v oblasti umělé inteligence. Ačkoliv přinese zvýšené náklady jak na straně veřejných rozpočtů, tak podnikatelského sektoru, její přínosy v podobě právní jistoty, zvýšení konkurenceschopnosti a ochrany základních práv převažují nad náklady. Tam, kde to je možné, předkladatel přesto počítá s rozpočtově neutrálními řešeními. Konkrétně výnosy z mechanismů hrazení služeb posuzování shody subjekty působícími v odvětví AI by měly pokrýt na ně vynaložené náklady.[footnoteRef:9] Uplatnění jednotného a moderního rámce pro AI může podpořit rozvoj českých inovací a zvýšit konkurenceschopnost podniků na jednotném evropském trhu. V dlouhodobém horizontu pak přinést úspory díky efektivnějším a transparentnějším službám. [9: Jde úplaty za služby tzv. oznámených subjektů, jimiž mohou být jak soukromé osoby, tak organizační složky státu (ÚOOÚ na základě čl. 43 odst. 1 pododstavce třetího AI aktu) nebo jejich příspěvkové organizace (očekává se, že by oznámeným subjektem mohl být jmenován Český metrologický institut). I v případě ÚOOÚ přitom půjde ve věcech posuzování shody o soukromoprávní vztah s dotyčným poskytovatelem systému AI, neboť uzavřením smlouvy o posouzení shody nedojde ke vzniku, změně či zániku práv či povinností v oblasti veřejného práva. Lze však počítat s tím, že takovéto plnění ze strany ÚOOÚ nebude podléhat dani z přidané hodnoty, byť se nejedná o výkon veřejné správy. Posuzování shody v této oblasti totiž nepředstavuje činnost uvedenou v příloze 1 zákona o DPH. Zároveň nelze tvrdit, že by došlo k výraznému narušení hospodářské soutěže tím, že by ÚOOÚ nebyl považován za osobu povinnou k dani. Ve stanovených oblastech má totiž na posouzení shody (z AI aktu plynoucí) zákonný monopol ÚOOÚ, přičemž ÚOOÚ naopak podle návrhu zákona nemůže konkurovat soukromým subjektům v oblastech spadajících mimo tento zákonný monopol [srov. § 5 odst. 5 zákona č. 235/2004 Sb., o dani z přidané hodnoty, ve znění pozdějších předpisů].]
7. 1 Hospodářský a finanční dopad navrhované úpravy na státní rozpočet a ostatní rozpočty
Největší finanční dopady v souvislosti s navrhovanou právní úpravou vznikaní v důsledku nutnosti zajistit plnění nových kompetencí a úkolů pro zajištění řádné a efektivní implementace a vymáhání povinností stanovených v AI aktu.
Samotný AI akt stanovuje v čl. 70 odst. 3 povinnost zajistit příslušným vnitrostátním orgánům odpovídající technické a finanční zdroje a infrastrukturu pro účinné plnění jejich úkolů. Mají mít zejména trvale k dispozici dostatečný počet pracovníků, jejichž způsobilost a odborné znalosti zahrnují důkladné porozumění technologiím AI, údajům a výpočtu údajů, ochraně osobních údajů, kybernetické bezpečnosti, základním právům a zdravotním a bezpečnostním rizikům, jakož i znalost platných norem a právních předpisů. Členské státy jsou povinny každoročně tyto požadavky na odbornost a zdroje posoudit a podle potřeby je aktualizovat (čl. 70 odst. 3). Každé dva roky předkládají Evropské komisi zprávu o stavu finančních a lidských zdrojů příslušných vnitrostátních orgánů. Evropská komise následně tyto informace postoupí Evropské radě pro umělou inteligenci k projednání a případnému vydání doporučení (čl. 70 odst. 6).
Příslušné vnitrostátní orgány a zejména orgány dozoru budou muset vypořádat s řadou nových úkolů a povinností, se kterými se pojí jak jednorázové investice, tak potřeba obstarat financování průběžných provozních nákladů. V rámci přípravy návrhu zákona bylo potřeba vyčíslit tyto položky: finanční prostředky na zajištění a provoz úřadu, náklady na zajištění lidských zdrojů, náklady na vybavení (HW, SW) a robustní technologická infrastruktura pro regulační sandbox.
Co se týká personálních kapacit, je naprosto zásadní, aby byl zajištěn dostatečný počet zaměstnanců s právním vzděláním a jazykově vybavených zaměstnanců. Samozřejmostí musí být další průběžné vzdělávání zaměstnanců, a to nejen z důvodu „udržení tempa“ expertízy s technologickým vývojem, ale též jako motivačního prvku pro osoby zvažující zaměstnání ve státní službě. Dále je potřeba také přilákat na tuto agendu IT experty, které bude potřeba náležitě finančně ohodnotit. Stěžejní prvky právní úpravy podle AI aktu pak představují požadavky na kybernetickou bezpečnost systémů AI a systémy řízení rizik (čl. 9 a 15 AI aktu). Je tedy nezbytné vybavit především orgány dozoru odborníky i v této oblasti. Rovněž je třeba mít na paměti potřebu datových analytiků, kteří budou např. schopni vyhodnotit, zda trénovací, validační a testovací data, na jejichž základě byl systém AI vyvíjen, splňují kritéria kvality stanovená v AI aktu co do jejich vhodnosti, reprezentativnosti, chybovosti, úplnosti (čl. 10 AI aktu) apod. Poskytovatelé vysoce rizikových systémů AI též musí podle AI aktu zavést systém řízení kvality řádně zdokumentovaný formou písemných politik, postupů a pokynů (čl. 17 AI aktu), pročež i pro tyto případy bude třeba orgány dozoru nad touto povinností vhodným způsobem personálně doplnit.
Evropská komise odhadla, že celkové náklady na dodržování předpisů při uvádění AI systémů na trh se celosvětově pohybují od 1,6 miliardy EUR do 3,3 miliardy EUR ročně za předpokladu, že pouze 10 % AI technologií bude podléhat regulačním požadavkům (tj. těm, které jsou označeny jako „vysoce rizikové“). Ačkoli jsou tyto odhady stanoveny pro podniky, předmětem kontroly ze strany dozorových orgánů budou stejné povinnosti, a proto lze vycházet z těchto odhadů, tj. náklady na ověření shody v rozmezí 3 000 až 7 500 EUR za aplikaci v přímých nákladech a 1 000 až 2000 EUR v nepřímých nákladech.[footnoteRef:10] [10: COMMISSION STAFF WORKING DOCUMENT IMPACT ASSESSMENT: Accompanying the Proposal for a Regulation of the European Parliament and of the Council LAYING DOWN HARMONISED RULES ON ARTIFICIAL INTELLIGENCE (ARTIFICIAL INTELLIGENCE ACT) AND AMENDING CERTAIN UNION LEGISLATIVE ACTS, https://eur-lex.europa.eu/legal-content/EN/TXT/HTML/?uri=CELEX:52021SC0084, SWD(2021) 84 final, Brussels 21. 4. 2021 ]
Na základě výše zmíněného, provedlo Ministerstvo průmyslu a obchodu analýzu finančních dopadů na adaptaci AI aktu a jeho vymáhání, ze které vyplývá, že celkově vznikne potřeba pro období let 2026-2028 zajistit finanční prostředky ve výši 207 056 767 Kč (pro rok 2026 částku 61 097 649 Kč, pro rok 2027 částku 55 916 559 Kč a pro rok 2028 částku 90 042 559 Kč) a další v následujících letech. Tento propočet dle analýzy MPO byl již obsažen v nelegislativním materiálu „Návrh k implementaci Aktu o umělé inteligenci v České republice“, schváleném usnesením vlády č. 394 ze dne 28.5.2025. Případné požadavky uplatní příslušné orgány, které jsou správci vlastní rozpočtové kapitoly, v rámci přípravy návrhu státního rozpočtu (kapitola 309 – KVOP, kapitola 328 – ČTÚ, kapitola 322 – MPO a kapitola 343 – ÚOOÚ). Orgány, které samostatnou rozpočtovou kapitolu nemají, uplatní případné požadavky prostřednictvím příslušného správce kapitoly. Konkrétní dopad bude předmětem projednání v rámci přípravy návrhu zákona o státním rozpočtu na příslušný rok.
2026
2027
2028
Celkem
ČTÚ
19 889 200
27 398 400
65 074 400
112 362 000
ÚOOÚ
2 650 211
5 300 422
5 300 422
13 251 055
KVOP
1 108 495
942 366
942 366
2 993 227
ÚNMZ
5 617 143
7 578 571
7 578 571
20 774 285
ČAS
15 032 600
11 146 800
11 146 800
37 326 200
Oznámený subjekt
16 800 000
3 550 000
-
20 350 000
Celkové výdaje
61 097 649
55 916 559
90 042 559
207 056 767
Celkem úvazky
17
14
10
41
Zajištění adekvátních finančních zdrojů představuje klíčový předpoklad pro účinné uplatňování AI aktu. Nebude-li příslušným orgánům poskytnuta dostatečná personální, technická a finanční kapacita nezbytná k řádnému plnění nových úkolů (viz bod 7.1.1 Detailní kalkulace dopadů příslušných orgánů), nelze reálně předpokládat efektivní výkon jim svěřených povinností.. Plnění povinnotí stanovených AI aktem předpokládá zajištění odborných pracovníků se specializovanými znalostmi v oblasti umělé inteligence, jakož i vybudování nezbytné institucionální infrastruktury, což bez odpovídajícího rozpočtového krytí není realizovatelné. Nedostatečné financování by tak vedlo k faktické neschopnosti příslušných orgánů vykonávat pravomoci, které jim AI akt svěřuje. To by mělo přímý dopad na účinnost vymáhání práva v oblasti umělé inteligence v ČR.
7.1.1. Detailní kalkulace u příslušných orgánů
a) Český telekomunikační úřad
· Orgán dozoru nad trhem;
· Vykonává dozor nad dodržováním AI aktu, zejména má pravomoc provádět kontroly poskytovatelů AI systémů, ověřovat soulad těchto systémů s AI Aktem a ukládat poskytovatelům opatření;
· Funguje jako místo pro přijetí stížností na konkrétní systémy AI;
· Vymáhá povinnosti dle AI aktu a může udílet sankce za jejich neplnění;
· Zajišťuje komunikaci napříč EU a s Evropskou komisí v zájmu harmonizovaného dozoru nad stejnými systémy AI;
· Povinnost zřídit či určit plynoucí z čl. 70 AI aktu, termín plnění: 2. srpna 2025.
Počet SM a popis pracovní náplně
Pro zajištění dozoru je potřeba alespoň 24 úvazků. Tři nová oddělení se zaměří na: analýzu rizik a koordinaci, kontrolu AI systémů a dozor nad trhem. Tyto kompetence budou v omezené míře zajišťovány již od roku 2026 a získané zkušenosti dále předávány juniorním kolegům. Úpravy dále uvedeného organizačního členění v návaznosti na průběh implementace a koordinaci dozoru (EU), jakož i s ohledem na specifika předmětného dozoru zjištěná v praxi, nejsou vyloučeny.
Rozpis pracovní náplně jednotlivých systemizovaných míst:
Vedoucí pracovníci – 5 SM (1 SM ředitele odboru, 3 SM vedoucí oddělení; 1 SM asistentka ŘO):
· 1 SM ředitel odboru bude odpovědný za řádný chod celého specializovaného útvaru. Bude koordinovat činnost jednotlivých oddělení, komunikovat za útvar jak dovnitř úřadu, tak zejména vůči ostatním subjektům, ať již vnitrostátním, tak mezinárodním;
· další 1 SM je nutné vyčlenit pro jeho administrativní podporu ve formě asistentky;
· 3 SM vedoucí oddělení budou zajišťovat chod a koordinovat činnost jednotlivých oddělení, zajišťovat spolupráci a rozhodovat záležitosti související s výkonem činnosti oddělení.
Oddělení rizik a koordinace – 7 SM bez vedoucího oddělení:
· poskytování pokynů a poradenství ohledně provádění AI Actu – nejméně 1 SM;
· vedení dokumentace a hodnocení rizikovosti AI systémů – nejméně 2 SM;
· expertízu v oblasti řízení rizik a kvality AI systémů – nejméně 2 SM;
· mezinárodní spolupráci (součinnost při řešení stížností), jednotné kontaktní místo, účast na činnosti podskupiny Evropské rady pro umělou inteligenci, spolupráce s Evropskou komisí na provádění hodnocení souladu obecných systémů AI (nejméně 2 SM).
Oddělení kontroly AI systémů – 6 SM bez vedoucího oddělení:
· kontrolní činnost a hodnocení plnění povinností AI systémů – nejméně 2 SM;
· správnost a přesnost AI systémů – nejméně 1 SM (softwaroví inženýři);
· expertízu v oblasti bezpečnosti AI systémů – nejméně 1 SM;
· povolování uvedení vysoce rizikového systému AI na trh bez posouzení shody – nejméně 2 SM.
Oddělení dozoru nad trhem AI systémů – 6 SM bez vedoucího oddělení:
· dohled nad povinnostmi AI Actu (transparentnost, dohled, spolehlivost) – nejméně 3 SM (zejména právní experti);
· dohled nad úplností a správností trénovacích, validačních a testovacích dat – nejméně 2 SM (zejména datoví inženýři);
· dohled nad testováním AI systémů v reálných podmínkách – nejméně 1 SM.
Rozpočet
1. Na rok 2026
Osobní náklady
· Počet přepočtených úvazků (FTE): 7 (oddělení 1+6)
· Mzdy (úplné náklady na zaměstnance) v Kč: 8.400.000 Kč (bez 33,8 % povinných odvodů zaměstnavatele).
· Specifikace: platové třídy (15. tř. představení, 14. třídy odborné pozice, nižší třídy pro podpůrný personál).
· Zdůvodnění: požadavek vysoké odbornosti a nedostatku personálních kapacit na trhu práce v odvětví AI Act.
Náklady na odborné vybavení pro výkon funkce
· Specifikace (typově): Běžné IT vybavení (hardware a software) zaměstnance + místní server s licencemi (jednorázově).
· Náklady v Kč: Cca 90.000 Kč jednorázově při pořízení a 10.000 Kč roční předplatné za SW na zaměstnance, tj. 630.000 Kč (jednorázově) a 70.000 Kč (ročně) + server (HW i SW) 300.000 Kč.
Náklady na provoz pro výkon funkce
· Specifikace (typově): nájmy, kancelářské věci atd. – uvažovaná lokalita Brno, tržní nájem pro 24 zaměstnanců (plocha cca 450-500 m2) – cca 2.000.000 Kč ročně + služby spojené s nájmem ve výši cca 700.000 Kč, jednorázová úprava nájemních prostor – cca 3.000.000 Kč + základní nábytek na 1 zaměstnance cca 50.000 Kč + nábytek a vybavení pro společné prostory (jednací místnosti a technika) – cca 600.000 Kč.
· Náklady v Kč: Jednorázově na vybavení cca 3.950.000 Kč + 2.700.000 Kč ročně na nájem a služby spojené s nájmem.
Nákup externích služeb (např. školení)
· Popis služeb (typově): Specificky zaměřená odborná školení.
· Náklady v Kč: 1.000.000 Kč ročně.
2. Na rok 2027
Osobní náklady
· Počet přepočtených úvazků (FTE): 14
· Mzdy (úplné náklady na zaměstnance) v Kč: 16.800.000 Kč (bez 33,8 % povinných odvodů zaměstnavatele).
· Specifikace: platové třídy (15. tř. představení, 14. třídy odborné pozice, nižší třídy pro podpůrný personál).
· Zdůvodnění: požadavek vysoké odbornosti a nedostatku personálních kapacit na trhu práce v odvětví AI Act.
Náklady na odborné vybavení pro výkon funkce
· Specifikace (typově): Běžné IT (hardware a software) vybavení zaměstnance
· Náklady v Kč: cca 90.000 Kč jednorázově při pořízení a 10.000 Kč roční předplatné za SW na zaměstnance, tj. 630.000 Kč (jednorázově) a 140.000 Kč (ročně).
Náklady na provoz pro výkon funkce
· Specifikace (typově): nájmy, kancelářské vybavení atd. – uvažovaná lokalita Brno, tržní nájem a služby pro 24 zaměstnanců (plocha cca 450-500 m2) – cca 2.700.000 Kč ročně + základní nábytek pro zaměstnance.
· Náklady v Kč: Jednorázově cca 450.000 Kč (nábytek pro další zaměstnance) + 2.700.000 Kč ročně na nájem a služby spojené s nájmem.
Nákup externích služeb (např. školení)
· Popis služeb (typově): Specificky zaměřená odborná školení.
· Náklady v Kč: 1.000.000 Kč ročně.
3. Na rok 2028
Osobní náklady
· Počet přepočtených úvazků (FTE): 24
· Mzdy (úplné náklady na zaměstnance) v Kč: 28.800.000 Kč (bez 33,8 % povinných odvodů zaměstnavatele) s trvalým vlivem na rozpočtovou kapitolu ČTÚ - 328.
· Specifikace: (15. tř. představení, 14. třídy odborné pozice, nižší třídy pro podpůrný personál).
· Zdůvodnění: požadavek vysoké odbornosti a nedostatku personálních kapacit na trhu práce v odvětví AI Act.
Náklady na odborné vybavení pro výkon funkce
· Specifikace (typově): běžné IT vybavení (hardware a software) zaměstnance + vývoj a servisní podpora dozorového IT systému, úprava a rozvoj současných IT systémů a jejich napojení na dozorový IT systém.
· Náklady v Kč: cca 90.000 Kč jednorázově při pořízení a 10.000 Kč roční předplatné za SW na zaměstnance, tj. 900.000 Kč (jednorázově) a 240.000 Kč (ročně) + 20.000.000 Kč na IT systémy.
Náklady na provoz pro výkon funkce
· Specifikace (typově): nájmy, kancelářské věci atd. – uvažovaná lokalita Brno, tržní nájem a služby pro 24 zaměstnanců (plocha cca 450-500 m2) – cca 2.700.000 Kč ročně + základní nábytek na 1 zaměstnance.
· Náklady v Kč: Jednorázově cca 700.000 Kč (nábytek pro další zaměstnance) + 2.700.000 Kč ročně na nájem a služby spojené s nájmem.
Nákup externích služeb (např. školení)
· Popis služeb (typově): Specificky zaměřená odborná školení.
· Náklady v Kč: 2.000.000 Kč ročně.
b) Úřad pro ochranu osobních údajů
· Koncentrace AI expertizy v oblasti ochrany osobních údajů (v kontextu nařízení (EU) 2016/679 nebo směrnice (EU) 2016/680);
· Výkon dozoru nad zpracováním osobních údajů v rámci modelů AI (vyřizování stížností, výkon kontrol a vedení správních řízení, vč. udílení sankcí);
· Účast v pracovních skupinách AI Boardu a relevantních skupinách EDPB;
· Předpoklad podílení se na expertním zajištění fungování sandboxů, a to v případě modelů využívajících osobní údaje;
· Edukativní a osvětová činnost;
Tyto kompetence je třeba zajišťovat již nyní s ohledem na to, že působnost ÚOOÚ v oblasti zpracování osobních údajů v rámci AI systémů není vázána na plnou účinnost AI Aktu.
Počet SM a popis pracovní náplně
ÚOOÚ počítá se vznikem 1 oddělení, které se zaměří na: řešení stížností v oblasti zpracování osobních údajů v rámci AI systémů, provádění kontrol AI systémů v této oblasti, vedení správních řízení (ať o přestupcích či o opatření k odstranění nedostatků), ověřování souladů AI systémů s GDPR (případně s AI aktem v rozsahu působnosti ÚOOÚ) a na mezinárodní spolupráci. Bude též vypracovávat metodické materiály typu „best practice“.
Rozpis pracovní náplně jednotlivých systemizovaných míst:
· Vedoucí oddělení, právní expert – 1 SM
· Právní expert – 1 SM
· Techničtí experti – 2SM
Rozpočet
1. Na rok 2026
Osobní náklady
· Počet přepočtených úvazků (FTE): 2 (oddělení 1+1)
· Mzdy (úplné náklady na zaměstnance) v Kč: 2 650 211 Kč s trvalým vlivem (včetně povinných odvodů zaměstnavatele a 1% povinného přídělu do FKSP). S ohledem na nutnou vysokou expertní znalost je třeba, aby každé výše uvedené systemizované služební místo bylo označeno jako klíčové ve smyslu § 1 odst. 3 nařízení vlády č. 304/2014 Sb., o platových poměrech státních zaměstnanců a bylo tedy zajištěno finanční krytí ve výši 150 % průměrného platu na systemizovaném služebním místě v kapitole 343 – Úřad pro ochranu osobních údajů.
· Specifikace: platové třídy (15. tř. představený, 15. třída odborné pozice).
· Zdůvodnění: Důvodem je požadavek vysoké odbornosti nezbytné pro výše popsaná služební místa, zejména s ohledem na značný rozsah a náročnost expertních činností v dané oblasti – v podrobnostech vizte nejnáročnější správní činnosti na daných služebních místech. Současně je třeba poukázat i na nedostatek personálních kapacit na trhu práce v odvětví AI Act.
Náklady na odborné vybavení pro výkon funkce
· Neuplatňováno
Náklady na provoz pro výkon funkce
· Neuplatňováno
Nákup externích služeb (např. školení)
· Neuplatňováno
2. Na rok 2027
Osobní náklady
· Počet přepočtených úvazků (FTE): 4 (oddělení 3+1)
· Mzdy (úplné náklady na zaměstnance) v Kč: 5 300 422 Kč s trvalým vlivem (včetně povinných odvodů zaměstnavatele a 1% povinného přídělu do FKSP). S ohledem na nutnou vysokou expertní znalost je třeba, aby každé výše uvedené systemizované služební místo bylo označeno jako klíčové ve smyslu § 1 odst. 3 nařízení vlády č. 304/2014 Sb., o platových poměrech státních zaměstnanců a bylo tedy zajištěno finanční krytí ve výši 150 %průměrného platu na systemizovaném služebním místě v kapitole 343 – Úřad pro ochranu osobních údajů.
· Specifikace: platové třídy (15. tř. představený, 15. třída odborné pozice).
· Zdůvodnění: Důvodem je požadavek vysoké odbornosti nezbytné pro výše popsaná služební místa, zejména s ohledem na značný rozsah a náročnost expertních činností v dané oblasti – v podrobnostech vizte nejnáročnější správní činnosti na daných služebních místech. Současně je třeba poukázat i na nedostatek personálních kapacit na trhu práce v odvětví AI aktu.
Náklady na odborné vybavení pro výkon funkce
· Neuplatňováno
Náklady na provoz pro výkon funkce
· Neuplatňováno
Nákup externích služeb (např. školení)
· Neuplatňováno
3. Na rok 2028
Osobní náklady
· Počet přepočtených úvazků (FTE): 4 (oddělení 3+1)
· Mzdy (úplné náklady na zaměstnance) v Kč: 5 300 422 Kč s trvalým vlivem (včetně povinných odvodů zaměstnavatele a 1% povinného přídělu do FKSP). S ohledem na nutnou vysokou expertní znalost je třeba, aby každé výše uvedené systemizované služební místo bylo označeno jako klíčové ve smyslu § 1 odst. 3 nařízení vlády č. 304/2014 Sb., o platových poměrech státních zaměstnanců a bylo tedy zajištěno finanční krytí ve výši 150 % průměrného platu na systemizovaném služebním místě v kapitole 343 – Úřad pro ochranu osobních údajů.
· Specifikace: platové třídy (15. tř. představený, 15. třída odborné pozice).
· Zdůvodnění: Důvodem je požadavek vysoké odbornosti nezbytné pro výše popsaná služební místa, zejména s ohledem na značný rozsah a náročnost expertních činností v dané oblasti – v podrobnostech vizte nejnáročnější správní činnosti na daných služebních místech. Současně je třeba poukázat i na nedostatek personálních kapacit na trhu práce v odvětví AI aktu.
Náklady na odborné vybavení pro výkon funkce
· Neuplatňováno
Náklady na provoz pro výkon funkce
· Neuplatňováno
Nákup externích služeb (např. školení)
· Neuplatňováno
c) Úřad pro technickou normalizaci, metrologii a státní zkušebnictví
· Posuzuje naplnění požadavků na oznámené subjekty na základě jejich žádosti;
· Jmenuje a oznamuje subjekty posuzování shody;
· Odpovídá za monitorování činnosti subjektů posuzování shody;
· Spolupracuje s orgány jiných členských států;
· Projednává přestupky, resp. ukládá sankce (oznámeným subjektům);
· Povinnost zřídit či určit plynoucí z čl. 70 AI Aktu, termín plnění: 2. srpna 2025.
Počet SM a popis pracovní náplně
Zřízení nového oddělení v odboru Státního zkušebnictví a výhledově jej obsadit 5 systemizovanými místy (3 zaměstnanci v roce 2026 a 2 zaměstnanci v roce 2027).
Rozpis pracovní náplně jednotlivých systemizovaných míst:
· Vedoucí pracovníci – 1 SM vedoucí oddělení
· Jmenování a oznamování subjektů posuzování shody – 1 SM
· Specialista AI – 1 SM
· Monitoring, kontrola, koordinace – 1 SM
· Sankce, kybernetická bezpečnost, bezpečnostní rizika, ochrana osobních údajů – 1 SM
Rozpočet
1. Na rok 2026
Osobní náklady
· Počet přepočtených úvazků (FTE): 2 + 1
· Mzdy (úplné náklady na zaměstnance) v Kč: 3 857 143,-
· Specifikace: 14. platové třídy, excelentní pracovníci
· Zdůvodnění: požadavek vysoké odbornosti
Náklady na odborné vybavení pro výkon funkce
· Specifikace (typově): stroje, technika, zařízení, software, hardware apod.
· Náklady v Kč: 500 000,-
Náklady na provoz pro výkon funkce
· Specifikace (typově): nájmy, nábytek, kancelářské věci atd.
· Náklady v Kč: celkem 760 000,-
· Nájem 50 m2(včetně energie, ostrahy, úklidu): 460 000,-Kč
· Nábytek, kancelářské potřeby: 300 000,-Kč
Nákup externích služeb (např. školení):
· Popis služeb (typově): školení, služební cesty
· Náklady v Kč: 500 000,-
2. Na rok 2027
Osobní náklady
· Počet přepočtených úvazků (FTE): 4 + 1
· Mzdy (úplné náklady na zaměstnance) v Kč: 6 428 571,-
· Specifikace: 14. platové třídy, excelentní pracovníci
· Zdůvodnění: požadavek vysoké odbornosti
Náklady na odborné vybavení pro výkon funkce
· Specifikace (typově): stroje, technika, zařízení, software, hardware apod.
· Náklady v Kč: 150 000,-
Náklady na provoz pro výkon funkce
· Specifikace (typově): nájmy, kancelářské věci atd.
· Náklady v Kč: celkem 500 000,-
· Nájem (včetně energie, ostrahy, úklidu): 460 000,-Kč
· Kancelářské potřeby: 40 000,-Kč
Nákup externích služeb (např. školení, služební cesty)
· Popis služeb (typově): školení, služební cesty
· Náklady v Kč: 500 000,-
3. Na rok 2028
Osobní náklady
· Počet přepočtených úvazků (FTE): 4 + 1
· Mzdy (úplné náklady na zaměstnance) v Kč: 6 428 571,-
· Specifikace: 14. platové třídy, excelentní pracovníci
· Zdůvodnění: požadavek vysoké odbornosti
Náklady na odborné vybavení pro výkon funkce
· Specifikace (typově): stroje, technika, zařízení, software, hardware apod.
· Náklady v Kč: 150 000,-
Náklady na provoz pro výkon funkce
· Specifikace (typově): nájmy, kancelářské věci atd.
· Náklady v Kč: celkem 500 000,-
· Nájem (včetně energie, ostrahy, úklidu): 460 000,-Kč
· Kancelářské potřeby: 40 000,-Kč
Nákup externích služeb (např. školení, služební cesty)
· Popis služeb (typově): školení, služební cesty
· Náklady v Kč: 500 000,-
d) Česká agentura pro standardizaci
· Poskytuje bezpečné prostředí pro testování AI systémů, podporuje transparentnost a odpovědnost, a umožňuje regulátorům lépe porozumět novým technologiím;
· Evropská komise přijme prováděcí akty, které stanoví podrobné podmínky pro zřízení, provoz a dohled nad sandboxy;
· Povinnost zřídit plynoucí z čl. 57 AI aktu (možno mezistátní), termín plnění: 2. srpna 2026.
· Povinnost jednou zřízený sandbox následně provozovat.[footnoteRef:11] [11: Toto zahrnuje též povinnost zajistit bezplatný přístup k sandboxu pro malé a střední podniky. Odhadované náklady na provoz sandboxu nerozlišují mezi typem účastníka a počítají tak i s náklady na zajištění bezplatné účasti malých a středních podniků. Tento materiál ale zároveň nestanovuje žádný zvláštní způsob financování tohoto bezplatného přístupu a nepředjímá, jakým způsobem budou tyto náklady pokryty. Jakožto pro státní příspěvkovou organizaci bude pro Českou agenturu pro standardizaci platit obecná úprava financování státních příspěvkových organizací.]
Počet SM a popis pracovní náplně
Čtyři systematizovaná pracovní místa společně pokrývají právní, technickou, organizační a etickou dimenzi požadavků AI aktu a jsou nezbytné k tomu, aby Agentura mohla efektivně a důvěryhodně provozovat regulatorní sandbox.
Rozpis pracovní náplně jednotlivých systemizovaných míst:
· Regulatorní analytik pro AI a compliance – 1SM
· Koordinátor sandboxu a styčný důstojník pro účastníky – 1SM
· Technický expert pro audity a testování systémů AI – 1 SM
· Právní specialista na AI a ochranu údajů a specialista na etiku a dopady AI – 1 SM
Rozpočet
1. Na rok 2026
Osobní náklady
· Počet přepočtených úvazků (FTE): 2
· Mzdy (úplné náklady na zaměstnance) v Kč: 3.612.600,- Kč
· Specifikace: platové třídy, osobní ohodnocení, excelentní pracovníci
· Zdůvodnění: požadavek vysoké odbornosti
Náklady na odborné vybavení pro výkon funkce
· Specifikace (typově): stroje, technika, zařízení, software, hardware apod.
· Náklady v Kč: 650.000,- Kč
Náklady na provoz pro výkon funkce
· Specifikace (typově): nájmy, kancelářské věci, atd.
· Náklady v Kč: 2.970.000,- Kč
Nákup externích služeb (např. školení)
· Popis služeb (typově): Právní služby, odborné poradenství, školení, příprava org. rámce, EU Komise atd.
· Náklady v Kč: 7.800.000,- Kč
2. Na rok 2027
Osobní náklady
· Počet přepočtených úvazků (FTE): 4
· Mzdy (úplné náklady na zaměstnance) v Kč: 4.816.800,- Kč
· Specifikace: platové třídy, osobní ohodnocení, excelentní pracovníci
· Zdůvodnění: požadavek vysoké odbornosti
Náklady na odborné vybavení pro výkon funkce
· Specifikace (typově): stroje, technika, zařízení, software, hardware apod.
· Náklady v Kč: 150.000,- Kč
Náklady na provoz pro výkon funkce
· Specifikace (typově): nájmy, kancelářské věci, atd.
· Náklady v Kč: 1.980.000,- Kč
Nákup externích služeb (např. školení)
· Popis služeb (typově): Právní služby, odborné poradenství, školení, příprava org. rámce, EU Komise atd.
· Náklady v Kč: 4.200.000,- Kč
3. Na rok 2028
Osobní náklady
· Počet přepočtených úvazků (FTE): 4
· Mzdy (úplné náklady na zaměstnance) v Kč: 4.816.800,- Kč
· Specifikace: platové třídy, osobní ohodnocení, excelentní pracovníci
· Zdůvodnění: požadavek vysoké odbornosti dle AI aktu
Náklady na odborné vybavení pro výkon funkce
· Specifikace (typově): stroje, technika, zařízení, software, hardware apod.
· Náklady v Kč: 150.000,- Kč
Náklady na provoz pro výkon funkce
· Specifikace (typově): nájmy, kancelářské věci, atd.
· Náklady v Kč: 1.980.000,- Kč
Nákup externích služeb (např. školení)
· Popis služeb (typově): Právní služby, odborné poradenství, školení, příprava org. rámce, EU Komise atd.
· Náklady v Kč: 4.200.000,- Kč
e) Kancelář veřejného ochránce práv
· Dohlíží na dodržování povinností stanovených v právu Unie chránícím základní práva, včetně práva na nediskriminaci, v souvislosti s používáním vysoce rizikových systémů AI;
· Evropská komise vydá pokyny k vysoce rizikovým AI systémům;
· Povinnost určit v čl. 77 AI aktu, termín plnění 2. srpna 2026.
Počet SM a popis pracovní náplně
Kancelář počítá se vznikem 1 služebního místa pro výkon agendy. Na služebním místě bude zajištováno: řešení případů týkajících se vysoce rizikových AI systémů v agendách VOP; osvětová a vzdělávací činnost; účast na pracovních skupinách AI Boardu; účast na pracovních skupinách k AI v rámci mezinárodních institucí (Equinet, ENNHRI); spolupráce s orgány dozoru nad trhem (výměna informací, žádosti o dokumentaci, společné testování, …).
Rozpočet
1. Na rok 2026
Osobní náklady
· Počet přepočtených úvazků (FTE): 1
· Mzdy (úplné náklady na zaměstnance) v Kč: 850.342,- Kč
· Specifikace: platové třídy (14. platové třídy), včetně povinného pojistného, FKSP a stravování
· Zdůvodnění: požadavek vysoké odbornosti v oblasti ochrany základních práv
Náklady na odborné vybavení pro výkon funkce
· Specifikace (typově): nábytek, kancelářské vybavení, výpočetní technika, software
· Náklady v Kč: 166.129,- Kč
Náklady na provoz pro výkon funkce
· Specifikace (typově): běžné provozní náklady
· Náklady v Kč: 92.024,- Kč
2. Na rok 2027
Osobní náklady
· Počet přepočtených úvazků (FTE): 1
· Mzdy (úplné náklady na zaměstnance) v Kč: 850.342,- Kč
· Specifikace: platové třídy (14. platové třídy), včetně povinného pojistného, FKSP a stravování
· Zdůvodnění: požadavek vysoké odbornosti v oblasti ochrany základních práv
Náklady na provoz pro výkon funkce
· Specifikace (typově): běžné provozní náklady
· Náklady v Kč: 92.024,- Kč
3. Na rok 2028
Osobní náklady
· Počet přepočtených úvazků (FTE): 1
· Mzdy (úplné náklady na zaměstnance) v Kč: 850.342,- Kč
· Specifikace: platové třídy (14. platové třídy), včetně povinného pojistného, FKSP a stravování
· Zdůvodnění: požadavek vysoké odbornosti v oblasti ochrany základních práv
Náklady na provoz pro výkon funkce
· Specifikace (typově): běžné provozní náklady
· Náklady v Kč: 92.024,- Kč
f) Oznámený subjekt
· Posuzuje shodu daného vysoce rizikového systému AI;
· Informuje oznamující orgán o vydání, odmítnutí, omezení, pozastavení nebo zrušení certifikátů technické dokumentace EU a schválení systému managementu kvality podle požadavků Přílohy VII AI aktu. Dále oznamuje okolnosti ovlivňující rozsah nebo podmínky označení a žádosti o informace od orgánů dohledu nad trhem týkající se činností posuzování shody;
· Nepovinné z AI aktu, ale nutné pro český AI sektor, termín plnění: 2. srpna 2026.
· Dle plánů/očekávání předkladatele bude tuto roli plnit Český metrologický institut.
Počet SM a popis pracovní náplně
Pro zajištění vzniku, akreditace a následného oznámení oznámeného subjektu jsou potřeba celkem 3 expertní místa po přechodnou dobu roku 2026 a části roku 2027, než oznámený subjekt začne poskytovat certifikace a bude financován z tržeb za certifikace pro posouzení shody. Činnost oznámeného subjektu bude komerční povahy. Cenová politika oznámeného subjektu proto bude nastavena tak, aby pokryla další náklady oznámeného subjektu vyvstalé po počáteční investici. V roce 2028 se tak již nepředpokládají další náklady.
Rozpis pracovní náplně jednotlivých míst:
· Vedoucí certifikačního orgánu – 1 místo
· Zástupce vedoucího certifikačního orgánu a manažer jakosti CO – 1 místo
· Techničtí experti pro hodnocení a certifikaci jednotlivých technologií AI – 1 místo (FTE) tvořené dvěma pracovníky na částečný úvazek
Rozpočet
1. Na rok 2026
Osobní náklady
· Počet přepočtených úvazků (FTE): 2,0
· Mzdy (úplné náklady na zaměstnance) v Kč: 3,0 mil. Kč
· Specifikace: VŠ vzdělaní zaměstnanci v ICT oboru, min. 5 let dokumentované odborné praxe v oboru, plnící podmínky nestrannosti a nezávislosti, znalost jednotlivých technologií AI a posuzování
· Zdůvodnění: požadavek vysoké odbornosti na jednotlivé technologie AI, vysoké nároky na VŠ vzdělání v oboru a prokázanou praxi a pracovní zkušenost s jednotlivými technologiemi, znalost problematiky posuzování shody
Náklady na odborné vybavení pro výkon funkce
· Vhodné HW testovací zařízení, např. NVIDIA DGX B200 (více informací viz. nelegislativní dokument)
· Náklady v Kč: Aktuální cena cca 11,2 milionů Kč
Náklady na provoz pro výkon funkce
· Specializovaná datová laboratoř (předpokládá se umístění na ČMI OI Olomouc, přestavba a vybavení dosavadní místnosti v rámci budovy), konektivita, zabezpečení, klimatizace, spotřeba energie
· Náklady v Kč: 1,2 mil. Kč
Nákup externích služeb (např. školení)
· Odborná certifikace zaměstnanců na jednotlivé technologie, validace jednotlivých postupů posuzování, účast ve srovnávacích slepých kruhových testech na jednotlivé technologie
· Náklady v Kč: 1,4 mil. Kč
2. Na rok 2027
V roce 2027 je předpokládané již částečné samofinancování z plateb za vykonané posouzení shody v druhé polovině roku 2027, nezbytné náklady do doby získání oznámení pro posuzování shody jsou odhadovány na 3,55 mil. Kč (Počet přepočtených úvazků (FTE): 3,0). Skutečné náklady budou záviset zejména na datu obdržení oznámení.
3. Na rok 2028
V roce 2028 se již s ohledem na očekávané nastavení cenové politiky oznámeného subjektu předpokládá plné samofinancování z plateb za vykonané posouzení shody.
Podrobná tabulka – Úvazky a finance (Kč)
2026
2027
2028
Celkem
Český telekomunikační úřad
(kapitola státního rozpočtu č. 328)
úvazky
7
7
10
24
mzdy celkem
11 239 200
22 478 400
38 534 400
72 252 000
investiční
1 000 000
770 000
21 140 000
22 910 000
neinvestiční
7 650 000
4 150 000
5 400 000
17 200 000
celkové výdaje
19 889 200
27 398 400
65 074 400
112 362 000
Úřad pro technickou normalizaci, metrologii a státní zkušebnictví
(kapitola státního rozpočtu č. 322)
úvazky
3
2
0
5
mzdy
3 857 143
6 428 571
6 428 571
16 714 285
z toho mzdy hradí MPO
3 857 143
3 857 143
3 857 143
11 571 429
investiční
800 000
150 000
150 000
1 100 000
neinvestiční
960 000
1 000 000
1 000 0000
2 960 000
celkové výdaje
5 617 143
7 578 571
7 578 571
20 774 285
Oznámený subjekt
(kapitola státního rozpočtu č. 322)
úvazky
2
1
0
3
příspěvky na činnost
3 000 000
2 250 000
0
5 250 000
příspěvky na činnost MPO
3 000 000
1 500 000
0
4 500 000
investiční
11 200 000
0
0
11 200 000
neinvestiční
2 600 000
1 300 000
0
3 900 000
celkové výdaje
16 800 000
3 550 000
0
20 350 000
Česká agentura pro standardizaci
(kapitola státního rozpočtu č. 322)
úvazky
2
2
0
4
příspěvky na činnost
3 612 600
4 816 800
4 816 800
13 246 200
příspěvky na činnost MPO/ÚNMZ
3 612 600
2 408 400
2 408 400
8 429 400
investiční
650 000
150 000
150 000
950 000
neinvestiční
10 770 000
6 180 000
6 180 000
23 130 000
celkové výdaje
15 032 600
11 146 800
11 146 800
37 326 200
Úřad pro ochranu osobních údajů
(kapitola státního rozpočtu č. 343)
úvazky
2
2
0
4
mzdy
2 650 211
5 300 422
5 300 422
13 251 055
investiční
-
-
-
0
neinvestiční
-
-
-
0
celkové výdaje
2 650 211
5 300 422
5 300 422
13 251 055
Kancelář veřejného ochránce práv
(kapitola státního rozpočtu č. 309)
úvazky
1
0
0
1
mzdy
850 342
850 342
850 342
2 551 026
investiční
166 129
0
0
166 129
neinvestiční
92 024
92 024
92 024
276 072
celkové výdaje
1 108 495
942 366
942 366
2 993 227
7.2. Dopad na ostatní veřejné rozpočty
Vzhledem k přirozené návaznosti úpravy na veřejnou správu a další veřejné subjekty lze v krátkém období a střednědobém výhledu očekávat: zvýšené nároky na školení a vzdělávání zaměstnanců v oblasti AI a právní regulace a náklady na modernizaci a zajištění souladu AI systémů využívaných veřejnou správou. Tento dopad lze očekávat v případě rozpočtů těch věřejných subjektů, které se ve své činnosti rozhodnou využít systémy AI ve smyslu AI aktu. Není znám přesný okruh subjektů, které takovéto rozhodnutí učinily nebo jej zvažují. Zároveň platí, že nová regulace AI nezatíží rozpočty těch veřejných subjektů, které se pro její využití samy nerozhodnou. V dlouhodobém horizontu by v případě dotčených rozpočtů každopádně mělo dojít naopak k úsporám díky efektivnějším a transparentnějším službám.
7.3. Dopad na podnikatelské prostředí
Navrhovaná úprava přinese podnikatelskému prostředí v ČR významné přínosy. Hlavním přínosem je zvýšení právní jistoty, kdy jasná pravidla a certifikační mechanismy umožní podnikům lépe plánovat vývoj, uvádění na trh a využívání AI systémů v souladu s evropskými standardy. Uplatnění jednotného a moderního rámce pro AI může podpořit rozvoj českých inovací a zvýšit konkurenceschopnost podniků na jednotném evropském trhu.
Na druhé straně nová úprava přinese i některé náklady na compliance, když podniky, zejména malé a střední (dále jen „MSP“), budou muset investovat do přizpůsobení svých produktů a procesů novým požadavkům, což může znamenat zvýšené administrativní a technologické náklady. Například proškolení personálu (srov. čl. 4 AI aktu), nastavení procesů zajišťujících dodržení nových regulatorních požadavků může být pro tyto subjekty nákladnější v tom smyslu, že budou mít v porovnání s většími podniky méně interních kapacit pro zajištění těchto úkolů, které bude tudíž třeba outsourcovat. Výloha obdobné výše na zajištění souladu s AI aktem bude rovněž představovat tím větší zátěž, čím menší dotčený podnik je.
AI akt na tyto skutečnosti do určité míry reaguje a zohledňuje specifické potřeby MSP i start-upů, a poskytuje jim určité výjimky, úlevy nebo podpůrné mechanismy, aniž by snižoval požadavky na bezpečnost a důvěryhodnost AI systémů. AI akt nezprošťuje MSP platných povinností jako takových, ale zjednodušuje postupy a nabízí podporu. MSP budou moci například používat zjednodušené šablony pro technickou dokumentaci (čl. 11 odst. 1 pododstavec druhý AI aktu). Cílem je snížit administrativní zátěž spojenou s posouzením shody a lidským dohledem. MSP budou mít dále zvýhodněné podmínky a přednostní přístup při využívání regulačního sandboxu, kde mohou vyvíjet a testovat AI systémy pod dohledem a získat zpětnou vazbu a usměrnění, aniž by čelily sankcím. MSP také získají výjimky z některých formálních požadavků po dobu testování, zejména finančních (srov. zejména čl. 58 AI aktu). Podle AI aktu (srov. mj. jeho čl. 62) mají dále Evropská komise i členské státy poskytovat poradenské a osvětové služby služby pro MSP, finanční podporu (např. z evropských fondů nebo programů typu Digitální Evropa), přístup k open-source nástrojům a referenčním databázím. MSP budou také moci využívat certifikované modely vyvinuté většími poskytovateli, což usnadní splnění požadavků na shodu. V souvislosti s poplatky za posuzování shody AI akt dále požaduje cenové zvýhodnění MSP (čl. 62 odst. 2 AI aktu). Byť tak lze očekávat, že některé náklady na zajištění souladu s AI aktem mohou být pro MSP vyšší, protože nebudou moci ve srovnání s většími podniky do stejné míry využít např. své existující in-house kapacity, jejich nominální náklady na zajištění souladu s AI budou na druhou stranu zmírněny výše uvedenými podpůrnými opatřeními.
Nad rámec nákladů na zajištění nezbytného souladu postupů podniků s AI aktem lze očekávat, že některé z nich budou nad rámec těchto povinností (resp. v zájmu jejich efektivního plnění) vypracovávat komplexnější interní politiky využívání umělé inteligence, které se mohou zaměřit například na principy využití AI v lidských zdrojích, popřípadě stanovení pravidel transparentnosti či lidského dohledu. Takovéto iniciativy jdoucí nad rámec plnění nezbytných regulatorních povinností lze označit za prospěšné a žádoucí, jelikož mohou přispět jak k řádnému dodržování nových pravidel vyplývání z AI aktu, tak ke zvýšení důvěry obchodních partnerů a klientů dotčených podniků.
8. Zhodnocení, zda návrhem zákona není zakládána veřejná podpora
Návrh zákona nezakládá veřejnou podporu.
9. Zhodnocení dopadů na práva a povinnosti fyzických a právnických osob
AI akt výrazně ovlivňuje práva a povinnosti osob v digitálním prostoru. Posiluje postavení jednotlivce, klade důraz na etické a nediskriminační využití AI a zavádí přísné povinnosti pro subjekty, které AI vyvíjejí a provozují. AI akt má dopad na práva a povinnosti jednotlivců (fyzických osob) i organizací (právnických osob), a to v několika klíčových rovinách:
9.1. Dopad na práva fyzických osob („dotčené osoby“)
AI akt posiluje ochranu jednotlivců před škodlivým nebo nespravedlivým využitím AI. Dotčené osoby získávají následující práva:
· Právo na informace: Pokud osoba jedná se systémem AI, musí být na tuto skutečnost výslovně upozorněna (čl. 52). U generativních systémů (např. deepfake, syntetický obsah) je požadováno zřetelné označení výstupů jako uměle vytvořených.
· Právo na lidský dohled a přezkum: V případě, že AI systém činí rozhodnutí se závažným právním nebo faktickým dopadem (např. zamítnutí dávky, úvěru, odmítnutí zaměstnání), má osoba právo žádat lidský zásah nebo přezkum rozhodnutí.
· Právo na rovné zacházení: Osoba má právo, aby AI systém nerozhodoval diskriminačně, např. na základě pohlaví, věku, rasy, zdravotního postižení nebo jiného chráněného znaku. AI systémy musí být navrženy a používány nediskriminačně a spravedlivě.
· Právo podat stížnost: Dotčená osoba má právo podat stížnost k příslušnému dozorovému orgánu, pokud se domnívá, že systém AI: jedná v rozporu s pravidly nařízení nebo způsobil újmu nebo diskriminaci.
9.2. Dopad na povinnosti právnických osob
Právnické osoby, které AI systémy vyvíjejí, poskytují nebo nasazují, mají podle AI aktu řadu právních povinností:
· Kategorizace systému podle rizika: musí určit, zda jejich AI systém spadá do: zakázaných systémů (čl. 5), vysoce rizikových systémů (čl. 6–29), systémů s omezeným rizikem (např. chatboti), nebo obecných modelů AI (GPAI systémů).
· Povinnost řízení rizik: povinnosti u vysoce rizikových systémů zahrnují: posouzení rizik včetně dopadu na základní práva, vedení technické dokumentace, zajištění kvality dat a zamezení biasu, umožnění lidského dohledu, transparentnost vůči uživatelům.
· Registrace a dohled: poskytovatel vysoce rizikového systému jej musí zaregistrovat v centrálním unijním registru a je podroben pravomocem dozorového orgánu.
· Oznamování incidentů: povinnost oznámit závažné incidenty způsobené AI systémem (např. újma, diskriminace, selhání bezpečnostních funkcí).
· Spolupráce s dozorovým orgánem: poskytovatelé a provozovatelé AI musí: poskytnout informace a dokumentaci, umožnit audit systému, spolupracovat při vyšetřování stížností nebo porušení.
10. Zhodnocení sociálních dopadů, včetně dopadů na specifické skupiny obyvatel, zejména osoby sociálně slabé, osoby se zdravotním postižením a národnostní menšiny, dopadů na ochranu práv dětí a dopadů na životní prostředí
V rámci hodnocení dopadů se předkladatel zaměřuje především na dopady, které vyplývají z AI aktu. Návrh zákona bude mít dopady rovněž prostřednictvím adaptace a vymáhání AI aktu.
10.1. Zhodnocení sociálních dopadů
AI akt výrazně posiluje ochranu před diskriminací ve všech oblastech, kde se AI používá. Zavádí důležité preventivní, kontrolní a nápravné mechanismy, které pomáhají identifikovat a eliminovat diskriminační praktiky způsobené umělou inteligencí. AI akt v článku 5 „Zakázané postupy v oblasti AI“ stanoví konkrétní zakázané praktiky, které mohou vést k diskriminaci nebo zneužívání zranitelných skupin. Jedná se zejména o úpravu v čl. 5 odst. 1 písm. b), c), d), g) AI aktu, cílem těchto ustanovení je ochrana základních práv jednotlivců a prevence systémového zneužívání AI technologií v oblastech, kde může docházet k zásahům do lidské důstojnosti, rovnosti či osobní integrity.
· Ad písm. b) Ustanovení zakazuje systémy AI, které jsou navrženy tak, aby záměrně zneužívaly zranitelnosti jednotlivců nebo skupin (např. dětí, seniorů, osob se zdravotním postižením nebo osob ve ztížené sociální situaci) s cílem nebo důsledkem výrazného ovlivnění jejich chování, které může vést k významné újmě. Taková manipulace je v rozporu s principem ochrany lidské důstojnosti a nepřípustně narušuje autonomii rozhodování jednotlivce.
· Ad písm. c) Toto ustanovení cílí na zákaz tzv. sociálního skórování (social scoring). Zakázány jsou systémy, které hodnotí jednotlivce na základě jejich sociálního chování či předpokládaných osobních charakteristik (např. etika, loajalita, společenská aktivita), a toto hodnocení vede k neodůvodněnému nebo nepřiměřenému znevýhodnění dotčené osoby v jiném kontextu, než pro který byly původní údaje shromážděny. Tato praktika by mohla vést k diskriminaci a stigmatizaci, která je neslučitelná s evropským pojetím ochrany lidských práv.
· Ad písm. d) Zakazuje se používání systémů AI, které by předvídaly riziko spáchání trestného činu pouze na základě profilování jednotlivce, tedy bez konkrétních, objektivně ověřitelných skutečností.
Takové přístupy jsou považovány za nepřípustné prediktivní kriminalizování, které porušuje zásady presumpce neviny a individuálního posuzování chování. Zákaz se nevztahuje na případy, kdy systém slouží pouze jako podpora lidského rozhodování, založená na relevantních informacích vztahujících se ke konkrétní trestné činnosti.
· Ad písm. g) Ustanovení zakazuje systémy biometrické kategorizace, které by na základě biometrických údajů (např. obličejové rysy, otisky) určovaly nebo odvozovaly citlivé osobní údaje, jako je rasa, náboženské přesvědčení, politická orientace, sexuální orientace apod.
Záměrem je zamezit systémům, které by vedly k nepřípustnému zásahu do soukromí nebo k profilování na základě chráněných charakteristik. Výjimku tvoří pouze technické případy, kdy je cílem označování nebo filtrování již legálně získaných dat, např. v kontextu trestního řízení.
Tato ustanovení přináší silnou ochranu znevýhodněným osobám a jsou součástí širšího rámce, jehož cílem je zajistit, aby systémy AI byly navrhovány a používány způsobem, který chrání základní práva jednotlivců a zabraňuje diskriminaci.
10.2. Dopad na životní prostředí
AI akt se regulací životního prostředí přímo nezabývá, ale nepřímo ho ovlivňuje několika způsoby. Zavedením požadavků na transparentnost a bezpečnost podporuje vývoj udržitelnějších a efektivnějších AI systémů s menší spotřebou energie. Hodnocení rizik u vysoce rizikových systémů může zahrnovat i dopady na životní prostředí (např. v oblasti dopravy, energetiky). Podporou důvěryhodné AI vytváří prostor pro rozvoj tzv. green AI – technologií využívaných pro ochranu klimatu, optimalizaci spotřeby nebo sledování emisí. A tak AI akt, i když nezavádí přímé ekologické standardy (např. omezení energetické náročnosti AI systémů), otevírá prostor pro ekologicky odpovědné využití AI.
11. Zhodnocení dopadů navrhovaného řešení ve vztahu k ochraně soukromí a osobních údajů
Tyto otázky jsou rozebrány také již v čl. 1.3.4. a 5.1.2.2.
AI akt a GDPR představují dvě zásadní roviny ochrany základních práv v digitálním prostředí EU. Zatímco GDPR upravuje ochranu osobních údajů a soukromí fyzických osob při zpracování dat, AI akt se zaměřuje na regulaci systémů umělé inteligence z hlediska rizik, která mohou tato technologická řešení představovat pro základní práva jednotlivců a pro fungování vnitřního trhu. Ačkoli se jedná o dva právní akty s rozdílným předmětem úpravy, v mnoha oblastech dochází k jejich funkčnímu překryvu. Tento překryv vyžaduje koordinovaný výklad a aplikaci obou předpisů.
K nejvýznamnějším průnikům dochází v situacích, kdy jsou systémy umělé inteligence navrhovány, trénovány nebo provozovány za účelem zpracování osobních údajů. Typickými příklady jsou AI systémy pro biometrickou identifikaci, prediktivní modely využívané v oblasti zaměstnávání, školství, zdravotnictví či financí, nebo algoritmické profilování osob za účelem personalizace služeb. V těchto případech je třeba aplikovat nejen režim stanovený AI aktem, ale současně i režim GDPR, včetně všech s tím spojených právních zásad, jako jsou zákonnost zpracování, transparentnost, minimalizace údajů či omezení účelu.
Zatímco GDPR upravuje vztah mezi správcem a subjektem údajů z hlediska zpracování informací, AI akt klade důraz na systémový a technický rámec fungování AI řešení. Mezi oběma nařízeními existuje formální i materiální soulad: článek 2 odst. 7 AI aktu výslovně stanoví, že tímto nařízením není dotčena působnost právních předpisů na ochranu osobních údajů, především GDPR. Uvedené ustanovení zakotvuje zásadu koherence právních rámců, která je důležitá zejména pro právní jistotu vývojářů, poskytovatelů i uživatelů AI systémů. Právní subjekty musí totiž splnit nejen požadavky na zajištění kvality a bezpečnosti AI systému (včetně posouzení rizik, transparentnosti či lidského dohledu), ale současně i požadavky na zákonné a korektní zpracování osobních údajů. V případě překrývání požadavků obou nařízení bude potřeba oba režimy sladit a v tomto bude hrát význam sekundární legislativa k AI aktu a také případně i judikatura ESD.
12. Zhodnocení korupčních rizik
Návrh zákona představuje minimalistickou adaptační právní úpravu. Vzhledem k této povaze nezakládá žádná korupční rizika. Kompetence správních orgánů jsou upraveny jen v rozsahu nezbytném k výkonu dozoru a vymáhání stanovených pravidel, přičemž míra diskrece je minimální. Navrhovaná úprava odpovídá standardním institutům českého právního řádu a nezavádí zásadní odchylky od stávajících postupů. Pokud se jedná o opravné prostředky a kontrolní mechanismy, na dotčenou problematiku se uplatní procesní režim správního řádu. Odpovědnost je vždy jednoznačně spojena s konkrétní úřední osobou, která je určena na základě organizační struktury příslušného správního orgánu, a rozhodovací činnost podléhá jak vnitřní, tak hierarchické kontrole. Transparentnost není dotčena, neboť přístup k informacím je zajištěn v souladu se zákonem č. 106/1999 Sb., o svobodném přístupu k informacím, ve znění pozdějších předpisů.
V návaznosti na výše zmíněné, jsou korupční rizika považována za minimální. Dozorovým orgánům není svěřena širší diskrece, než je nezbytně nutná. Ochrana před korupčními projevy je zajištěna existujícími mechanismy trestního práva a organizačními opatřeními uvnitř státní správy.
13. Zhodnocení dopadů na bezpečnost nebo obranu státu
Systémy AI používané (určené) výlučně pro vojenské nebo obranné účely nebo pro účely národní bezpečnosti jsou vyloučeny z působnosti AI aktu, a tudíž i z návrhu adaptačního zákona o umělé inteligenci.
13.1. Výluka AI systémů výlučně vojenských, obranných a bezpečnostních
Článek 2 odst. 3 nařízení AI aktu stanoví, že nařízení se nevztahuje na systémy umělé inteligence, které jsou vyvíjeny, uváděny na trh, uváděny do provozu nebo používány výhradně pro vojenské, obranné nebo národní bezpečnostní účely. To platí bez ohledu na povahu subjektu, který tyto systémy využívá, tedy bez rozdílu mezi veřejnými a soukromými subjekty pověřenými plněním příslušných úkolů. Výjimka je odůvodněna tím, že národní bezpečnost je podle čl. 4 odst. 2 SEU výlučnou odpovědností členských států, a EU proto nemá pravomoc tuto oblast regulovat. Specifika obranné politiky a společné bezpečnostní a obranné politiky EU jsou upravena zvláštními ustanoveními SEU a podléhají mezinárodnímu právu. Regulace využívání AI v oblasti národní bezpečnosti a obrany je proto ponechána na členských státech.
13.2. Dopad AI aktu na systémy s dvojí technologií
Avšak, přestože AI akt výslovně vylučuje oblast obrany a bezpečnosti ze své působnosti, tato výluka se neuplatní v případě tzv. dvojích technologií (dual-use technologies), tj. technologií s využitím jak v civilním, tak vojenském prostředí. Pokud jsou AI systémy uváděny na trh nebo do provozu v Unii nebo jsou používány (jejich výstup využíván) nikoli výhradně jen pro vojenské či obranné účely nebo pro účely národní bezpečnosti, AI akt na ně bude plně dopadat. Jedná se např. o AI pro automatizaci v průmyslu i pro autonomní zbraně, satelitní technologie pro navigaci a komunikaci i pro vojenské sledování, kryptografii pro zabezpečení dat i vojenskou komunikaci, nebo drony pro zemědělství, logistiku i pro vojenské průzkumy. Dvojí technologie umožňují efektivní využití investic a rozšiřují tržní příležitosti pro start-upy. Je logické, že podléhají regulaci tak jako jiné systémy AI.
14. Zhodnocení dopadů na rodiny, zejména s ohledem na plnění funkcí rodiny, s ohledem na počet vyživovaných členů, na případnou přítomnost hendikepovaných členů a rodiny samoživitelů, rodiny se třemi a více dětmi a další specifické životní situace, dále s ohledem na posílení integrity a stability rodiny a posílení rodinné harmonie, lepší rovnováhy mezi prací a rodinou a na posílení mezigeneračních a širších příbuzenských vztahů
Navrhovaný právní předpis má na rodiny a rodinný život pouze nepřímé a spíše marginální dopady, vyplývající z obecného rámce regulace umělé inteligence. Tyto dopady spočívají především v nastavení pravidel pro bezpečné a důvěryhodné využívání umělé inteligence, jejichž cílem je zajistit vysokou úroveň ochrany zdraví, bezpečnosti a základních práv fyzických osob před škodlivými účinky systémů umělé inteligence.
· Zakázané postupy v oblasti AI (čl. 5): Jedná se např. o zákaz manipulativních AI systémů, zákaz tzv. sociálního skóre (hodnocení osob na základě chování), které by mohlo postihovat členy rodiny, omezení biometrické identifikace ve veřejném prostoru (s výjimkami pro orgány činné v trestním řízení).
· Regulace vysoce rizikových AI systémů (čl. 6–29): AI používaná ve vzdělávání, zdravotnictví, pracovních vztazích, sociálních službách nebo přidělování dávek je klasifikována jako vysoce riziková. Tyto systémy podléhají povinnostem týkajícím se: transparentnosti, lidského dohledu, řízení rizik, registrace v databázi EU (pro dohledatelnost a kontrolu).
· Práva uživatelů a dotčených osob: Uživateli musí být srozumitelně sděleno, že jednají se systémem AI. V případě rozhodnutí s právním nebo obdobně závažným dopadem (např. při posuzování dávky či školního hodnocení) má dotčená osoba právo na lidský přezkum a vysvětlení.
Ochrana osobních údajů a soukromí: AI akt doplňuje pravidla GDPR, zejména v oblastech: sběru a používání dat dětí, ochrany citlivých údajů (např. zdravotní stav, biometrie), zákazu využívání AI pro masový dohled.
15. Zhodnocení územních dopadů, včetně dopadů na územní samosprávné celky
Navrhovaný právní předpis nepředstavuje přímé dopady na územní samosprávné celky. Vzhledem k tomu, že AI akt je přímo použitelným nařízením Evropské unie, vztahuje se i na členské státy a jejich samosprávné celky. V případech, kdy budou obce nebo kraje využívat systémy umělé inteligence, se na ně uplatní obecná pravidla stanovená pro poskytovatele a uživatele těchto systémů, zejména povinnost zajistit transparentnost (informovat občany o využití umělé inteligence), zavést mechanismy lidského dohledu nad rozhodovacími procesy, provádět analýzy rizik a zajišťovat ochranu před diskriminací. Míra praktických dopadů na jednotlivé samosprávné celky se bude odvíjet od rozsahu využívání systémů umělé inteligence, úrovně digitalizace veřejné správy a dostupnosti finančních a personálních kapacit.
16. Zhodnocení souladu navrhovaného řešení se zásadami tvorby digitálně přívětivé legislativy, včetně zhodnocení rizika vyloučení nebo omezení možnosti přístupu specifických skupin osob k některým službám v důsledku digitalizace jejich poskytování (digitální vyloučení)
Předložený návrh zákona se přímo netýká digitalizace; nevylučuje proto, ani neomezuje možnosti přístupu specifických skupin osob k některým službám v důsledku digitalizace jejich poskytování. Nicméně respektuje požadavky digitálně přívětivé legislativy.
17. Údaje o lobbování
V souvislosti s přípravou navrhovaného zákona nedošlo k žádnému lobbování ve smyslu zákona č. 168/2025 Sb., o regulaci lobování.
Připravovaný návrh byl projednán a konzultován Výborem pro umělou inteligenci , a to na jeho zasedání dne 1. září 2025 v budově Ministerstvu průmyslu a obchodu. Výbor pro umělou inteligenci (dále jen „Výbor pro AI“) je hlavní institucí v procesu řízení a naplňování Národní strategie umělé inteligence ČR 2030. Byl zřízen jako pracovní skupina Výboru pro digitální ekonomiku a společnost, který implementuje koncepci Digitální ekonomika a společnost (dle usnesení vlády č. 629 ze dne 3. října 2018). Jedná se o stálý poradní a koordinační orgán. Členy Výboru pro AI jsou zástupci státní správy, podnikatelského sektoru, akademické sféry i odborné veřejnosti; seznam členů je uveden v Národní strategii umělé inteligence České republiky 2030, a je dostupný na https://www.mpo.gov.cz/assets/cz/rozcestnik/pro-media/tiskove-zpravy/2024/8/AI_strategie_1.pdf.
Uvedené konzultace a projednání návrhu zákona o umělé inteligenci nenaplňují znaky lobbování podle § 2 odst. 1 zákona č. 168/2025 Sb., o regulaci lobování. Na žádném z uvedených setkání nevystoupila žádná osoba, která by se identifikovala jako lobbista dle § 3 zákona o regulaci lobbování ani nikdo nejednal způsobem, který by odůvodňoval závěr, že se jedná o lobbistu podle čl. 2.2. Metodiky k aplikaci zákona o regulaci lobování[footnoteRef:12]. [12: Metodika k aplikaci zákona č. 168/2025 Sb., o regulaci lobování, vydaná Ministerstvem spravedlnosti ČR 22.06.2025.]
II. Zvláštní část
K § 1
Navrhovaná úprava představuje minimalistickou implementaci přímo účinného AI aktu. České republice v souvislosti s přijetím tohoto nařízení vzniká povinnost zajistit řádné uplatňování tohoto nařízení, s jejímž plněním souvisí i potřeba zajistit provázanost nařízení s českým právním řádem v jeho stávající podobě. To vede k návrhu implementačního zákona v následujících oblastech.
Některé postupy související s AI aktem [písm. a)]: při některých postupech správních orgánů předvídaných v AI aktu se úprava podle správního řádu a jiných obecných předpisů správního práva procesního jeví jako nevhodná či nedostatečná. V těchto případech se navrhuje zvláštní úprava postupů správních orgánů.
Podmínky pro provoz regulačního sandboxu pro umělou inteligenci [písm. b)]: podle čl. 57 odst. 1 AI aktu je Česká republika povinna zřídit alespoň jeden regulační sandbox pro umělou inteligenci. Zákon vymezuje institucionální rámec regulačního sandboxu a podmínky jeho provozu. Ke zřízení sandboxu dochází nabytím účinnosti opatření obecné povahy podle § 17 odst. 2.
Některé povinnosti provozovatelů [písm. c)]: Většinu povinností provozovatelů v oblasti umělé inteligence (tedy poskytovatele, výrobce produktu, zavádějícího subjektu, zplnomocněného zástupce, dovozce nebo distributora, srov. čl. 3 bod 8 AI aktu) stanovuje samotný AI akt. Pro účely řádné implementace je však žádoucí stanovit provozovatelům spadajícím do působnosti českých orgánů veřejné moci některé dodatečné povinnosti na vnitrostátní úrovni. Některé povinnosti provádějící nařízení o umělé inteligenci mohou ve zvláštních případech stanovit i jiné zákony, například zákon č. 110/2019 Sb., o zpracování osobních údajů, ve znění pozdějších předpisů.
Výkon státní správy v oblasti umělé inteligence [písm. d)]: řádná implementace AI aktu vyžaduje, aby český zákon vymezil kompetence českých orgánů k uplatňování tohoto nařízení a stanovil pravidla pro výkon státní správy na tomto úseku, tedy aby upravil pravidla pro kontrolu dodržování povinností (resp. dozor nad trhem) a vymezil porušení tohoto nařízení jako přestupky.
K § 2
K odstavci 1
Navrhuje se určit Úřad pro technickou normalizaci, metrologii a státní zkušebnictví (dále jen „ÚNMZ“) jako oznamující orgán podle nařízení o umělé inteligenci. Toto je vhodné s ohledem na jeho stávající roli oznamujícího orgánu na základě § 17 odst. 2 zákona č. 90/2016 Sb., resp. orgánu příslušného k udělení autorizace na základě § 11 odst. 1 zákona č. 22/1997 Sb., o technických požadavcích na výrobky a o změně a doplnění některých zákonů, ve znění pozdějších předpisů.
K odstavci 2
Jakožto oznamující orgán musí ÚNMZ vykonávat celou řadu kompetencí. Řada z těchto kompetencí vyplývá přímo z AI aktu, přičemž se je navrhuje vymezit v zájmu srozumitelnosti předkládaného návrhu. Toto je žádoucí zejména v případě činností, které AI akt bez dalšího předvídá pro „příslušný orgán“, aniž by blíže specifikoval, že se má jednat o oznámený subjekt.
Dále je nutné vymezit jako kompetenci ÚNMZ kontrolu dodržování povinností ze strany oznámených subjektů. To plyne jak z jeho pravomocí vůči těmto subjektům vyplývajících z AI aktu (srov. např. čl. 34 odst. 3 nebo čl. 36 tohoto nařízení), tak z jeho kontrolní činnosti vůči subjektům oznámeným na základě jiného právního předpisu (srov. zejména § 21 odst. 1 zákona č. 90/2016 Sb.).
K § 3
Kompetence je třeba vymezit nejen pro oznamující orgán, ale též pro orgány dozoru nad trhem ve smyslu čl. 3 bodu 26 AI aktu. Orgány dozoru nad trhem budou vykonávat dozorovou činnost vůči tržním aktérům působícím v AI hodnotovém řetězci (poskytovatelům systémů AI, dovozcům, distributorům, zavádějícím subjektům, …). Toto zahrnuje jak kontrolní činnost a případnou odpovědnost za spáchání přestupku, tak proaktivní metodické vedení a osvětu, například skrze vydávání soft-law dokumentů, neformální zodpovídání dotazů apod. Ke společným činnostem na podporu souladu s předpisy orgány dozoru nad trhem vybízí mj. čl. 9 nařízení (EU) 2019/1020 ve spojení s čl. 74 odst. 1 AI aktu. Navrhovaná úprava je schválně formulována široce, přičemž hovoří i o „dalších činnostech“ (resp. „dalších úkonech“) orgánu dozoru. Orgány dozoru podle AI aktu totiž kromě kontrolní činnosti rovněž například vydávají povolení (včetně povolení odchylky od podmínek testování systému AI v reálných podmínkách podle čl. 76 odst. 2 AI aktu v případě testování uskutečňovaného v rámci regulačního sandboxu), přijímají oznámení [např. v souvislosti se závažnými incidenty včetně hlášení podle čl. 55 odst. 1 písm. c) AI aktu] apod. Pro všechny tyto agendy se jako klíč pro určení příslušnosti navrhuje stanovit v tomto paragrafu obsažené vymezení podle povahy systému AI (resp. také podle povahy adresáta povinností v případě dohledu České národní banky).
K odstavci 1
Navrhuje se jako orgány dozoru nad trhem podle čl. 70 odst. 1 AI aktu určit Český telekomunikační úřad (dále jen „ČTÚ“), Českou národní banku (dále jen „ČNB“) a Úřad pro ochranu osobních údajů (dále jen „ÚOOÚ“). ÚOOÚ je nezbytné určit jako orgán dozoru přinejmenším v rozsahu čl. 74 odst. 8 AI aktu, neboť jako orgán vykonávající dozor nad dodržováním pravidel ochrany osobních údajů je z existujících správních úřadů jedinou realistickou variantou pro dodržení požadavků tohoto ustanovení. Podobně ČNB je na základě čl. 74 odst. 6 AI aktu vhodným subjektem veřejné správy pro dozor v této oblasti. V neposlední řadě se navrhuje určit ČTÚ jako orgán dozoru nad trhem se zbytkovou působností.
K odstavci 2
Navrhuje se stanovit příslušnost ČTÚ k výkonu dozoru a dalším postupům stanoveným v AI aktu. Příslušnost ČTÚ k výkonu dozoru nad dodržováním AI aktu [písm. a)] se navrhuje zakotvit zbytkově k dozoru vykonávanému ČNB a ÚOOÚ. Takovéto vymezení zamezí prolukám v příslušnosti k dozoru. Dále se s ohledem na roli ČTÚ jako obecného (zbytkového) orgánu dozoru navrhuje stanovit, že tento správní úřad bude vykonávat též roli jednotného kontaktního místa podle čl. 70 odst. 2 AI aktu [písm. b)], které bude na základě bodu 153 odůvodnění AI aktu působit jako jednotné kontaktní místo jak vůči veřejnosti, tak vůči dalším protistranám na úrovni členských států EU a orgánů EU. Jelikož bude ČTÚ na základě své zbytkové příslušnosti vykonávat též dozor nad systémy AI, které jsou bezpečnostními součástkami výrobků spadajících do působnosti nařízení (EU) 2017/745[footnoteRef:13] (dále jen „MDR“) a nařízení (EU) 2017/746[footnoteRef:14] (dále jen „IVDR“), navrhuje se též výslovně stanovit, že plní roli příslušného orgánu pro přijímání oznámení o závažných incidentech souvisejících s takovýmito systémy AI podle čl. 73 odst. 10 AI aktu [písm. c)]. V neposlední řadě by ČTÚ jakožto obecný orgán dozoru a jednotné kontaktní místo měl rovněž vypracovávat zprávu o pokutách podle čl. 99 odst. 11 AI aktu [písm. d)]. [13: Nařízení Evropského parlamentu a Rady (EU) 2017/745 ze dne 5. dubna 2017 o zdravotnických prostředcích, změně směrnice 2001/83/ES, nařízení (ES) č. 178/2002 a nařízení (ES) č. 1223/2009 a o zrušení směrnic Rady 90/385/EHS a 93/42/EHS.] [14: Nařízení Evropského parlamentu a Rady (EU) 2017/746 ze dne 5. dubna 2017 o diagnostických zdravotnických prostředcích in vitro a o zrušení směrnice 98/79/ES a rozhodnutí Komise 2010/227/EU.]
Zbytková působnost ČTÚ je vymezena také ve vztahu ke kontrolní působnosti ÚNMZ vůči oznámeným subjektům podle § 2 odst. 2.
K odstavci 3
Navrhuje se stanovit, že ČNB vykonává dozor nad finančními institucemi, které jsou adresáty povinností podle AI aktu, při výkonu regulovaných činností. Kritérium pro příslušnost ČNB je podle návrhu dvojí. Zaprvé, musí jít o osobu podléhající dohledu ČNB podle zákona č. 6/1993 Sb., o České národní bance, ve znění pozdějších předpisů. Zadruhé, dozor ČNB se vztahuje pouze na výkon činností, které tyto osoby vykonávají na základě povolení, licence, registrace nebo oprávnění k činnosti uděleného ČNB.
Kupříkladu nábor či vzdělávání zaměstnanců finanční instituce s regulovanou činností souvisejí, avšak nejde o její přímý výkon. Jsou-li tak při nich používány systémy umělé inteligence, uplatní se zde zbytková příslušnost ČTÚ jak ve vztahu k poskytovateli systému umělé inteligence, tak zavádějícímu subjektu, tj. samotné finanční instituci.
ČNB bude vykonávat dozor zejména nad povinnostmi finančních institucí v postavení zavádějících subjektů podle AI aktu. Bude-li však ve smyslu čl. 3 bodu 3 a čl. 25 odst. 1 AI aktu poskytovatelem systému umělé inteligence přímo používaného k výkonu vlastní regulovanéých činnostíi sama finanční instituce, příslušnost k dozoru nad dodržováním jejích povinností podle AI aktu, jakožto poskytovatele systému umělé inteligence, i k vykonávání dalších úkonů orgánu dozoru ve vztahu k takovému poskytovateli systému umělé inteligence, včetně řešení závažných incidentů, schvalování testování systému v reálných podmínkách a dozoru nad tímto testováním či uchovávání dokumentace, bude náležet ČNB.
V případě, že poskytovatelem systému umělé inteligence přímo používaného k výkonu regulovaných činností bude naopak osoba, která nepodléhá dohledu ČNB, resp. tzv. externí poskytovatel, nebo osoba sice obecně podléhající dohledu ČNB, která ale pro vlastní regulovanou činnost systém umělé inteligence nepoužije a pouze jej dodává jiné osobě podléhající obecnému dohledu ČNB, bude orgánem dozoru ve vztahu k tomuto poskytovateli ČTÚ.
Navrhovaná právní úprava je vedena zájmem na zachování jednoty dohledu/dozoru nad finančním trhem.
K odstavci 4
Navrhuje se stanovit, že k výkonu dozoru nad dodržováním povinností souvisejících se systémy AI uvedenými v čl. 74 odst. 8 AI aktu vykonává ÚOOÚ s ohledem na skutečnost, že tento splňuje přísná kritéria pro orgány dozoru uvedená v tomto ustanovení AI aktu. Tímto není dotčena úplná nezávislost ÚOOÚ, jak ji vyžaduje čl. 52 odst. 1 GDPR. Jakékoli nové povinnosti či omezení, která se na ÚOOÚ vztáhnou z titulu jeho nového statusu orgánu dozoru nad trhem, se nevztáhnou na jeho působnost v oblasti ochrany osobních údajů.
Ná základě čl. 74 odst. 8 AI aktu bude ÚOOÚ vykonávat dozor (i) nad biometrickými vysoce rizikovými systémy AI podle přílohy III bodu 1 AI aktu, používají-li se tyto systémy pro účely vymáhání práva, pro účely správy hranic a v zájmu spravedlnosti a demokracie. Dále bude ÚOOÚ vykonávat dozor nad vysoce rizikovými systémy AI využívanými (ii) pro vymáhání práva, které jsou uvedeny v příloze III bodě 6 AI aktu, (iii) v oblasti migrace, azylu a řízení ochrany hranic, které jsou uvedeny v příloze III bodě 7 AI aktu, a (iv) ve správě soudnictví a demokratických procesech, které jsou uvedeny v příloze III bodě 8 AI aktu.
Zároveň však platí, že výkonem kompetencí ÚOOÚ v této oblasti nemůže být nijak ovlivněna nezávislost justičních orgánů a nesmí být zasahováno do jejich činnosti při výkonu jejich soudní pravomoci (srov. čl. 74 odst. 8 větu druhou AI aktu). Za tímto účelem se navrhuje obdobnou formulaci potvrzující tuto skutečnost uvést též v návrhu § 3 odst. 4. Tato skutečnost ovlivní zejména vysoce rizikové systémy AI podle v příloze III bodu 8 AI aktu. ÚOOÚ bude s ohledem na výše uvedené omezení moci vykonávat dozor nad plněním povinností pouze nad účastníky hodnotového řetězce, kteří tyto systémy nevyužívají v kontextu výkonu pravomocí soudu či státního zastupitelství. Posledně uvedené orgány budou patrně v praxi figurovat zejména v pozici zavádějících subjektů. Tím však nejsou dotčeny kompetence ÚOOÚ ve vztahu k jiným účastníkům hodnotového řetězce, tj. například k poskytovatelům, kteří sami justičními orgány ve smyslu AI aktu nejsou.
Při výkonu působnosti ÚOOÚ se přímo uplatní omezení stanovené v čl. 74 odst. 8 AI aktu, podle něhož činnosti dozoru nesmějí ovlivnit nezávislost justičních orgánů ani zasahovat do jejich činnosti při výkonu soudní pravomoci. Vypuštění výslovného zopakování tohoto pravidla ze zákona nezakládá přesun příslušnosti na ČTÚ.
K odstavci 5
Navrhuje se stanovit, že potvrzení o rizicích (absenci rizik) systémů AI při zrušení oznámení subjektu posuzování shody podle čl. 36 odst. 9 AI aktu vydává orgán dozoru nad trhem, který je příslušný k výkonu dozoru v dané oblasti. Příslušnost orgánů dozoru nad trhem byla zvolena ze dvou důvodů. Zaprvé, zatímco obdobný postup při pozastavení nebo omezení jmenování subjektu posuzování shody (ke kterému jsou příslušné oznamující orgány) spočívá v hodnocení certifikátů vydaných dotčeným oznámeným subjektem, postup podle čl. 36 odst. 9 AI aktu spočívá v hodnocení rizik vyplývajících ze systémů AI jako takových. To je činnost, kterou se budou zpravidla zabývat orgány dozoru nad trhem, nikoli oznamující orgány. Zadruhé, takto zvolená úprava příslušnosti navazuje na praxi zvolenou českým zákonodárcem na základě § 5 odst. 1 zákona č. 375/2022 Sb., o zdravotnických prostředcích a diagnostických zdravotnických prostředcích in vitro, ve znění pozdějších předpisů ve spojení s § 27c odst. 1 a 27d odst. 1 zákona č. 90/2016 Sb. při implementaci obdobné úpravy podle čl. 46 odst. 9 MDR, resp. čl. 42 odst. 9 IVDR. Postup podle čl. 36 odst. 9 AI aktu představuje úpravu prodloužení platnosti certifikátu ve zvláštních případech. Nejde však o jedinou situaci, kdo dochází k prodloužení platnosti certifikátu. Ve standardních případech bude k takovémuto prodloužení docházet na základě čl. 44 ost. 2 AI aktu.
K odstavci 6
Ustanovení umožňuje orgánu dozoru nad trhem požádat o podporu podle čl. 69 odst. 1 AI aktu v souvislosti s výkonem jeho činností podle AI aktu nebo tohoto zákona.
K § 4
Ustanovení vymezuje působnost Ministerstva průmyslu a obchodu při plnění vybraných úkolů vyplývajících z AI aktu. Ministerstvo jmenuje zástupce České republiky v Evropské radě pro umělou inteligenci podle čl. 65 odst. 3 AI aktu, podporuje a usnadňuje vypracování kodexů chování podle čl. 95 AI aktu, podává žádosti o aktualizaci pokynů Evropské komise podle čl. 96 odst. 2 AI aktu a poskytuje Komisi informace podle čl. 112 odst. 8 AI aktu.
K § 5
K odstavci 1
Navrhuje se stanovit zvláštní úpravu účastenství v řízení podle čl. 46 odst. 1 AI aktu. S ohledem na skutečnost, že počet tímto řízením dotčených osob může být vysoký, přičemž jejich přímé dotčení ve smyslu § 27 odst. 2 správního řádu, zejména v případě osob již využívajících služby či produkty, do nichž má být předmětný sysém AI nově implementován, nelze bez dalšího vyloučit, navrhuje se oproti obecné úpravě podle správního řádu výslovně stanovit, že účastníkem je pouze žadatel.
Jde totiž o správní řízení, které má směřovat k bezodkladnému zajištění veřejné bezpečnosti nebo ochrany života a zdraví osob, ochrany životního prostředí nebo ochrany klíčových průmyslových a infrastrukturních aktiv (čl. 46 odst. 2 AI aktu), což je neslučitelné s vysokým početem účastníků řízení, který by takové řízení zásadním způsobem prodlužoval.
AI akt a navrhovaná právní úprava však upravuje řadu institutů, které i bez široce pojímaného účastenství zajistí záruky proti neoprávněně vydanému povolení.
Jde jednak o pravomoc Evropská komise a ostatních členských států EU napadat vydané povolení (čl. 46 odst. 3 až 5 AI aktu), omzení jeho platnosti na nezbytně nutnou dobu (čl. 46 odst. 2 AI aktu) či informování veřejnosti o uvedení předmětného sytému AI na trh jeho zaregistrováním do databáze podle čl. 49 odst. 1 AI aktu. V zásadě kdokoliv pak může podat podnět k zahájení řízení podle navrhovaného § 7.
Povolení navíc může být uděleno pouze při splnění podmínek podle čl. 8 až 15 AI aktu (kapitoly III oddílu 2), a předmětem řízení tak nepochybně budou i skutečnosti podléhající obchodnímu tajemství či jinak důvěrné údaje bez jejichž znalosti by účast veřejnosti mohla být stěží efektivní.
K odstavci 2
Na základě čl. 46 odst. 3 AI aktu bude příslušný orgán dozoru nad trhem povinen posoudit veškeré požadavky podle oddílu 2 kapitoly III AI aktu, což je zdlouhavý a náročný proces, pro který v řadě případů nebudou postačovat obecné lhůty pro vydání rozhodnutí podle správního řádu. Proto se navrhuje stanovit, že příslušný orgán dozoru nad trhem vydá rozhodnutínejpozději však do 120 dnů ode dne zahájení řízení. Tím zároveň není dotčena obecná úprava prodloužení lhůt podle správního řádu.
Povolení dle čl. 46 odst. 1 se uděluje na omezenou dobu dokud jsou prováděny nezbytné postupy posuzování shody. Příslušný orgán dozoru nad trhem bude povinen tuto časovou ohraničenost vydávaného povolení zohlednit ve výroku vydávaného rozhodnutí.
K § 6
K odstavci 1
Navrhuje se stanovit zvláštní úpravu účastenství v řízení podle čl. 46 odst. 1 AI aktu. S ohledem na skutečnost, že počet tímto řízením dotčených osob může být vysoký, přičemž jejich přímé dotčení ve smyslu § 27 odst. 2 správního řádu, zejména v případě osob již využívajících služby či produkty, do nichž má být předmětný sysém AI nově implementován, nelze bez dalšího vyloučit, navrhuje se oproti obecné úpravě podle správního řádu výslovně stanovit, že účastníkem je pouze žadatel.
Jde totiž o správní řízení, které má směřovat k bezodkladnému zajištění veřejné bezpečnosti nebo ochrany života a zdraví osob, ochrany životního prostředí nebo ochrany klíčových průmyslových a infrastrukturních aktiv (čl. 46 odst. 2 AI aktu), což je neslučitelné s vysokým početem účastníků řízení, který by takové řízení zásadním způsobem prodlužoval.
AI akt a navrhovaná právní úprava však upravuje řadu institutů, které i bez široce pojímaného účastenství zajistí záruky proti neoprávněně vydanému povolení.
Jde jednak o pravomoc Evropská komise a ostatních členských států EU napadat vydané povolení (čl. 46 odst. 3 až 5 AI aktu), omzení jeho platnosti na nezbytně nutnou dobu (čl. 46 odst. 2 AI aktu) či informování veřejnosti o uvedení předmětného sytému AI na trh jeho zaregistrováním do databáze podle čl. 49 odst. 1 AI aktu. V zásadě kdokoliv pak může podat podnět k zahájení řízení podle navrhovaného § 7.
Povolení navíc může být uděleno pouze při splnění podmínek podle čl. 8 až 15 AI aktu (kapitoly III oddílu 2), a předmětem řízení tak nepochybně budou i skutečnosti podléhající obchodnímu tajemství či jinak důvěrné údaje bez jejichž znalosti by účast veřejnosti mohla být stěží efektivní.
K odstavci 2
Na základě čl. 46 odst. 3 AI aktu bude příslušný orgán dozoru nad trhem povinen posoudit veškeré požadavky podle oddílu 2 kapitoly III AI aktu, což je zdlouhavý a náročný proces, pro který v řadě případů nebudou postačovat obecné lhůty pro vydání rozhodnutí podle správního řádu. Proto se navrhuje stanovit, že příslušný orgán dozoru nad trhem vydá rozhodnutínejpozději však do 120 dnů ode dne zahájení řízení. Tím zároveň není dotčena obecná úprava prodloužení lhůt podle správního řádu.
Povolení dle čl. 46 odst. 1 se uděluje na omezenou dobu dokud jsou prováděny nezbytné postupy posuzování shody. Příslušný orgán dozoru nad trhem bude povinen tuto časovou ohraničenost vydávaného povolení zohlednit ve výroku vydávaného rozhodnutí.
K odstavci 3
Zahájí-li Evropská komise konzultace podle čl. 46 odst. 5 AI aktu, orgán dozoru nad trhem o této skutečnosti vyrozumí dotčeného držitele povolení a poskytne Komisi a držiteli povolení součinnost potřebnou pro jeho konzultování a předložení stanoviska.
K § 7
K odstavci 1
Navrhuje se v zájmu zjednodušení a zrychlení postupů stanovit zvláštní úpravu účastenství v řízení o schválení testování systému AI v reálných podmínkách (AI akt přepokládá vydání rozhodnutí zpravidla do 30 dnů ode dne obdržení žádosti), podle níž je účastníkem řízení pouze žadatel, protože počet dotčených osob může v těchto věcech být vysoký, přičemž jejich přímé dotčení ve smyslu § 27 odst. 2 správního řádu, zejména v případě osob již využívajících služby či produkty, do nichž má být testovaný sysém AI nově implementován, nelze bez dalšího vyloučit.
Testování v reálných podmínkách přitom musí být založeno na informovaném souhlasu všech subjektů testování podle čl. 61 AI aktu, a nemělo by se tak dotknout nikoho, kdo s tím neprojevil souhlas a nebyl obeznámen mj. s povahou a cíli testování, možných obtíží, které mohou být s jeho účastí spojeny apod., přičemž takový souhlas lze kdykoliv a bez jakékoliv újmy odvolat, aniž by tento krok musel být odůvodněn (čl. 60 odst. 4 písm. i) a odst. 5 a čl. 61 AI aktu). Výjimkou jsou pouze případy vymáhání práva, kdy by získání souhlasu, (a tedy i zapojení veřejnosti do povolovacího procesu), testování systému AI bránilo [čl. 60 odst. 4 písm. i) AI aktu].Samotné testování a výsledek testování v reálných podmínkách pak nesmí mít na jeho subjekty žádný negativní dopad, a pokud by jím přesto byla způsobena škoda, poskytovatel ze ni nese odpovědnost [čl. 60 odst. 4 písm. i) a odst. 9 AI aktu].
I pro testování v reálných podmínkách pak platí, že veřejnost je o něm informována prostřednictvím zaregistrování do databáze EU podle čl. 60 odst. 4 písm. c) AI aktu. V zásadě kdokoliv pak může podat podnět k vydání rozhodnutí o pozastavení či ukončení testování podle podle čl. 76 odst. 3 AI aktu.
Ochana práv dotčených osob je tak zajištěna i bez jejich účastenství v předmetném řízení. Jeho předmětem navíc nepochybně mohou být skutečnosti podléhající obchodnímu tajemství, případně další důvěrně informace, které budou hrát při povolování testování systémů AI v reálných podmínkách zásadní roli a bez jejichž znalosti by účast veřejnosti mohla být stěží efektivní. V té míře detailu, v níž by bylo možné dotčenou veřejnost o povolovaném testování informovat pro účely jejího zapojení do procesu povolování tetsování, budou veškeré osoby testováním přímo dotčené (subjekty testování) informovány ze strany poskytovatele systému AI, přičemž mají možnost kdykoliv svoji účast na testování ukončit anebo podat podnět k rozhodnutí o pozastavení či ukončení testování.
Zároveň se navrhuje upravit zvláštní lhůtu pro vydání rozhodnutí ve zvláště složitých případech, a to v délce 90 dnů od zahájení řízení. Předkladateli je zřejmý zájem na rychlém vyřízení schválení testování systému AI v reálných podmínkách. Zároveň je však třeba se vypořádat s tím, že s ohledem na předmět daného řízení a na skutečnost, že příslušný orgán bude muset do jisté míry provádět jakési předběžné posouzení shody daného systému s požadavky AI aktu, zejména oddílu II kapitoly III. S ohledem na tuto skutečnost lze očekávat, že se bude v některých případech jednat o zvláště složité případy ve smyslu § 71 odst. 3 písm. a) správního řádu. Ani zde stanovená (prodloužená) lhůta v délce 60 dnů by však vzhledem k uvedenému v některých případech nemusela být dostatečná. Pro tento případ se tedy navrhuje zvláštní lhůta v délce 90 dnů. Příliš krátká lhůta, která by k řádnému posouzení žádosti nebyla dostatečná, by totiž mohla (z opatrnosti, resp. z obavy z možných negativních dopadů testování daného vysoce rizikového systému) vést k zamítání i takových žádostí, jimž by za jiných okolností bylo bývalo vyhověno, což by mohlo v konečném důsledku brzdit vývoj nových technologií umělé inteligence.K odstavci 2
V případech uvedených v odstavci 1 panuje zájem na rychlém zjednání nápravy, pročež se navrhuje zakotvit možnost příslušného orgánu dozoru nad trhem vydat rozhodnutí jako první úkon v řízení, přičemž rozklad podaný proti němu nemá odkladný účinek.
K § 8
S ohledem na atypickou povahu a relativní stručnost úpravy schválení testování vysoce rizikového systému AI v reálných podmínkách podle čl. 60 odst. 4 písm. b) AI aktu se navrhuje na ni navázat zvláštní úpravou správního řízení v těchto věcech. Z terminologického hlediska se přitom navrhuje zachovat formulaci používanou AI aktem („schválení“), byť se z hlediska standardní terminologie českého práva ve skutečnosti jedná o souhlas: testování v reálných podmínkách musí být orgánem dozoru aprobováno před tím, než k němu dojde.
K odstavci 1
Navrhuje se v zájmu zjednodušení a zrychlení postupů stanovit zvláštní úpravu účastenství v řízení o schválení testování systému AI v reálných podmínkách (AI akt přepokládá vydání rozhodnutí zpravidla do 30 dnů ode dne obdržení žádosti), podle níž je účastníkem řízení pouze žadatel, protože počet dotčených osob může v těchto věcech být vysoký, přičemž jejich přímé dotčení ve smyslu § 27 odst. 2 správního řádu, zejména v případě osob již využívajících služby či produkty, do nichž má být testovaný sysém AI nově implementován, nelze bez dalšího vyloučit.
Testování v reálných podmínkách přitom musí být založeno na informovaném souhlasu všech subjektů testování podle čl. 61 AI aktu, a nemělo by se tak dotknout nikoho, kdo s tím neprojevil souhlas a nebyl obeznámen mj. s povahou a cíli testování, možných obtíží, které mohou být s jeho účastí spojeny apod., přičemž takový souhlas lze kdykoliv a bez jakékoliv újmy odvolat, aniž by tento krok musel být odůvodněn (čl. 60 odst. 4 písm. i) a odst. 5 a čl. 61 AI aktu). Výjimkou jsou pouze případy vymáhání práva, kdy by získání souhlasu, (a tedy i zapojení veřejnosti do povolovacího procesu), testování systému AI bránilo [čl. 60 odst. 4 písm. i) AI aktu].Samotné testování a výsledek testování v reálných podmínkách pak nesmí mít na jeho subjekty žádný negativní dopad, a pokud by jím přesto byla způsobena škoda, poskytovatel ze ni nese odpovědnost [čl. 60 odst. 4 písm. i) a odst. 9 AI aktu].
I pro testování v reálných podmínkách pak platí, že veřejnost je o něm informována prostřednictvím zaregistrování do databáze EU podle čl. 60 odst. 4 písm. c) AI aktu. V zásadě kdokoliv pak může podat podnět k vydání rozhodnutí o pozastavení či ukončení testování podle podle čl. 76 odst. 3 AI aktu.
Ochana práv dotčených osob je tak zajištěna i bez jejich účastenství v předmetném řízení. Jeho předmětem navíc nepochybně mohou být skutečnosti podléhající obchodnímu tajemství, případně další důvěrně informace, které budou hrát při povolování testování systémů AI v reálných podmínkách zásadní roli a bez jejichž znalosti by účast veřejnosti mohla být stěží efektivní. V té míře detailu, v níž by bylo možné dotčenou veřejnost o povolovaném testování informovat pro účely jejího zapojení do procesu povolování tetsování, budou veškeré osoby testováním přímo dotčené (subjekty testování) informovány ze strany poskytovatele systému AI, přičemž mají možnost kdykoliv svoji účast na testování ukončit anebo podat podnět k rozhodnutí o pozastavení či ukončení testování.Zároveň se navrhuje upravit zvláštní lhůtu pro vydání rozhodnutí ve zvláště složitých případech, a to v délce 90 dnů od zahájení řízení. Předkladateli je zřejmý zájem na rychlém vyřízení schválení testování systému AI v reálných podmínkách. Zároveň je však třeba se vypořádat s tím, že s ohledem na předmět daného řízení a na skutečnost, že příslušný orgán bude muset do jisté míry provádět jakési předběžné posouzení shody daného systému s požadavky AI aktu, zejména oddílu II kapitoly III. S ohledem na tuto skutečnost lze očekávat, že se bude v některých případech jednat o zvláště složité případy ve smyslu § 71 odst. 3 písm. a) správního řádu. Ani zde stanovená (prodloužená) lhůta v délce 60 dnů by však vzhledem k uvedenému v některých případech nemusela být dostatečná. Pro tento případ se tedy navrhuje zvláštní lhůta v délce 90 dnů. Příliš krátká lhůta, která by k řádnému posouzení žádosti nebyla dostatečná, by totiž mohla (z opatrnosti, resp. z obavy z možných negativních dopadů testování daného vysoce rizikového systému) vést k zamítání i takových žádostí, jimž by za jiných okolností bylo bývalo vyhověno, což by mohlo v konečném důsledku brzdit vývoj nových technologií umělé inteligence.
K odstavci 2
Řízení podle odstavce 1 obnáší i vyhodnocení plánu testování příslušného systému AI v reálných podmínkách. Tento dokument může být velmi komplexní, pročež na základě průběhu řízení může vyjít najevo, že příslušný orgán dozoru nad trhem může testování schválit, ale pouze při úpravě původního plánu testování. Taková úprava by však představovala změnu obsahu podání, kterou podle § 41 odst. 8 správního řádu správní orgán povolí na žádost účastníka jen v případě, že podateli hrozí vážná újma. Proto se navrhuje explicitně stanovit, že příslušný orgán dozoru nad trhem může účastníka vyzvat ke změně nebo doplnění plánu testování, je-li to účelné.
K odstavci 3
Ve zvlášť složitých případech rozhodne orgán dozoru nad trhem o žádosti nejpozději do 90 dnů ode dne zahájení řízení. O použití této lhůty vyrozumí žadatele do 30 dnů ode dne zahájení řízení. Zvláštní lhůta reaguje na komplexnost posuzování testování vysoce rizikových systémů AI v reálných podmínkách.
V návaznosti na zvláštní úpravu lhůt se navrhuje vyloučit fikci schválení podle čl. 60 odst. 4 písm. b) AI aktu, která se uplatní, neposkytne-li tento orgán „odpověď do 30 dnů“. Z téhož ustanovení se však zároveň podává, že „nestanoví-li vnitrostátní právo implicitní schválení, testování v reálných podmínkách nadále podléhá povolení“. Jinými slovy, aby se fikce schválení mohla uplatnit, musí to vyplývat z vnitrostátního práva.
Pro vyloučení pochybnosti se navrhuje výslovně stanovit, že zmíněná fikce se při schvalování testování na území České republiky neuplatní. Testováním v reálných podmínkách totiž může být dotčen velký počet osob, přičemž vzhledem k tomu, že jde o testování systémů vysoce rizikových, může být takové dotčení dané osoby velmi závažné a mnohdy „nenapravitelné“. Ačkoliv tyto osoby, resp. subjekty testování, musejí podle čl. 61 AI aktu před jejich účastí na testování poskytnout dobrovolný informovaný souhlas, má být právě schválení testování daného systému příslušným orgánem pro tyto osoby určitou zárukou, že rizika z něho vyplývající byla v maximální možné míře minimalizována. Takovou funkci fiktivní rozhodnutí plnit nemůže. Případné pozastavení nebo ukončování fiktivně schváleného testování podle čl. 76 odst. 3 písm. a) AI aktu, bylo-li by následně zjištěno, že podmínky pro jeho schválení zde nebyly, by pak navíc mohlo mj. vést ke zmaření investic, resp. účelnosti již vynaložených nákladů na dané testování, ze strany poskytovatele systému.
Rovněž je nutno zmínit, že v čl. 60 odst. 4 písm. b) AI aktu se hovoří o poskytnutí odpovědi do 30 dnů, nikoliv o vydání rozhodnutí v této lhůtě [srov. např. čl. 8 odst. 1 nařízení (EU) 2024/1309[footnoteRef:15]]. V této souvislosti se navrhuje, aby v případě, že půjde o zvlášť složitý případ, měl orgán, který vede řízení o schválení testování povinnost do 30 dnů ode dne zahájení řízení vyrozumět žadatele o tom, že jde o zvlášť složitý případ a rozhodnutí tak bude vydáno ve lhůtě do 90 dnů ode dne zahájení řízení, byť se tím ovšem nezbaví své povinnosti vydat rozhodnutí bez zbytečného odkladu. [15: Nařízení Evropského parlamentu a Rady (EU) 2024/1309 ze dne 29. dubna 2024 o opatřeních ke snížení nákladů na budování gigabitových sítí elektronických komunikací, o změně nařízení (EU) 2015/2120 a o zrušení směrnice 2014/61/EU.]
Výše zmíněná konstrukce odpovědi do 30 dnů navíc z ekonomického hlediska motivuje orgány dozoru nad trhem k rychlému vyřizování žádostí, neboť v jednodušších věcech by se pozdější vydání rozhodnutí podle návrhu pojilo s nadbytečnými úkony spočívajícími s vyrozuměním o zvláštní složitosti případu. V neposlední řadě, při prodlevě orgánu dozoru nad trhem nebo dokonce při nevydání navrhovaného vyrozumění o zvláštní složitosti případu sice podle navrhované úpravy nedojde k fikci schválení, žadateli nicméně zůstávají k dispozici prostředky obrany proti nečinnosti správního orgánu zakotvené v § 80 správního řádu, resp. v § 79 a násl. soudního řádu správního.
Z výše uvedeného se konečně navrhuje stanovit úzce vymezenou výjimku pro systémy AI uvedené v příloze III bodě 2, bodě 6 písm. d) a bodě 7 písm. b) AI aktu. V případě těchto vysoce rizikových systémů AI může v konkrétních případech panovat veřejný zájem na rychlém zavedení systému, který opodstatňuje též rychlý postup ze strany úřadů.
K § 9
Navrhuje se stanovit oznamovací povinnost osoby, na jejíž žádost bylo uděleno povolení podle § 6 nebo schváleno testování podle § 8, při změně skutečností, z nichž vycházelo příslušné rozhodnutí. Oznamovací povinnost je třeba splnit do 15 dnů ode dne, kdy se povinná osoba o změně skutečností dozvěděla.
K § 10
Navrhuje se upřesnit některé správní postupy orgánu dozoru nad trhem. Řízení podle čl. 73 odst. 8, čl. 76 odst. 3, čl. 79 odst. 5, čl. 80 odst. 6 a čl. 83 odst. 2 AI aktu spočívají ve zjednání nápravy v případě trvajícího protiprávního stavu. Panuje tak veřejný zájem na rychlém vyřízení těchto věcí. Čl. 73 odst. 8 upravuje postup orgánu dozoru nad trhem navazující na oznámení závažného incidentu, čl. 76 odst. 3 postup orgánu dozoru nad trhem při dohledu nad testováním systémů umělé inteligence v reálných podmínkách, čl. 79 odst. 5 postup v případě zjištění, že systém umělé inteligence představuje riziko pro zdraví, bezpečnost nebo základní práva, čl. 80 odst. 6 postup orgánu dozoru nad trhem při přezkumu klasifikace systému umělé inteligence z hlediska jeho zařazení mezi vysoce rizikové systémy a čl. 83 odst. 2 postup v případě zjištění formálního nesouladu systému umělé inteligence s požadavky AI aktu.K odstavci 1
S ohledem na výše uvedené se v zájmu zjednodušení a urychlení řízení navrhuje stanovit, že účastníkem řízení v těchto věcech je výlučně osoba, které se za účelem zjednání nápravy ukládá povinnost.
K odstavci 2
V zájmu dosažení rychlého zjednání nápravy se dále navrhuje stanovit, že rozhodnutí ve výše vyjmenovaných věcech lze vydat též jako první úkon v řízení. Opravný prostředek proti těmto rozhodnutím by zároveň neměl mít odkladný účinek. Takováto úprava je nezbytná, neboť navazující řízení o opravném prostředku by mohlo v případě zachování odkladného účinku zmařit účel řízení v těchto věcech, ve kterých může být nutné zjednání rychlé nápravy v řádu dnů. Je zároveň odpovědností příslušného orgánu dozoru nad trhem, aby si v těchto věcech počínal s náležitou péčí. Při splnění příslušných podmínek může dotčené osobě v důsledku nezákonného rozhodnutí svědčit právo na náhradu škody v souladu se zákonem č. č. 82/1998 Sb., o odpovědnosti za škodu způsobenou při výkonu veřejné moci rozhodnutím nebo nesprávným úředním postupem a o změně zákona České národní rady č. 358/1992 Sb., o notářích a jejich činnosti (notářský řád), ve znění pozdějších předpisů.
K odstavci 3
V souvislosti s řízením o opatření k nápravě se navrhuje stanovit úpravu spočívající ve zrušení opatření uloženého podle čl. 79 odst. 5 AI aktu, rozhodne-li Komise o jeho neopodstatněnosti na základě čl. 81 odst. 2 AI aktu. Tímto dochází k provázání postupů na unijní a národní úrovni.
K § 11
Ustanovení navazuje na čl. 18 odst. 2 AI aktu a upravuje uchování a předávání dokumentace podle čl. 18 odst. 1 AI aktu při ukončení činnosti poskytovatele nebo jeho zplnomocněného zástupce, při přechodu povinnosti na právního nástupce a při zániku bez právního nástupce.
K odstavci 1
Ukončí-li poskytovatel nebo zplnomocněný zástupce činnost, předá dokumentaci podle čl. 18 odst. 1 AI aktu příslušnému orgánu dozoru nad trhem do 15 dnů od ukončení této činnosti.
K odstavci 2
Povinnost uchovávat dokumentaci podle čl. 18 odst. 1 AI aktu přechází na právního nástupce poskytovatele nebo zplnomocněného zástupce. Nepokračuje-li právní nástupce v této činnosti, může svou povinnost uchovávat dokumentaci ukončit jejím předáním příslušnému orgánu dozoru nad trhem. Povinnost zaniká až okamžikem předání dokumentace.
K odstavci 3
Má-li poskytovatel nebo jeho zplnomocněný zástupce usazený na území České republiky zaniknout bez právního nástupce, předá dokumentaci příslušnému orgánu dozoru nad trhem přede dnem jeho zániku likvidátor, insolvenční správce nebo jiná osoba, která má dokumentaci ve své moci.
K odstavci 4
Na poskytovatele podle čl. 18 odst. 3 AI aktu se nepoužijí povinnosti předání dokumentace podle odstavců 1 a 3.
Podle čl. 18 odst. 3 AI aktu totiž pro finanční instituce, na něž se vztahují požadavky týkající se jejich vnitřní správy, systémů nebo postupů podle práva EU v oblasti finančních služeb, uchovávají technickou dokumentaci jako součást dokumentace podle těchto požadavků unijní regulace finančních služeb. Příkladem takovéhoto regulatorního požadavku je požadavek na zdokumentování a udržování postupů posuzování úvěryschopnosti spotřebitele a relevantních informací o posuzovaných spotřebitelích podle čl. 18 odst. 4 směrnice (EU) 2023/2225 o smlouvách o spotřebitelském úvěru a o zrušení směrnice 2008/48/ES.
K § 12
AI akt stanovuje komplexní rámec pro posuzování shody systémů AI. Jelikož je právní rámec pro posuzování shody předpisů NLF (mezi něž spadá i AI akt) již komplexně upraven zákonem č. 90/2016 Sb., není nutné ani žádnoucí od něj stanovovat odchylky pro oblast posuzování shody podle AI aktu. Jelikož může být z § 2 odst. 1 zákona č. 90/2016 Sb. problematické dovodit, zda se použije i na AI systémy jakožto výrobky regulované AI aktem, navrhuje se doplnit výslovný odkaz na zákon č. 90/2016 Sb. i do navrhované úpravy. Toto použití zákona č. 90/2016 Sb. se přitom navrhuje zakotvit jako subsidiární k navrhované úpravě, jelikož například v případě sankcí za porušení povinností oznámeného subjektu je třeba navrhnout paralelní úpravu přestupků kvůli požadavkům na vyšší horní hranice pokut obsaženým v čl. 99 AI aktu. Subsidiaritu vůči AI aktu naopak není nutné výslovně vymezovat, neboť na v potřebném rozsahu vyplývá již z § 2 odst. 1 zákona č. 90/2016 Sb. Z právního hlediska bude přitom navíc platit, že mezi navrhovanou úpravou a zákonem č. 90/2016 Sb. panuje vztah speciality, zatímco nařízení se použije namísto zákona č. 90/2016 Sb. na základě aplikační přednosti unijního práva.
Pro použití zákona č. 90/2016 Sb. je třeba vyjít z kvalifikace jeho použití uvedené v jeho již zmíněném § 2 odst. 1, podle kterého se na systémy AI nepoužijí § 3 až 15, přičemž jeho § 17 až 26, 50 a 51 se použijí, není-li AI aktem stanoveno jinak. V případě v návrhu § 12 zmíněné problematiky postupů při oznamování je rovněž třeba počítat s omezeným použitím této úpravy podle zákona č. 90/2016 Sb.
Oznamování subjektů posuzování shody upravují § 17 až 20 zákona č. 90/2016 Sb., přednostně před nimi se ovšem použije úprava stanovená v kapitole III oddíle 4 AI aktu. Pro absenci specifické úpravy v samotném AI aktu se tak použijí:
· lhůty pro vydání rozhodnutí v řízení o oznámení upravené v podle § 19 odst. 2 zákona č. 90/2016 Sb.,
· povinnost oznámit subjekt posuzování shody splňující AI aktem stanovené požadavky (a v opačném případě žádost zamítnout) podle § 19 odst. 3 zákona č. 90/2016 Sb., obdobná úprava stanovená v čl. 30 AI aktu formálně tuto povinnost nestanoví, byť by ji patrně bylo možné bez prováděcího vnitrostátního předpisu dovodit i výkladem,
· povinnost vyrozumět žadatele o provedení oznámení s doprovodným poučením podle § 19 odst. 5 zákona č. 90/2016 Sb.,
· konkretizace procesních důsledků nevznesení námitek proti oznámení ze strany členských států EU nebo Evropské komise podle § 20 odst. 2 věty první zákona č. 90/2016 Sb.,
· úprava zveřejnění sdělení o oprávnění k činnostem oznámeného subjektu ve Věstníku ÚNMZ podle § 20 odst. 2 věty druhé zákona č. 90/2016 Sb.,
· úprava vydání potvrzení o vzniku nebo trvání oprávnění k činnostem při posuzování shody podle § 20 odst. 2 věty třetí a čtvrté zákona č. 90/2016 Sb.,
· fikce vyhovění žádosti o oznámení podle § 20 odst. 2 věty páté zákona č. 90/2016 Sb.,
· obdobné použití úpravy zamítnutí žádosti o oznámení v případě neodstranění nedostatků podle § 20 odst. 3 věty čtvrté zákona č. 90/2016 Sb., v poměrech AI aktu rozhodne v otázce oznámení, vůči kterému byly vzneseny námitky, na základě čl. 30 odst. 5 AI aktu Evropská komise. Na základě citovaného ustanovení zákona č. 90/2016 Sb. ovšem ÚNMZ rovněž vyřídí řízení o žádosti o oznámení subjektu posuzování shody, který na základě rozhodnutí Evropské komise nesplňuje požadavky stanovené AI aktem.
Naopak se nepoužijí:
· kritéria způsobilosti oznámených subjektů podle § 17 odst. 1 ve spojení s § 23 zákona č. 90/2016 Sb., otázka způsobilosti a požadavků na oznámený subjekt je komplexně upravena v čl. 31 AI aktu;
· postup oznamování subjektů posuzování shody a změn v oznámeních podle § 17 odst. 2 zákona č. 90/2016 Sb., tato otázka je upravena v čl. 30 a 36 odst. 1 AI aktu,
· informační povinnost oznamujícího orgánu vůči Evropské komisi v otázce postupů posuzování a oznamování subjetků posuzování shody podle § 17 odst. 3 zákona č. 90/2016 Sb., AI akt v čl. 28 odst. 1 stanoví silnější povinnost spočívající ve spolupráci oznamujících orgánů všech členských států EU na přípravě těchto postupů,
· ustanovení o zahájení řízení o oznámení podle § 18 odst. 1 zákona č. 90/2016 Sb., stejně stanoví čl. 29 odst. 1 AI aktu, přičemž zároveň omezuje příslušnost ÚNMZ pouze na subjekty posuzování shody usazené na území ČR,
· zvláštní náležitosti žádosti o oznámení podle § 18 odst. 2 zákona č. 90/2016 Sb., totožné plyne z čl. 29 odst. 2 AI aktu,
· využití osvědčení o akreditaci a případná povinnost žadatele předložit další nezbytné doklady podle § 19 odst. 1 zákona č. 90/2016 Sb., totožné vyplývá z čl. 29 odst. 2 a 3 AI aktu,
· náležitosti oznámení podle § 19 odst. 4 zákona č. 90/2016 Sb., obdobně stanoví již čl. 30 odst. 3 AI aktu,
· úprava vzniku oprávnění provádět činnost oznámeného subjektu podle § 20 odst .1 zákona č. 90/2016 Sb., totožně stanoví čl. 30 odst. 4 AI aktu,
· úprava výzvy žadatele o oznámení k přijetí opatření za účelem odstranění nedostatků v návaznosti na obdržené námitky podle § 20 odst. 3 zákona č. 90/2016 Sb. s výjimkou věty čtvrté citovaného ustanovení, čl. 30 odst. 5 AI aktu stanoví zvláštní úpravu konzultačního procesu, který vyústí v rozhodnutí Evropské komise adresované ÚNMZ a žadateli o oznámení.
V případě kontroly oznámených subjektů a požadavků na ně (úprava podle § 21 až 26 zákona č. 90/2016 Sb.) je rovněž třeba počítat s provazbou na úpravu podle AI aktu. Výchozím bodem úpravy kontroly oznámených subjektů je § 21 odst. 1 zákona č. 90/2016 Sb., který upřesňuje kompetence ÚNMZ v této oblasti. S jeho použitím lze počítat i v podmínkách AI aktu. Navazující § 21 odst. 2 však již obecně rekapituluje úpravu, která má svůj výrazně podrobnější ekvivalent v čl. 36 AI aktu. S použitím § 21 odst. 2 a na něj navazujících ustanovení upravujících změny v oznámením se tak počítat v zásadě nedá. Konkrétně:
· § 21 odst. 3 zákona č. 90/2016 Sb. má svou obdobu v čl. 36 odst. 4 AI aktu, který se použije namísto něj,
· § 21 odst. 4 rovněž koliduje s čl. 36 odst. 4 AI aktu, neboť tento odkazuje jak na nesplnění požadavků na oznámené subjekty podle čl. 31 AI aktu (který již tak není přesným ekvivalentem požadavků podle § 23 zákona č. 90/2016 Sb.), tak na neplnění jiných povinností oznámeného subjektu,
· § 21 odst. 5 a § 22 odst. 4 zákona č. 90/2016 Sb. mají svůj ekvivalent v čl. 36 odst. 3 AI aktu, který se použije namísto nich,
· § 22 odst. 1 zákona č. 90/2016 Sb. má svou obdobu v čl. 36 odst. 5 AI aktu [§ 22 odst. 1 písm. a)] a čl. 36 odst. 6 [§ 22 odst. 1 písm. c)], přičemž úpravu podle § 22 odst. 1 písm. b) ve spojení s § 21 odst. 5 a 22 odst. 4 řeší odlišně zmíněný čl. 36 odst. 3 AI aktu,
· § 22 odst. 2 zákona č. 90/2016 Sb. je řešen odlišně v čl. 36 odst. 3 a odst. 7, 8 a 9 AI aktu,
· § 23 zákona č. 90/2016 Sb. má svůj obecný ekvivalent v čl. 31 AI aktu. Byť je možné vysledovat rozdíly mezi požadavky podle obou úprav, čl. 31 AI aktu představuje natolik komplexní úpravu, že patrně nelze dovozovat možnost jejího doplnění částmi § 23, pro které v čl. 31 AI aktu není přímý ekvivalent.
· § 24 odst. 1 věta první zákona č. 90/2016 Sb. má svůj ekvivalent v čl. 34 odst. 1 AI aktu. Svébytná je naopak úprava podle § 24 odst. 1 věty druhé zákona č. 90/2016 Sb., která v českém právu zakotvuje soukromoprávní režim výkonu činností spočívajících v posuzování shody.
· § 24 odst. 2 zákona č. 90/2016 Sb. má svůj ekvivalent v čl. 34 odst. 2 AI aktu,
· § 24 odst. 3 zákona č. 90/2016 Sb. má svůj ekvivalent v bodě 4.6 Přílohy VII AI aktu ve spojení s čl. 43 AI aktu,
· § 24 odst. 4 a 5 zákona č. 90/2016 Sb. mají svůj ekvivalent v čl. 44 odst. 3 AI aktu,
· § 25 zákona č. 90/2016 Sb. má svůj ekvivalent v čl. 33 AI aktu,
· § 26 odst. 1 zákona č. 90/2016 Sb. má svůj ekvivalent v čl. 45 odst. 1 AI aktu, možnost upravit rozsah poskytovaných informací nařízením vlády podle § 26 odst. 2 zákona č. 90/2016 Sb. se tak rovněž nepoužije, protože by kolidovala s unijní harmonizační úpravou,
· § 26 odst. 3 zákona č. 90/2016 Sb. má svůj ekvivalent v čl. 45 odst. 2 a 3 AI aktu,
· § 26 odst. 4 zákona č. 90/2016 Sb. má svůj ekvivalent v čl. 31 odst. 12 a čl. 38 AI aktu.
Dále lze předpokládat, že nic v textu AI aktu nebrání využití § 22 odst. 3 zákona č. 90/2016 Sb. Podobně bude platit povinnost zanikajícího oznámeného subjektu předat dokumentaci podle § 22 odst. 5 zákona č. 90/2016 Sb. Podobně informační povinnost podle § 24 odst. 6 zákona č. 90/2016 Sb. nemá v AI aktu žádnou obdobu ani alternativní úpravu, tudíž lze počítat s jejím použitím.
Konečně, co se týče úpravy ochranných opatření podle § 50 zákona č. 90/2016 Sb. a výrobků představujících riziko i přes splnění požadavků podle § 51 tohoto zákona, jde o problematiku natolik rozsáhle upravenou samotným AI aktem a nařízením o dozoru, že nelze počítat s použitím této relativně stručné úpravy podle zákona č. 90/2016 Sb.
K § 13
Článek 43 odst. 1 pododstavec třetí věta druhá AI aktu výslovně předjímá, že pro vysoce rizikové systémy AI uváděnými na trh nebo do provozu donucovacími, imigračními nebo azylovými orgány (popř. orgány, institucemi a jinými subjekty EU), jedná jako oznámený subjekt orgán dozoru uvedený v čl. 74 odst. 8 AI aktu, tj. ÚOOÚ v českém kontextu. Role ÚOOÚ jakožto oznámeného subjektu však bude natolik atypická, že se jeví jako vhodné pro ni stanovit zvláštní úpravu v implementačním zákoně. Zároveň lze počítat s tím, že i ustanovení AI aktu upravující oznamování, vlastnosti a činnost oznámených subjektů se na tuto zvláštní kategorii orgánů vykonávajících roli oznámeného subjektu vztáhnou pouze v rozsahu, ve kterém to nevylučuje jejich povaha. Na Úřad pro ochranu osobních údajů se například z pochopitelných důvodů nepoužije úprava oznamování (srov. zejména čl. 30 AI aktu). Podobně nelze počítat s tím, že by měl poskytovatel na základě čl. 33 odst. 3 AI aktu právní nárok na to, aby veškeré úkony spojené s posouzením shody provedl ÚOOÚ bez zadání subdodávky. To se i s ohledem na jeho povahu správního úřadu nejeví jako smysluplný výklad AI aktu, byť tím ÚOOÚ na druhou stranu pochopitelně není zproštěn povinnosti zadávat subdodávky pouze subdodavatelům splňujícím požadavky podle AI aktu.
K odstavci 1
V zájmu právní jistoty se výslovně stanovuje, že ÚOOÚ jedná jako oznámený subjekt pouze pro systémy AI, které mají být uvedeny na trh nebo do provozu orgánem České republiky. Tím je naplněn smysl a účel úpravy obsažené v čl. 43 odst. 1 AI aktu, která roli oznámených subjektů svěřuje orgánům dozoru uvedeným v čl. 74 odst. 8 AI aktu zejména s ohledem citlivost agend, pro něž mají být tyto systémy AI využívány.
K odstavci 2
Navrhuje se výslovně stanovit, že ÚOOÚ bude činnosti posuzování shody vykonávat na základě smlouvy, v níž bude sjednána též úplata v jeho prospěch do výše jím účelně vynaložených nákladů. Takovéto řešení je vhodné zejména s ohledem na skutečnost, že subjekty posuzování shody při své činnosti nevystupují v pozici subjektu veřejné správy či správního orgánu při výkonu státní správy. K realizaci úkonů souvisejících s posouzením shody naopak dochází na základě nepojmenované soukromoprávní smlouvy.[footnoteRef:16] [16: K tomuto srov. rozsudek Městského soudu v Praze ze dne 30. ledna 2025, čj. 11 A 131/2023-71. Tento se sice zabýval činností autorizovaných osob podle zákona č. 22/1997 Sb., nicméně obě činnosti jsou natolik podobné, že lze závěr Městského soudu v Praze přenést i na oznámené subjekty v kontextu NLF.]
Z výše uvedeného vyplývá, že ani v případě postupu ÚOOÚ při úkonech spočívajících v posouzení shody nebude docházet ke vzniku, změně či zániku veřejných práv či povinností. Mimo jiné z rozsudku NSS ze dne 7. listopadu 2013, čj. 9 Afs 38/2013-53, č. 2984/2014 Sb. NSS, přitom vyplývá, že se případný veřejnoprávní charakter smlouvy posuzuje podle jejího obsahu. Aby byla smlouva považována za veřejnoprávní, musí být jejím obsahem právě založení, změna nebo zrušení práv a povinností v oblasti veřejného práva. Proto lze očekávat, že i vztah ÚOOÚ vystupujícího jakožto organizační složka státu a dotyčného poskytovatele bude co do povahy soukromoprávní.
K odstavci 3
Poskytovatel uhradí ÚOOÚ skutečně vynaložené náklady spojené s posouzením shody. Povinnost náhrady nákladů je stanovena přímo zákonem.
K § 14
Certifikáty oznámených subjektů a EU prohlášení o shodě se vyhotovují v českém nebo anglickém jazyce. Informace nezbytné k prokázání shody předkládané orgánu dozoru nad trhem lze předložit v českém, slovenském nebo anglickém jazyce.
Navrhovanou úpravou nejsou vyloučena procesní oprávnění orgánů dozoru nad trhem, jak vyplývají z obecné úpravy postupu správních orgánů i ze zvláštních pravidel podle zákona č. 87/2023 Sb. nebo podle navrhované úpravy. V tomto ohledu navrhovaná jazyková úprava nesmí vést ke snížení efektivity dozoru ani k ohrožení přezkoumatelnosti rozhodnutí orgánu dozoru, které bude vydáváno v češtině jakožto úředním jazyce České republiky (srov. § 16 odst. 1 větu první správního řádu). Za tímto účelem nebude omezena možnost orgánu dozoru nad trhem zajistit si český překlad doložených podkladů, . Dotčena dále není možnost orgánu dozoru obsah podání ve spolupráci s podatelem vyjasnit postupem podle § 37 odst. 3 správního řádu.K odstavci 1
Certifikáty vydávané oznámenými subjekty podle čl. 44 odst. 1 AI aktu se vyhotovují v českém nebo anglickém jazyce.K odstavcům 2 a 3
Provozovatelé nebudou pro český trh povinni vyhotovovat překlad anglickojazyčného prohlášení o shodě a dokumentů prokazujících shodu s požadavky AI aktu. Toto však neplatí v případě kolize s jazykovými požadavky jiného právního předpisu. Bude-li například v souladu s čl. 11 odst. 2 AI aktu vypracována jednotná technická dokumentace k harmonizovanému výrobku, jehož bezpečnostní komponentou je systém AI, bude nutné tuto vypracovat v jazyce vyhovujícím jak požadavkům navrhované úpravy, tak požadavkům zákona č. 90/2016 Sb. Obdobně srov. též čl. 47 odst. 3 AI aktu, co se týče prohlášení o shodě.
K § 15
Na základě čl. 57 odst. 1 AI aktu je každý členský stát povinen zřídit alespoň jeden regulační sandbox. Zákon vymezuje institucionální rámec regulačního sandboxu a podmínky jeho provozu. Ke zřízení sandboxu dochází nabytím účinnosti opatření obecné povahy podle § 17 odst. 2.
S ohledem na přímo použitelnou unijní úpravu fungování sandboxu by měla na základě čl. 58 odst. 2 písm. d) AI aktu navazující unijní terciární legislativa dále zajistit, že přístup k regulačnímu sandboxu bude bezplatný pro malé a střední podniky, včetně podniků začínajících. Malé a střední podniky je na místě vymezit na základě kritérií obsažených v doporučení Komise 2003/361/ES. Co se týče pojmu podniků začínajících (angl. start-ups), tento sice v citovaném doporučení vymezen není, ale jeho přesné vymezení ani není pro účely správné aplikace AI aktu nutné, protože z jeho citovaných pasáží je zřejmé, že se pro účely zvláštních podpůrných opatření má jednat o podmnožinu zvýhodněných malých a středních podniků. Za tímto účelem bude nezbytné rovněž vyčlenit ve veřejných rozpočtech prostředky pro zajištění tohoto bezplatného přístupu v potřebném rozsahu. Tyto prostředky bude uplatňovat Ministerstvo průmyslu a obchodu při přípravě rozpočtu na daný rok. V rámci možností a omezení schváleného rozpočtu kapitoly pak Ministerstvo průmyslu a obchodu zajistí finanční prostředky na vývoj, provoz a údržbu regulačního sandboxu.K odstavci 1
Navrhuje se zřídit regulační sandbox ve smyslu přímo použitelného AI aktu a stanovit na úrovni zákona základní náležitosti jeho fungování s tím, že podrobnosti budou blíže upraveny jeho zřizovatelem a provozovatelem. Díky tomuto řešení není nutné podrobně stanovovat formu a náležitosti jednání, které by spočívalo ve zřízení sandboxu.
K odstavci 2
Navrhuje se svěřit roli zřizovatele regulačního sandboxu Úřad pro normalizaci, metrologii a státní zkušebnictví (ÚNMZ). Zřizovatel regulačního sandboxu pro umělou inteligenci nese odpovědnost za jeho fungování a rozhoduje o klíčových otázkách jeho směřování a fungování. Zároveň však platí, že praktickými otázkami realizace regulačního sandboxu bude pověřena Česká agentura pro standardizaci (dále jen „ČAS“) jakožto provozovatel regulačního sandboxu pro umělou inteligenci. Základní pravidlo pro vymezení rolí zřizovatele a provozovatele spočívá ve zbytkovém vymezení působnosti ÚNMZ: ÚNMZ vykonává ty úkony související s provozem sandboxu, které nejsou svěřeny ČAS. V praxi půjde o situace, kdy by úkon spočívající v provozu sandboxu spadal do oblasti vrchnostenské správy. Předkladatel považuje tuto možnost spíše za hypotetickou, nicméně byla-li by takováto kompetence zřizovatele sandboxu z AI aktu dovozena, náležela by též podle návrhu ÚNMZ. ÚNMZ bude dále vydávat podmínky provozování regulačního sandboxu, neboť jde o úkon, co mu zákon výslovně svěřuje.
K odstavci 3
Navrhuje se svěřit roli provozovatele regulačního sandboxu ČAS. Provoz regulačního sandboxu bude spočívat v nastavení podmínek jeho provozování a zajištění konkrétních úkonů a jednání souvisejících s tímto provozováním.
K § 16
ČAS bude provozovatelem regulačního sandboxu. ČAS bude zajišťuje provoz regulačního sandboxu pro umělou inteligenci, kdy zákon přímo upravuje činnosti k tomuto zajištění.
K § 17
Navrhuje se stanovit, že provoz regulačního sandboxu a účast v něm bude probíhat na soukromoprávním základě. Tím bude zajištěna vyšší míra flexibility, která umožní snáze reagovat na, v době přípravy tohoto návrhu zákona neexistující, terciární unijní legislativu upravující fungování sandboxu i na zkušenosti provozovatele s dosavadním provozem sandboxu.
K odstavci 1
Výslovně se stanovuje, že účast v regulačním sandboxu vzniká na základě soukromoprávní smlouvy. Takovéto řešení poskytuje vyšší míru žádoucí flexibility fungování sandboxu, zároveň odpovídá tomu, že sandbox bude provozován ČAS jakožto státní příspěvkovou organizací, jež by neměla plnit roli správního orgánu.
K odstavci 2
Podmínky provozování regulačního sandboxu pro umělou inteligenci, které upravují práva a povinnosti účastníků regulačního sandboxu pro umělou inteligenci, uchazečů o účast v něm a jeho provozovatele, vydá Úřad pro technickou normalizaci, metrologii a státní zkušebnictví opatřením obecné povahy.
K odstavci 3 až 5
Navrhuje se stanovit, že podmínky provozování regulačního sandboxu stanoví ÚNMZ jakožto jeho zřizovatel. Tím zůstává zachována kontrola zřizovatele nad podobou a chodem sandboxu. Zároveň se navrhuje, aby návrh podmínek zpracovala ČAS jakožto provozovatel sandboxu. Pochopitelně platí, že ÚNMZ bude při tvorbě podmínek vázán AI aktem i na něj navazující unijní terciární legislativou. V tomto ohledu budou podmínky platnou unijní úpravu upřesňovat a doplňovat.
K § 18
Ustanovení navazuje na čl. 57 odst. 12 AI aktu a stanoví, že čin jinak trestný jako přestupek není přestupkem, jsou-li splněny podmínky pro neuložení pokuty podle tohoto ustanovení. Uplatnění tohoto pravidla je vázáno na splnění podmínek uvedených v AI aktu.
K § 19
Navrhuje se vyloučit použití § 63 zákona č. 328/2025 Sb., o výzkumu, vývoji, inovacích a transferu znalostí, neboť tento stanovuje zvláštní požadavky na regulatorní sandbox ve smyslu tohoto zákona, které se mohou dostat do rozporu s požadavky, které na regulační sandbox klade AI akt a na něj navazující terciární legislativa.
K § 20
Navrhuje se v návaznosti na čl. 49 odst. 5 AI aktu zřídit portál umělé inteligence v kritické infrastruktuře, skrz nějž bude plněna oznamovací povinnost poskytovatelů (popř. jejich zplnomocněných zástupců) ve vztahu k vysoce rizikovým systémům AI, resp. k systémům AI, u nichž v souladu s čl. 6 odst. 3 AI aktu zdokumentuje poskytovatel svůj závěr, že nepředstavují vysoké riziko. Tento okruh oznamovaných informací se stanovuje po vzoru informací vedených v unijní databázi systémů AI na základě příslušných příloh AI aktu.
Lhůta pro naplnění této oznamovací povinnosti se navrhuje totožná se lhůtami pro registraci do unijní databáze plynoucími z čl. 49 AI aktu, a to před prvním uvedením systému AI na trh nebo do provozu podle toho, která z těchto okolností je relevantní v daném případě, resp. nastane dříve. Uvedením na trh se přitom na základě čl. 3 bodu 9 rozumí první dodání systému AI na unijní trh, tj. první dodání tohoto systému k distribuci nebo použití na tomto trhu v rámci obchodní činnosti, ať už za úplatu, nebo zdarma (čl. 3 bod 10 AI aktu). Uvedením do provozu se pak rozumí první dodání systému AI k prvnímu použití přímo zavádějícímu subjektu nebo pro vlastní použití v EU se zamýšleným účelem (čl. 3 bod 11 AI aktu). V souladu s AI aktem přitom není stanoven žádný mandatorní předstih před takovýmto nasazením systému AI v EU. Povinná osoba může svoji povinnost splnit v předstihu odpovídajím jejímu uvážení a potřebám.
K odstavci 1
S ohledem na věcnou souvislost s problematikou kritické infrastruktury se navrhuje portál umělé inteligence v kritické infrastruktuře zřídit jako součást Portálu kritické infrastruktury podle zákona o kritické infrastruktuře.
K odstavci 2
K informacím v portálu umělé inteligence v kritické infrastruktuře se navrhuje stanovit přístup orgánům dozoru, které budou tyto informace využívat pro účely výkonu dozoru v oblasti umělé inteligence. Jejich přístup a rozsah přístupu je ovšem omezen nezbytností využití těchto údajů pro výkon dozoru.
K § 21
Ustanovení rozlišuje registraci vysoce rizikových systémů podle přílohy III bodu 2 AI aktu, registraci systémů z této oblasti nepovažovaných za vysoce rizikové podle čl. 6 odst. 4 AI aktu a registraci testování vysoce rizikových systémů v reálných podmínkách. Rozsah údajů odpovídá postupně příloze VIII oddílu A, příloze VIII oddílu B a příloze IX AI aktu. Údaje se aktualizují do 15 dnů od jejich změny.
První dvě registrační povinnosti plní poskytovatel před uvedením systému na trh nebo do provozu v České republice. Registrace testování vysoce rizikového systému AI v reálných podmínkách se provádí vložením a následnou aktualizací údajů podle přílohy IX AI aktu.
K § 22
Jelikož čl. 74 odst. 1 AI aktu výslovně stanoví, že se na systémy AI spadající do jeho působnosti použije nařízení (EU) 2019/1020[footnoteRef:17], je žádoucí i postupy vnitrostátních orgánů dozoru nad trhem podřadit pod zákon č. 87/2023 Sb., o dozoru nad trhem s výrobky a o změně některých souvisejících zákonů (zákon o dozoru nad trhem s výrobky), ve znění pozdějších předpisů. [17: Nařízení Evropského parlamentu a Rady (EU) 2019/1020 ze dne 20. června 2019 o dozoru nad trhem a souladu výrobků s předpisy a o změně směrnice 2004/42/ES a nařízení (ES) č. 765/2008 a (EU) č. 305/2011.]
V této souvislosti je však třeba s ohledem na specifika AI aktu a na jeho základě určených orgánů dozoru nad trhem zohlednit dvě specifika.
Zaprvé, zařazením ČNB mezi orgány dozoru podle zákona č. 87/2023 Sb., respektive tohoto návrhu zákona, nejsou jakkoli dotčeny kompetence, úkoly, pravomoci a nezávislost ČNB ani povinnost ČNB zachovávat mlčenlivost o všech informacích získaných v souvislosti s výkonem její činnosti, které vyplývají zejména ze zákona č. 6/1993 Sb., o České národní bance, ve znění pozdějších předpisů, a z mnoha dalších národních i evropských právních předpisů, kterými je ČNB vázána, s výjimkou výměny informací s ČTÚ v nezbytném rozsahu podle navrhovaného § 21 odst. 2. To ostatně také plyne z čl. 78 AI aktu a bodu 46 odůvodnění ve spojení s čl. 17 citovaného nařízení (EU) 2019/1020, podle nichž se orgány dozoru řídí zásadou důvěrnosti a zásadou služebního a obchodního tajemství a chrání důvěrnost informací a údajů, které získají při provádění svých úkolů a činností. Ochrana důvěrných informací a služebního tajemství hraje na finančním trhu důležitou roli a jejich ochrana je nutná ve vztahu k zachování finanční stability.
Při plnění povinností podle navrhované úpravy, zákona č. 87/2023 Sb., AI aktu a nařízení (EU) 2019/1020 zůstává zachována nezávislost ČNB a její zákonné povinnosti mlčenlivosti. Při výměně informací mezi ČNB a ČTÚ podle § 23 odst. 2 lze v nezbytném rozsahu poskytovat také konkrétní informace potřebné pro koordinaci a řádný výkon dozoru. Poskytnutí informací zjištěných při výkonu dozoru podle AI aktu a tohoto zákona se za podmínek uvedeného ustanovení nepovažuje za porušení povinnosti mlčenlivosti podle jiného právního předpisu.
Zadruhé, použití nařízení (EU) 2019/1020 na systémy AI vyplývá z čl. 74 odst. 1 AI aktu. Návrh současně stanoví obdobné použití zákona č. 87/2023 Sb. na postup orgánů dozoru nad trhem. Vlastní fikci, podle které by se systém AI považoval za výrobek, vnitrostátní zákon nezakotvuje.
S výše uvedeným souvisí, že na systémy AI při výkonu dozoru dopadnou příslušné pravomoci orgánů dozoru nad trhem podle § 5 a 6 zákona č. 87/2023 Sb. Jejich praktický výkon však může vypadat odlišně vzhledem k nehmotné povaze systému AI jakožto softwaru, zejména není-li propojen s konkrétním výrobkem.Například v případě postupu orgánu dozoru podle § 5 zákona č. 87/2023 Sb. lze počítat s tím, že při žádosti o informace podle § 5 odst. 1 písm. b) půjde v řadě případů o počet poskytnutých softwarových licencí. Obdobně otázka přístupu k vestavěnému softwaru podle § 5 odst. 1 písm. c) bude relevantní pouze pro AI systémy propojené s výrobky. Lze přitom počítat s tím, že by měl orgán dozoru mít přístup k informacím o tomto systému AI jakožto předmětu kontroly již na základě obecné úpravy obsažené v kontrolním řádu. Podobně zkouškami podle § 5 odst. 1 písm. b) (potažmo § 5 odst. 4) lze v kontextu dozoru nad systémy AI rozumět zejména různé formy testování příslušného softwaru.
Ustanovení § 5 odst. 6 zákona č. 87/2023 Sb. bude platit obdobně i pro vysoce rizikové systémy AI, v souvislosti s nimiž byl vydán certifikát. Výjimkou může být pochopitelně případ systémů podle přílohy III bodu 1 AI aktu (vybrané biometrické systémy) určených k uvedení do provozu donucovacími, imigračními nebo azylovými orgány, na které se zároveň v souladu s čl. 43 AI aktu vztahuje postup posuzování shody uvedený v příloze VII AI aktu. V této situaci totiž může orgán podle čl. 74 odst. 8 AI aktu (v ČR ÚOOÚ) figurovat jako jako orgán dozoru, tak jako oznámený subjekt (srov. čl. 43 odst. 1 pododstavec třetí AI aktu). Potřebná informace pak bude tomuto úřadu pochopitelně dostupná z jeho vlastní činnosti.
Ustanovení § 6 odst. 2 pak uvádí možná opatření k nápravě, která lze provozovateli uložit, pokud jím poskytovaný systém AI nebude v souladu s požadavky stanovenými AI aktem nebo může ohrozit zdraví nebo bezpečnost uživatelů, byť je řádně užíván v souladu se svým zamýšleným účelem nebo za rozumně předvídatelných podmínek (§ 6 odst. 1 zákona č. 87/2023 Sb.).
Konkrétně pro opatření podle § 6 odst. 2 písm. a) zákona č. 87/2023 Sb. platí, že orgán dozoru může požadovat uvedení systému AI do souladu s požadavky AI aktu. V případě nápravy formálního nesouladu se přitom uplatní též zvláštní úprava obsažená v čl. 83 AI aktu, která pro stanovená formální pochybení vyžaduje nejprve vydání výzvy k nápravě, po jejímž neprovedení může orgán dozoru teprve učinit například přiměřená opatření k omezení nebo zakázání dodávání vysoce rizikového systému AI na evropský trh.
Požadavek na odstranění rizik podle § 6 odst. 2 písm. b) zákona č. 87/2023 Sb. je vymezen značně otevřeně, neboť reaguje na širokou a dopředu obtížně postihnutelnou škálu rizik. Ve své podstatě pro jeho použití v případě systémů AI platí po právní stránce to samé, co pro jiné výrobky spadající pod dozor podle zákona č. 87/2023 Sb., byť se povaha rizik může lišit.
Podobně přímočará je možnost zakázat dodávat systém AI na trh podle § 6 odst. 2 písm. c) zákona č. 87/2023 Sb. Dodáním je pro tyto účely v souladu s čl. 3 bodem 10 AI aktu třeba rozumět dodání systému AI k distribuci nebo použití na unijním trhu v rámci obchodní činnosti, a to i zdarma.
Zakázat lze v souladu s § 6 odst. 2 písm. d) zákona č. 87/2023 Sb. i uvedení systému AI do provozu nebo jeho užívání pro provozní potřebu. Uvedením do provozu je v kontextu systémů AI třeba v souladu s čl. 3 bodem 11 AI aktu rozumět dodání systému AI k prvnímu použití přímo zavádějícímu subjektu nebo pro vlastní použití v EU se zamýšleným účelem, tedy pro použití systému AI zamýšlené poskytovatelem, včetně konkrétního kontextu a podmínek použití, které jsou uvedeny v informacích dodaných poskytovatelem v návodu k použití, v propagačních nebo prodejních materiálech a prohlášeních, jakož i v technické dokumentaci (čl. 3 bod 12 AI aktu). Používáním systému AI pro provozní potřebu je pak třeba rozumět rozšíření možnosti vydat skrze toto opatření k nápravě též zákaz pokračování v použití systému AI v souladu se zamýšleným účelem po okamžiku uvedení systému AI do provozu.
Na základě § 6 odst. 2 písm. e) zákona č. 87/2023 Sb. bude moci orgán dozoru požadovat stažení systému AI z trhu nebo z oběhu, jakož i varování veřejnosti před rizikem, které tento systém AI představuje. Tyto pojmy je třeba chápat v souladu s čl. 3 body 16 a 17, tj. jako opatření bránící dodání systému AI na trh, nachází-li se v dodavatelském řetězci, (stažení z trhu) resp. jako opatření vynucující navrácení systému AI poskytovateli, jeho vyřazení z provozu nebo znemožnění jeho používání (stažení z oběhu).
V případě požadavku na zničení či znehodnocení systému AI podle § 6 odst. 2 písm. f) zákona č. 87/2023 Sb. lze předpokládat, že bude možné takovéto opatření uložit souběžně s obdobným opatřením uloženým v souvislosti s regulovaným výrobkem, s nímž je takovýto systém AI propojen. Podobně bude takové opatření myslitelné v (dnes již ne příliš časté) situaci, kdy je samotný systém AI distribuován na fyzickém nosiči. V dalších případech bude možnost takovéto opatření uložit záviset nejen na dodržení požadavku přiměřenosti, ale také na praktické proveditelnosti takovéhoto požadavku. Jako příklad situace, kdy takovéto opatření může být proveditelné, lze uvést například provozovatele, který je schopen bezpečně telemetricky znefunkčnit systém AI licencovaný koncovému uživateli.
Následují opatření podle § 6 odst. 2 písm. g) až j) zákona č. 87/2023 Sb., která spočívají v povinnosti poskytnout varování, stanovit předběžné podmínky dodání systému AI na trh nebo uložit povinnost odstranit z online rozhraní obsah nabízející příslušný systém AI. Tento typ opatření (která lze uložit pouze za specifických podmínek uvedených v § 6 odst. 4 zákona č. 87/2023 Sb.) by z hlediska aplikace na systémy AI neměl být problematický, protože ukládaná povinnost nesouvisí přímo s povahou systému AI.
Nad rámec výše uvedených opatření vydávaných orgány dozoru počítá AI akt i s opatřeními (nápravnými,zmírňujícími či jinými) přijímanými samotnýni provozovateli, např. v čl. 15 odst. 4, čl. 20 odst. 1, čl. 24 odst. 4, čl. 26 odst. 1 nebo čl. 60 odst. 7 AI aktu. Povinnost provozovatelů přijímat takováto opatření odráží obecnější požadavek, podle kterého v žádném bodě životního cyklu systému AI provozovatel nesmí zanevírat na zajišťování jeho bezpečnosti. Zároveň mohou tato opatření nabývat řady různých podob, proto není žádoucí je předem blíže vymezovat na úrovni zákona. K výše uvedeným příkladům opatření provozovatelů srov. též konkrétnější výklad v kapitole 5.4 obecné části této důvodové zprávy.
K § 23
S ohledem na to, že dozor nad dodržováním AI aktu nebude vykonávat jediný orgán, se upravuje spolupráce a výměna informací mezi těmito orgány.
K odstavci 1
Navrhuje se stanovit povinnost ČTÚ a ÚOOÚ poskytovat ostatním orgánům dozoru nad trhem podle navrhované úpravy informace o zahájení a o předmětu kontroly nebo řízení ve věcech souvisejících s dozorem nad dodržováním nařízení o umělé inteligenci. Tímto lze snížit riziko, že bude docházet k nekoordinovaným nebo zdvojeným řízením a kontrolám. Naopak je žádoucí, aby orgány dozoru nad trhem postupovaly v maximální míře koordinovaně, a to jak mezi sebou navzájem, tak ve spolupráci s jinými orgány dozoru postupujícími podle zákona č. 87/2023 Sb.
Výjimky z obecné informační povinnosti ČNB souvisejí s požadavky na ochranu informací zjištěných při výkonu dohledu, nedotýkají se však zvláštní vzájemné součinnosti ČNB a ČTÚ podle odstavce 2.
K odstavci 2
Orgány dozoru nad systémy používanými finančními institucemi však budou podle navrhovaného § 3 odst. 2 a 3 jak ČNB, tak ČTÚ. Zejména v situacích, kdy ČNB při kontrole finanční instituce jako zavádějícího subjektu zjistí skutečnosti nasvědčující chybnému fungování předmětného systému umělé inteligence, resp. jeho rozporu s AI aktem, je nezbytné, aby svá zjištění sdílela s ČTÚ, je-li v daném případě příslušný k dozoru nad dodržováním povinností poskytovatele takového systému. Ke sdílení informací bude docházet pouze v nezbytném rozsahu, přičemž oba dotčené orgány dozoru mají povinnosti zachovat jejich důvěrnost podle čl. 78 AI aktu. Navrhované ustanovení je mj. promítnutím požadavku na zajištění koordinace podle čl. 74 odst. 7 prvního pododstavce AI aktu.
Podle § 23 odst. 2 si ČNB a ČTÚ vzájemně poskytují informace nezbytné pro koordinaci a řádný výkon dozoru. V nezbytném rozsahu lze sdílet i konkrétní informace zjištěné při výkonu dozoru podle AI aktu a tohoto zákona; jejich poskytnutí za podmínek tohoto ustanovení není porušením zákonné povinnosti mlčenlivosti.
K § 24
ČTÚ bude podle navrhovaného § 3 odst. 2 a 3 orgánem dozoru ve vztahu k systémům přímo používaným konkrétní finančními institucíemi k výkonu regulované činnosti, jejichž poskytovatelem je osoba odlišná od této konkrétní finanční instituce.
Tito tzv. externí poskytovatelé systémů umělé inteligence budou např. podle čl. 73 odst. 1 AI aktu oznamovat chybné fungování vysoce rizikového systému, které vede, resp. vedlo, k diskriminaci určité skupiny klientů finanční instituce [závažný incident ve smyslu čl. 3 bodu 49 písm. c) AI aktu] ČTÚ, přičemž pro následné šetření takového incidentu a přijímání nápravných opatření je třeba umožnit ČTÚ seznamovat se v nezbytném rozsahu s informacemi, které jsou předmětem bankovního tajemství a obdobného tajemství nebo povinnosti mlčenlivosti.
Totéž platí např. pro dozor ČTÚ nad testováním vysoce rizikových systémů umělé inteligence využívaných finančními institucemi dodávaných externími poskytovateli v reálných podmínkách ve smyslu čl. 76 AI aktu, kontrolu plnění povinností souvisejících s přesností, spolehlivostí a kybernetickou bezpečností takových vysoce rizikových systémů umělé inteligence podle čl. 15 AI aktu apod.
K § 25
Navrhuje se stanovit zvláštní úpravu poskytování stanovisek ve věcech kybernetické bezpečnosti a ochrany osobních údajů. AI akt v některých bodech ukládá svým adresátům dodržovat požadavky v oblasti kybernetické bezpečnosti a ochrany osobních údajů. Využitelnost obecných pravidel spolupráce správních orgánů podle správního řádu na tyto situace je ovšem sporná, protože by zde příslušný správní orgán žádal o spolupráci ve věci, která spadá do jeho vlastní působnosti. (Půjde stále o spolupráci na vymáhání AI aktu, který v daném bodě „pouze“ ukládá požadavek spadající mimo expertizu příslušného správního orgánů.)
S ohledem na výše uvedené se proto navrhuje, aby Národní úřad pro kybernetickou a informační bezpečnost poskytoval orgánům dozoru nad trhem na jejich žádost bez zbytečného odkladu stanoviska v otázkách kybernetické bezpečnosti, resp. aby obdobná stanoviska poskytoval v otázkách ochrany osobních údajů ÚOOÚ. S ohledem na skutkovou složitost ochrany kybernetické bezpečnosti se v případě žádosti adresované Národnímu úřadu pro kybernetickou a informační bezpečnost navrhuje dále stanovit též povinnost poskytnout též relevantní podklady.
Po dobu, než dojde k vyřízení žádosti o stanovisko podle tohoto paragrafu, by neměla běžet lhůta pro vydání rozhodnutí v řízení, ve kterém byla tato žádost položena, neboť žádající orgán dozoru nad trhem nemůže ovlivnit dobu vyřízení tohoto požadavku.
Výše uvedeným zároveň není dotčena obecná úprava spolupráce mezi správními orgány. Například ve vztahu k systémům umělé inteligence používaným jako bezpečnostní komponenty v kritické infrastruktuře v odvětví energetiky, zejména při výrobě, přenosu, přepravě, distribuci nebo dodávce elektřiny, plynu a tepla, bude při výkonu dozoru zajištěna nezbytná součinnost orgánů dozoru podle zákona o umělé inteligenci s věcně příslušnými orgány a institucemi v oblasti energetiky, kybernetické bezpečnosti a ochrany kritické infrastruktury. Tím není dotčena působnost orgánů dozoru podle zákona o umělé inteligenci ani působnost orgánů podle zvláštních právních předpisů.
K § 26
V zájmu usnadnění výkonu kontrolní činnosti ze strany ČTÚ se stanovuje průkaz jako forma pověření ke kontrole. Vzor průkazu stanoví vyhláškou MPO.
K § 27
V návaznosti na možnost využívat varování a další opatření podle čl. 99 odst. 1 AI aktu se navrhuje zavedení institutu upozornění na porušení povinnosti. Upozornění může při splnění zákonných podmínek představovat vhodný a přiměřený způsob dosažení účelu přestupkového řízení i bez jeho zahájení. Postup se vztahuje také na kontrolní činnost ÚNMZ vůči oznámeným subjektům.
Orgán dozoru nad trhem nebo ÚNMZ může provozovatele nebo oznámený subjekt písemně upozornit na porušení povinnosti, pokud je s ohledem na zákonem vymezené okolnosti zřejmé, že účelu přestupkového řízení již bylo dosaženo nebo jej lze dosáhnout jinak. Posuzuje se zejména význam a míra dotčení chráněného zájmu, způsob provedení činu, jeho následky, okolnosti spáchání a následné chování dotčené osoby.
Lhůta k nápravě nesmí být kratší než 15 dnů ode dne doručení upozornění. Dotčená osoba bez zbytečného odkladu oznámí zjednání nápravy a jeho způsob. Dojde-li k nápravě ve stanovené lhůtě, příslušný orgán nezahájí řízení o přestupku, věc odloží usnesením poznamenaným do spisu a dotčenou osobu vyrozumí.
Upozornění na porušení povinnosti přispívá k efektivnějšímu dozoru, jestliže lze vzhledem k zákonem vymezeným okolnostem dosáhnout účelu přestupkového řízení jiným způsobem. Pokud dotčená osoba ve stanovené lhůtě zjedná nápravu, nevznikají náklady spojené s vedením přestupkového řízení; tato konstrukce přitom odpovídá obdobným preventivním institutům známým v českém právu.V případě ČNB tímto navrhovaným paragrafem není dotčen princip oportunity zakotvený v § 46e odst. 1 zákona č. 6/1993 Sb., o České národní bance, ve znění pozdějších předpisů, neboť tento se vztáhne i na přestupky projednávané ČNB i na základě jiných zákonů.
K § 28
Navrhuje se vymezit skutkové podstaty přestupků spočívajících v porušení postupů zakázaných článkem 5 AI aktu. Jde o nejzávažnější okruh porušení AI aktu, za nějž na základě čl. 99 tohoto nařízení hrozí pokuta až do výše 35 000 000 EUR, resp. 7 % ročního celosvětového obratu podle toho, která z uvedených částek je vyšší.
Při ukládání pokuty se uplatní zvláštní pravidlo čl. 99 odst. 6 AI aktu pro malé a střední podniky, podle něhož se za stanovených podmínek použije nižší z pevné částky a procentní hodnoty obratu.
K § 29
Navrhuje se stanovit přestupky provozovatelů systémů AI, tj. přestupky poskytovatelů, zavádějících subjektů, zplnomocněných zástupců, dovozců a distributorů. Předkladatel volí převážně legislativní techniku obdobnou té, která byla českým zákonodárcem zvolena při implementaci nařízení (EU) 2016/679[footnoteRef:18] v § 62 zákona č. 110/2019 Sb., o zpracování osobních údajů, ve znění pozdějších předpisů. Výhoda této techniky spočívá v její úspornosti a přehlednosti. Konstrukce skutkových podstat přestupků spočívajících v odkazu na ustanovení nařízení též minimalizuje riziko, že jako přestupek nebude vymezeno porušení AI aktu, za které čl. 99 tohoto nařízení vyžaduje uložení pokuty. [18: Nařízení Evropského parlamentu a Rady (EU) 2016/679 ze dne 27. dubna 2016 o ochraně fyzických osob v souvislosti se zpracováním osobních údajů a o volném pohybu těchto údajů a o zrušení směrnice 95/46/ES.]
Míra uvážení českého zákonodárce je v případě řady těchto přestupků omezena tím, že za jejich spáchání AI akt v čl. 99 stanoví přesně vymezené horní hranice pokut.
K odstavci 1
Stanovují se skutkové podstaty přestupků poskytovatelů systémů AI, mezi které se řadí jako poskytovatelé vysoce rizikových systémů AI, tak poskytovatelé „prostých“ systémů AI. Mezi tyto přestupky spadá porušení
· povinnosti zdokumentovat své posouzení podle čl. 6 odst. 4 AI aktu, na základě kterého se nejedná o vysoce rizikový systém AI, resp. provést registraci vyžadovanou v čl. 49 odst. 2 AI aktu,
· jedné z povinností v oblasti transparentnosti podle čl. 50 AI aktu nebo
· povinnosti provést vnitrostátní registraci zakotvené v § 19 odst. 2 AI aktu.
· nesplnění povinnosti registrace a aktualizace údajů podle § 21 odst. 2 navrhovaného zákona.
Dále se vymezuje přestupek spočívající v neposkytnutí informací nebo dokumentace, které si orgán dozoru nad trhem vyžádal od poskytovatele nebo zavádějícího subjektu podle čl. 77 odst. 1a AI aktu. Sankcionováno je nesplnění konkrétního požadavku na poskytnutí informací nebo dokumentace.
Smyslem skutkové podstaty podle § 29 odst. 1 písm. c) je zajistit účinné poskytování informací a dokumentace potřebných pro výkon působnosti orgánů chránících základní práva podle čl. 77 odst. 1 a 1a AI aktu. Článek 77 odst. 1a upravuje především povinnost orgánu dozoru nad trhem zpřístupnit těmto orgánům potřebné podklady, a to v případě potřeby i jejich vyžádáním od poskytovatele nebo zavádějícího subjektu. Přestupkem proto není porušení povinnosti orgánu dozoru nad trhem ani obecná povinnost poskytovat informace bez vyžádání, nýbrž nesplnění konkrétního požadavku příslušného orgánu dozoru nad trhem adresovaného poskytovateli systému AI. Požadované informace nebo dokumentace musí souviset s účelem a podmínkami postupu podle čl. 77 AI aktu; rozsah požadavku musí respektovat nezbytnost a přiměřenost. Uvedený mechanismus navazuje na pravomoci orgánů dozoru nad trhem při vyžadování informací a dokumentace podle čl. 74 AI aktu a příslušných ustanovení nařízení (EU) 2019/1020.
K odstavci 2
V případě poskytovatele vysoce rizikového systému AI se k výše uvedeným skutkovým podstatám přestupku přidávají též porušení
· jedné z povinností poskytovatele vysoce rizikového systému AI podle čl. 16 AI aktu,
· povinnosti jmenovat zplnomocněného zástupce podle čl. 22 AI aktu,
· porušení některé z podmínek testování v reálných podmínkách podle čl .60 AI aktu nebo
· registrační povinnosti podle § 19 odst. 3,
· porušení oznamovací povinnosti podle čl. 73 AI aktu nebo nesplnění povinnosti registrace a aktualizace údajů podle § 21 odst. 1 navrhovaného zákona.
K odstavci 3
Navrhuje se vymezit též skutkovou podstatu spočívající v porušení povinnosti zplnomocněného zástupce, kterou lze s odkazem na výše odůvodněnou volbu legislativní techniky pojmout jako normativní odkaz na čl. 22 AI aktu.
K odstavci 4
Obdobně se navrhuje vymezit též skutkovou podstatu přestupku spočívající v porušení povinnosti dovozce formou normativního odkazu na čl. 23 AI aktu.
K odstavci 5
Obdobně jako ve výše uvedených případech se navrhuje vymezit též skutkovou podstatu přestupku spočívající v porušení povinnosti distributora formou normativního odkazu na čl. 24 AI aktu.
K odstavci 6
Konečně se navrhuje vymezit skutkové podsatty přestupů zavádějícího subjektu, a to
· formou normativního odkazu na porušení jedné z jeho povinností uvedených v čl. 26 AI aktu,
· pro případ porušení povinnosti provést posouzení dopadů použití systému AI na základní práva podle čl. 27 AI aktu nebo nesplnění povinnosti informovat příslušný orgán dozoru nad trhem o výsledcích tohoto posouzení; sloveso „využívá“ zde vyjadřuje trvající přestupek,
· pro případ porušení povinnosti provést posouzení dopadů použití systému AI na základní práva zakotvené v čl. 27 AI aktu – zde je ve slově „využívá“ úmyslně volen nedokonavý vid, neboť jde z povahy věci o trvající přestupek,
· pro případ porušení povinnosti v oblasti transparentnosti zakotvené v čl. 50 AI aktu nebo
· pro případ porušení povinnosti poskytnout vysvětlení zakotvené v čl. 86 AI aktu. Lze zde ovšem očekávat, že v případě méně závažných porušení tohoto ustanovení budou orgány dozoru nad trhem moci sahat k využití navrhovaného institutu upozornění na porušení povinnosti.
Také ve vztahu k poskytovateli nebo zavádějícímu subjektu je třeba odlišit povinnost poskytnout na konkrétní vyžádání orgánu dozoru nad trhem informace nebo dokumentaci podle čl. 77 odst. 1a AI aktu od jiných oznamovacích a dokumentačních povinností.
V § 29 odst. 6 písm. d) se obdobně postihuje neposkytnutí informací nebo dokumentace vyžádaných orgánem dozoru nad trhem od zavádějícího subjektu. Rozlišení obou skutkových podstat vychází z rozdílného postavení poskytovatele a zavádějícího subjektu a z toho, že potřebné podklady mohou být v dispozici kteréhokoli z nich. Cílem je předejít tomu, aby nemožnost získat relevantní podklady od příslušného subjektu bránila orgánům chránícím základní práva v plnění jejich zákonné působnosti. Odpovědnost za přestupek předpokládá řádné a konkrétní vyžádání informací nebo dokumentace příslušným orgánem dozoru nad trhem a následné nesplnění tohoto požadavku; není tím dotčena povinnost respektovat ochranu důvěrných informací podle čl. 78 AI aktu.
K odstavci 7
Za spáchání uvedených přestupků se stanoví horní hranice pokut v návaznosti na čl. 99 AI aktu.
Za nesplnění registračních a aktualizačních povinností podle § 21 odst. 1 a 2 navrhovaného zákona se stanoví horní hranice pokuty 10 000 000 Kč. Do této sankční skupiny náležejí přestupky podle § 29 odst. 1 písm. d) a odst. 2 písm. e). Toto zvláštní vymezení zachovává původní legislativní záměr odlišně sankcionovat porušení vnitrostátních registračních povinností.
Přestupky spočívající v neposkytnutí informací nebo dokumentace vyžádaných v návaznosti na čl. 77 odst. 1a AI aktu, upravené v § 29 odst. 1 písm. c) a odst. 6 písm. d), spadají naproti tomu do sankční skupiny podle § 29 odst. 7 písm. b), pro kterou návrh zákona stanoví horní hranici pokuty odkazem na čl. 99 odst. 4 AI aktu. Článek 77 odst. 1a přitom není mezi ustanoveními výslovně vyjmenovanými v čl. 99 odst. 4; použití uvedené horní hranice na tato jednání je proto vnitrostátní sankční úpravou přijímanou v rámci čl. 99 odst. 1 AI aktu, nikoli přímo stanovenou výší pokuty za porušení čl. 77. Zvolená úprava má zajistit účinný a odrazující postih neposkytnutí podkladů nezbytných k výkonu ochrany základních práv a zamezit maření spolupráce mezi orgány dozoru nad trhem a orgány chránícími základní práva. Při určení konkrétní výše pokuty je nutné zohlednit zejména rozsah a závažnost neposkytnutých podkladů, důsledky jednání a míru součinnosti pachatele.
Při uplatnění sankční hranice podle čl. 99 odst. 4 AI aktu se zohlední také pravidla podle čl. 99 odst. 6 a 6a pro malé a střední podniky, včetně startupů, a malé podniky se střední tržní kapitalizací, jakož i kritéria přiměřenosti podle čl. 99 odst. 7 AI aktu.
K § 30
Navrhuje se vymezit též skutkové podstaty přestupků spáchaných oznámenými subjekty.
K odstavci 1
Jako skutkové podstaty přestupků se navrhuje vymezit jednak porušení povinností, za něž stanovuje horní hranici pokuty přímo čl. 99 AI aktu, jednak porušení povinností, jejichž ekvivalenty jsou vymezeny jako přestupky v zákoně č. 90/2016 Sb. Podmínky výkonu činnosti oznámeného subjektu by totiž i z hlediska možného postihu za porušení povinností měly být v principu stejné bez ohledu na obor, v němž oznámený subjekt působí.
K odstavci 2
Za porušení povinností oznámených subjektů stanovuje čl. 99 pokutu do výše 15 000 000 EUR, resp. 3 % z ročního celosvětového obratu podle toho, která z těchto částek je vyšší. Tuto výši pokuty se navrhuje zachovat i pro skutkové podstaty přestupků, pro něž čl. 99 AI aktu nestanovuje konkrétní výši sankce, jelikož se jejich závažnost jeví jako obdobná těm porušením, která zde zahrnuta jsou.
Při určení horní hranice pokuty se uplatní zvláštní pravidla podle čl. 99 odst. 6 a 6a AI aktu pro malé a střední podniky a malé podniky se střední tržní kapitalizací. Při splnění příslušných podmínek je rozhodná nižší z pevné částky a procentní hodnoty obratu.
K § 31
Navrhuje se vymezit i skutkové podstaty přestupků, jejichž subjektem není výlučně provozovatel či oznámený subjekt.
K odstavci 1
Jako skutková podstata přestupku se vymezuje porušení povinnosti poskytovatele úzce spolupracovat s novými poskytovateli, na které přešla odpovědnost za příslušný systém AI, zakotvené v čl. 25 odst. 2 AI aktu. Nedodržení této povinnosti může v takovýchto případech ohrozit řádné dodržování AI aktu.
K odstavci 2
Jako skutkovou podstatu přestupku je v zájmu účinného vymáhání navrhované úpravy třeba vymezit porušení oznamovací povinnosti podle § 9. Poskytnutí příslušných informací nemusí být vždy v zájmu osoby, která informační povinnost nese.K odstavci 3
Dále se stanovují skutkové podstaty přestupků jakékoli fyzické, právnické nebo podnikající fyzické osoby. Konkrétně se
· pod písmenem a) postihuje zapříčinění neuzavření písemné dohody podle čl. 25 odst. 4 AI aktu, která upravuje spolupráci při zajišťování souladu vysoce rizikového systému s požadavky tohoto nařízení,
· v souladu s čl. 99 odst. 5 AI aktu jako přestupek vymezuje poskytnutí nesprávných, neúplných či zavádějících informací příslušnému orgánu podle AI aktu nebo oznámenému subjektu,
· dále se stanovuje skutková podstata přestupku spočívajícího ve výkonu činnosti spočívající v posouzení shody pro účely AI aktu bez odpovídajícího oprávnění,
· písmeno d) postihuje porušení povinnosti předat dokumentaci podle § 11 odst. 1 nebo 3,
· písmeno e) samostatně postihuje nesplnění povinnosti uchovávat dokumentaci právním nástupcem, na kterého tato povinnost přešla podle § 11 odst. 2. Při zániku bez právního nástupce musí být dokumentace předána ještě přede dnem zániku.
v neposlední řadě se stanovuje skutková podstata přestupku spočívajícího v neposkytnutí dokumentace podle čl. 18 odst. 1 AI aktu příslušnému orgánu dozoru. Tohoto přestupku se může dopustit též jakákoli osoba, která má tuto dokumentaci ve své moci, jde-li o zaniknuvšího poskytovatele-právnickou osobu.
K odstavci 4
Sankční strop podle čl. 99 odst. 5 AI aktu se použije na přestupky podle odstavce 2 a odstavce 3 písm. b), d) a e). Sankční strop podle čl. 99 odst. 4 AI aktu se použije na přestupky podle odstavce 1 a odstavce 3 písm. a) a c).
Při určení horní hranice pokuty se uplatní zvláštní pravidla podle čl. 99 odst. 6 a 6a AI aktu pro malé a střední podniky a malé podniky se střední tržní kapitalizací. Při splnění příslušných podmínek je rozhodná nižší z pevné částky a procentní hodnoty obratu.
K § 32
Navrhuje se vymezit příslušnost k projednávání přestupků podle příslušnosti k výkonu dozoru ze strany orgánů dozoru nad trhem, resp. k výkonu kontroly v případě ÚNMZ. Nadto se v případě přestupků spočívajících v porušení povinnosti související s žádostí o poskytnutí informací ze strany oznámeného subjektu navrhuje jako orgán příslušný k projednání přestupku ÚNMZ. Toto je opodstatněno skutečností, že k páchání těchto přestupků bude docházet v kontextu činnosti oznámených subjektů, nad níž standardně vykonává kontrolu právě ÚNMZ.
K § 33
K odstavci 1
Pro pokuty uložené ČTÚ se v otázce výběru a vymáhání se navrhuje stanovit výjimku z obecného pravidla, podle nějž má být vybírání a vymáhání peněžitých plnění integrováno u orgánů Celní správy ČR. Po vzoru účinné úpravy a zavedené praxe ČTÚ je žádoucí zachovat pravidlo, podle nějž tento úřad vymáhá pokuty, které uložil.
K odstavci 2
Navrhuje se vymezit zvláštní promlčecí dobu v délce 5 let, přičemž odpovědnost za přestupek při přerušení promlčecí doby zanikne nejpozději 8 let od jeho spáchání. Stanovení zvláštní úpravy délky promlčecí doby je žádoucí s ohledem na judikaturu Nejvyššího správního soudu, podle níž je jinak v případě pokut vymezených ve výši procenta z určité účetní veličiny třeba vycházet z kratších promlčecích dob podle obecné úpravy odpovědnosti za přestupky.[footnoteRef:19] [19: K tomu srov. rozsudek Nejvyššího správního soudu ze dne 25. září 2020, č.j. 10 Afs 72/2020–76, body 23 až 35.]
Konkrétní délka promlčecí doby je odůvodněna složitostí problematiky umělé inteligence a skutečností, že některá porušení AI aktu nemusí být ihned navenek patrná. Navrhovaná promlčecí doba je v neposlední řadě obdobná promlčecím dobám, které se použijí při stávajících činnostech ČTÚ (§ 120 odst. 4 zákona č. 127/2005 Sb., o elektronických komunikacích a o změně některých souvisejících zákonů, ve znění pozdějších předpisů) a ČNB (§ 46e odst. 3 zákona č. 6/1993 Sb.).
K odstavci 3
Navrhuje se zakotvit povinnost ČNB, ÚOOÚ a ÚNMZ poskytnout ČTÚ informace potřebné pro vypracování zprávy o pokutách podle čl. 99 odst. 11 AI aktu, a to do konce února kalendářního roku následujícího po roce, za který je zpráva vypracovávána.K odstavci 4
Jelikož čl. 99 odst. 3 až 5 AI aktu stanoví složku horní hranice pokuty vymezenou pevnou částkou v eurech, ale orgány ČR budou ukládat pokuty v korunách, je žádoucí přesně stanovit kurz, podle kterého se výměra pokuty určená na základě kritérií obsažených v čl. 99 odst. 3 až 7 AI aktu přepočte z eur na koruny. Navrhovaná úprava byla převzata z § 48 odst. 5 vládního návrhu zákona o digitální ekonomice a o změně některých souvisejících zákonů (sněmovní tisk 10. volebního období č. 69).
K odstavci 5
Navrhuje se využít diskrece poskytnuté členským státům v čl. 99 odst. 8 AI aktu, a to zejména s ohledem skutečnost, že s ohledem na limity rozpočtů tohoto typu orgánů nelze realisticky počítat se sankcemi blížícími se horním hranicím stanoveným v AI aktu.[footnoteRef:20] Sankce ve výši 10 000 000 Kč se přitom pro tento specifický typ adresáta jeví jako dostatečně citelná a odrazující. [20: Což nelze říci o individualizovaných sankcích za závažná porušení ze strany některých z největších adresátů AI aktu.]
K § 34
K odstavci 1
Články 111 až 113 AI aktu počítají s postupným zaváděním povinností. Navrhovaná vnitrostátní povinnost, která navazuje na povinnost podle AI aktu, se proto na příslušnou osobu vztahuje od okamžiku, kdy na ni dopadá odpovídající povinnost podle AI aktu. Vznikla-li příslušná povinnost podle AI aktu již před nabytím účinnosti tohoto zákona, navazující povinnost podle zákona se použije ode dne jeho účinnosti.
K odstavci 2
Nebudou-li v okamžiku zřízení sandboxu některé oblasti podle čl. 58 odst. 2 AI aktu upraveny prováděcím aktem Evropské komise, upraví je ÚNMZ v opatření obecné povahy podle § 17 odst. 2, v souladu s požadavky uvedeného ustanovení AI aktu.
K § 35
V návaznosti na podřazení dozorové činnosti orgánů dozoru nad trhem zákonu č. 87/2023 Sb. je nutné tento zákon novelizovat v tom smyslu, že dojde k odpovídajícímu rozšíření seznamu orgánů dozoru v § 4 odst. 1 tohoto zákona a přehledu orgánů dozoru a jimi vymáhaných předpisů v příloze tohoto zákona.
Dále se navrhuje doplnit úpravu příslušnosti k projednání přestupků a ukládání pokut podle zákona č. 87/2023 Sb., která v zákoně není zahrnuta v důsledku dřívějšího opomenutí v legislativním procesu.
V zákoně o dozoru nad trhem s výrobky se rovněž výslovně stanoví, že ČTÚ vybírá a vymáhá pokuty, které podle tohoto zákona uložil. Úprava tak zachovává jeho vlastní působnost při výběru a vymáhání těchto pokut.
K § 36
Navrhuje se rozšířit vymezení okruhu informací, dat a údajů vedených v portálu kritické infrastruktury, neboť do něj bude včleněn nový portál umělé inteligence v kritické infrastruktuře.
K § 37
Stanovuje se datum nabytí účinnosti předkládaného návrhu zákona patnáctým dnem po jeho vyhlášení. Tato účinnost je navržena z důvodu použitelnosti AI aktu, která dle jeho čl. 113 pododstavce třetího již z podstatné části nastala již ke dni 2. února, resp. 2. srpna 2025.
Delší doba legisvakance u tohoto předpisu by mohla mít za následek významné zpoždění vstupu zákona v účinnost oproti uvedenému datu vstupu v použitelnost. To by mohlo vést k zahájení o řízení o porušení povinnost proti České republice podle čl. 258 SFEU ze strany Komise a v konečném důsledku k sankci pro Českou republiku.
2