Pomůže, nebo uškodí? Zlomová evropská regulace AI očima expertů

Zdeněk Havel

ředitel AI HUBu projektu Technologická inkubace v agentuře CzechInvest.

Souhlasíte s názorem?

-

+6

+

Zvlášť ze začátku může dojít ke zpomalení inovačního procesu. Než se firmy naučí s regulací správně pracovat, lze čekat určité zvolnění v zavádění inovací. Nicméně v dlouhodobém měřítku to může naopak pomoci rychlejšímu rozšíření technologií umělé inteligence – budou bezpečnější a lidé jim budou víc důvěřovat. Tento efekt pak může být patrný především při porovnání s firmami, které operují mimo Evropu, kde podobná regulace nebude platit. Pokud ale společnosti s globálními ambicemi budou chtít participovat na evropském volném trhu, budou muset také vyhovět nárokům regulace. Vzniká tedy dilema, kdy proti sobě stojí především rychlost zavádění nových technologií a jejich bezpečnost pro koncové uživatele. Každý si může na otázku, která z těchto dvou věcí je pro něj důležitější, odpovědět sám.

Přestože AI Act přináší krátkodobé výzvy a náklady, jeho hlavní cíle – tedy zajištění dlouhodobé udržitelnosti, bezpečnosti a důvěry v AI technologie – jsou pro Evropu velmi důležité. Zároveň zkušenosti z minulosti ukazují, že regulace mohou stimulovat kvalitnější a bezpečnější technologický vývoj, což ve výsledku může vést ke zvýšení konkurenceschopnosti na světovém trhu. Příkladem, kdy regulace takto pomohla v minulosti, může být například implementace norem Euro 3,4 a 5 v automobilovém průmyslu.

Anna Hroudová

manažerka pro digitální ekonomiku, Svaz průmyslu a dopravy ČR

Souhlasíte s názorem?

-

+2

+

Že má Evropa – jako první na světě – regulační rámec pro fungování a využívání AI technologií, je přelomové. Na hodnocení, zda v pozitivním, či negativním smyslu, si budeme muset počkat, nicméně mám obavu, že to Evropě v pomyslném závodě v AI se zbytkem světa moc nepomůže. Ale ráda se budu mýlit.

Některá ustanovení začnou platit už za půl roku. To je opravdu rychlé, i vzhledem k vysoké administrativní zátěži. České firmy teď musí pravidla pečlivě nastudovat a zjistit, jaké povinnosti a kdy pro ně začnou platit. Škála dotčených subjektů je široká. Zavedení regulace má určitě pozitiva, zejména z hlediska bezpečnosti, transparentnosti a ochrany soukromí, ale Svaz s dalšími evropskými asociacemi apeloval na politické představitele, aby nařízení regulovalo opravdu jen vysoce rizikové systémy AI, aby regulace co nejméně zasahovala do základních modelů AI. To jsme považovali za klíčové pro udržení rovnováhy mezi potřebou regulace a podporou inovací. Bohužel se to nestalo. Konečný AI Act tedy není z pohledu firem určitě nejideálnější řešení. Pořád nás ale čeká vyjednávání implementačních aktů. Ty budou velmi důležité pro to, abychom znali všechny dopady.

Z minulosti víme, že přísnější regulace vedou k pomalejšímu rozvoji technologií. Obavy z podobného scénáře i v oblasti AI jsou tedy opodstatněné. Některé firmy dokonce vyčkávaly s nasazením umělé inteligence na AI Act, aby věděly, co mohou a nemohou na evropském trhu aplikovat a co bude regulováno. A vím i o případech firem, které nečekaly a své podnikání přesunuly mimo Evropu. O to víc je nyní nezbytné, aby regulace byla na národní úrovni implementována tak, aby neohrozila inovační potenciál a konkurenceschopnost.

Jan Klesla

ředitel Institutu pro digitální ekonomiku

Souhlasíte s názorem?

-

+2

+

Každá regulace má dvě strany, zejména když zasahuje celou novou technologii, jako je AI. Na jedné straně přináší administrativu a omezení. To je daň za ochranu zákazníků a spotřebitelů. Na druhé straně ale přináší lidem a hlavně firmám právní jistotu, jasná pravidla.

V ideálním světě by tato výhoda měla převážit nad náklady. Bohužel v případě tohoto přímo účinného nařízení se to spíš nepodařilo. Zákonodárce vedly hlavně obavy ze zneužití AI, a tak jsme dostali masivní a tuhý předpis, který vychází ze spotřebitelské legislativy, známé lepením různých značek o evropské shodě na dovážené přístroje, třeba telefony. To není úplně skvělá cesta pro tak dynamické odvětví, jako je AI. Všichni, kdo volají po ochraně každého z nás před zneužitou umělou inteligencí, mají sice principiálně pravdu, ale neuvědomují si těžkopádnost zvoleného provedení.

Co s tím? V nejčernějších scénářích se nejlepší mozky a startupy odstěhují do Británie nebo do USA, a teprve když se jim podaří svůj AI produkt postavit a vydělat na právníky, nasadí ho k nám do Unie. Pokud se jim to vůbec vyplatí. A naše firmy budou čekat, až se na ně dostane po těch amerických, britských... a čínských.

Naštěstí ale i samotné nařízení o AI obsahuje několik možností, jak to zvrátit a vývojářům pomoci. Předně je potřeba postavit úřad. Ano, úřad. Dobrý a kvalitní úřad plný schopných, vzdělaných a dobře placených lidí, kteří budou certifikace a prověření vydávat rychle, dobře a budou komunikovat nejen česky, ale i anglicky. Pro regulaci světové technologie potřebujeme regulátora na světové úrovni. Ten bude mít řadu dalších nástrojů, jak pomoci. Třeba takzvaný regulatorní sandbox, moderní nástroj, který umožní firmám testovat AI aplikace přímo na trhu pod dohledem a dřív, než dostanou povolení.

Máme dva roky do května 2026. Ale abychom uspěli v konkurenci, musíme být mnohem, mnohem rychlejší. Proměnit novou regulaci v příležitost, než nám zase ujede vlak.

František Nonnemann

vedoucí oddělení compliance v Partners Bance a místopředseda Výboru Spolku pro ochranu osobních údajů

Souhlasíte s názorem?

-

+1

+

Masivní rozvoj umělé inteligence s sebou nese možnosti inovací, usnadnění práce a dalších vylepšení lidského života, ale také rizika pro práva a svobody lidí. Ať už se jedná o zneužití jejich osobních údajů, diskriminaci, nebo zneužití AI k manipulaci, phishingu a tak dále. AI Act je první takto komplexní regulací využití umělé inteligence na světě, možná bude vzorem pro ostatní státy – jako je GDPR v oblasti ochrany a zpracování osobních údajů.

AI Act obsahuje řadu pozitivních prvků a přístupů (přístup založený na riziku, regulace AI jako produktu, povinné hodnocení rizik pro dotčené osoby) a některé prvky sporné či v praxi problematicky aplikovatelné. Dopady AI Actu tak budou záležet především na dvou věcech:

• Jednotném výkladu a dozoru na úrovni členských států. AI Act umožňuje, aby jeho dodržování dozorovaly různé orgány, jeden obecně a pak další v rámci svých sektorů, například ČNB využití AI ve finančním sektoru, ČTÚ v oblasti telekomunikací a tak dále. Roztříštěný výklad a nedostatek právní jistoty pro dotčené osoby, organizace, které AI nástroje vyvíjejí a uvádějí na trh, i ty, které AI využívají, by mohly výrazně snížit přitažlivost Česka jako destinace pro vývoj a používání AI a snížit naši konkurenceschopnost.
• Využití dosavadních zkušeností. GDPR přineslo všem organizacím povinnost systematicky řídit využití a ochranu dat. Řadě z nich uložilo i povinnost vyčlenit na to konkrétní zaměstnance či celé týmy, pověřence pro ochranu osobních údajů. V unijním kontextu tak disponujeme desítkami nebo stovkami tisíc expertů na řízení rizik spojených se zpracováním velkých objemů dat, nastavování procesů, ochranu práv dotčených osob a tak dále. A ty bychom měli také využít.

V kostce, jestli AI Act bude přínosem, nebo brzdou, záleží na jeho racionálním a jednotném výkladu ze strany národních států i unijních institucí a na využití dosavadních zkušeností a znalostí. Pokud k tomu přistoupíme správně, AI Act rozvoj inovací rozhodně brzdit nemusí.

Honza Sládek

zakladatel a ředitel Contember, expert AMSP ČR pro oblast AI

Souhlasíte s názorem?

-

0

+

Nařízení podle mě není napsané špatně. V zásadě říká, že je nepřípustné používat umělou inteligenci pro šmírování občanů (jako to dělá Čína) a že je nepřípustné její využití k manipulaci lidmi. Užitečné nástroje pro každodenní práci prakticky nereguluje, takže pro malé firmy nevidím riziko, že by kvůli němu nebyly konkurenceschopné. Navíc pro většinu z nich je primární trh stejně Evropská unie – a tam jsou pravidla stejná.

Pokud jde o to, jestli tady vzniknou startupy, které udělají v oboru umělé inteligence nějakou obří inovaci, tak to asi ne. Ale v tomhle ohledu je AI Act jenom detail, překážek je pro to mnohem víc. 

Zatím jsem nezaznamenal, že by někdo kvůli AI Act pozdržoval novinky pro Evropskou unii. To se děje z jiných důvodů. A dít se to bude dál, možná AI Act bude další kousek skládačky, ale nepřijde mi zásadní.

Reálně pokud vznikne inovace, která udělá firmy stokrát efektivnější, jakákoli regulace bude slabá, firmy to budou muset řešit a regulace se nakonec změní. Část lidí v odborné komunitě (nechci teď nikoho citovat) říká, že ta regulace stejně přichází pozdě, že už je ten vlak rozjetý příliš.

ChatGPT 4o

LLM od společnosti Open AI

Souhlasíte s názorem?

-

+1

+

Evropské nařízení o umělé inteligenci, známé jako AI Act, má zajistit bezpečné a etické používání AI technologií v celé Unii. Přísnější regulace mohou vést k prodlevám při zavádění nových technologií, protože firmy budou muset splňovat složité požadavky na transparentnost a bezpečnost. To by mohlo krátkodobě ovlivnit konkurenceschopnost českých firem, zejména těch menších, které nemusí mít dostatečné zdroje na rychlé přizpůsobení se novým pravidlům.

Na druhé straně mohou tyto regulace poskytnout dlouhodobé výhody. Zajištěním vysokých standardů mohou české firmy získat důvěru spotřebitelů a partnerů, což může vést k lepším obchodním příležitostem. AI Act může vytvořit jednotný trh s AI technologiemi v celé EU, což usnadní přístup k širšímu trhu a sníží administrativní zátěž.

V souhrnu, zatímco krátkodobé dopady mohou zahrnovat zpoždění v zavádění nových AI technologií a zvýšené náklady na compliance, dlouhodobé přínosy v podobě vyšší důvěry, bezpečnosti a jednotného trhu mohou tyto negativní efekty vyvážit. Je klíčové, aby české firmy sledovaly vývoj legislativy a připravily se na implementaci nových pravidel, aby minimalizovaly možné negativní dopady a maximalizovaly své šance na úspěch v evropském i globálním měřítku

Lukáš Benzl

ředitel České asociace umělé inteligence

Souhlasíte s názorem?

-

+1

+

Nařízení Evropské unie o umělé inteligenci vyvolává obavy z potenciálního zpomalení inovací a ohrožení konkurenceschopnosti českých firem. Chtěl bych ale apelovat na to, abychom se k situaci postavili konstruktivně.

AI Act je zaměřený na zvýšení bezpečnosti a transparentnosti systémů umělé inteligence. Klíčová bude transpozice nařízení do českého právního řádu. Česká republika by měla usilovat o to, aby se stala lídrem v oblasti odpovědné AI a přátelského přístupu k AI.

Transparentní a jasně definované rámce mohou firmám pomoci vyhnout se právním a etickým problémům, což v konečném důsledku může jejich konkurenceschopnost zvyšovat. Například části nařízení týkající se ochrany dat a soukromí mohou posílit důvěru zákazníků v AI technologie, což je klíčové pro jejich širší adopci.

Je ale nezbytné, aby české firmy měly přístup k potřebným zdrojům a informacím, které jim umožní nové regulační požadavky plnit. To zahrnuje nejen právní poradenství, ale také technickou podporu a vzdělávání. Jako Česká asociace umělé inteligence právě do této oblasti investujeme velké množství energie. Tyto aktivity tvoří podstatnou část naší agendy.

Evropská regulace AI tedy nemusí konkurenceschopnost českých firem nutně brzdit. Naopak, pokud k této výzvě přistoupíme strategicky a s rozmyslem, můžeme z regulace udělat příležitost k posílení důvěry v umělou inteligenci. Máme potenciál stát se zemí přátelskou k umělé inteligenci a to může být ve srovnání s jinými zeměmi dlouhodobou konkurenční výhodou.