Evropská komise reaguje na volání po zjednodušení unijní legislativy za účelem posílení evropské konkurenceschopnosti a představila již několik zjednodušujících balíčků – tzv. omnibusů. Návrh, který řeší digitální prostředí, vyvolal rozporuplné reakce.
Digitální omnibus představila Evropská komise v listopadu a týká se hned řady opatření, které regulují digitální prostředí v Evropě. Jedním z nich je unijní regulace umělé inteligence – tzv. AI Act. Díky návrhu digitálního omnibusu by se měl AI Act „rozvolnit“ tak, aby evropské firmy mohly lépe konkurovat těm neevropským a bylo pro ně snazší inovovat.
„AI Act se tím trochu zrealističtí: některé povinnosti se zpřesní, byrokracie se zjednoduší a pro firmy bude snazší vůbec začít nové technologie vyvíjet a uvádět na trh,“ hodnotí digitální omnibus český europoslanec Ondřej Krutílek (ODS, ECR).
Jde ale stále o kosmetické úpravy, a ne velký obrat k inovacím. „Je to sice lepší než nedělat nic, ale samo o sobě to z Evropy neudělá technologického tygra,“ dodává europoslanec.
Podle europoslankyně Markéty Gregorové (Piráti, Zelení) ale Komise v rámci zjednodušování pohřbila některá zásadní opatření.
Komise v omnibusu například navrhuje odložení a zmírnění opatření týkajících se „vysoce rizikové“ umělé inteligence, jak ji AI Act definuje. Jde o AI systémy využívané v takových případech, kdy by mohly ohrozit zdraví, bezpečnost nebo základní práva. Představte si tedy třeba AI v dopravě, bodování zkoušek ve vzdělávacím systému, třídění životopisů, hodnocení při žádosti o úvěr, AI v roboticky asistované chirurgii nebo biometrickou identifikaci.
„Zákon o umělé inteligenci byl pro nás jako pro Piráty už tak nedostatečný z hlediska ochrany osobních údajů, zejména kvůli rozpoznávání obličejů (…) Namísto jiných možných řešení se Komise přiklonila k požadavkům velkých firem, které mají zájem pravidla oddalovat či úplně zrušit, protože je zavazují k větší transparentnosti a odpovědnosti,“ zkritizovala omnibus v reakci zaslané redakci Gregorová.
Podle Krutílka by měla být EU ve zjednodušování naopak odvážnější. „Oproti USA a Číně jsme v závodě o AI už dnes pozadu a navíc si neseme vlastní ‚umělou brzdu‘ v podobě příliš komplikovaných pravidel a nejistoty pro investory. Tento omnibus je první krok správným směrem, ale pokud to s konkurenceschopností myslíme vážně, budeme na úpravách AI Actu a dalších digitálních regulací muset pracovat dál a mnohem odvážněji.“
Inovace a staré známé GDPR
Evropská komise si od rozvolnění také slibuje, že evropské firmy budou mít k dispozici více dat pro testování umělé inteligence, díky čemuž by mohly snáze inovovat. Ochrana dat je ale v EU na vysoké úrovni díky nařízení GDPR, do kterého tak omnibus také zasahuje. Upravuje například definici osobních údajů.
To by však mohlo ohrozit soukromí uživatelů, varují organizace jako je Amnesty International nebo NYOB. Podobné obavy má i europoslankyně Gregorová. „Moje druhá velká obava se týká rozvolnění pravidel tak, aby se de facto zlegalizovaly praktiky velkých technologických firem, které trénují své modely umělé inteligence na osobních údajích, které sbírají a zpracovávají – často na sociálních sítích – bez našeho souhlasu,“ uvedla.
Pokud se má ale evropský AI sektor přiblížit tomu americkému, data k testování potřebuje. Na to, že GDPR představuje určitou brzdu pro rozvoj AI, upozorňují i experti z oboru i sama Gregorová. Podle ní je ale zásah do GDPR, který přinesl návrh omnibusu, příliš velký.
Podle Krutílka je ovšem na místě vzhledem k vývoji AI hledat novou rovnováhu mezi ochranou práv občanů a možností využívat jejich data.
„Nechci oslabovat ochranu citlivých údajů – zdravotní data, biometrie, politické názory a další citlivé kategorie musí zůstat pod přísnou ochranou. Umím si ale představit, že u běžných osobních údajů dáme firmám praktičtější rámec, jak je mohou za přísných podmínek využít k učení AI, například na základě oprávněného zájmu, s jasnými limity, dohledem regulátorů a možností obrany pro občany,“ popsal.
Brzda inovací se podle něj musí povolit, aby Evropa nebyla nadále jen pasivní konzument amerických a čínských technologií.
Právě europoslanci musí, vedle členských zemí, návrh omnibusu schválit. Jeho konečná podoba tak bude záviset na výsledku jednání mezi Evropským parlamentem a Radou.
Všechny výstupy realizované v rámci této spolupráce jsou dostupné pod tímto odkazem.
