Jak podpořit rozvoj a využívání umělé inteligence v Evropě a zároveň ochránit občany před potenciálními riziky těchto technologií? Odpověď hledají evropští zákonodárci, kteří intenzivně pracují na prvním komplexním zákoně o umělé inteligenci na světě. Jasno by mohli mít už do konce roku.Umělá inteligence není žádné sci-fi, ale běžná součást našich životů. Může přinést řadu benefitů pro celé spektrum odvětví, od zdravotnictví po dopravu. Evropská unie chce proto rozvoj a využití těchto technologií podpořit.
S rozmachem umělé inteligence (AI) se ale také zvyšují obavy z jejího dopadu na bezpečnost a základní práva občanů. Evropská komise proto
navrhla takzvaný Akt o umělé inteligenci regulující různá využití AI úměrně k potenciálním rizikům, která představují. Zatímco technologie s minimálním rizikem zůstanou bez regulace, využití AI, která mohou být potenciálně nebezpečná pro jednotlivce a společnost, budou přísně regulována nebo dokonce zakázána. Takový přístup by podle Komise měl zajistit to, že budou občané umělé inteligenci více důvěřovat a nebudou se bát jejího širšího využití.
Europoslanec
Marcel Kolaja (Piráti/Zelení), který v Evropském parlamentu legislativu vyjednává za výbor pro kulturu a vzdělávání, se domnívá, že by Evropa měla v oblasti umělé inteligence jít příkladem a měla by být připravena především chránit občany a jejich svobody.
„Nechceme se probudit do světa, kde světový trend používání nebo spíš zneužívání (AI) bude nastavovat nedemokratická Čína,“ uvedl Kolaja pro EURACTIV.cz.
Podle českého předsednictví v Radě EU je třeba zajistit vysokou úroveň ochrany lidských práv a zároveň zavést pravidla, která budou implementovatelná v praxi, a to i z pohledu malých a středních podniků, včetně start-upů.
„Je potřeba vyvážit související rizika s případnými benefity a nastavit systém tak, aby využívání AI bylo pro lidi i firmy v rámci EU atraktivní,“ sdělil redakci
Dmitrij Černikov, tiskový mluvčí Coreperu I Stálého zastoupení ČR při EU.
České předsednictví má za cíl najít do konce roku shodu na společné pozici členských států, kterou by měli 6. prosince potvrdit ministři 27 zemí EU. Do konce roku by se mohly shodnout i klíčové výbory Evropského parlamentu, které se teprve dostávají k citlivým tématům, jako je ochrana občanů před sledováním.
Umělá inteligence může pomoci s ochranou klimatu. Musí si však „vyžehlit“ vlastní emise
Vzdálené rozpoznávání obličejů chtějí poslanci zakázat Většina evropských politických frakcí se zasazuje o lepší ochranu občanů před využitími umělé inteligence, která by mohla ohrozit jejich soukromí a svobodu projevu. Jedním z příkladů jsou systémy vzdálené biometrické identifikace, jako je rozpoznávání obličejů, například v metru nebo v obchodech. Většina europoslanců se domnívá, že tyto systémy příliš zasahují do soukromí a hrozí jejich zneužití k plošnému sledování lidí.
„Jsem rád, že se v Evropském parlamentu formuje většina pro úplný zákaz používání systémů vzdálené biometrické identifikace ve veřejném prostoru, jak navrhujeme již od začátku,“ uvedl Kolaja.
Komise chtěla tyto systémy zakázat již ve svém původním návrhu, přidala však do něj výjimky, například v rámci boje proti terorismu. Hlavní vyjednavači Evropského parlamentu, socialista
Brando Benifei a liberál
Dragoş Tudorache, naopak chtějí zákaz rozšířit mimo jiné i pro zpětnou identifikaci osob. Podle Kolaji je šokující, že Komise ani národní vlády tento postoj nesdílí.
Kolaja se také domnívá, že striktní pravidla musí být nastavená také pro takové technologie, které zasahují do osobních svobod jednotlivců, například automaticky vyhodnocovaný průběh výběrových řízení.
Dalším z velmi diskutovaných témat je využití umělé inteligence pro sledování lidí na pracovišti. Zatímco podle socialistů by v takovém případě zaměstnavatelé měli požadovat souhlas pracovníků, podle Zelených by stálé monitorování pracovníků nemělo být povoleno vůbec.
Socialisté a Zelení také chtějí zakázat technologie, které jsou schopné rozpoznat emoce lidí, protože by mohly ohrožovat svobodu projevu. Konzervativní europoslanci však varují před přílišnými zákazy.
Většina politických skupin se také shoduje, že uživatelé velmi rizikové AI by měli mít před jeho zavedením povinnost posoudit rizika a naplánovat, jak je hodlají omezit.
Zajistěte ochranu základních práv, vzkazují neziskové organizace
Rada EU, které aktuálně předsedá Česko, se potenciálně velmi rizikovou umělou inteligencí také zabývá. Některé státy ale na rozdíl od europoslanců považují tuto kategorii za příliš rozsáhlou. Obávají se, že by se regulace mohla zbytečně dotknout i umělé inteligence, která nepředstavuje velká rizika pro základní práva
. České předsednictví navrhuje, aby byla AI považována za velmi rizikovou pouze, pokud hraje zásadní roli při rozhodování člověka.
Takový přístup se ale nelíbí mezinárodním neziskovým organizacím, jako jsou
Access Now nebo
European Digital Rights, které 17. října poslaly kritický
dopis ministru Ivanu Bartošovi a ostatním ministrům pro digitalizaci v EU.
Organizace v dopise ministry žádají, aby posílili postavení těch, jejichž práva by mohla být umělou inteligencí narušena. Požadují také, aby rozšířili zákaz používání AI tak, aby nebyla práva občanů v ohrožení. Ministři by podle nich mimo jiné měli zakázat technologie, které umožňují předpovídat trestnou činnost, protože ohrožují princip presumpce nevinny. Organizace také nesouhlasí s tím, že by se nová legislativa neměla vztahovat na používání AI v případech týkajících se národní bezpečnosti. Státy by totiž mohly tuto výjimku bez jakýchkoliv záruk zneužívat pro sledování občanů.
Neziskový sektor naopak vítá, že Evropský Parlament velkou část
požadavků 123 organizací na lepší ochranu základních práv již vyslyšel a další se snaží zohlednit. Organizace například vítají, že europoslanci chtějí za velmi rizikové využívání umělé inteligence označit i AI komunikující s dětmi a že chtějí zavést povinné studie dopadů na základní práva.
Zároveň se ale ze strany technologických firem a pro-byznysových politiků ozývají varování, že přílišné regulace a zákazy by mohly vést k potlačení inovací. Zdůrazňují, že cílem legislativy je vytvořit vhodné prostředí pro rozvoj a využití AI v Evropě.
Podcast: Umělá inteligence: Jak ji chytře využít a nespálit se?
Tento článek vznikl s podporou kanceláře europoslance Marcela Kolaji (skupina Zelení / Evropská svobodná aliance v Evropském parlamentu). Všechny výstupy realizované v rámci této spolupráce jsou dostupné pod tímto odkazem. Podmínky spolupráce jsou uvedeny zde. 
