EU omezí technologii rozpoznávání obličejů. Podle nových pravidel pro umělou inteligenci je riziková

Evropská komise (EK) navrhla první pravidla využívání umělé inteligence, s jejichž pomocí by chtěla omezit škodlivé dopady například sledovacích či manipulativních technologií. Zásadně regulovat chce zejména možnosti rozpoznávání obličejů, které vzbuzují obavu u ochránců soukromí. Za porušování pravidel mají hrozit vysoké pokuty.„Pokud jde o umělou inteligenci, je důvěra nutností, nikoli jen výhodou. Přijetím těchto přelomových pravidel udává EU směr vývoje nových celosvětových norem, které zajistí umělé inteligenci důvěryhodnost,“ prohlásila dnes místopředsedkyně Komise pro hospodářskou soutěž Margrethe Vestagerová. Regulace by však neměla zásadně omezit používání technologií, které posouvají kupředu zdravotní péči, bezpečnost v dopravě či prevenci kriminality. Navrhované nařízení zavádí několik kategorií systémů umělé inteligence podle jejich rizikovosti. Jako nepřijatelné označuje ty, které ohrožují životy, bezpečí či práva lidí. Zakázány proto mají být v EU například systémy umožňující vládám takzvané sociální hodnocení, které běžně používá ke sledování svých občanů například Peking. Zákaz se má týkat třeba i hraček s hlasovými asistenty, které navádí děti a mladé lidi k nebezpečnému chování. Další skupinou jsou technologie s vysokým rizikem, které budou povoleny jen při splnění přísných požadavků. Mezi ně patří třeba software třídící uchazeče o práci či o bankovní půjčku, hodnotící zkoušky ve škole nebo ověřující spolehlivost důkazů u soudu. Řadí se sem také všechny systémy biometrické identifikace včetně rozpoznávání obličejů. Jejich obecné využívání bude zcela zakázáno a sáhnout k němu budou moci úřady jen ve výjimečných případech, například při pátrání po dětech či odhalování teroristických útoků. Nejprve to ale bude muset povolit soud, a to pouze na omezenou dobu.

Umělá inteligence může pomoci při pátrání po zločincích. Kritici však varují před rizikem zneužití

Návrh z pera Komise obsahuje také kategorie technologií s omezeným a minimálním rizikem. Do omezeného rizika unijní exekutiva řadí například chatboty, tedy online chatové rádce známé třeba z e-shopů. A v případě minimálního rizika se jedná například o spamové filtry. Technologie, které nejsou vysoce rizikové, však nařízení nijak nereguluje. Poskytovatelé těchto technologií nicméně mohou posílit svou důvěryhodnost a dobrovolně vypracovat tzv. kodex chování, tedy sadu postupů a hodnot, podle kterých fungují. Na evropské úrovni by podle návrhu Komise měla vzniknout nová Evropská rada pro umělou inteligenci složená se zástupců vnitrostátních úřadů a evropského inspektora ochrany údajů, která má pomoci se zaváděním nových pravidel. Dohlížet na ně však podle návrhu mají vnitrostátní orgány dozoru nad trhem.

V Maďarsku sází na koordinaci výzkumu a vývoje AI. Tamní laboratoř má velké plány

Jednání budou dlouhá

Firmám porušujícím pravidla mají hrozit pokuty až do výše šesti procent jejich obratu či do 30 milionů eur (780 milionů korun), pokud bude tato částka vyšší. „Přistupujeme k umělé inteligenci úměrně, pečlivě zvažujeme rizika, dáváme kompetence veřejným institucím a požadujeme naprostou transparentnost,“ prohlásila dnes místopředsedkyně komise Věra Jourová. Navrhovaná pravidla by podle ní na jedné straně měla zajistit bezpečí a soukromí lidí, na druhé však příliš neomezovat činnost progresivních firem.

Europe moves 1st to present modern future proof rules for trusted #ArtificialIntelligence & boost for innovation. We see the use of AI for social scoring in some parts of the world. That’s why AI systems causing unacceptable risks will be banned in EU to ensure #FundamentalRights pic.twitter.com/Mbf3h69kG3

— Věra Jourová (@VeraJourova) April 21, 2021

Technologické firmy, které vidí v umělé inteligenci motor budoucího růstu, se k omezování stavějí spíše skepticky. Někteří experti pak varují, že v případě schválení mohou nová omezení znamenat pro evropské firmy konkurenční nevýhodu proti společnostem z jiných částí světa. Očekávají proto, že během vyjednávání v Evropském parlamentu a mezi členskými státy budou značně lobbovat za zmírnění některých podrobností a jednání budou dlouhá. Ke schválení pravidel členskými státy a EP tak může dojít až za několik let. Tlak však patrně přijde i na přísnější formulaci částí návrhu, které jsou zvláště podle některých europoslanců nedůsledné. „Musí zde být třetí strana, která nezávisle posoudí, zda systémy s vysokým rizikem odpovídají předpisům,“ prohlásil například pirátský místopředseda EP Marcel Kolaja, podle něhož návrh nechává prostor například k diskriminaci uchazečů o práci při jejich posuzování umělou inteligencí. Stejně jako někteří další kolegové hodlá co nejdříve začít pracovat na jeho úpravách.

Marcel Kolaja: Sociální sítě je třeba decentralizovat, příklady existují už nyní