Od neděle 2. srpna začínají platit některá ze zásadních ustanovení unijního Aktu o umělé inteligenci (AI), zejména pravidla transparentnosti pro některé systémy AI. Konkrétně to znamená například povinnost informovat uživatele, že člověk komunikuje s chatbotem či jiným systémem AI. Rovněž obrázky, audia či videa, které jsou vytvořené nebo zmanipulované pomocí umělé inteligence a které mohou působit jako autentické, musejí být jasně označeny jako uměle vytvořené, informovala Evropská komise (EK).
Mluvčí EK datum 2. srpna označil za velmi významný termín. „Začnou platit a budou také vymáhána pravidla týkající se transparentnosti a zákazů stanovených v Aktu o AI,“ uvedl dnes mluvčí Thomas Regnier na pravidelném briefingu Komise. Zdůraznil v této souvislosti zejména boj proti tzv. deepfake obsahu. „Důležité je především jeho správné označování, aby měli uživatelé v Evropské unii jasnou informaci o tom, že jde o obsah vytvořený pomocí AI,“ dodal.
Začíná ale rovněž vymáhání pravidel. Národní dozorové orgány i Evropská komise získávají pravomoci ukládat sankce za porušení ustanovení, která jsou již použitelná – tedy zejména zákazů nepřípustných praktik, ale nově i transparentnosti. Za porušení pravidel mohou firmám hrozit vysoké pokuty, které v případě porušení pravidel transparentnosti mohou dosáhnout až 15 milionů eur nebo tří procent celosvětového ročního obratu společnosti.
„Mezi novinky s nejviditelnějším dopadem patří povinnost jasně a včas informovat o tom, že zákazník či uživatel komunikuje prostřednictvím chatbotu či virtuálního nebo hlasového asistenta s umělou inteligencí,“ uvedl k novým pravidlům český advokát Jaroslav Kuba z poradenské společnosti Rödl. „Totéž platí pro AI agenty, kteří samostatně například rezervují, objednávají nebo vyřizují korespondenci: podle nových pokynů Evropské komise musí prozradit nejen že jsou umělou inteligencí, ale i za koho jednají,“ dodal.
Mezi takzvané deepfakes přitom Evropská komise podle českého advokáta výslovně řadí i reklamní vizuály a produktové fotografie vytvořené umělou inteligencí, pokud mohou klamat o skutečném vzhledu nebo vlastnostech výrobku, nebo virtuální influencery. „Nové povinnosti dopadají nejen na vývojáře velkých modelů, ale i na obrovské množství běžných společností, institucí a organizací, které AI využívají ve svém provozu,“ dodal Kuba.
Evropská unie letos přijala takzvaný AI Omnibus – balíček změn, jehož cílem je zjednodušit některé povinnosti a upravit harmonogram zavádění aktu o umělé inteligenci. Ten přinesl mimo jiné odklad použitelnosti určitých pravidel pro vysoce rizikové systémy umělé inteligence. Jde o systémy, které mohou významně ovlivnit bezpečnost lidí nebo jejich základní práva. Původně se povinnosti pro tyto systémy měly uplatňovat už od letošního srpna, nově se tak stane až od 2. prosince 2027.