Technologie deepfake se pro zábavu používá už řadu let. Představuje však také relativně novou a obtížně odhalitelnou digitální hrozbu. Na evropské úrovni ji bude regulovat Akt o umělé inteligenci, který členské státy teprve připravují. Na Slovensku se mezitím mohou případy řešit formou oznámení, nebo dokonce právní cestou.
Na principu technologie deepfake fungují mimo jiné různé zábavní aplikace, tento obsah se šíří také na sociálních sítích. Jedná se o alternativní fotografie, videa, zvukové nahrávky nebo celé textové úseky. Technologie využívá princip hlubokého učení, které spadá mezi funkce umělé inteligence.
V případě obrázků zahrnuje dva „soupeřící“ algoritmy, přičemž jeden se snaží ten druhý oklamat a ten druhý musí rozpoznat falešné prvky. Takto se technologie učí. Aby mohla umělá inteligence vytvořit obrazové deepfaky, musí být také schopná rozpoznat hlavní body obličeje.
K vytvoření deepfake je většinou potřeba mít základ, do kterého tvůrce vloží požadované prvky. To platí zejména pro videa, kde postava, která ve videu skutečně vystupuje, pomocí úprav zcela změní identitu.
Mezinárodní tým odborníků z několika univerzit po celém světě sestavil
studii, která rozlišuje mezi přijatelným a škodlivým použitím této technologie. Pod neškodnými deepfaky jsou uvedena kreativní využití pro zábavu nebo obchod. Patří mezi ně tvorba reklamních spotů, jejichž výroba je často nákladná, využití deepfake v dabingu, kdy lze pro hlas herce nebo herečky použít jiný jazyk, nebo vytvoření zvukové stopy zesnulé osoby. Podle autorů studie má však i toto využití technologie etické hranice.
Mnohem nebezpečnější je však zneužití umělé inteligence k výrobě falešných pornografických videí nebo nahrávek veřejných osobností, například v rámci politické antikampaně.
Češi věří, že se jim dezinformace většinou vyhnou, ukázal průzkum
Deepfake v praxi
Příkladem problematického deepfake bylo
falešné video, na kterém ukrajinský prezident
Volodymyr Zelenskyj vyzývá své vojáky, aby složili zbraně.
Takové deepfaky jsou manipulativní a lze je klasifikovat jako dezinformační obsah. Jsou obzvláště nebezpečné, protože je obtížné je odhalit. Techniky manipulace s fotografiemi jsou známé již od vzniku samotné fotografie. V případě profesionálně upravených videozáznamů nebo zvukových nahrávek se však jedná o relativně nový, méně častý jev.
Tato technologie je známá i ve slovenském mediálním prostředí. Na problém dezinformací a zejména těžko identifikovatelného falešného obsahu bylo třeba upozornit zejména v průběhu pandemie. Šíření falešného obsahu podkopávalo důvěru lidí v protipandemická opatření nebo očkování.
Na tento problém upozornila například kampaň mobilního operátora, která demonstrovala dosah a důvěryhodnost deepfaků. V rámci kampaně bylo vytvořeno falešné video, v němž moderátorka
Zlatica Švajdová Puškárová zdánlivě zpochybňovala nošení roušek nebo očkování.
Dalším deepfake je reklama na slovenskou finanční instituci, v níž ke Slovákům promlouvá zesnulý
Július Satinský. Skutečná nahrávka byla upravena tak, aby zněla, jako by byla namluvena Satinského hlasem.
Právní rámce
V současné době by se v prostoru Evropské unie na případy potenciálně problematických deepfaků měly částečně vztahovat některé stávající zákony a směrnice, jako jsou Akt o digitálních trzích, Akt o digitálních službách nebo směrnice GDPR.
Legislativní přístupy jednotlivých zemí k využívání umělé inteligence
se však liší. Evropská unie připravuje Akt o umělé inteligenci, který bude mít spíše regulační charakter, zatímco nově připravovaná pravidla ve Spojeném království proklamují podporu inovací a zvýšení důvěry lidí v tuto oblast.
Spojené státy
v současné době nemají regulační rámec pro využívání UI. Na této problematice a vývoji však pracuje řada institucí.
Potřebujeme pravidla pro umělou inteligenci, zní z EU a USA. Zatím má vzniknout dobrovolný kodex
Očekává se, že připravovaný akt Evropské unie o umělé inteligenci bude zahrnovat právní rámec pro technologii deepfake.
Juraj Čorba z Ministerstva investic, regionálního rozvoje a informatizace například vysvětluje, že současný návrh obsahuje mimo jiné pravidlo, podle kterého by osoby vystavené deepfakům, tedy jejich příjemci, měli být upozorněni, že sledují upravený obsah.
Uvažuje se také o omezení „systémů, které mohou ovlivnit volební a jiné demokratické procesy“. O podrobnostech se však stále jedná.
Přístup Slovenska
Slovenská legislativa zatím neobsahuje konkrétní odkaz na používání umělé inteligence, slovenské online prostředí však bude podléhat pravidlům na evropské úrovni. Deepfaky nicméně mohou už teď za určitých okolností spadat pod manipulativní nebo dezinformační obsah.
„Samotná technologie není problematická. Problematickou se stává, pokud je využívána k šíření dezinformací nebo k online obtěžování, šikaně, online podvodům a podobně,“ říká
Lucia Michelčíková, mluvčí Rady pro mediální služby.
Rada jako jediný zákonný regulátor může upozornit platformy, jako jsou Meta nebo TikTok, na nezákonný obsah na jejich stránkách a požádat o jeho odstranění. Ve většině případů dojde k odstranění ihned po nahlášení, tzv. eskalaci. Pokud se tak nestane, Rada zahájí právní řízení, aby zabránila dalšímu šíření.
Podle Michelčíkové Rada od srpna loňského roku, kdy vstoupil v platnost nový zákon o mediálních službách, který rozšiřuje pravomoci regulátora na online platformy, nezaznamenala žádný problematický deepfake.
Po zavedení Aktu o umělé inteligenci bude Slovensko muset vybudovat lidské a technologické kapacity, které stále chybí. Podle Čorby má země na přípravu dva až tři roky.
První akt o umělé inteligenci svého druhu na světě? EU je o krok blíž
