Evropská komise a dohledové úřady v Belgii a Itálii se zabývají novou čínskou umělou inteligencí DeepSeek, zejména jejím dodržováním pravidel o ochraně osobních údajů a dalších regulací. Redakce Euractivu proto oslovila české úřady pro oblast informační a kybernetické bezpečnosti s dotazem, zda tuto potenciální hrozbu také řeší. Odpověď však byla negativní.
Část internetového světa se baví soubojem mezi dvěma populárními chatboty – například tím, jak čínský model umělé inteligence
postavil svoji databázi na „starším bráchovi“ Chat-GPT od americké společnosti OpenAi, nebo jejich
šíleným šachovým soubojem. Kybernetičtí odborníci ale před raketovým vzestupem čínské platformy varují.
DeepSeek se stal v posledních dnech předmětem všeobecné pozornosti. Jak popisují například
New York Times, mateřská firma dnešního modelu začínala jako investiční hedge fund, který využíval umělé inteligence na čínské burze. Až později vsadila společnost na kartu samostatného produktu, který se měl později postavit všem dosud existujícím AI obrům.
To se stalo minulý týden, kdy společnost uveřejnila svoji aplikaci, která se během pár dní stala tou nejstahovanější ve Spojených státech. Ve stejný den se šéf společnosti
Liang Wen-feng setkal s čínským premiérem
Li Čchiangem.
Komise vyšetřuje TikTok kvůli možnému ovlivňování voleb v Rumunsku
O fungování aplikace DeepSeek se zatím mnoho neví – podle všeho její vývoj stál o desítky milionů dolarů méně než u konkurenčního modelu Chat-GPT. Původně se předpokládalo, že to bylo kvůli menšímu počtu čipů, které společnost na trénování použila, nicméně nedávny únik dat ukázal, že čínští software inženýři
použili na trénování DeepSeeku přímo aplikaci Chat-GPT.
Objevily se ale i informace, že DeepSeek
posílá data uživatelů, jako je třeba historie chatování nebo vyhledávání na internetu, své mateřské firmě v Číně. Podle některých odborníků je problém závažnější než v případě populární čínské sociální sítě TikTok.
Italové už DeepSeek zablokovali
Na fungování aplikace si
posvítil už italský úřad pro dohled nad ochranou osobních údajů, a pro
jistotu ji rovnou i zablokoval. Podnět na prověření aplikace
evidují i na belgickém úřadu nebo v Irsku.
Evropská komise se také pustila do přezkumu aplikace a zjišťuje, zda dodržuje nařízení o ochraně osobních údajů GDPR.
Redakce Euractiv.cz v reakci na to oslovila i příslušné orgány v Česku, ty se ale DeepSeekem zatím nezabývají.
„K vašim dotazům mohu sdělit, že Úřad pro ochranu osobních údajů v předmětné věci zatím neobdržel žádné podání ani stížnost. Znamená to, že úřad v současné době (ve vztahu k aplikaci DeepSeek) neprovádí žádné šetření,“ napsal redakci mluvčí úřadu
Milan Řepka.
Čistý průmysl, obrana a AI. Nová Komise má velké plány, ale slabou podporu
Podobně reagovala i Digitální a informační agentura (DIA). „DIA se působením DeepSeek zatím nezabývá, takže na Vaše dotazy bohužel nemohu odpovědět,“ odpověděl její mluvčí
Jan Heinz.
Jediný úřad, který se na fungování aplikace DeepSeek podíval, je Národní úřad pro kybernetickou a informační bezpečnost (NÚKIB). Ten po zaslání dotazů redakce Euractivu vydal ve čtvrtek večer
tiskovou zprávu, ve které vyzývá na opatrnost.
„NÚKIB dlouhodobě doporučuje všem uživatelům, aby při práci s aplikacemi byli obezřetní a stahovali je pouze z autorizovaných obchodů, jako jsou např. AppStore či Google Play. Je také nezbytné pečlivě sledovat, k jakým funkcím a údajům aplikacím na svých zařízeních poskytujete přístup,“ píše úřad v zprávě.
NÚKIB dále upozorňuje, že vzhledem k čínskému původu se může aplikace zachovat k osobním údajům a datům „nestandardně“, a to i navzdory platné české a evropské legislativě.
„Zvláštní opatrnost je na místě u nových, náhle populárních mobilních aplikací. Doporučujeme vždy vyčkat s jejich stahováním a používáním, aby bylo možné expertně posoudit jejich dopady na bezpečnost uživatelů a jejich dat,“ uvádí tisková zpráva kybernetického úřadu.
Rakouská organizace NOYB podala stížnost na Metu kvůli plánovanému využití uživatelských dat k trénování AI
Pokud model nebude dodržovat nařízení EU, nebude tady fungovat, říká Gregorová
Informační bezpečnosti se v Evropském parlamentu věnuje europoslankyně
Markéta Gregorová (Piráti, Greens/EFA). Ta upozorňuje, že riziko se sběrem citlivých údajů platí víc pro vládní představitele než pro běžné občany. „Nehledě na to, že její užívání pomáhá trénovat čínský AI model na západním smýšlení, což může být využito k ještě lepší propagandě skrz TikTok. V tomto ohledu bych osobně tedy spíše počkala na používání derivátů, které vzniknou na základě open source tohoto modelu,“ popisuje pro Euractiv.cz Gregorová.
„Nedomnívám se, že otázka nyní leží na regulacích – ty, kterých se DeepSeek částečně dotýká (akt o umělé inteligenci, GDPR) buď bude plnit, nebo nebude působit na evropském trhu, to je jednoduché,“ podotkla europoslankyně.
Gregorová také upozornila na další aspekt spojený s rozvojem umělé inteligence. „EU by se podle mě neměla zabývat tím, zda v AI závodě vyhrává spíš Čína nebo Amerika, ale zaměřit se na to, proč se sama závodu ani neúčastní a jak jsme schopni se alespoň kvalifikovat,“ upozornila.
Evropská unie jako celek svůj vlastní jazykový model nemá. Některé evropské společnosti se ale na trhu pokusily prorazit. Těmi nejznámějšími jsou francouzský model
Mistral nebo třeba německý
Aleph-Alpha. Nejsou ale mezi uživateli tak populární jako jejich američtí konkurenti.
