Evropská komise zařadila ChatGPT mezi takzvané velmi velké online vyhledávače. Společnost OpenAI, která nástroj poskytuje, tak čekají přísnější povinnosti. Odborníci ale upozorňují na paradox. Pravidla se vztahují na vyhledávací funkci ChatGPT, zatímco samotná konverzační část služby nemusí být pod stejně přísným dohledem.
ChatGPT se v Evropské unii nově dostává do stejné regulační kategorie jako Google a Bing. Evropská komise jej na konci srpna označila za takzvaný velmi velký online vyhledávač (VLOSE). Pro OpenAI to znamená další vrstvu povinností podle aktu o digitálních službách (DSA).
Důvodem je především vyhledávání na webu. Komise ChatGPT označuje za „hybridní“ službu, chatbot totiž odpovídá na dotazy a může u toho vyhledávat informace na internetu. Podle DSA tak jeho vyhledávací funkce spadá do definice online vyhledávače. Společnost OpenAI přitom za posledních šest měsíců do března 2026 uváděla v EU v průměru 159,1 milionu aktivních uživatelů měsíčně. Jde o více než trojnásobek hranice 45 milionů, od níž může Komise službu do kategorie VLOSE zařadit.
Nezávislý audit, archiv reklam a data pro vědu
Po oznámení zařazení má OpenAI čtyři měsíce na to, aby se novým pravidlům přizpůsobila. Dodatečné povinnosti pro VLOSE se tak mají na ChatGPT vztahovat nejpozději od ledna 2027.
Kromě jiného jde například o hlídání algoritmu, aby lépe dokumentoval a zohledňoval výběr zdrojů.
„Tento pohled bude klíčový zejména u rizik, jako jsou negativní dopady na demokratické procesy, občanskou diskusi a volební procesy, a rovněž na veřejnou bezpečnost, veřejné zdraví, nezletilé a duševní pohodu,“ píše nezisková organizace Tech Policy Press. Ta se zaměřuje na dohled nad technologiemi.
Další detaily vysvětlilo redakci Zastoupení Evropské komise v Česku. „Akt vyžaduje, aby určené velmi velké online platformy a vyhledávače posuzovaly systémová rizika a v případě potřeby přijímaly opatření k jejich zmírnění, například úpravou designu, funkcí a fungování svých služeb, včetně online rozhraní, a úpravou svých algoritmických systémů,“ popsal mluvčí zastoupení Václav Lebeda.
ChatGPT také bude muset podávat zprávy o účinnosti těchto opatření, včetně výroční zprávy o posouzení rizik a zprávy o transparentnosti.
„Kromě jiných povinností musí rovněž provést nezávislý audit, zveřejnit archiv reklam (pro propagovaný obsah) a umožnit přístup k údajům výzkumným pracovníkům, včetně prověřených výzkumných pracovníků,“ dodal Lebeda.
Právě přístup k datům pro vědecké účely bude důležitou součástí nových pravidel.
„Prověření výzkumníci mohou požádat o data pro výzkum, který přispívá k odhalování a pochopení systémových rizik k posuzování přiměřenosti opatření společnosti OpenAI ke zmírnění rizik. (Jiné) ustanovení (regulace DSA, pozn. red.) jde ještě dále a přiznává i neprověřeným výzkumníkům – včetně těch působících v neziskových organizacích – právo na přístup k veškerým údajům, které jsou veřejně dostupné v rozhraní služby ChatGPT,“ popisuje web Tech Policy Press.
Na chatbot ale DSA dosáhnout nemusí
Zařazení ChatGPT mezi vyhledávací služby jako Google přitom budí rozpaky mezi politiky i odborníky. Jak upozornil portál Politico, na konverzační část platformy, kterou lidé často využívají místo klasického vyhledávání, se nejpřísnější pravidla nemusejí vztahovat.
„ChatGPT je mnohem víc než jen vyhledávač a se samotným chatbotem jsou spojena i rizika, která nespadají pod nejpřísnější povinnosti (dané regulace),“ cituje Politico dánskou europoslankyni ze socialistické frakce Christel Schaldemose. Ta se podílela na přípravě regulace DSA.
Zařazení ChatGPT mezi VLOSE sleduje i byznys. „Z našeho pohledu však v tuto chvíli neočekáváme, že by tento vývoj měl sám o sobě znamenat zásadní změnu v možnostech využívání AI v EU. Konkrétní dopady a případné změny bude možné lépe vyhodnotit až podle toho, jak budou nová pravidla aplikována v praxi,“ řekl redakci Update EU Dominik Joza, manažer pro digitální ekonomiku a technologie Svazu průmyslu a dopravy.
Změnu nicméně pozitivně vnímají zástupci evropské neziskové organizace AI Forensics. Ti v příspěvku na sociální síti upozornili, že zařazení ChatGPT mezi VLOSE následovalo po první žádosti Evropského úřadu pro umělou inteligenci.
Úřad vznikl díky evropskému aktu o umělé inteligenci (AI Act) a jeho zaměření je právě dohled nad dodržováním regulace. Žádost, kterou zaslal provozovatelům modelů umělé inteligence, se týkala pravomoci úřadu získávat technické detaily a specifikace modelů, které fungují na území Unie.
„(Je to) první formální žádost o informace předním laboratořím zabývajícím se umělou inteligencí, včetně OpenAI, Anthropic a Google, týkající se bezpečnosti modelů, nezávislých externích hodnocení a monitorování po uvedení na trh,“ popisují odborníci.
„Oba kroky (zařazení pod VLOSE i začátek fungování AI úřadu, pozn. red.) představují významný pokrok směrem k takové odpovědnosti za chatboty s umělou inteligencí, jakou jsme prosazovali v naší prosincové zprávě ‚Governing AI Search‘,“ dodávají.
Upozorňují však také na možný regulační rozpor, zejména z pohledu toho, která regulace bude kontrolovat jakou fázi vývoje a provozu umělé inteligence.
AI Act už ChatGPT reguluje
Služby a produkty umělé inteligence jsou v Evropské unii regulovány již zmíněným AI Actem. Ten vstoupil v platnost v srpnu 2024 a některá jeho pravidla se postupně začala uplatňovat.
Tento akt mimo jiné zakazuje konkrétní praktiky využívání umělé inteligence. Patří mezi ně například některé formy sociálního skórování nebo využívání systémů pro rozpoznávání emocí na pracovištích a ve školách.
„Na vysoce rizikové systémy AI se vztahují přísné povinnosti ještě před jejich uvedením na trh, například zavedení vhodných opatření lidského dohledu a odpovídajících systémů pro posuzování a zmírňování rizik. Podle aktu o umělé inteligenci mají poskytovatelé modelů AI pro obecné účely zvláštní povinnosti, například v oblasti transparentnosti, řízení rizik a sdílení informací,“ popisuje Lebeda z Evropské komise.
I tato regulace přinesla letos novinku. Od 2. srpna 2026 začal Evropský úřad pro umělou inteligenci společně s vnitrostátními orgány prosazovat pravidla AI Actu.
„Ke stejnému datu se začala uplatňovat nová pravidla transparentnosti, která vyžadují, aby některé systémy AI informovaly uživatele o tom, že komunikují s AI a že obsah byl vytvořen nebo upraven pomocí AI,“ říká Lebeda.
To se týká i chatbotů a jejich výstupů. „Deepfakes (obrázky, videa nebo zvuk, které byly upraveny nebo vytvořeny pomocí AI) budou muset být označeny. Obsah vytvořený nebo upravený AI bude také muset nést strojově čitelné značky, aby jej bylo možné snáze odhalit,“ dodává mluvčí.
Tento obsah byl publikován v rámci projektu Eastern Flank EU Reporting (EFER), na kterém spolupracují redakce Delfi (Litva), Delfi (Lotyšsko), Espress (Rumunsko), EUBrief (Slovensko), Faktabaari (Finsko), Focus Europe Poland (Polsko), Napunk (Slovensko), Pro News Bulgaria (Bulharsko) a Update EU (Česko). Projektový obsah naleznete také na webu EastFlank.eu. Více informací najdete zde.
