Máte AI? A mohli bychom ji vidět?
Od 2. srpna 2026 se začala používat nová pravidla transparentnosti podle čl. 50 evropského AI Actu. Jejich smysl je poměrně jednoduchý: máme mít možnost poznat, že komunikujeme s umělou inteligencí, nebo že obsah, který právě sledujeme, byl vytvořen či upraven pomocí AI.
Neznamená to ale, že odteď musí mít každý obrázek z Midjourney, text z ChatGPT nebo AI upravená fotografie viditelnou nálepku „AI“. AI Act rozlišuje několik různých situací a pro každou stanoví trochu jiná pravidla. Evropská komise je podrobněji vysvětluje v nových Pokynech k transparentnostním povinnostem podle čl. 50.
V červenci 2026 vstoupil v účinnost také Digital Omnibus on AI, který část harmonogramu AI Actu posunul. Transparentnostní povinnosti podle čl. 50 ale tímto způsobem odloženy nebyly.
Kdy je potřeba na použití AI upozornit?
U AI systémů určených k přímé komunikaci s lidmi, například chatbotů, AI agentů nebo avatarů, musí být uživatel informován, že komunikuje s AI, ledaže je to z okolností zjevné.
Podobná informační povinnost platí při používání systémů rozpoznávání emocí nebo biometrické kategorizace, pokud je jejich použití v dané situaci vůbec přípustné.
U generativní AI jsou pak pro firmy nejdůležitější dvě situace: deep fakes a některé AI vytvořené nebo upravené texty zveřejňované za účelem informování veřejnosti o záležitostech veřejného zájmu.
Deep fake není jen falešné video tancujícího politika
AI Act pracuje s podstatně širší definicí: může jít o obrazový, zvukový nebo video obsah vytvořený nebo upravený pomocí AI, který se podobá existující osobě, objektu, místu, subjektu nebo události a mohl by se nepravdivě jevit jako autentický nebo pravdivý.
Zjednodušeně řečeno se zkoumá, zda může AI výstup u svého publika vyvolat mylný dojem, že jde o autentický nebo pravdivý záznam. Komise přitom zdůrazňuje, že je potřeba zohlednit konkrétní kontext, předpokládané publikum a jeho očekávání. Pokud publikum v daném kontextu vůbec neočekává autentický záznam reality, nemusí být tento znak deep fake splněn. Kde přesně hranice leží, se bude ještě vyjasňovat v praxi. Pokyny Komise jsou důležitým vodítkem, nejsou však právně závazné; autoritativní výklad AI Actu může podat až Soudní dvůr EU.
Praktické příklady Komise jsou poměrně názorné. Jako deep fake uvádějí například realistické AI video celebrity. Naopak video myší, které se v reklamě na sýr hádají lidskou řečí o nejlepší druh sýra, by podle Pokynů Komise deep fake typicky nepředstavovalo.
A co reklama?
Samotná skutečnost, že je obsah reklamní, ještě neznamená, že z definice deep fake automaticky vypadává. Reklamní kontext a očekávání publika jsou ale při posouzení relevantní. Pokyny například rozlišují mezi AI vizuálem, který může klamat o skutečné podobě či vlastnostech produktu, a skutečným produktem (například automobilem) pouze zasazeným do AI vytvořeného pozadí. Konkrétní kampaň proto bude potřeba posoudit podle jejího obsahu a kontextu.
Kdo za označení odpovídá?
U deep fakes a dalšího obsahu podle čl. 50 dopadá povinnost informovat publikum zpravidla na toho, kdo AI systém v rámci své činnosti používá a rozhoduje o způsobu využití jeho výstupu. AI Act pro něj používá pojem zavádějící subjekt (deployer).
Podle okolností jím může být například i reklamní agentura připravující kampaň pomocí generativní AI. Kdo přesně je deployerem například v řetězci agentura–klient–externista, ale bude záviset na skutečném rozdělení rolí a kontroly nad použitím AI.
Jak má označení vypadat?
Pokud už povinnost označení vznikne, informace musí být podle čl. 50 odst. 5 AI Actu poskytnuta jasně a rozlišitelně, nejpozději při první expozici člověka danému obsahu, a musí respektovat požadavky na přístupnost. Nestačí proto spoléhat pouze na neviditelná metadata. Informace musí být vnímatelná i pro člověka, kterému je obsah určen. Vedle toho mají poskytovatelé (providers) generativních AI systémů samostatnou povinnost technicky označovat syntetické výstupy ve strojově čitelném formátu. Jde o jinou vrstvu transparentnosti než o informaci poskytovanou přímo publiku.
Evropská komise pro tyto účely připravila také vlastní ikonky AI GENERATED a AI MODIFIED. Jejich používání není povinné, lze zvolit i jiné stejně srozumitelné označení. Bezplatné ikony i základní návod k jejich používání jsou dostupné na stránkách Evropské komise.
Je-li deep fake součástí zjevně uměleckého, kreativního, satirického nebo fiktivního díla, povinnost informovat publikum nezaniká. AI Act ale připouští mírnější režim. Lze použít méně rušivý způsob označení, který nebude bránit zobrazení nebo užívání samotného díla.
A co když obsah neoznačíme správně?
Pokud povinné označení chybí nebo nesplňuje požadavky AI Actu, může se věcí zabývat příslušný orgán dozoru. Podle čl. 85 AI Actu může navíc stížnost podat i fyzická nebo právnická osoba, která má důvod se domnívat, že došlo k porušení nařízení.
V Česku má být podle dosavadního návrhu adaptačního zákona obecným orgánem dozoru Český telekomunikační úřad (ČTÚ). Návrh zákona se ale stále projednává, takže konečné rozdělení pravomocí zatím není definitivní.
Za porušení povinností podle AI Actu může být v krajních případech uložena pokuta až do výše 15 milionů EUR nebo 3 % celkového celosvětového ročního obratu podniku za předchozí finanční rok.
Co si z toho odnést?
Používáte-li při tvorbě obsahu AI, je dobré si před jeho zveřejněním ověřit především dvě věci: zda výsledný obsah podléhá některé z transparentnostních povinností podle AI Actu, a pokud ano, jak má být v konkrétním případě označen.
U hranice mezi jednoduchou AI úpravou a deep fake přitom nemusí vždy existovat jednoznačná odpověď. Rozhodovat bude konkrétní výstup a kontext jeho použití; zejména u reklamy, audiovize nebo práce s podobou skutečných osob a produktů.
Pro praktickou orientaci vydala Pokyny k čl. 50 a dobrovolný Kodex zásad transparentnosti obsahu vytvořeného umělou inteligencí. U konkrétních složitějších případů je ale namístě posoudit výstup individuálně.
Takže, používáte AI? V některých případech to od srpna budete muset skutečně ukázat.