EU vydala návod na označování AI-gen obsahu. Jak se vás týká?

Evropská komise vydala Code of Practice on Transparency of AI-Generated Content, tedy kodex transparentnosti obsahu generovaného pomocí AI.

Jeho název je sice kostrbatý, smysl je naštěstí jednoduchý: když vytvoříte nebo výrazně upravíte obsah pomocí AI, lidé by měli v určitých případech poznat, že nejde o čistě lidský nebo autentický obsah.

Jde v podstatě o praktický návod EU k tomu, jak označovat obsah vytvořený nebo upravený umělou inteligencí.

Nejde o žádný nový zákon, ale o dobrovolný kodex, který má firmám, vývojářům AI nástrojů a vydavatelům pomoct splnit povinnosti z AI Actu.

Tyto povinnosti začnou platit od 2. srpna 2026.

Neznamená to, že každý text napsaný s pomocí ChatuGPT bude muset mít na konci řádku napsáno: „POZOR, TENTO TEXT TVOŘILA AI“ nebo že pod každý e-mail, kde vám Copilot pomůže sepsat pasivně agresivní odpověď, budete muset přiznat, že ten kousavý bonmot není výsledkem vaší frustrace, ale dílem AI.

Kodex se soustředí hlavně na situace, kde může dojít ke klamání lidí, manipulaci nebo záměně za realitu, tedy na: 

• škodlivé deepfaky;
• AI videa, AI obrázky, AI audio;
• chatboty a některé texty k veřejně důležitým tématům.

Koho se to týká

Označování obsahu se týká dvou hlavních skupin (ve skutečnosti tedy prakticky všech, kteří používají nějaký AI tool):

1. Poskytovatelé AI systémů

To jsou firmy, které AI nástroje vyvíjejí nebo provozují. Typicky poskytovatelé modelů a služeb, které generují texty, obrázky, video, audio nebo jiný obsah.

Ti mají řešit hlavně technickou stránku: aby výstupy AI šly označovat a detekovat, ideálně strojově čitelným způsobem.

Kodex mluví o tom, že označování má být účinné, interoperabilní, robustní a spolehlivé, pokud je to technicky možné.

2. Nasazovatelé / uživatelé AI systémů ve firmách

To jsou firmy, organizace, média, agentury, instituce nebo jednotlivci, kteří AI nástroje používají k tvorbě obsahu.

Sem může spadat i běžná firma, která používá Copilot, ChatGPT, Midjourney, Firefly, Gemini nebo jiné nástroje pro tvorbu textů, obrázků, e-mailů, kampaní, článků, videí nebo prezentací.

Pro firemní praxi je důležitá hlavně druhá skupina. Tedy: pokud firma používá AI k tvorbě obsahu směrem k zákazníkům, veřejnosti, zaměstnancům nebo médiím, měla by začít řešit, kdy a jak má AI použití označovat.

Co bude potřeba označovat 

Není potřeba označovat všechno. Kodex i AI Act míří hlavně na tyto případy:

Deepfaky a realistický syntetický obsah

Tedy AI vytvořený nebo upravený obrázek, video nebo audio, které připomíná skutečné osoby, místa, události, objekty nebo instituce a mohlo by působit jako autentické.

Například falešné video CEO, AI fotka politika, syntetický hlas kolegy nebo realistická „fotka“ události, která se nestala.

AI texty k otázkám veřejného zájmu

To je důležité pro média, veřejné instituce, politickou komunikaci, občanská témata, krizovou komunikaci, zdravotnictví, finance nebo obsah, který může ovlivňovat veřejnou debatu.

AI generovaný nebo upravený text publikovaný za účelem informování veřejnosti o věcech veřejného zájmu má být označen, pokud neprošel lidskou kontrolou a někdo za něj nepřevzal redakční odpovědnost.

Interaktivní AI systémy

Pokud člověk komunikuje s chatbotem nebo podobným AI systémem, má být jasné, že nemluví s člověkem.

Typicky zákaznická podpora, HR chatbot, interní asistent nebo webový konverzační nástroj.

Co naopak nebude drama

Běžné použití AI jako pomocníka při práci nemusí automaticky znamenat povinnost všechno označovat.

Například když si zaměstnanec nechá od Copilotu pomoct se shrnutím schůzky, připraví si pracovní draft e-mailu, upraví stylistiku interního dokumentu nebo si nechá navrhnout osnovu prezentace, nejde samo o sobě o situaci, kde by musel každý výstup nést veřejné označení.

Důležitý rozdíl je mezi tím, zda AI funguje jako interní pracovní pomůcka, nebo zda firma zveřejňuje obsah, který může být vnímán jako autentický, zpravodajský, informační nebo společensky významný.

Prakticky pro firmy

Pro běžnou firmu z toho plyne hlavně potřeba nastavit interní pravidla. Rozhodně není namístě panika a potřeba vydávat 300stránkovou směrnici nebo organizovat půlroční školení.

Důležité je odpovědět si na tyto otázky:

Používáme AI jen jako pomocníka při tvorbě? 👀

• Například pro návrhy textů, korektury, brainstorming, překlady, varianty předmětů e-mailů nebo úpravu prezentací.
• Tady většinou stačí interní pravidla, kontrola člověkem a jasná odpovědnost za výsledek.

Vytváříme AI obsah, který je zaměnitelný se skutečností? 🤔

• Například realistické fotky lidí, produktů, událostí, kanceláří, zákazníků, zaměstnanců nebo vedení firmy.
• Tady už je potřeba být velmi opatrný a u relevantních výstupů obsah označovat.

Publikujeme AI texty o veřejně důležitých tématech? 🧐

• Například články o regulaci, zdravotnictví, bezpečnosti, politice, financích, krizových situacích nebo jiných tématech, která ovlivňují veřejné rozhodování.
• Pokud text vytvořila AI a neprošel lidskou redakční kontrolou, označení bude zásadní.
• Pokud prošel lidskou kontrolou a firma za něj přebírá redakční odpovědnost, je namístě to uvést.

Používáme AI chatbota pro komunikaci s lidmi? 🤖

• Pak by uživatel měl hned vědět, že komunikuje s AI systémem.

Co znamenají ty ikonky?

EU k tomu připravila také sadu ikon, které mohou firmy použít pro označování AI obsahu. Jejich použití je dobrovolné a jsou zcela zdarma.

 Stáhnout si je můžete zde.

Mají pomoci sjednotit způsob, jak lidem říkat, že je konrétné onsaj vytvořený nebo upravený pomocí AI. Samotné použití ikonky ale ještě automaticky neznamená, že je firma právně v pohodě; pořád odpovídá za to, že splní požadavky AI Actu.

Ikony rozlišují například obsah plně vytvořený AI nebo částečně upravený AI.

Doporučení také říká, že označení má být viditelné při prvním kontaktu s obsahem, srozumitelné, přístupné a nemá být schované někde v patičce, kam se dostane jen právník, crawler a zoufalý stážista.

Co byste teď měli udělat?

Nejpraktičtější je připravit si jednoduchou firemní politiku pro AI obsah:

Zmapovat, kde se AI používá

• Marketing, obchod, HR, PR, interní komunikace, zákaznická podpora, školení, grafika, video, sociální sítě.

Rozlišit nízké a vyšší riziko

• Nízké riziko – interní draft, korektura, brainstorming.
• Vyšší riziko – realistický obraz/video/audio, veřejně důležitá témata, chatbot, obsah vydávající se za autentickou realitu.

Nastavit pravidlo lidské kontroly

• U veřejného obsahu by měl být jasný člověk nebo tým, který výstup schválí a převezme za něj odpovědnost.

Připravit jednoduché štítky

• Například „Obrázek byl vytvořen pomocí AI“, „Video obsahuje AI upravené prvky“, „Tento chatbot využívá umělou inteligenci“, „Text vznikl s využitím AI a prošel redakční kontrolou“.

Vyřešit deepfaky a syntetické osoby zvlášť přísně

• Používat AI podobizny reálných lidí, hlas vedení firmy, zaměstnance, zákazníky nebo veřejně známé osoby je nejcitlivější oblast. Tady je namístě situaci nepodceňovat. Výslovný souhlas zpodobněných lidí není jen „nice to have.“

Jednoduché vysvětlení pro firmy

Jde vám z toho hlava kolem? Kodex není povinný, ale vychází z AI Actu, a navíc nejde o žádné náročné záležitosti – navíc je pravděpodobné, že už máte označování obsahu vyřešené.

Jednoduše: Je zapotřebí označovat AI-generated obsah tehdy, když by příjemce (čtenář, divák, posluchač…) mohl rozumně předpokládat, že jde o autentický lidský, reálný nebo redakčně ověřený obsah, přestože to tak není.

Pracujete ve firmě s AI správně?

Zdroj: digital-strategy.ec.europa.eu