Začala platit evropská regulace umělé inteligence. AI obsah musí být označený, jinak hrozí astronomické pokuty

Označování obsahu vytvořeného umělou inteligencí přestává být dobrovolným gestem a stává se tvrdou evropskou realitou. Změna se přitom vyhnula stolu mnoha šéfů jen zdánlivě. 

Nebavíme se totiž výhradně o vygenerovaných fotkách nebo montážích videoklipů. Nová legislativa dopadá i na běžnou zákaznickou péči – od e-shopových poradců přes bankovní chatboty až po hlasové asistenty mobilních operátorů. 

Kdo dosud nechával klienty tápat, s kým si vlastně píší, riskuje obří finanční postihy.

Ikony i vodoznaky: Jak poznáme AI na první pohled?

Smysl nových směrnic je přímočarý: člověk musí rychlým pohledem poznat, zda konzumuje realitu, nebo výsledek algoritmu. Evropská komise sice vydala sadu doporučených ikon, nepředepsala však žádný univerzální grafický vzor. 

Firmy tak mají volnější ruku a mohou využít viditelné textové popisy, digitální vodoznaky či grafické symboly. Klíčové je to zejména u politických témat a předvolebních debat, kde nepotvrzený AI obsah představuje bezprostřední hrozbu pro veřejný prostor.

Průhlednost nově prostupuje všemi kanály, kde se zákazník potkává s firemní automatizací. Uživatel musí dostat jasnou informaci ještě předtím, než odešle první dotaz. 

U pokročilých AI agentů, kteří sami provádějí rezervace, posílají e-maily nebo uzavírají smlouvy, navíc přibývá povinnost transparentně hlásit, jakou entitu či firmu přesně zastupují. Jakákoliv nejasnost se okamžitě počítá jako porušení předpisů.

Produktovky i virtuální modelky

Pozor si musejí dát i marketingové týmy. Za potenciálně klamavý deepfake se podle aktuálního výkladu považují i zdánlivě nevinné reklamní bannery a produktové snímky vygenerované AI modely, pokud zkreslují reálný vzhled zboží. 

Podobný metr platí na rozmáhající se virtuální influencery. Jakmile digitální model nebo modelka prezentují fyzický produkt bez výslovného upozornění, že jde o render, naráží nákupní kampaň na mantinely zákona.

Úřady nehodlají nad prohřešky přivírat oči a kontrolní mechanismy startují naplno. Pravomoc udílet sankce mají jak české národní orgány, tak samotná Evropská komise. Za ignorování transparentnosti hrozí pokuty šplhající až k 15 milionům eur (v přepočtu zhruba 360 milionů korun), případně do výše tří procent z celosvětového ročního obratu. 

Vedle drtivého finančního dopadu to však ohrožuje reputaci firem. Neoznačená AI dnes v očích zákazníků působí jako vědomá lež.

Čas na úpravu systémů se rychle krátí

Ačkoliv mají provozovatelé na implementaci technických změn tříměsíční přechodné období, okamžitá reakce je nutností. Nová legislativa totiž nedopadá jen na vývojáře obřích jazykových modelů typu Anthropic, OpenAI či Google, ale na každého podnikatele, který využívá jednoduchého bota na webu pro usnadnění prodeje. 

Kdo odloží úpravu uživatelského rozhraní na poslední chvíli, vystavuje se zbytečnému riziku.

Jak AI Omnibus zamíchal kartami

Celý legislativní balík spojený s umělou inteligencí doplňuje novější úprava AI Omnibus, která mírně pozměnila časový harmonogram pro nejsložitější případy. 

U takzvaných vysoce rizikových systémů AI (sem patří systémy pro biometrickou identifikaci či kategorizaci osob, zajišťující bezpečnost kritické infrastruktury, nábor zaměstnanců, vyhodnocování úvěrového skóre nebo nástroje bezpečnostních složek) dochází k posunu účinnosti některých specifických povinností. 

Pro tyto pokročilé technologie se klíčovým datem stává až 2. prosinec 2027, což vývojářům poskytuje potřebný prostor na dodatečné bezpečnostní audity.

Zdroj: Česká Televize, ČT24, Evropská komise