Šíří se po internetu váš nahý deepfake? Zákony jsou na to krátké

Váš nahý deepfake? Legislativa nemůže pomoct

Nástroje umělé inteligence dokážou být skvělým pomocníkem v práci nebo každodenním životě, ale stále častěji jsou zneužívány na tvorbu závadného obsahu. Velkým problémem je takzvané generování deepfake fotografií nebo videí, což začíná být stále častější i mezi dospívajícími teenagery, kteří s pomocí AI generují falešné nahé fotky.

Přesně to se stalo v polské škole nedaleko Varšavy, kde studenti pomocí nástrojů vytvořili nahé fotografie spolužačky a ty následně šířili mezi vrstevníky a povzbuzovali je, aby fotografii dál šířili na Instagramu. Této situace si během pár dnů všiml místní Úřad pro ochranu osobních údajů a začal ji prošetřovat jako porušení zákona o ochraně osobních údajů, jenže mezi institucemi panovala neshoda.

Policie ani státní zástupci neshledali tento případ jako trestný čin, takže se jím odmítli nadále zabývat a vyšetřit ho. Následovala odvolání prezidenta Úřadu pro ochranu osobních údajů, školy, rodičů i samotné oběti, a ani to nepomohlo a případ skončil ve slepé uličce. Celou situací se zabýval i polský ministr spravedlnosti, ale ani to nepřineslo řešení. V současnosti totiž neexistuje pružná legislativa, která by deepfaky dokázala řešit.

Noční můra z hlediska zákona

Tato a podobné situace se nedějí jen v Polsku, ale po celém světě, a problém je všude stejný, neboť neexistuje zákonný rámec, který řeší tvorbu závadného obsahu pomocí umělé inteligence. Kvůli tomu úřady nevědí, jestli stíhat člověka, který obsah vytvořil, ty kteří ho šíří, nebo samotné tvůrce platformy, kde závadný obsah vznikl.

V Česku se ale blýská na lepší časy. Už od 1. ledna 2026 začne platit novelizovaný trestní zákoník, který zavádí nový trestný čin „zneužití identity k výrobě pornografie a její šíření“. Ten poprvé výslovně postihuje závadný deepfake obsah, jenž se tak stane od ledna trestný.

V ostatních státech Evropské unie je situace jiná a zatím neexistuje plošná evropská legislativa, která by tento problém dokázala vyřešit. Každý stát si tedy musí vytvořit legislativu vlastní, která vymezí zákonný rámec v oblasti tvorby závadného obsahu s pomocí umělé inteligence. Celoevropského řešení se nejspíše dočkáme až za několik let.

Zdroj: UNESCO, Zákon č. 270/2025 Sb.