Fotka, která rozvířila internet
Obrázek se objevil na sociálních sítích Reddit a X a rychle se šířil dál. Ukazoval senátora McConnella připojeného na přístroje, v póze naznačující vážný zdravotní stav. Načasování nebylo náhodné. McConnell byl hospitalizován 14. června po tísňovém volání a od té doby se téměř neobjevoval na veřejnosti, což živilo spekulace o jeho zdraví. Falešná fotografie tak padla na úrodnou půdu a mnozí ji brali jako potvrzení nejhorších obav.
Server Snopes, který se dlouhodobě věnuje ověřování pravdivosti informací, obrázek ve středu označil za padělek. Klíčovým důkazem byl právě neviditelný vodoznak, který v sobě obrázek nesl.
FROM THE MOMENT I UNDERSTOOD THE WEAKNESS OF MY FLESH IT DISGUSTED ME
by u/Shooter_Mcgavin9696 in TrueAnon
Jak systém SynthID funguje
SynthID představil Google už v srpnu roku 2023. Jde o systém, který do obrázků generovaných umělou inteligencí vkládá neviditelnou digitální stopu. Tu běžný pozorovatel okem nerozezná, ale dokážou ji přečíst algoritmy Googlu.
Podstatná výhoda SynthID spočívá v tom, že vodoznak je zakódovaný přímo do obrazových dat, a ne do metadat souboru. To znamená, že přežije i situace, kdy se doprovodné informace ke snímku ztratí nebo je někdo smaže.
Přesně to se stalo i v případě fotografie McConnella, která kolovala přes Reddit i X, a vodoznak přesto zůstal čitelný. Ověřit obrázek může dnes v podstatě kdokoliv. Stačí se zeptat modelu Gemini nebo snímek nahrát do veřejného nástroje pro ověřování obrázků, který nabízí OpenAI.
Zdroj: screenshot webu, redakce
Kdo se do systému zapojil
Vodoznak funguje jen tam, kde ho generátor obrázků aktivně vkládá. Modely Gemini ho používají od samého začátku, od roku 2023. OpenAI se k systému připojila v květnu 2026 jako součást širšího úsilí bojovat proti zneužívání generovaných obrázků. Anthropic se do programu prozatím nezapojil.
Právě chybějící účast některých firem je hlavní slabinou celého systému. Pokud obrázek vznikne v nástroji, který se do programu nezapojil, tedy třeba v otevřeném modelu spuštěném lokálně nebo v generátoru mimo tuto koalici, vodoznak v něm prostě nebude.
To ale neznamená, že je snímek automaticky pravý. Nepřítomnost vodoznaku nic nedokazuje. SynthID umí obrázek jen pozitivně označit jako vygenerovaný umělou inteligencí, nikoliv potvrdit jeho pravost.
Mohlo by vás zajímat
Pozná AI dílo jiné AI? Google Gemini nově dokáže odhalovat obrázky vytvořené umělou inteligencí
Novinky
Vzácné, ale reálné vítězství
Detekční nástroje typu SynthID čelí dlouhodobě kritice, že jde spíše o gesto než o účinnou obranu. Výzkumníci opakovaně ukázali, že vodoznak lze cíleně odstranit nebo obejít, pokud útočník ví, s jakým systémem má co do činění. Tato kritika zůstává platná i nadále.
Případ McConnella ale ukázal něco jiného. Ten, kdo padělek vytvořil, použil běžně dostupný nástroj zapojený do systému SynthID a nijak se nesnažil vodoznak odstranit. Ukazuje se tak, že běžný tvůrce dezinformací zatím nemá dost technických znalostí ani motivaci, aby podobné ochrany obcházel, přestože to teoreticky možné je.
Absence společnosti Anthropic v programu je v odborné komunitě vnímána jako otevřená otázka. Její model Claude dosud negeneruje obrázky ve velkém měřítku, takže riziko zneužití je prozatím menší. S tím, jak ale firmy rozšiřují své modely o multimodální výstupy, bude rozhodnutí nepřipojit se k žádnému podobnému systému čím dál těžší obhájit.
Každý velký hráč na poli umělé inteligence, který nabízí generování obrázků bez jakéhokoliv vodoznaku, totiž vytváří díru ve společné síti detekce, kterou dříve nebo později někdo najde a využije.
Zdroj: Leadstories, AI chat daily, OpenAI nástroj, Reddit
