Vytvořila obrázek umělá inteligence? Google zpřístupnil bezplatný nástroj, který vám to pomůže zjistit

Google vychází vstříc uživatelům, kteří nahlížejí na současný internetový obsah kriticky a ověřují si, zda mají před sebou obsah vytvořený AI, či nikoliv. Společnost z amerického Mountain View veřejně zpřístupnila svůj AI detektor SynthID všem uživatelům po celém světě. Nástroj, který byl doposud určen především profesionálům z oblasti médií, můžeme nově používat všichni a zdarma. Má ale jedno důležité omezení: Zatím je dostupný pouze v angličtině.

SynthID dokáže v obrázcích, videích a zvukových nahrávkách vyhledávat neviditelné digitální vodoznaky, které mohou prozradit původ. Neznamená to však, že spolehlivě odhalí veškerý obsah vytvořený umělou inteligencí.

Umělá inteligence zanechává neviditelnou stopu. SynthID ji dokáže najít

Google využívá technologii SynthID k označování obsahu generovaného některými systémy umělé inteligence. Princip je poměrně jednoduchý. Do vytvořeného obrázku, videa nebo zvukové nahrávky se vloží speciální digitální vodoznak, který běžným způsobem nevidíme ani neslyšíme. Příslušný detektor jej ale dokáže rozpoznat. Můžeme si jej představit jako nenápadnou digitální stopu, která pomáhá určit původ souboru.

Detektor je určen mimo jiné pro obsah vytvořený nástroji Google Gemini, Imagen, Lyria a Veo. Podle Googlu má rozpoznávat také podporované soubory od partnerů, mezi které patří OpenAI, Nvidia a Kakao. Do budoucna se počítá rovněž s Applem.

Pro nás je podstatné, že tato technologie může pomoci při ověřování podezřelých fotografií, videí nebo zvukových nahrávek, u kterých si nejsme jisti jejich původem.

Detektor nic nenašel? To ještě neznamená, že je fotografie skutečná

SynthID ale není univerzální detektor umělé inteligence. Nezkoumá totiž obecně, zda obrázek nebo video vypadá jako výtvor AI. Hledá konkrétní podporovaný digitální vodoznak. Pokud jej objeví, získáme důležitou informaci o původu souboru.

Jestliže ale detektor žádný vodoznak nenajde, vůbec to nemusí znamenat, že obsah vytvořil člověk nebo že zachycuje skutečnou událost. Soubor mohl vzniknout pomocí jiného generátoru, a to už SynthID nerozpozná. V takovém případě nástroj nemá odpovídající stopu, podle které by mohl původ souboru jednoznačně určit.

A právě to je pro naše rozhodování o autenticitě materiálu zásadní: Nepřítomnost vodoznaku není důkazem pravosti fotografie, videa ani zvukové nahrávky.

Vlastní bezplatný detektor nabízí také OpenAI

Google přitom není jedinou společností, která se snaží uživatelům usnadnit rozpoznávání obsahu vytvořeného umělou inteligencí.

Podobný nástroj nabízí také OpenAI. Najdeme jej na adrese openai.com/verify. Umožňuje bezplatně kontrolovat obrázky a zvukové soubory. Vedle vodoznaků SynthID pracuje také s metadaty C2PA. Jde o informace, které mohou být připojené k digitálnímu souboru a pomáhají doložit jeho původ nebo historii úprav. Zjednodušeně řečeno jde o jakýsi digitální záznam o tom, odkud obsah pochází.

Pomocí nástroje tak můžeme zjišťovat, zda podporovaný obrázek nebo zvuková nahrávka vznikly prostřednictvím ChatGPT, Codexu nebo rozhraní OpenAI API. Ani toto řešení ale není neomylné.

Digitální vodoznak není zárukou. Úpravy souboru mohou jeho odhalení zkomplikovat

Oba nástroje mají společnou jednu důležitou vlastnost: Jejich výsledky musíme správně interpretovat. Metadata připojená k souboru lze odstranit. Také digitální vodoznaky mohou být některými úpravami obsahu narušeny natolik, že je detektor nedokáže rozpoznat. Pokud tedy kontrola žádnou stopu nenajde, neměli bychom z toho automaticky vyvozovat, že jde o autentický záznam.

To je důležité zejména u obsahu, který se rychle šíří prostřednictvím sociálních sítí. Fotografie zachycující údajnou mimořádnou událost nebo zvuková nahrávka známé osobnosti mohou působit velmi přesvědčivě. Samotný negativní výsledek kontroly vodoznaku ale jejich pravost nepotvrzuje. Nové detektory nám tak mohou nabídnout další vodítko, nikoliv definitivní odpověď.

Až tedy příště narazíte na podezřele dokonalou fotografii nebo video, u kterého budete pochybovat o jeho původu, můžete některý z dostupných nástrojů vyzkoušet.

Pokud digitální stopu umělé inteligence objeví, může vám to pomoci obsah správně vyhodnotit. Jestliže ale nic nenajde, zůstaňte obezřetní a původ souboru si případně ověřte také jiným způsobem – třeba vyhledáváním na internetu. Umělá inteligence totiž nemusí zanechat stopu, kterou tyto detektory dokážou přečíst.

Zdroj: TechCrunch, SEJ