Pozná AI dílo jiné AI? Google Gemini nově dokáže odhalovat obrázky vytvořené umělou inteligencí

Jak funguje digitální vodoznak SynthID

Základem nové funkce pro rozpoznávání díla vytvořeného umělou inteligencí je technologie SynthID, kterou Google vyvíjí od roku 2023. Jde o digitální vodoznak, který se při vytváření obrázku automaticky vloží do jeho struktury. Není viditelný pouhým okem, ale Gemini ho dokáže spolehlivě rozpoznat. Od svého spuštění označila technologia SynthID už přes 20 miliard děl vytvořených umělou inteligencí. Gemini tedy má k dispozici obrovskou databázi, se kterou může porovnávat nahrané snímky.

Pokud chcete ověřit nějaký obrázek, není to vůbec složité. Stačí ho nahrát do aplikace Google Gemini a zeptat se například: "Byl tento obrázek vytvořen pomocí umělé inteligence?" Systém vodoznak vyhledá a sdělí vám výsledek.

Gemini odhalí i další AI generátory

Gemini ale nespoléhá jen na vlastní vodoznaky. Dokáže analyzovat samotný obsah obrázku a hledat typické znaky pro obrázky vytvořené pomocí umělé inteligence. I když obrázek pochází z jiného nástroje než od Googlu, Gemini často pozná, že jde o AI tvorbu. Nejde už přitom o dříve typické deformace rukou (více prstů) apod. Co všechno Google na obrázcích zkoumá? 

• Deformace v detailech - klasickým problémem AI generátorů jsou ruce s podivným počtem prstů nebo zuby, které vypadají nepřirozeně. Podobné chyby se objevují i u šperků, brýlí nebo jiných drobných předmětů. Gemini si těchto anomálií všímá a použije je jako vodítko.
• Světlo a textura - AI občas na vygenerovaném obrázku špatně zvládne rozložit světla a stíny. Světlo může dopadat z několika směrů najednou, nebo naopak chybí stíny tam, kde by měly být. I textura materiálů může působit uměle - dřevo, kámen nebo látky vypadají příliš dokonale nebo naopak nejasně.
• Nesmyslný text - když AI generuje obrázek s textem - třeba ceduli, nápis na obalu nebo plakát - často vznikne nečitelná směs písmen. Gemini si všímá, když text na obrázku nedává smysl nebo připomíná náhodné znaky.
• Celková atmosféra - některé AI obrázky prostě působí "divně". Může jít o příliš hladkou kůži bez pórů, nepřirozeně dokonalou kompozici nebo naopak chaotické uspořádání prvků, které spolu nesouvisí. Gemini tyto jemné znaky dokáže vyhodnotit.
• Přirozené nedokonalosti – AI sleduje, zda jsou na obrázku znázorněny přirozené detaily, jako jsou skvrny na betonu, nerovnosti na chodníku nebo specifické odlesky na zaparkovaných autech, které působí realisticky.
• Geografické a architektonické nesmysly - umělá inteligence občas vytvoří budovy nebo scenérie, které z hlediska architektury nedávají smysl. Okna mohou být v divných pozicích, dveře vedou nikam nebo perspektiva stavby jednoduše nesedí. Gemini tyto nesrovnalosti dokáže zachytit.

Pro hrubé otestování jsme AI Gemini předložili několik obrázků – běžných fotografií Prahy. Několik bylo „reálných“ z mobilu, několik vygenerovala AI Gemini, další ChatGPT a Midjourney. V aplikaci Gemini stačilo napsat například „Byl tenhle obrázek vygenerován umělou inteligencí?“ - ale pozor, přepněte z režimu „Fast“ na „Myšlení s modelem 3 Pro“, jinak Gemini snímky řádně neprozkoumá. 

Umělá inteligence správně v našem případě správně rozpoznala, které snímky byly vygenerované a uvedla pro to také důvody. A to i u snímků z konkurenčních generátorů. Je samozřejmě otázka, zda chyby odhalí vždy, ale pro otestování v případě, kdy si nejste původem fotografie jisti, Gemini použít určitě můžete. Už vás třeba sama nasměruje na to, na co se na snímku zaměřit pro posouzení reálnosti snímku.

Podpora průmyslových standardů

Google nejen vyvíjí vlastní nástroje, ale zapojuje se i do širší snahy o transparentnost obsahu. Od tohoto týdne začnou obrázky vytvořené pomocí Nano Banana Pro (Gemini 3 Pro Image) obsahovat také tzv. C2PA metadata - průmyslový standard, který zaznamenává informace o původu obsahu.

Společnost je součástí řídícího výboru Coalition for Content Provenance and Authenticity (C2PA), organizace, která spojuje technologické firmy v úsilí o větší transparentnost digitálního obsahu.

Co přinese budoucnost

Google slibuje, že ověřování SynthID brzy rozšíří i na videa a zvukové nahrávky. Funkce by se měla postupně objevit i v dalších produktech jako Google Search.

Postupem času plánuje Google rozšířit podporu detekce i na obrázky vytvořené nástroji jiných společností, pokud budou používat C2PA standard. Uživatelé tak budou moci ověřovat původ obsahu bez ohledu na to, jaký nástroj byl použit.

V testech, které Google provedl, dokázala prý AI Gemini správně identifikovat AI obrázky i skutečné fotografie. U snímků, které nebyly vytvořeny pomocí Google nástrojů, dokázal systém odhadnout, že pravděpodobně pochází z jiného AI generátoru. 

Zdroj: Google blog, Google, Cyber news