Šéf Instagramu Mosseri varuje: co vidíte online, nemusí být skutečné. Jaké nabízí řešení?

Sociální sítě zaplavené umělou inteligencí

Podle Mosseriho už nemůžeme automaticky věřit tomu, co vidíme. Fotografie a videa nemusí zobrazovat skutečné události. Ředitel Instagramu varuje, že si na tuto změnu budeme zvykat roky. Musíme přejít od důvěry k ověřování jako základu vizuální kultury. Namísto toho, abychom považovali vše za pravdivé, budeme muset začít se skepticismem a zjišťovat, kdo obsah sdílí a proč.

Čísla mluví jasně. Podle nedávných studií už tvoří AI obsah významnou část toho, co vidíme na internetu. Na Instagramu je podle odhadů až 71 procent obrázků vytvořených umělou inteligencí. Na Facebooku dosáhl podíl AI textů v listopadu 2024 více než 41 procent. LinkedIn má dokonce 54 procent dlouhých příspěvků vytvořených strojově.

YouTube čelí ještě větší vlně. Nejnovější výzkumy ukazují, že přes 20 procent videí doporučených novým uživatelům je nekvalitní obsah generovaný umělou inteligencí. Z patnácti tisíc nejpopulárnějších kanálů jich 278 obsahuje pouze AI obsah. Tyto kanály nasbíraly přes 63 miliard zhlédnutí a mají dohromady 221 milionů odběratelů.

Miliony z AI

Když výzkumníci vytvořili nový účet na YouTube a sledovali prvních 500 videí v sekci Shorts, zjistili alarmující údaje. Celých 104 videí bylo vytvořeno umělou inteligencí, což představuje 21 procent obsahu. Dalších 33 procent tvořily takzvané brainrot videa – málo hodnotný obsah navržený pouze za účelem získání shlédnutí.

Nejúspěšnější AI kanály vydělávají závratné sumy. Indický kanál Bandar Apna Dost zaznamenal přes 2 miliardy zhlédnutí a ročně vydělá odhadem 100 milionů korun. Celkově generují kanály s výhradně AI obsahem na YouTube přibližně 2,8 miliardy korun ročně. Filipínský student informatiky v srpnu 2024 přiznal, že za jediný měsíc vytvářením AI animací s kočičkami vydělal 220 tisíc korun. Americký kanál inspirovaný Dragon Ball Z má téměř šest milionů odběratelů.

Přesun důvěry od institucí k tvůrcům se otáčí

Mosseri popisuje paradoxní situaci. Internet umožnil přesun moci od institucí k jednotlivcům. Lidé ztratili důvěru v tradiční média a začali sledovat jednotlivé tvůrce, jejichž obsahu věřili. Právě autenticita a osobní hlas tvořily základ úspěchu.

Teď ale umělá inteligence tyto hodnoty zpochybňuje. Všechno, co dělalo tvůrce důležitými – schopnost být skutečný, navázat spojení, mít hlas, který se nedal napodobit – je najednou dostupné komukoli se správnými nástroji. Otázka už není, jestli umíte něco vytvořit, ale jestli dokážete vytvořit něco, co umí vytvořit pouze člověk.

Podle Mosseriho lidé přestali sdílet osobní momenty na veřejných feedech už před několika lety. Místo toho používají soukromé chaty. Feed plný pečlivě upravených fotografií, vyhlazené pleti a krásných krajinek je mrtvý. Mladá generace pod 25 let už sociální sítě vnímá úplně jinak.

Řešení: označování pravého obsahu místo falešného

Mosseri navrhuje radikální změnu přístupu. Platformy jako Instagram budou zpočátku úspěšné v identifikaci AI obsahu, ale postupem času, jak se umělá inteligence zlepšuje, bude stále těžší ji odhalit. Proto se roste přesvědčení, že praktičtější bude označovat pravý obsah, než ten falešný.

Klíčem by mohlo být kryptografické podepisování obrázků přímo ve fotoaparátech při pořízení snímku. To by vytvořilo řetězec důvěry od momentu zachycení až po zveřejnění. Výrobci fotoaparátů by mohli do svých zařízení implementovat technologie, které by automaticky ověřovaly originalitu obsahu.

Instagram plánuje několik kroků. Platforma chce vytvořit nejlepší kreativní nástroje pro tvůrce, aby mohli konkurovat plně AI vytvořenému obsahu. Zároveň bude jasně označovat AI generovaný obsah a spolupracovat s výrobci na ověřování autenticity při pořízení.

Kritika fotoaparátů: špatná sázka na krásu

Mosseri kritizuje výrobce fotoaparátů a smartphonů, že se od roku 2015 vydali špatnou cestou. Místo aby reagovali na měnící se dobu, soustředili se na to, aby každý vypadal jako profesionální fotograf roku. V době, kdy umělá inteligence dokáže vytvořit dokonalé snímky, se ale právě profesionální vzhled stává podezřelým.

Mosseri argumentuje, že v budoucnosti bude vyšší hodnota v surovém, autentickém vzhledu než v dokonale vyleštěných fotografiích. Když AI dokáže generovat bezchybné obrázky, dokonalost se paradoxně stane znakem falešnosti.

Nová realita: věřit očím už nebude stačit

Ředitel Instagramu připouští, že adaptace na novou realitu bude nepohodlná. Jsme geneticky naprogramováni věřit svým očím. Celý život jsme mohli bezpečně předpokládat, že fotografie a videa jsou víceméně přesnými záznamy skutečnosti. To už zjevně neplatí.

Platformy budou čelit rostoucímu tlaku, aby pomohly uživatelům rozlišit mezi pravým a AI obsahem. Sociální sítě jako Instagram, Facebook nebo YouTube musí rychle reagovat, protože důvěra uživatelů je ohrožena. Když se feedy začnou plnit syntetickým obsahem, lidé se stanou skeptičtějšími k tomu, co vidí online.

Marketéři už AI masivně využívají. Podle průzkumů 83 procent z nich říká, že generativní AI jim pomáhá vytvářet mnohem více obsahu než bez ní. Celých 71 procent marketérů na sociálních sítích už AI nástroje zapojilo do svých strategií. Podniky plánují, že do roku 2026 bude v průměru 48 procent jejich obsahu na sociálních médiích vytvořeno umělou inteligencí, oproti 39 procentům v roce 2024.

Jak dál?

Rok 2026 bude pro sociální sítě klíčový. Platformy budou muset najít rovnováhu mezi podporou inovací a ochranou uživatelů před klamavým obsahem. Diskuse o autenticitě, autorství a dezinformacích ve vizuálních médiích budou sílit.

Mosseriho varování je jasné: publikum se musí naučit vidět vše skepticky. Některé značky už začínají reagovat. Aerie, Polaroid a Heineken letos spustily marketingové kampaně zaměřené na 100procentně lidský obsah bez umělé inteligence. Rok 2025 se tak stal přelomovým obdobím, kdy se výrobci začali vracet k hodnotám lidské kreativity.

Otázka zní, jestli bude možné udržet autenticitu v době, kdy hranice mezi skutečným a uměle vytvořeným mizí. A jestli společnost dokáže najít způsob, jak žít v realitě, kde nemůžeme automaticky věřit tomu, co vidíme.

Zdroj: Instagram, threads, Cybernews, Mashable, ET, AI World, Digital Silk