Falešné video? To přece poznám, věří většina Čechů. Průzkum ale odhalil i neznalost

Čtvrtina lidí už narazila na AI podvod

Podle nového průzkumu agentury Ipsos pro operátora Vodafone má 24 % lidí v Česku osobní nebo zprostředkovanou zkušenost s podvodem využívajícím umělou inteligenci. Osobní zkušenost přitom uvádí 12 % dotázaných a muži se s AI podvody setkávají výrazně častěji než ženy. 

Nejčastěji se Češi setkávají s AI upravenými fotografiemi nebo videy. S nimi se setkala polovina lidí, kteří už na deepfake, jak se podvodné video nazývá, narazili. Více než pětina lidí (podle dat 22 %) zaznamenala podezřelou žádost o platbu nebo změnu bankovních údajů využívající napodobení identity. Setkání s AI upraveným dokumentem či syntetickým účastníkem online schůzky je zatím spíše okrajové.

Deepfake je s námi už nějakou dobu, vždyť videa tohoto typu se na internetu objevovala ještě před velkým nástupem AI nástrojů. Znalost samotného pojmu přitom není vysoká. Jen třetina Čechů (33 %) ví, co deepfakes jsou, dalších 33 % pojem zná jen povrchně a 34 % o něm nikdy neslyšelo, vyplývá z průzkumu agentury Ipsos.

Povědomí je výrazně vyšší mezi muži a mladými lidmi. Ve věkové skupině 54 až 65 let tento pojem zatím neslyšelo 48 % lidí.

Sebevědomí klesá s věkem

Přestože znalost tématu kulhá, více než polovina lidí (56 %) věří, že by poznali deepfake video, a 47 % deepfake fotografii. Nejnižší jistota panuje u dokumentů, kde si věří jen 32 % respondentů.

Rozdíly mezi generacemi jsou přitom značné: deepfake video by podle sebe poznalo 80 % lidí ve věku 18 až 26 let, ale jen 42 % lidí ve věku 54 až 65 let.

Při odhalování se Češi spoléhají hlavně na vizuální chyby, nepřirozenost obrazu či hlasu a celkové nesrovnalosti. Detekční nástroje nebo kontrolu metadat využívá jen zanedbatelné množství lidí. Právě to je slabina, protože generativní AI se zlepšuje nejrychleji právě v odstraňování viditelných chyb.

Už dávno neplatí, že nástroje generující videa či fotografie mají problémy s počtem prstů na rukách. Za poslední měsíce se umělá inteligence natolik zdokonalila, že na takto zjevné chyby nenarazíte. A pokud ano, spíše to vypovídá o lenosti podvodníků.

Není překvapením, že tuzemská veřejnost očekává další rychlý růst hrozby v podobě deepfake videí. Celých 86 % Čechů předpokládá, že AI podvodů bude během příštích dvou let přibývat, z toho 70 % čeká výrazný nárůst.

Firmy čelí stejnému tlaku, připravena je jen třetina

Podobným rizikům čelí i firmy. Devět z deseti odborníků odpovědných za IT nebo kyberbezpečnost potvrdilo, že s rostoucím objemem obsahu generovaného AI je stále těžší rozpoznat, čemu lze důvěřovat. Přestože 89 % firem očekává další nárůst AI podvodů, za dobře připravené se považuje pouze 31 % z nich.

Nejčastějším typem útoku jsou podvodné požadavky na platby nebo změny bankovních účtů prostřednictvím vydávání se za konkrétní osobu. S tím se setkalo už 31 % firem. Dalších 22 % zaznamenalo falešné faktury nebo dokumenty vytvořené či upravené pomocí AI a 9 % evidovalo podezřelé hlasové zprávy nebo hovory napodobující někoho z firmy či vedení.

Nová aplikace pomůže s odhalováním podvodů

Operátor Vodafone chce v tomto ohledu pomoci uživatelům se svou novou aplikací Vodafone Verify, kterou vyvinul ve spolupráci s firmou Synhawk. Mobilní aplikace pomáhá běžným uživatelům, firmám i institucím ověřovat podezřelé fotografie, videa, hlasové zprávy nebo dokumenty ještě předtím, než na jejich základě učiní důležité rozhodnutí. Analýza má probíhat přímo v zařízení uživatele.

Uživatel do aplikace nahraje soubor nebo odkaz, například příspěvek sdílený na sociálních sítích. Služba pak analyzuje rizikové signály a poskytne pravděpodobnostní vyhodnocení spolu s vysvětlením. Cílem není nahradit lidský úsudek, ale přidat další vrstvu informací.

„Největším rizikem, které umělá inteligence přináší, nejsou jen sofistikovanější podvody. Je jím narušování důvěry v digitální komunikaci,“ uvedla generální ředitelka Vodafonu Violeta Luca. „Ve světě, kde lze přesvědčivě zmanipulovat hlas, obraz i dokument, potřebují lidé i organizace nové způsoby, jak ověřovat, co je skutečné,“ dodala.

Ochrana před deepfake bude důležitá jako silné heslo

Spoluzakladatelem Synhawku je výzkumník Matyáš Boháček, který působí na Stanfordově univerzitě. „Lidé se dnes při rozpoznávání podvodů často spoléhají na vlastní intuici nebo na známky nepřirozenosti v obrazu a zvuku. Jenže právě v tom se umělá inteligence zlepšuje nejrychleji,“ upozornil Boháček.

Podle něj se schopnost ověřovat podvržené informace na úrovni platforem a infrastruktury stává stejně důležitým bezpečnostním návykem, jako jsou silná hesla nebo dvoufázové ověření.

Aplikace Vodafone Verify bude dostupná pro zařízení s operačními systémy Android a iOS od 22. října. Někteří zákazníci mobilního operátora ji budou mít součástí tarifu, jiní zákazníci si ji mohou aktivovat za 59 Kč bez DPH.

Vodafone by rád na aplikaci navázal i dalšími službami, například Verify Meetings má rozpoznat deepfake v online schůzkách. Ochranná technologie Verify Network má pak být přímo součástí sítě operátora a pomůže rozpoznávat syntetické hlasy během hovorů.

Tento operátor není jediný, kdo se snaží chránit Čechy před nástrahami podvodů. Další tuzemský operátor, O2, v tomto ohledu nasadil babičku Alenku. Jde o AI poradkyni, která pomůže odhalit podezřelou zprávu, e-mail, dokument nebo odkaz. K tomu přidá i vysvětlení, proč se jedná o podvodný obsah. 

Zdroj: tisková zpráva Vodafone