WhatsApp jde do války s podvodníky. AI odhalí scamy přímo ve vašem mobilu

WhatsApp nasadí AI proti podvodníkům: Podezřelé zprávy odhalí přímo v mobilu

Počítačovou a mobilní bezpečnost nevyřešíme najednou a provždy. To je známý fakt, odrážející současný vývoj: Tak jak se podvodníci snaží najít stále nové možnosti, kterými by mohli uživatele oklamat, snaží se jim v tom provozovatelé jednotlivých služeb v maximální možné míře zabránit.

Kyberšmejdi se v poslední době stále více zaměřují na online komunikátory. Je to pochopitelné. Používá je každodenně obrovské množství uživatelů, takže je poměrně vysoká šance úspěšného zásahu.

S novinkou v těchto dnech přišli vývojáři WhatsAppu, kteří pro nejpoužívanější online komunikátor testují funkci „Scam Alert“. Je zaměřena na rozpoznávání podezřelých zpráv a varování uživatelů. V rámci omezeného testování verze beta se někteří uživatelé mohou setkat s varováním před potenciálně nebezpečným obsahem. Sám provozovatel komunikátoru však k novince doposud žádné konkrétnější informace neposkytl.

Jak detekce podvodů ve zprávách WhatsAppu funguje?

Z technického hlediska jsou pro provozovatele komunikačních aplikací podobné formy ochrany docela oříšek. Zprávy jsou chráněny metodou „end-to-end“, tedy šifrováním mezi koncovými body. Provozovatel služby tak nemůže jednoduše prohledávat obsah zpráv na svých serverech a hledat v nich příznaky podvodu.

Novinka Scam Alert proto využívá model strojového učení, který běží lokálně na smartphonu. Umělá inteligence analyzuje zprávy v mobilním telefonu. Jejich obsah se nepřenáší k provozovateli, který by prováděl jeho zkoumání. Umělá inteligence vyhledává známé vzorce podvodů, a to na základě jazykových a konverzačních charakteristik.

Pokud Scam Alert rozpozná pravděpodobný podvod, ve WhatsAppu se zobrazí varovná zpráva. A je na našem rozhodnutí, jak s podezřelým obsahem naložíme: Můžeme chat zablokovat, nahlásit nebo v něm i pokračovat. Konverzace také lze výslovně označit jako důvěryhodné, což se hodí v případech, kdy je upozornění od ochrany umělé inteligence falešně pozitivní – tedy mylné.

Nové varování už vidí první uživatelé

Novou funkci už vývojáři zpřístupnili vybraným uživatelům. Zdůrazňují však, že se jedná o ranou fázi zavádění beta verze. Pro širokou veřejnost novinka prozatím k dispozici není a ještě nějakou dobu ani nebude.

Zajímavý bude také způsob, jakým WhatsApp hodlá výsledky beta testů vyhodnocovat. Podle jeho informací se plánuje omezit pouze na nejmenší množství dat, které k tomu bude nutné, a také údajně hodlá shromažďovat pouze anonymizované statistiky. Ty budou vycházet z počtu varování a reakcí uživatelů.

Do procesu vyhodnocení mají být zapojeni i externí experti na kybernetickou bezpečnost. Bezpečnostním výzkumníkům Meta plánuje poskytnou veškeré nutné nástroje, včetně příslušného softwaru a protokolů. Z pozice uživatelů bychom měli mít možnost zjistit, které zprávy byly analyzovány a jaká verze modelu AI byla použita.

V případě podezření si však zprávy ve WhatsAppu můžete samostatně zkontrolovat už nyní. Jde to mimo jiné i pomocí služby Bitdefenderu, která se nazývá Scamio.

Zdroj: Malwarebytes, PCMag, Bitdefender Scamio